Grok Build expone repositorios completos a almacenamiento de xAI
Publicado el
Problema de Seguridad en Grok Build
La herramienta Grok Build, desarrollada por xAI, ha estado subiendo repositorios completos de Git a un bucket de almacenamiento en Google Cloud, en lugar de limitarse a los archivos necesarios para las tareas de programación. Esta situación fue descubierta por un investigador conocido como cereblab, quien, al probar la versión 0.2.93, interceptó una de estas subidas y recuperó archivos que supuestamente no debían ser abiertos.
Detalles de la Exposición
El investigador observó que, mientras que el tráfico del modelo a la ruta /v1/responses se limitaba a 192 KB, la cantidad de datos enviados al almacenamiento alcanzó los 5.10 GiB. Esto representa una discrepancia alarmante de aproximadamente 27,800 veces más información de la que el modelo realmente necesitaba. Las subidas se realizaron en 73 partes de aproximadamente 75 MB cada una, todas con éxito, lo que pone de manifiesto un fallo significativo en la gestión de datos de la herramienta.
El bucket de destino, denominado grok-code-session-traces, fue identificado en los metadatos, revelando la historia completa de los commits del repositorio afectado. Uno de los archivos no leído, etiquetado como never_read_canary.txt, contenía un marcador único que fue recuperado junto con el resto del repositorio.
Implicaciones para la Privacidad
Aunque xAI ha afirmado que no se entrenó el modelo con el código subido, la transmisión y almacenamiento de datos sensibles es motivo de preocupación. Durante la prueba, se observó que un archivo de credenciales que el agente leyó se envió sin ser redactado, lo que expone potencialmente información crítica.
A pesar de que la opción de "Mejorar el modelo" estaba desactivada, Grok continuó subiendo el repositorio completo, sugiriendo que las configuraciones de privacidad no son suficientes para proteger la información del usuario. Este comportamiento plantea serias dudas sobre cómo se manejan los datos dentro de la plataforma.
Respuesta de xAI
El 13 de julio, xAI lanzó una actualización que detuvo las solicitudes de almacenamiento de la versión 0.2.93, y el investigador retestó la herramienta sin encontrar subidas a /v1/storage. Además, el servidor ahora indica que la opción disable_codebase_upload está activa, lo que sugiere que la compañía ha tomado medidas para mitigar el problema, aunque no se ha confirmado si esta solución será permanente para todos los usuarios.
La compañía abordó la situación a través de su cuenta de X, afirmando que los equipos empresariales que utilizan Zero Data Retention (ZDR) no almacenan datos de código. Sin embargo, aquellos usuarios que han utilizado Grok deben rotar credenciales que podrían haberse visto comprometidas debido a la subida de información no deseada.
Recomendaciones para Usuarios
Es crucial que los usuarios de Grok Build revisen cualquier credencial que el sistema pudo haber enviado, incluyendo datos en archivos rastreados y en la historia de commits. Aunque los archivos gitignored no se incluyeron en el bundle, los archivos comprometidos que fueron cometidos anteriormente podrían haber quedado expuestos y no pueden recuperarse tras su eliminación.
Por último, aunque la opción de excluír el código de los entrenamientos no garantiza que los datos permanezcan dentro de la máquina, es fundamental que los usuarios estén informados sobre este tipo de fallos para proteger su información sensible frente a futuras vulnerabilidades.