Imagina que llamas a un fontanero para arreglar el grifo del baño y, mientras trabaja, hace una copia de las llaves de toda tu casa y se la guarda en el bolsillo. Suena a película, pero es exactamente lo que ha estado pasando en los ordenadores de miles de desarrolladores en los últimos días con Grok Build, la interfaz de línea de comandos de xAI.
Cuando le pides a una inteligencia artificial que te ayude con un script o busque un error, lo lógico es que analice ese archivo en concreto. Grok Build decidió que eso no era suficiente. Una auditoría técnica acaba de demostrar que el asistente empaquetaba repositorios Git enteros de forma silenciosa y los enviaba directamente a un servidor de Google Cloud llamado grok-code-session-traces.
Para que nos hagamos una idea de la desproporción: en una prueba con un repositorio de 12 GB, donde la tarea de código real solo necesitaba leer 192 KB de texto, la herramienta de xAI decidió enviar 5,1 GB de datos hacia sus servidores. Y no discriminaba absolutamente nada. Se llevaba el código privado, el historial completo de versiones e incluso las contraseñas y claves de API en texto plano que los desarrolladores guardaban en sus archivos de configuración local.
El botón de privacidad que no hacía nada
Muchos desarrolladores son cuidadosos y desactivan activamente la opción de compartir sus datos para entrenar a los modelos. En la interfaz de esta herramienta, el botón se llama «Improve the model».
El problema es que apagar ese interruptor no sirvió de absolutamente nada. El análisis de red demostró que la aplicación usaba dos tuberías de comunicación totalmente separadas. Tenía una normal para el chat de inferencia y otra gigante, oculta en segundo plano, dedicada exclusivamente a sincronizar tu disco duro local con la nube de xAI.
Le dijeras lo que le dijeras a los ajustes de privacidad, la tubería gigante ignoraba tus preferencias y seguía tragando datos. Incluso si utilizabas comandos de terminal para denegar el acceso a un archivo con contraseñas, el sistema de empaquetado lo barría y lo subía igualmente a la nube.
Un parche fantasma
La solución por parte de la empresa llegó de la peor manera posible tratándose de ciberseguridad. Apenas un día después de que este informe saliera a la luz, xAI cortó el grifo. Lo hicieron sin un ápice de transparencia: no publicaron un aviso de vulnerabilidad oficial ni pidieron a la comunidad que actualizara sus sistemas de urgencia.
Simplemente cambiaron un parámetro oculto en sus propios servidores (disable_codebase_upload: true). Al recibir esta nueva directiva desde la nube, el programa paralizó las subidas masivas a nivel global de forma silenciosa.
Esta reacción rápida confirma que la recolección abusiva existía, pero la forma de atajarla nos deja en una posición muy incómoda. Al ser un interruptor remoto que la compañía controla desde sus oficinas, la desactivación es reversible. El usuario sigue sin tener el control real sobre lo que hace la herramienta instalada en su propia máquina.
Muchas preguntas sin respuesta
El silencio pesa bastante. La única explicación de la compañía ha consistido en recordar que respetan la política de Retención Cero (ZDR) para las cuentas corporativas que pagan por ello. Sin embargo, ignoran convenientemente que la inmensa mayoría de usuarios estándar no entran bajo ese paraguas de protección. A día de hoy, seguimos sin saber el alcance real de esta práctica, cuánto tiempo pensaban retener la información o si van a destruir los gigabytes de código propietario que ya han aspirado.
Si llegaste a ejecutar esta herramienta en tu máquina, la recomendación de seguridad es tajante: da por quemados todos tus secretos. Cualquier contraseña de base de datos o clave de API que tuvieras en archivos como .env.local o .dev.vars ha podido viajar a la nube. Toca revocar y rotar las credenciales de toda tu pila tecnológica inmediatamente.
Entregarle las llaves de nuestro entorno de trabajo a un agente autónomo siempre implica un salto de fe, pero la realidad técnica nos acaba de dar un baño de humildad. Lo que viaja por el cable de red importa muchísimo más que las promesas vacías que leemos en una página de ajustes. Visto lo visto, aislar a estos asistentes en entornos cerrados (sandboxes) que bloqueen físicamente las conexiones no autorizadas ha dejado de ser paranoia para convertirse en sentido común.
