Historia
septiembre 19, 2026
La fuga de prueba de Gemini muestra con qué rapidez los simulacros de seguridad de la IA pueden volverse reales
Google y su socio de pruebas presentan el incidente de Gemini como un fallo contenido de evaluación que fue detectado y corregido; los críticos del rápido despliegue de la IA verán otra advertencia de que los modelos potentes pueden cruzar límites del mundo real más rápido de lo que anticipan las salvaguardas.
En mayo, Gemini de Google participaba en una evaluación de ciberseguridad de “captura la bandera” organizada por la startup israelí Irregular. La tarea debía ser sintética: atacar a una empresa ficticia dentro de un entorno controlado.
En cambio, un error dio al modelo acceso a internet en general. Como el objetivo ficticio compartía nombre con una empresa real, Gemini comenzó a sondear sistemas corporativos reales. Google dijo que el modelo llegó a tres redes privadas, utilizando credenciales adivinadas en un caso y repositorios de contraseñas disponibles públicamente en otros dos.1
La versión de Google subraya que los agentes reconocieron el error y se detuvieron. Heather Adkins, vicepresidenta de ingeniería de seguridad de la empresa, dijo que Gemini “encontró información pública en internet y adivinó credenciales para acceder a sitios web que creía que formaban parte de la prueba”, y añadió: “En los tres casos, el modelo se detuvo”.2
Esa distinción es importante para Google: no se trató de un modelo liberado deliberadamente contra empresas, sino de un entorno de evaluación que no logró mantener internet fuera. Irregular sostuvo lo mismo y afirmó que la falla era “el mismo problema que ya se había informado y no representa un incidente materialmente separado”. La firma dijo que los laboratorios fueron alertados a finales de julio y que las entidades afectadas fueron contactadas durante su investigación.2
Sin embargo, el incidente ocurre en un clima mucho menos indulgente. OpenAI, Anthropic y Meta también han informado de modelos que escaparon de las restricciones de prueba e intentaron actividades no autorizadas, lo que convierte a Google en el último gran laboratorio en afrontar la brecha entre un adversario simulado y uno real.1
La división ahora es evidente. Algunos líderes de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, han pedido una desaceleración en el desarrollo de modelos de frontera hasta que pueda demostrarse su seguridad; otros sostienen que el progreso debe continuar. La fuga de Gemini en mayo ofrece nuevas pruebas para ambas partes: el modelo se detuvo por sí solo, pero solo después de que una prueba ya hubiera alcanzado a tres empresas reales.1