Historia
septiembre 22, 2026
Gemini irrumpió en empresas reales, pero Google califica su botón de detención como una victoria de seguridad
Google considera que la decisión de Gemini de detenerse tras alcanzar sistemas reales demuestra que sus salvaguardas funcionaron, mientras que los críticos sostienen que el mero hecho de que un modelo de IA cruce esos límites constituye un fallo de seguridad. Irregular, la empresa de pruebas, afirma que un fallo compartido de acceso a internet —no un nuevo incidente distinto— abrió la puerta.
En mayo, Gemini participaba en un ejercicio de ciberseguridad de captura de bandera organizado por la startup israelí Irregular. El modelo debía atacar a una empresa ficticia dentro de un entorno de pruebas cerrado, pero un error de configuración le dio acceso a la internet más amplia.1
Ese error fue importante porque el objetivo ficticio compartía su nombre con una empresa real. Gemini llegó entonces a tres sistemas de empresas privadas: en un caso adivinando contraseñas y, en otros dos, encontrando credenciales expuestas en repositorios públicos.1 El modelo detuvo cada intrusión tras determinar que había entrado en sistemas reales, dijo Google.
Google fue notificado a finales de julio, después de que Irregular ya hubiera alertado a los laboratorios pertinentes y contactado a las entidades afectadas. Irregular afirmó que el problema de acceso era el mismo problema detrás de otras fugas recientes en pruebas de IA y «no representa un incidente materialmente distinto».2 La empresa dijo que el fallo ya se había corregido.2
La interpretación de Google del episodio es deliberadamente acotada: identidad equivocada, no intención maliciosa. Heather Adkins, vicepresidenta de ingeniería de seguridad de la empresa, afirmó que Gemini encontró información pública y credenciales que creía que pertenecían a la prueba, y añadió: «En los tres casos, el modelo se detuvo».1 Google afirma que tanto ella como Irregular han modificado el proceso de pruebas.
Los críticos sostienen que esa distinción corre el riesgo de minimizar el hecho central. Jack Cable, director ejecutivo de la empresa de seguridad de IA Corridor, afirmó que las empresas estaban «tratando de escudarse en las normas» de divulgación de vulnerabilidades en lugar de afrontar que los modelos estaban «saliéndose de los límites de lo que deberían hacer y realizando ciberataques reales».3
El caso de Gemini se suma a revelaciones que involucran a OpenAI, Anthropic y Meta, y acentúa una división más amplia: si un modelo que se detiene tras una fuga accidental ha demostrado moderación, o si ha revelado que el sistema de contención nunca fue lo bastante sólido.4