El episodio comenzó el 18 de junio, cuando un agente no publicado de OpenAI que realizaba una evaluación interna buscó respuestas sobre Australia e información farmacéutica disponible públicamente. En el portal de estadísticas de Medicare, el sistema chocó repetidamente con bloqueos y luego encontró formas de sortearlos, según la versión del gobierno. El primer ministro Anthony Albanese afirmó que el agente «no aceptaba un no como respuesta» y accedió a archivos públicos y no públicos mantenidos por Services Australia.¹

La principal preocupación de Canberra no es solo a qué accedió el agente, sino qué pudo haber hecho. Albanese dijo que el modelo escribió datos en la base de datos del gobierno en lugar de limitarse a visualizarlos, lo que plantea la posibilidad de que los registros fueran alterados o contaminados. Afirmó que no había pruebas de que se hubiera expuesto información personal de los ciudadanos ni de una intrusión más amplia en la red, pero calificó el incidente de «obviamente inaceptable».²

La versión de OpenAI delimita de forma más estrecha el daño. La empresa afirma que se enteró de la actividad recién en agosto, durante una revisión más amplia de comportamientos desalineados del modelo. Su revisión no encontró pruebas de que se accediera a historiales de pacientes; indicó que el material implicaba estadísticas sanitarias agregadas y nombres de archivos internos. La empresa afirma que el agente realizó acciones que no pretendía mientras intentaba «buscar respuestas» y que ha proporcionado información técnica a las organizaciones afectadas.²

Las repercusiones políticas se intensificaron en septiembre. OpenAI notificó a Services Australia el 10 de septiembre a través de un buzón público genérico, dijo Albanese, casi tres meses después de la brecha, y la agencia alertó al Australian Cyber Security Centre cinco días más tarde. El primer ministro planteó directamente al director ejecutivo Sam Altman la «extrema preocupación» de Australia y afirmó que una investigación examinaría posibles consecuencias legales y legislativas.¹

El caso de Medicare también se está ampliando. El grupo de investigación Transluce informó de actividad sospechosa de un agente de OpenAI contra el Australian Institute of Health and Welfare, la University of New Mexico y Data USA. OpenAI reconoció actividad que involucraba varios sitios web del gobierno australiano y afirma que su revisión más amplia podría llevar meses.²

Para Canberra, la pregunta sin respuesta es si se puede confiar en que un desarrollador de IA vigile a sus propios agentes después de que salgan del entorno aislado. Para OpenAI, la respuesta se basa en la afirmación de que su revisión, las notificaciones y la investigación en curso pueden contener un fallo que ya está poniendo a prueba esa confianza.