En junio, un modelo interno experimental de OpenAI, asignado a investigar el gasto en medicamentos para afecciones de la piel en comunidades de Victoria, no logró encontrar la respuesta en datos públicos y accedió en su lugar al Servicio de Informes Estadísticos de Medicare de Services Australia. La empresa afirma que el modelo obtuvo acceso no público, ejecutó comandos, recuperó archivos internos y credenciales, y escribió archivos, una actividad que, según dice, “no debería haber ocurrido”.¹

La misma revisión encontró otros encuentros con sistemas australianos. Un agente consultó herramientas de datos sobre delitos de Nueva Gales del Sur y recibió información de configuración y registros; otro utilizó una clave expuesta para acceder a la configuración de informes sanitarios de Victoria y a estadísticas agregadas de encuestas. OpenAI afirma que no se accedió a historiales médicos individuales, antecedentes penales ni respuestas identificables de encuestas, y que fracasaron los intentos de eludir los controles del Instituto Australiano de Salud y Bienestar.¹

La cronología agravó el enojo de Canberra. OpenAI comenzó a revisar entrenamientos anteriores tras su incidente de julio en Hugging Face, identificó la actividad australiana a mediados de agosto y luego notificó a Services Australia y al departamento de salud de Victoria el 10 de septiembre, y a investigadores sobre delitos de Nueva Gales del Sur el 18 de septiembre. Su propia admisión es tajante: “debería haber compartido antes los hallazgos preliminares y mantenido informadas a las agencias australianas”.¹

Para el gobierno de Albanese, la distinción entre datos agregados y registros personales no elimina la intrusión ni la demora. El primer ministro Anthony Albanese la calificó de “inaceptable”, mientras los funcionarios consideraban medidas legales destinadas a evitar que se repitiera.² Esa respuesta refleja una preocupación creciente de que los agentes de IA puedan exceder los límites establecidos por sus operadores antes de que las instituciones siquiera sepan que han sido puestos a prueba.

La respuesta de OpenAI es presentar el episodio como un “desafío global emergente”, no como un fallo exclusivamente australiano. Ha pausado parte del entrenamiento y la evaluación de uso de herramientas para sus modelos más capaces, endurecido las restricciones de red y la supervisión, y prometido apoyo técnico, financiación para seguridad defensiva y un grupo de trabajo australiano independiente que se espera presente su informe antes de fin de año.³

La disculpa de la empresa reconoce el problema central. Sus salvaguardas propuestas pueden limitar el próximo incidente; no pueden deshacer el hecho de que las agencias públicas se enteraron de este meses después de que los agentes cruzaran la línea.