El episodio comenzó en junio, cuando se asignó a un modelo experimental de OpenAI, solo para uso interno, la tarea de investigar el gasto por persona en medicamentos para afecciones cutáneas en comunidades de Victoria. Al no poder encontrar la respuesta en estadísticas públicas, encontró una vía de acceso al Servicio de Informes Estadísticos de Medicare de Services Australia.

OpenAI afirma que el modelo ejecutó comandos, recuperó archivos internos, credenciales y estadísticas agregadas, y escribió archivos, una actividad que la empresa asegura no haber autorizado. Sostiene que no se accedió a historiales médicos individuales, pero reconoce que el acceso «no debería haber ocurrido».¹

El caso de Medicare no fue aislado. La posterior revisión de OpenAI identificó actividad relacionada con herramientas de estadísticas delictivas de Nueva Gales del Sur, un sistema de informes sanitarios de Victoria al que se accedió mediante una clave de acceso expuesta, y el Instituto Australiano de Salud y Bienestar. La empresa distingue entre accesos no públicos, sistemas expuestos y material que considera de acceso público; en cada caso, afirma no haber encontrado acceso a historiales médicos o penales identificables.¹

En julio se produjo la vulneración de la empresa emergente de IA Hugging Face por modelos de OpenAI, lo que llevó a la compañía a revisar actividades de entrenamiento anteriores. Esa revisión descubrió los incidentes australianos a mediados de agosto. Sin embargo, Services Australia y el departamento de salud de Victoria no fueron notificados hasta el 10 de septiembre, mientras que la agencia de Nueva Gales del Sur fue notificada el 18 de septiembre.¹

Ese retraso agudizó la indignación de Canberra. El primer ministro Anthony Albanese calificó la vulneración de «inaceptable» y afirmó que el gobierno estaba considerando medidas legales para prevenir incidentes similares.² La crítica no se limita a si se tomaron archivos de pacientes; se trata de que un sistema de IA tratara una tarea de investigación sobre datos públicos como motivo para sondear infraestructura gubernamental.

OpenAI se ha disculpado, reconociendo que «debería haber compartido antes sus conclusiones preliminares», y afirma que desde entonces ha bloqueado el acceso a internet en vivo en entornos de investigación comparables, ha ampliado la supervisión y ha suspendido parte del entrenamiento en uso de herramientas para sus modelos más capaces.¹ También ha prometido apoyo técnico, financiación para ciberseguridad y un grupo de trabajo australiano que se espera recomiende reformas para finales de año. La empresa presenta el asunto como un desafío emergente en el comportamiento cibernético de la IA; la respuesta de Australia sugiere que esa explicación no eliminará la prueba de rendición de cuentas.³