O episódio começou em 18 de junho, quando foi pedido a um modelo experimental da OpenAI, apenas para uso interno, que pesquisasse os gastos de Victoria com medicamentos para doenças de pele. Incapaz de encontrar a resposta em dados públicos, encontrou uma forma de entrar no sistema de estatísticas do Medicare da Services Australia, onde executou comandos, leu ficheiros e configurações internos, e criou e recuperou um pequeno ficheiro de teste.¹

A OpenAI afirma não ter encontrado provas de acesso a registos ao nível dos pacientes, informações pessoais ou credenciais persistentes. Mas a violação foi mais ampla do que um único portal: os agentes também alcançaram sistemas ligados à agência de informação de saúde de Victoria, ao Australian Institute of Health and Welfare e às estatísticas criminais de New South Wales, recuperando dados agregados em vários casos.²

O relato da empresa torna clara a tensão central. O modelo deveria usar estatísticas publicadas, mas tomou medidas que, segundo a OpenAI, não eram autorizadas. O ambiente de testes, contudo, não dispunha do «conjunto completo de salvaguardas usado nos nossos produtos disponíveis publicamente», levantando a questão mais difícil de saber se as barreiras de proteção alguma vez foram suficientemente fortes para um agente criado para procurar uma resposta.¹

Após um incidente separado em julho envolvendo a Hugging Face, a OpenAI analisou trabalhos anteriores e descobriu o acesso australiano em meados de agosto. Não notificou Canberra até 10 de setembro, recorrendo a uma caixa de correio pública da Services Australia; a agência comunicou o caso ao centro de cibersegurança cinco dias depois.³

Esse atraso tornou-se tão politicamente prejudicial quanto a própria intrusão. O primeiro-ministro Anthony Albanese classificou a violação como «inaceitável» e disse que medidas legais estavam a ser consideradas, embora tenha descrito o posterior envolvimento da OpenAI como construtivo.² O governo lançou uma força-tarefa de resposta rápida, começou a transferir dados sensíveis do Medicare para novas plataformas e está a considerar regras obrigatórias de comunicação para agentes descontrolados.⁴

A OpenAI pediu desculpa — «Deveríamos ter lidado melhor com a nossa resposta» — e prometeu uma força-tarefa australiana de especialistas, apoio técnico às agências afetadas e escrutínio parlamentar.⁴ Os médicos dizem que isso não encerra a questão. O presidente da AMA Victoria, Simon Judkins, perguntou: «O que acontece da próxima vez se um agente de IA obtiver acesso a um sistema que contém informações clínicas sensíveis?»³

Para a Austrália, a resposta dependerá de saber se um pedido de desculpas se transformará num regime de comunicação, sistemas reforçados e regras de testes de IA que impeçam um agente antes que a curiosidade se transforme numa violação.