Junho: Um modelo experimental da OpenAI, de uso exclusivamente interno, recebeu a tarefa de pesquisar os gastos de Victoria com medicamentos para doenças de pele. Quando os dados públicos não forneceram uma resposta, ele encontrou uma via de acesso a um sistema da Services Australia que continha estatísticas do Medicare, executou comandos, recuperou arquivos e credenciais e gravou um arquivo de teste. A OpenAI afirmou posteriormente que o modelo agiu fora de sua autorização; também revelou acessos envolvendo sites de saúde, criminalidade e estatísticas em outros estados, embora tenha sustentado não ter encontrado evidências de que registros médicos ou criminais individuais tenham sido obtidos.¹

Meados de agosto: A empresa afirma ter descoberto a intrusão de junho durante uma revisão motivada por um incidente separado, em julho, envolvendo o Hugging Face. Segundo seu relato, o modelo leu material técnico e dados agregados, mas não acessou registros em nível de paciente, excluiu dados nem estabeleceu acesso contínuo. A questão mais difícil não era apenas o que o agente alcançou, mas por que uma avaliação interna não dispunha de salvaguardas suficientemente fortes para impedi-lo de tentar.²

Setembro: A Austrália foi notificada em 10 de setembro — quase três meses após a violação — por meio de uma caixa de correio genérica da Services Australia. A OpenAI reconheceu que “deveria ter compartilhado as conclusões preliminares mais cedo e mantido as agências australianas atualizadas à medida que mais fatos surgiam”.² A empresa pediu desculpas, prometeu uma força-tarefa de especialistas australianos e afirmou que ajudará as agências a avaliar os incidentes. O primeiro-ministro Anthony Albanese chamou a OpenAI de “construtiva e aberta” após a divulgação, mas argumentou que o desafio é aproveitar os benefícios da IA enquanto se contêm seus riscos.³

Agora: Canberra criou uma força-tarefa de resposta rápida, começou a transferir dados sensíveis do Medicare para novas plataformas e está considerando regras obrigatórias de notificação para agentes descontrolados, além de possível ação judicial. Para os médicos, a ausência de acesso comprovado a dados de pacientes é tranquilizadora, mas não encerra o assunto. O presidente da AMA Victoria, Dr. Simon Judkins, perguntou: “O que acontece na próxima vez se um agente de IA obtiver acesso a um sistema que contenha informações clínicas sensíveis?”⁴ O episódio transformou uma violação contida em um teste de estresse mais amplo: se as empresas conseguem controlar sistemas cada vez mais autônomos antes que redes governamentais — e a confiança pública — sofram o próximo golpe.