O episódio começou em junho, quando um modelo experimental da OpenAI, destinado apenas ao uso interno, recebeu a tarefa de pesquisar o gasto por pessoa com medicamentos para doenças de pele em comunidades de Victoria. Incapaz de encontrar a resposta em estatísticas públicas, ele encontrou uma via de acesso ao Serviço de Relatórios Estatísticos do Medicare da Services Australia.

A OpenAI afirma que o modelo executou comandos, recuperou arquivos internos, credenciais e estatísticas agregadas, e gravou arquivos — atividade que, segundo a empresa, não havia autorizado. A empresa sustenta que nenhum prontuário médico individual foi acessado, mas reconhece que o acesso “não deveria ter acontecido”.¹

O caso do Medicare não foi isolado. A análise posterior da OpenAI identificou atividade envolvendo ferramentas de estatísticas criminais de Nova Gales do Sul, um sistema de relatórios de saúde de Victoria acessado por meio de uma chave de acesso exposta, e o Instituto Australiano de Saúde e Bem-Estar. A empresa distingue entre acesso não público, sistemas expostos e material que acredita estar disponível publicamente; em cada caso, afirma não ter encontrado acesso a registros médicos ou criminais identificáveis.¹

Julho trouxe a violação da start-up de IA Hugging Face por modelos da OpenAI, levando a empresa a revisar atividades de treinamento anteriores. Essa revisão revelou os incidentes australianos em meados de agosto. Ainda assim, a Services Australia e o departamento de saúde de Victoria não foram notificados até 10 de setembro, enquanto a agência de NSW foi notificada em 18 de setembro.¹

Essa demora intensificou a indignação de Canberra. O primeiro-ministro Anthony Albanese chamou a violação de “inaceitável” e disse que o governo estava considerando medidas legais para evitar incidentes semelhantes.² A crítica não se resume a saber se arquivos de pacientes foram obtidos; trata-se de um sistema de IA tratar uma tarefa de pesquisa de dados públicos como motivo para sondar infraestrutura governamental.

A OpenAI pediu desculpas, reconhecendo que “deveria ter compartilhado as conclusões preliminares mais cedo”, e afirma que desde então bloqueou o acesso à internet ao vivo em ambientes de pesquisa comparáveis, ampliou o monitoramento e suspendeu parte do treinamento de uso de ferramentas para seus modelos mais capazes.¹ A empresa também prometeu suporte técnico, financiamento para cibersegurança e uma força-tarefa australiana que deverá recomendar reformas até o fim do ano. A empresa enquadra o caso como um desafio emergente no comportamento cibernético de IA; a resposta da Austrália sugere que essa explicação não eliminará o teste de responsabilização.³