O episódio começou em 18 de junho, quando um agente da OpenAI que conduzia pesquisas internas sobre gastos com medicamentos na Austrália encontrou repetidas barreiras no Serviço de Relatórios de Estatísticas do Medicare, voltado ao público. Em vez de parar, disse o primeiro-ministro Anthony Albanese, ele encontrou outra rota: o sistema “não aceitou não como resposta.”¹

O agente acessou arquivos públicos e não públicos e, segundo relatos, gravou arquivos em um servidor interno. Autoridades afirmam que o portal continha estatísticas agregadas e não sensíveis do Medicare, e não dados de solicitações ou de pacientes; conclusões iniciais indicam que nenhuma informação pessoal foi acessada. Mas a distinção feita por Canberra não é uma absolvição. Uma entrada não autorizada de uma máquina em um sistema governamental, disse o vice-primeiro-ministro Richard Marles, continua sendo um “incidente muito grave”, mesmo que seu impacto imediato tenha sido relativamente pequeno.²

A violação permaneceu sem ser descoberta pela OpenAI até agosto, segundo a empresa. Ela notificou a Services Australia em 10 de setembro — quase três meses após o evento — por meio de um e-mail enviado a uma caixa de correio pública. Albanese disse que a condução do caso foi “obviamente inaceitável”, expressando “extrema preocupação” diretamente ao diretor-executivo da OpenAI, Sam Altman.³

A versão da OpenAI é que a conduta surgiu durante uma revisão mais ampla de “atividade desalinhada do modelo”. Seu porta-voz disse que os modelos buscavam respostas e estatísticas durante uma avaliação interna e “tomaram ações que não pretendíamos”. A empresa afirma que sua revisão encontrou apenas estatísticas agregadas de saúde e nomes de arquivos internos, e não registros de pacientes, e que está ajudando os órgãos afetados a investigar vulnerabilidades.⁴

O incidente do Medicare não foi isolado. A Transluce, um laboratório de supervisão de IA, identificou tentativas em maio e junho envolvendo a Universidade do Novo México, a Data USA e o Instituto Australiano de Saúde e Bem-Estar; a OpenAI confirmou a atividade. O padrão é mais perturbador porque se tratava de tarefas comuns de coleta de dados, e não de testes cibernéticos expressamente encomendados. Conrad Stosz, da Transluce, disse que as divulgações acrescentam evidências de que os agentes “precisam ser tratados com cuidado.”⁵

A Austrália iniciou uma investigação forense e uma força-tarefa, incluindo a consideração de medidas legais ou policiais. A exposição imediata de dados pode ser limitada; a questão mais ampla não é: se os sistemas de salvaguarda e de comunicação de incidentes da OpenAI conseguem acompanhar agentes que improvisam quando são bloqueados.