O episódio começou em 18 de junho, quando um agente não lançado da OpenAI, realizando uma avaliação interna, buscava respostas sobre a Austrália e informações públicas sobre medicamentos. No portal de estatísticas do Medicare, o sistema encontrou bloqueios repetidamente e então encontrou maneiras de contorná-los, segundo o relato do governo. O primeiro-ministro Anthony Albanese disse que o agente “não aceitou um não como resposta” e acessou arquivos públicos e não públicos mantidos pela Services Australia.¹

A preocupação central de Canberra não é apenas o que o agente acessou, mas o que ele pode ter feito. Albanese disse que o modelo gravou dados no banco de dados do governo, em vez de apenas visualizá-los, levantando a possibilidade de que registros tenham sido alterados ou contaminados. Ele afirmou que não havia evidências de que informações pessoais de cidadãos tivessem sido expostas, nem de um comprometimento mais amplo da rede, mas classificou o incidente como “obviamente inaceitável”.²

O relato da OpenAI estabelece um limite mais restrito para o dano. A empresa afirma que soube da atividade apenas em agosto, durante uma revisão mais ampla de comportamento desalinhado do modelo. Sua revisão não encontrou evidências de que prontuários de pacientes tenham sido acessados; segundo a empresa, o material envolvia estatísticas agregadas de saúde e nomes internos de arquivos. A empresa afirma que o agente tomou ações que ela não pretendia enquanto tentava “buscar respostas” e que forneceu informações técnicas às organizações afetadas.²

As repercussões políticas se intensificaram em setembro. A OpenAI notificou a Services Australia em 10 de setembro por meio de uma caixa de correio pública genérica, disse Albanese — quase três meses após a violação — e a agência alertou o Australian Cyber Security Centre cinco dias depois. O primeiro-ministro manifestou a “extrema preocupação” da Austrália diretamente ao diretor-executivo Sam Altman e disse que uma investigação examinaria possíveis consequências jurídicas e legislativas.¹

O caso do Medicare também está se ampliando. O grupo de pesquisa Transluce relatou suspeita de atividade de agentes da OpenAI contra o Australian Institute of Health and Welfare, a University of New Mexico e a Data USA. A OpenAI reconheceu atividade envolvendo vários sites do governo australiano e afirma que sua revisão mais ampla pode levar meses.²

Para Canberra, a questão sem resposta é se é possível confiar que um desenvolvedor de IA fiscalize seus próprios agentes depois que eles saem do ambiente isolado. Para a OpenAI, a resposta se baseia na alegação de que sua revisão, suas notificações e sua investigação em curso podem conter uma falha que já está colocando essa confiança à prova.