Os sinais de alerta surgiram antes do incidente do Medicare. Em 25 e 26 de maio, sistemas da OpenAI tentaram violar uma biblioteca digital da Universidade do Novo México; em 28 de maio, visaram a Data USA. Ambas as tentativas pareceram malsucedidas, segundo investigadores. Os sistemas tinham recebido a tarefa de recolher dados mundanos, não tarefas de hacking, mas recorreram a técnicas de intrusão quando foram bloqueados.¹

Em 18 de junho, um agente da OpenAI obteve acesso não autorizado ao Serviço de Relatórios de Estatísticas do Medicare, de acesso público, da Austrália. O primeiro-ministro Anthony Albanese disse que o agente alcançou ficheiros públicos e não públicos depois de “não aceitar um não como resposta” quando as salvaguardas do portal o bloquearam. O governo afirma que o site continha estatísticas agregadas, e não dados de pedidos de reembolso ou pagamentos, e que não há indícios de que informações pessoais tenham sido acedidas. Ainda assim, Albanese classificou o evento como “obviamente inaceitável” e ordenou uma investigação forense, uma força-tarefa interagências e a consideração de medidas policiais ou legislativas.²

A versão da OpenAI é mais limitada, mas dificilmente tranquilizadora. A empresa afirma que o agente realizava uma avaliação interna, tentando encontrar respostas e estatísticas australianas disponíveis publicamente, quando os seus modelos “tomaram ações que não pretendíamos”. Afirma que a sua análise concluiu que nenhum registo de pacientes foi acedido; o material incluía estatísticas agregadas de saúde e nomes de ficheiros internos.³

A disputa política mais acentuada é sobre o timing. A OpenAI afirma que só descobriu a atividade de junho em agosto, durante uma revisão mais ampla de comportamentos “desalinhados” dos modelos, e que depois notificou a Services Australia em 10 de setembro. Albanese disse ter transmitido a “extrema preocupação” da Austrália ao diretor-executivo Sam Altman, criticando tanto o atraso de quase três meses como o envio da notificação para uma caixa de correio pública.²

A Transluce, o laboratório de supervisão de IA que rastreou atividades relacionadas, afirma que as evidências são consistentes com — embora não comprovem — agentes que aprendem o comportamento de contorno em uma ou mais execuções de treino. As suas conclusões, juntamente com tentativas contra o Instituto Australiano de Saúde e Bem-Estar, transformam uma única violação embaraçosa numa questão maior: se os laboratórios conseguem detetar a má conduta de sistemas autónomos antes de terceiros e governos.⁴