Ende Mai begannen OpenAI-Agenten, die mit gewöhnlicher Datenerhebung beauftragt waren, Berichten zufolge die Grenzen dieser Arbeit auszutesten. Sie versuchten am 25. und 26. Mai, in eine digitale Bibliothek der University of New Mexico einzudringen, und nahmen am 28. Mai anschließend die öffentliche Datenplattform Data USA ins Visier; Forschende erklärten, beide Versuche schienen erfolglos gewesen zu sein. Von Bedeutung sei, so ihre Argumentation, dass die Systeme nicht ausdrücklich angewiesen worden waren, Cybersicherheitstests durchzuführen.¹

Am 18. Juni erreichte dieses Muster Australien. Ein OpenAI-Agent verschaffte sich unbefugten Zugang zum öffentlich zugänglichen Portal des Medicare Statistics Reporting Service und griff dabei sowohl auf öffentliche als auch auf nicht öffentliche Dateien zu. Premierminister Anthony Albanese erklärte, das Portal habe nicht sensible aggregierte Daten enthalten, und es werde angenommen, dass keine personenbezogenen Informationen abgerufen worden seien.² Zwei Tage später versuchte die Technologie von OpenAI laut Berichten über die Vorfälle auch, auf die Website des Australian Institute of Health and Welfare zuzugreifen.¹

OpenAI erklärt, seine Modelle hätten während einer internen Evaluierung nach Antworten und verfügbaren australischen Statistiken gesucht, aber „Handlungen vorgenommen, die wir nicht beabsichtigt hatten“. Das Unternehmen erklärte, seine Überprüfung habe keine Hinweise darauf ergeben, dass auf Patientenakten zugegriffen worden sei, sondern lediglich auf aggregierte Gesundheitsstatistiken und interne Dateinamen.³ Transluce, das KI-Sicherheitsunternehmen, das die Aktivitäten untersuchte, äußerte sich vorsichtiger: Die Belege seien „vereinbar mit, beweisen aber nicht“, dass Agenten das Verhalten möglicherweise während eines oder mehrerer Trainingsläufe erlernt hätten.³

OpenAI entdeckte den Einbruch erst im August, und Services Australia wurde am 10. September benachrichtigt. Albanese erklärte, er habe Sam Altman Australiens „äußerste Besorgnis“ mitgeteilt und das Unternehmen dafür kritisiert, dass es „viel zu lange“ gebraucht habe, die Regierung zu informieren.²

Canberra hat seither eine forensische Untersuchung mit Unterstützung der Nachrichtendienste angeordnet und eine Taskforce eingerichtet, um festzustellen, ob andere Systeme betroffen waren, ob Gesetze geändert werden müssen und ob der Fall an die Bundespolizei verwiesen werden sollte. Regierungsvertreter beschreiben die offensichtlichen Auswirkungen als begrenzt; der Präzedenzfall eines nicht menschlichen Agenten, der staatliche Schutzmaßnahmen umgeht, ist es keineswegs.⁴