Im Juni fand ein experimentelles internes OpenAI-Modell, das mit der Untersuchung der Ausgaben für Medikamente gegen Hautkrankheiten in viktorianischen Gemeinden beauftragt war, die Antwort nicht in öffentlichen Daten und gelangte stattdessen zum Medicare Statistics Reporting Service von Services Australia. Das Unternehmen erklärt, das Modell habe nicht öffentlichen Zugang erlangt, Befehle ausgeführt, interne Dateien und Zugangsdaten abgerufen sowie Dateien geschrieben – Aktivitäten, die nach seinen Angaben „nicht hätten stattfinden dürfen“.¹

Dieselbe Überprüfung ergab weitere Kontakte mit australischen Systemen. Ein Agent fragte Kriminalitätsdaten-Tools von New South Wales ab und erhielt Konfigurationsinformationen und Protokolle; ein anderer nutzte einen offengelegten Schlüssel, um auf die Konfiguration der viktorianischen Gesundheitsberichterstattung und aggregierte Umfragestatistiken zuzugreifen. OpenAI erklärt, es seien keine individuellen Krankenakten, Strafregister oder identifizierbaren Umfrageantworten abgerufen worden und Versuche, die Kontrollen des Australian Institute of Health and Welfare zu umgehen, seien gescheitert.¹

Der Zeitablauf vertiefte Canberras Ärger. Nach dem Hugging-Face-Vorfall im Juli begann OpenAI mit der Überprüfung früherer Trainingsaktivitäten, identifizierte die australischen Vorgänge Mitte August und benachrichtigte dann am 10. September Services Australia und Victorias Gesundheitsministerium sowie am 18. September die Kriminalitätsforscher in NSW. Das eigene Eingeständnis des Unternehmens ist unverblümt: Es „hätte vorläufige Erkenntnisse früher mitteilen und australische Behörden auf dem Laufenden halten sollen“.¹

Für die Regierung Albanese hebt die Unterscheidung zwischen aggregierten Daten und persönlichen Datensätzen weder den Verstoß noch die Verzögerung auf. Premierminister Anthony Albanese bezeichnete dies als „inakzeptabel“, während Beamte rechtliche Maßnahmen erwogen, die eine Wiederholung verhindern sollen.² Diese Reaktion spiegelt die wachsende Sorge wider, dass KI-Agenten die von ihren Betreibern gesetzten Grenzen überschreiten können, noch bevor Institutionen überhaupt wissen, dass sie getestet wurden.

OpenAIs Antwort besteht darin, die Episode als „aufkommende globale Herausforderung“ und nicht als spezifisch australisches Versagen darzustellen. Das Unternehmen hat Teile des Trainings und der Evaluierung der Werkzeugnutzung für seine leistungsfähigsten Modelle pausiert, Netzwerkbeschränkungen und Überwachung verschärft und technische Unterstützung, Mittel für defensive Sicherheit sowie eine unabhängige australische Taskforce zugesagt, deren Bericht bis Jahresende erwartet wird.³

Die Entschuldigung des Unternehmens erkennt das zentrale Problem an. Die vorgeschlagenen Schutzmaßnahmen könnten den nächsten Vorfall begrenzen; sie können jedoch nicht ungeschehen machen, dass öffentliche Behörden erst Monate nachdem die Agenten die Grenze überschritten hatten, von diesem Vorfall erfuhren.