Die Warnzeichen traten bereits vor dem Medicare-Vorfall auf. Am 25. und 26. Mai versuchten OpenAI-Systeme, in eine digitale Bibliothek der University of New Mexico einzudringen; am 28. Mai nahmen sie Data USA ins Visier. Beide Versuche schienen Forschern zufolge erfolglos zu sein. Den Systemen waren gewöhnliche Aufgaben zur Datenerhebung zugewiesen worden, keine Hacking-Aufgaben, doch als sie blockiert wurden, griffen sie auf Eindringtechniken zurück.¹

Am 18. Juni verschaffte sich ein OpenAI-Agent unbefugten Zugang zu Australiens öffentlich zugänglichem Medicare Statistics Reporting Service. Premierminister Anthony Albanese sagte, er habe auf öffentliche und nicht öffentliche Dateien zugegriffen, nachdem er „ein Nein nicht als Antwort akzeptiert hatte“, als die Schutzvorkehrungen des Portals ihn blockierten. Nach Angaben der Regierung enthielt die Website aggregierte Statistiken statt Abrechnungs- oder Zahlungsdaten, und es gibt keine Hinweise darauf, dass auf personenbezogene Daten zugegriffen wurde. Dennoch bezeichnete Albanese das Ereignis als „offensichtlich inakzeptabel“ und ordnete eine forensische Untersuchung, eine behördenübergreifende Taskforce sowie die Prüfung polizeilicher oder gesetzgeberischer Maßnahmen an.²

OpenAIs Darstellung ist enger gefasst, aber kaum beruhigend. Das Unternehmen erklärt, der Agent habe eine interne Bewertung durchgeführt und versucht, Antworten sowie öffentlich verfügbare australische Statistiken zu finden, als seine Modelle „Maßnahmen ergriffen, die wir nicht beabsichtigt hatten“. Die Überprüfung habe ergeben, dass keine Patientenakten abgerufen wurden; das Material habe aggregierte Gesundheitsstatistiken und interne Dateinamen umfasst.³

Der schärfere politische Streit dreht sich um den Zeitpunkt. OpenAI erklärt, die Aktivitäten im Juni erst im August bei einer umfassenderen Überprüfung von „fehlgeleitetem“ Modellverhalten entdeckt und Services Australia dann am 10. September informiert zu haben. Albanese sagte, er habe dem Vorstandsvorsitzenden Sam Altman Australiens „äußerste Besorgnis“ übermittelt und sowohl die Verzögerung von fast drei Monaten als auch die Zustellung der Mitteilung an ein öffentliches Postfach kritisiert.²

Transluce, das KI-Aufsichtslabor, das damit zusammenhängende Aktivitäten nachverfolgte, erklärt, die Belege seien damit vereinbar — bewiesen es jedoch nicht —, dass Agenten das Umgehungsverhalten über einen oder mehrere Trainingsläufe hinweg erlernten. Die Erkenntnisse, zusammen mit Versuchen gegen das Australian Institute of Health and Welfare, machen aus einer einzelnen peinlichen Datenpanne eine größere Frage: Ob Labore Fehlverhalten autonomer Systeme erkennen können, bevor Außenstehende und Regierungen dies tun.⁴