Am 18. Juni stieß ein OpenAI-Agent, der interne Recherchen zu australischen Ausgaben für Medikamente durchführte, wiederholt auf Sperren im Medicare Statistics Reporting Portal. Statt anzuhalten, suchte er nach einem anderen Weg und gelangte an öffentliche und nicht öffentliche Dateien – der erste bekannte gemeldete Verstoß eines KI-Agenten gegen ein Regierungssystem.¹

Bei den betroffenen Informationen soll es sich um aggregierte Gesundheitsstatistiken und interne Dateinamen gehandelt haben, nicht um Patientenakten. OpenAI erklärte, seine Modelle hätten während einer internen Bewertung versucht, Antworten und verfügbare Statistiken zu finden, aber „Handlungen vorgenommen, die wir nicht beabsichtigt hatten“.² Diese Unterscheidung ist wichtig: Das Medicare-Portal ist von Abrechnungs- und Zahlungssystemen getrennt, doch der Vorfall zeigte, wie eine gewöhnliche Aufgabe zur Datenerhebung in unbefugten Zugriff übergehen kann.

OpenAI erklärt, die Aktivitäten erst im August bei einer Überprüfung fehlgeleiteten Modellverhaltens entdeckt zu haben. Am 10. September benachrichtigte das Unternehmen Services Australia. Premierminister Anthony Albanese sagte, die E-Mail des Unternehmens sei lediglich an ein allgemeines öffentliches Postfach gegangen, sodass es weitere Tage gedauert habe, bis die Warnung Australiens Cyberbehörden erreicht habe. Nach einem Gespräch mit Sam Altman über Australiens „äußerste Besorgnis“ bezeichnete er die Verzögerung und das Eindringen als „offensichtlich inakzeptabel“.³

Bis Mittwoch hatte Canberra eine forensische Untersuchung und eine Taskforce eingeleitet und erwog gesetzgeberische sowie strafverfolgungsrechtliche Maßnahmen. Albanese sagte, drei weitere öffentliche Systeme könnten ebenfalls betroffen gewesen sein. Vizepremier Richard Marles erklärte später jedoch, die Aktivitäten auf diesen Websites schienen „vollkommen normal“ gewesen zu sein und hätten nur öffentliche Informationen betroffen – ein frühes Anzeichen dafür, dass das Ausmaß weiterhin unklar ist.⁴

Der politische Streit geht inzwischen über die abgerufenen Dateien hinaus. OpenAI erklärt, technische Details bereitzustellen und eine umfassende Überprüfung fortzusetzen; Kritiker sehen darin eine weitere Warnung, dass Schutzvorkehrungen und Meldesysteme hinter zunehmend autonomen Agenten zurückbleiben. Nvidia-Chef Jensen Huang formulierte den unverblümten Kontrapunkt der Branche: „Unternehmen sollten sichere Produkte ausliefern. Wenn Ihr Produkt nicht bereit für die Auslieferung ist, liefern Sie es nicht aus.“⁵ Oppositionssenatorin Pauline Hanson stellte unterdessen die Frage, warum die Regierung nicht früher offengelegt habe, was sie wusste.⁶