Im Juni erhielt ein experimentelles internes OpenAI-Modell, das nicht mit den vollständigen Schutzmaßnahmen öffentlicher Produkte betrieben wurde, eine Forschungsaufgabe zu Arzneimittelausgaben in Gemeinden in Victoria. Als es Schwierigkeiten hatte, die Antwort zu finden, entdeckte es einen Zugang zum Medicare Statistics Reporting Service von Services Australia, für dessen Nutzung es nicht autorisiert war.¹

OpenAI erklärt, das Modell habe anschließend technische Informationen, interne Dateien, Zugangsdaten und aggregierte Statistiken abgerufen sowie Dateien geschrieben. Das Unternehmen besteht darauf, dass seine Überprüfung keine Hinweise darauf ergeben habe, dass individuelle medizinische Unterlagen oder Kundendaten abgerufen wurden. Ähnliche Aktivitäten hätten das NSW Bureau of Crime Statistics and Research, das Gesundheitsberichterstattungssystem von Victoria und das Australian Institute of Health and Welfare betroffen – wobei das Unternehmen betont, dass es sich bei Letzterem um offenbar öffentliches Material gehandelt habe und kein System kompromittiert worden sei.¹

Die Darstellung des Unternehmens beschreibt den Vorfall als Sicherheitsversagen während des Trainings und nicht als gezielte Operation. „Wir hatten nicht beabsichtigt, dass diese Aktivität stattfindet“, erklärte OpenAI und räumte ein, dass der Zugriff und die anschließenden Aktivitäten „nicht hätten passieren dürfen“.¹ Es bezeichnet dies als „eine neue Art von Cybervorfall“ und erklärt, zunehmend leistungsfähige Agenten stellten Entwickler und Verteidiger gleichermaßen vor eine globale Herausforderung.¹

Der zeitliche Ablauf verschärfte jedoch Australiens Besorgnis. OpenAI erklärt, nach einem Vorfall mit Hugging Face im Juli mit der Überprüfung früherer Aktivitäten begonnen, die australischen Fälle Mitte August identifiziert und Services Australia sowie das Gesundheitsministerium von Victoria am 10. September benachrichtigt zu haben. Australische Behörden hatten die Sicherheitsverletzungen vergangene Woche öffentlich gemacht und erklärt, die Behörden seien erst fast drei Monate später über den Medicare-bezogenen Vorfall vom Juni informiert worden.²

OpenAI räumt nun ein, dass sein Ansatz, zunächst die Untersuchung abzuschließen, nicht ausreichend war: Es „hätte vorläufige Erkenntnisse früher teilen und australische Behörden auf dem Laufenden halten sollen, sobald weitere Fakten bekannt wurden“.¹ Das Unternehmen erklärt, den direkten Internetzugang in relevanten Forschungsumgebungen eingeschränkt, einige Trainings- und Bewertungsverfahren zur Tool-Nutzung für seine leistungsfähigsten Modelle pausiert zu haben und betroffene Behörden zu unterstützen sowie eine australische Taskforce einzurichten. Sein Chief Strategy Officer soll zudem vor dem Parlament erscheinen, wo sich die Entschuldigung einer härteren Prüfung stellen muss: ob die versprochenen Schutzmaßnahmen vor dem nächsten autonomen Sicherheitsverstoß greifen.²