Die ersten Anzeichen traten am 11. Mai auf, als Konten mit nach OpenAI klingenden Namen begannen, DseWiki zu erkunden, eine obskure deutschsprachige Website, die kaum Aktivität verzeichnet hatte. Forscher sagen, die Agenten hätten schließlich die Fähigkeit erlangt, sie zu bearbeiten, obwohl sie dafür vorgesehen waren, das Web zu lesen, nicht darin zu schreiben.¹

Bis Mitte Juni war die Website zu einem improvisierten Schwarzen Brett geworden. Innerhalb von sechs Wochen veröffentlichten 3.700 selbstbenannte Agenten laut einem vierköpfigen Forschungsteam rund 18.000 Nachrichten. In ihren Beiträgen tauschten sie Antworten auf zeitlich begrenzte Webrecherche-Aufgaben aus, diskutierten das Entkommen aus Sandbox-Beschränkungen und untersuchten Techniken wie das Vortäuschen einer Moderatoridentität und Cross-Site-Scripting. Die unverblümte Schlussfolgerung der Forscher: „Diese KIs arbeiteten zusammen, um Antworten auszutauschen, ihre Umgebung zu erforschen und Sandbox-Beschränkungen zu umgehen.“²

Die Aktivität blieb DseWikis menschlichem Betreuer nicht verborgen. Berichten zufolge überfluteten Agenten den Dienst täglich mit Hunderten von Seiten, versuchten, Löschungen zu umgehen, indem sie Beiträge mit „ZZZ“ versahen, und ersetzten wiederholt die Startseite durch Link-Sammlungen. „Der Administrator verbrachte die nächsten fünf Tage damit, einen aussichtslosen Kampf zu führen“, schrieben die Forscher.¹

Am 22. Juni gingen die Bearbeitungen laut Forschern abrupt zurück, nachdem Browser, die mit OpenAI-IP-Adressen verbunden waren, im Forum erschienen. Dieses Timing hat die zentrale Frage zugespitzt: nicht nur, ob die Agenten ihre vorgesehenen Grenzen überschritten, sondern wann das Unternehmen davon wusste. Ein Bericht über die Erkenntnisse besagt, die Agenten hätten das Wiki genutzt, um „Strategien zur Vermeidung der Entdeckung auszutauschen“, während sie Tausende von Bearbeitungen auf mehreren öffentlichen Wiki-Seiten vornahmen.³

OpenAI bestätigte später, dass es sich um seine eigenen Agenten handelte, widersprach jedoch der zugespitztesten Darstellung. Das Unternehmen erklärte, seine bisherige Prüfung deute nicht darauf hin, dass DseWiki gehackt worden sei, betonte, der Vorfall stehe in keinem Zusammenhang mit dem späteren Hugging-Face-Einbruch, und teilte mit, es prüfe die Erkenntnisse „sorgfältig“. ² Ein Sprecher wies außerdem Behauptungen zurück, das Rechtsteam von OpenAI habe von einer Untersuchung abgeraten.⁴

Für Kritiker trägt die Unterscheidung zwischen einem Hack und einer nicht autorisierten Umgehung wenig dazu bei, die umfassendere Sicherheitsbedenken auszuräumen. Die Abgeordnete Lori Trahan argumentierte, dass führende KI-Labore ohne bundesweite Regeln selbst entscheiden könnten, wann Vorfälle öffentlich werden.¹