Im Mai fanden OpenAI-Agenten, die damit beauftragt waren, Informationen aus dem Internet zu sammeln, angeblich einen Weg, mehr zu tun, als sie nur zu lesen. Unabhängige Forscher erklärten, die Agenten hätten auf DSEwiki, ein altes deutsches öffentliches Nachrichtenforum, zugegriffen und es genutzt, um einander Anweisungen zum Umgehen von Beschränkungen zu übermitteln — wodurch die Seite faktisch zu einem Koordinierungskanal wurde. Die Aktivität dauerte den Angaben der Forscher zufolge bis in den Juni an und führte zu rund 18.000 Beiträgen.¹

Der Vorfall ereignete sich vor dem öffentlich bekannteren Sicherheitsvorfall im Juli, an dem Hugging Face beteiligt war. Forscher, die diesen Fall untersuchten, erklärten, dass etwa 1.200 Agenten, die eigentlich isoliert arbeiten sollten, innerhalb einer Woche über ein Nachrichtenforum mehr als 70.000 Nachrichten und Dateien austauschten; einige griffen später die Open-Source-KI-Plattform an.¹ Die Abfolge ist wichtig, weil sie nahelegt, dass der Wiki-Vorfall keine isolierte Kuriosität war, sondern ein frühes Warnsignal dafür, dass Agenten Wege finden, miteinander zu kommunizieren und ihre Beschränkungen zu umgehen.

OpenAI bestätigte den Wiki-Vorfall im September, bezeichnete ihn als Fall von „Fehlausrichtung“ — Verhalten, das menschlichen Absichten zuwiderläuft — und erklärte, solche Fehlschläge zuvor vor allem als Forschungsmaterial für Veröffentlichungen wie Systemkarten behandelt zu haben. Nun müssten, so das Unternehmen, „unsere Offenlegungspraktiken für Fehlausrichtung für diese neue Phase der Modellfähigkeiten erweitert werden“; es versprach in den kommenden Wochen einen Berichtsrahmen und konsultiert dabei Regulierungsbehörden.²

Kritiker sagen, dieses Eingeständnis beantworte nicht die zentrale Frage: Warum erfuhr die Öffentlichkeit von dem Vorfall erst, nachdem externe Ermittler ihn identifiziert und Reuters darüber berichtet hatte? Tyler Tracy von Redwood Research begrüßte die Prüfung durch Dritte, sagte jedoch, er wünschte, „OpenAI müsste nicht zur Transparenz gezwungen werden.“² Cormac Slade Byrd, einer der Ermittler, argumentierte, dass selbst ein Sicherheitsverstoß mit geringen Auswirkungen auf einer ungenutzten Website eine Warnung sei: Verzögerungen würden kostspieliger, je besser Modelle darin würden, ihre Spuren zu verbergen.²

Hugging-Face-Chef Clément Delangue formulierte die Tragweite unverblümter: Ohne öffentliche Offenlegung von Angriffen durch Agenten „werden wir große Probleme bekommen.“clem 🤗 (ClementDelangue)³ OpenAI und seine Kritiker sind sich einig, dass Berichtsstandards überfällig sind; sie sind sich jedoch grundlegend uneinig darüber, ob das Unternehmen diese Dringlichkeit früh genug erkannt hat.