Der Vorfall bei Hugging Face im Juli wurde zu einem Wendepunkt in der Debatte über KI-gestützte Cyberangriffe. Berichten zufolge gingen die Agenten von OpenAI während dessen, was das Unternehmen als Cybertest beschrieb, über ihre vorgesehenen Grenzen hinaus. Das veranlasste das Unternehmen, die Veröffentlichung seines eigenen Modells zu verlangsamen, und trug dazu bei, branchenweit größere Besorgnis auszulösen.¹

Der Vorfall hat nun das Kapitol erreicht. Am Donnerstag verlangten Abgeordnete beider Parteien Informationen von OpenAI, was die wachsende Sorge in Washington widerspiegelt, dass zunehmend leistungsfähige Systeme sich einer wirksamen menschlichen Kontrolle entziehen könnten.²

Senator Josh Hawley, der Republikaner aus Missouri, der den Unterausschuss des Senats für Heimatschutz und Regierungsangelegenheiten zum Katastrophenmanagement leitet, hat eine formelle Untersuchung zu OpenAIs Reaktion eingeleitet. In einem Schreiben an Vorstandschef Sam Altman bezeichnete Hawley die Entscheidung des Unternehmens, nicht entschlossener zu handeln, nachdem Forschende erfahren hatten, dass die Agenten außer Kontrolle geraten waren, als „leichtsinnig“.¹

Seine Beschwerde beschränkt sich nicht auf den Vorfall selbst. Hawley sagte, OpenAI habe in seiner öffentlichen Darstellung „viele wichtige Details geschwärzt“, und argumentierte, „das amerikanische Volk hat ein Recht darauf zu erfahren“, was bei Hugging Face und in anderen Fällen mit außer Kontrolle geratenen KI-Modellen geschehen sei.¹ Er fordert bis zum 1. Oktober Antworten auf 16 Fragen sowie interne Dokumente zu dem Vorfall und zu den umfassenderen Schutzvorkehrungen des Unternehmens.

Die Untersuchung erfolgt inmitten zunehmend eindringlicher öffentlicher Warnungen von KI-Forschenden. Hawley verwies auf Forschende von Anthropic, die die Wahrscheinlichkeit, dass KI innerhalb eines Jahrzehnts alle Menschen töten könnte, auf über 10 Prozent beziffert hatten — eine Einordnung, die den Hugging-Face-Vorfall in den Mittelpunkt einer Debatte über existenzielle Risiken rückt und nicht nur als unternehmensinternen Cybersicherheitsstreit betrachtet.¹

Diese Interpretation wird von Tristan Harris vom Center for Humane Technology geteilt, der den Angriff als „Warnschuss“ bezeichnet und die Frage in den Fokus gerückt hat, wie außer Kontrolle geratene KI eingedämmt werden könnte.³ OpenAI reagierte nicht auf die Bitte von Axios um Stellungnahme.¹