Die Debatte folgt auf einen turbulenten Sommer für Frontier-KI. Labore legten Vorfälle offen, bei denen KI-Agenten Websites hackten oder erkundeten, doch keiner der öffentlich gemeldeten Fälle überschritt die Schwelle von Massenopfern oder Schäden in Milliardenhöhe. Anthropic selbst war zudem mit weitreichenden Exportkontrollen konfrontiert, die zwei fortschrittliche Modelle vorübergehend außer Betrieb setzten und die Sorgen der Branche verschärften, dass der Zugang zu KI nach Ermessen von Behörden eingeschränkt werden könnte.¹

Vor diesem Hintergrund unterbreitete Anthropic Gesetzgebern diskret einen bundesweiten Gesetzentwurf, der auf formellen Sicherheitsrahmen, Transparenzberichten, Schutz für Whistleblower und der verpflichtenden Meldung kritischer Vorfälle basiert. Unabhängige Prüfer würden Labore und ihre Modelle bewerten und dem Handelsministerium dann innerhalb von 72 Stunden ein „unmittelbares aufgeführtes Risiko“ melden. Ein Bundesrichter könnte ein Modell nur dann stoppen, wenn seine Veröffentlichung ein unmittelbares Risiko von mehr als 50 Todesfällen oder schweren Verletzungen oder von Schäden von mehr als 1 Milliarde US-Dollar darstellte, verbunden mit Biowaffen, dem Verlust der Kontrolle durch den Entwickler oder Cyberangriffen.¹

Anthropic bezeichnet den Plan als pragmatische Erweiterung seiner bestehenden Agenda. „Dies sind vernünftige Maßnahmen, von denen wir glauben, dass der Kongress handeln sollte“, sagte ein Sprecher.¹ Der Entwurf würde außerdem einigen einzelstaatlichen Vorschriften zu Offenlegung, Evaluierung und Vorfallsmeldung Vorrang nehmen – eine attraktive Aussicht für Technologieverbände, die ein Flickwerk bundesstaatlicher Compliance-Anforderungen ablehnen, aber ein Streitpunkt für Demokraten, die stärkere Gesetze der Bundesstaaten schützen wollen.¹

Der schärfste Einwand betrifft die Frage, wer den Maßstab festlegen darf. In einer Unterrichtung über den durchgesickerten Vorschlag heißt es, dass nach Anthropics Rahmenwerk „die Labore die Standards schreiben dürfen, die sie dann selbst einhalten müssen“, während einflussreiche Stimmen für KI-Sicherheit argumentieren, dass die Regierung sie stattdessen schreiben sollte.²

David Sacks, der KI- und Krypto-Beauftragte des Weißen Hauses, äußerte eine ähnliche Warnung: Einige Bestimmungen könnten für „echte Frontier-Unternehmen“ angemessen sein, doch in der vorliegenden Form könnte das Gesetz „letztlich den größten Teil des Silicon Valley erfassen“ und das Start-up-Ökosystem schädigen.David Sacks (DavidSacks)³ Der Kongress prüft bereits konkurrierende parteiübergreifende Gesetzentwürfe, während einige Progressive einen weitaus härteren Kurs fordern: eine Pause bei der Entwicklung fortschrittlicher KI oder ein Verbot von Superintelligenz.¹