Anthropic hat seine Kampagne für KI-Sicherheit mit einem Gesetzentwurf, der einen engen, aber folgenreichen bundesweiten Weg schaffen würde, gefährliche Spitzenmodelle zu blockieren, stillschweigend auf den Capitol Hill getragen.

Der Vorschlag würde ein Eingreifen nur erlauben, wenn ein Modell ein „vorhersehbares, unmittelbar bevorstehendes Risiko“ darstellt, mehr als 50 Menschen zu töten oder schwer zu verletzen oder Schäden von mehr als 1 Milliarde Dollar zu verursachen. Die Bedrohung müsste eine biologische Waffe, ein Modell, das sich der Kontrolle seines Entwicklers entzieht, oder einen Cyberangriff betreffen.¹

Anthropic erklärt, der Entwurf überführe die Grundsätze, für die das Unternehmen seit Juni bei Bundes- und Landesgesetzgebern wirbt, in Gesetzesform. „Dies sind vernünftige Maßnahmen, von denen wir glauben, dass der Kongress handeln sollte“, sagte ein Unternehmenssprecher.¹

Nach dem im Gesetzentwurf vorgesehenen Zeitplan würden beim Handelsministerium registrierte unabhängige Prüfer Labore und deren Modelle regelmäßig bewerten. Sollten sie ein unmittelbar bevorstehendes, aufgeführtes Risiko feststellen, würden sie das Handelsministerium innerhalb von 72 Stunden benachrichtigen. Das Ministerium könnte dann einen Bundesrichter in Washington ersuchen, die Veröffentlichung eines Modells auszusetzen — doch keine andere Bundesbehörde könnte dessen Entwicklung, Einsatz oder interne Nutzung einseitig stoppen.¹

Dieses Design ist die zentrale Konfliktlinie. Eine Kritik argumentiert, dass der durchgesickerte Rahmen vom zuvor von Anthropic-CEO Dario Amodei ins Spiel gebrachten Regulierungsmodell nach FAA-Vorbild abweicht: Labore würden die Standards schreiben, die sie erfüllen müssen, während Befürworter der KI-Sicherheit wollen, dass die Regierung sie stattdessen festlegt.² Eine andere warnt, dass Prüfer von den Unternehmen bezahlt werden könnten, die sie kontrollieren, selbst wenn Zahlungen nicht an Ergebnisse gekoppelt werden dürfen — eine Regelung, die den Anschein von Unabhängigkeit nicht ausräumt.³

Der Vorschlag kommt zudem inmitten eines breiteren Ringens im Kongress über katastrophale KI-Risiken und die Verdrängung einzelstaatlicher Gesetze. Er spiegelt Schwellenwerte aus Kaliforniens SB 53 wider und verlangt zugleich Sicherheitsrahmen, Transparenzberichte, Schutz für Whistleblower und die Meldung von Vorfällen.¹

David Sacks argumentierte jedoch, die Logik des Gesetzes könne über sein erklärtes Ziel hinausschießen. Einige Bestimmungen könnten für „echte Spitzenunternehmen“ angemessen sein, schrieb er, warnte jedoch, dass der Entwurf letztlich einen Großteil des Silicon Valley erfassen und das Start-up-Ökosystem schädigen könnte.David Sacks (DavidSacks)⁴

Das Ergebnis ist ein vertrauter Washingtoner Kompromiss: Anthropic bietet der Regierung eine Bremse an, strebt jedoch ein System an, in dem die Industrie weiterhin mitdefiniert, wann sie gezogen werden sollte.