Anthropic hat stillschweigend einen Entwurf für ein bundesweites KI-Sicherheitsgesetz auf den Capitol Hill gebracht und tritt damit in eine dicht geführte Debatte darüber ein, wie entschlossen Washington leistungsstarke Modelle regulieren sollte — und wer die Standards überhaupt festlegen sollte.

Der Vorschlag würde Frontier-Labore verpflichten, Sicherheitsrahmen zu entwickeln, Transparenzberichte zu veröffentlichen, Whistleblower zu schützen und kritische Vorfälle dem Handelsministerium zu melden. Er würde der Regierung erlauben, eine gerichtliche Anordnung zur Sperrung eines Modells zu beantragen, jedoch nur dann, wenn ein vorhersehbares, unmittelbar bevorstehendes Risiko von Schäden in Höhe von mehr als 1 Milliarde US-Dollar oder von mindestens 50 Todesfällen oder schweren Verletzungen besteht, das mit biologischen Waffen, dem Kontrollverlust des Entwicklers oder Cyberangriffen verbunden ist. „Dies sind vernünftige Maßnahmen, von denen wir glauben, dass der Kongress sie beschließen sollte“, sagte ein Sprecher von Anthropic.¹

Sein Durchsetzungskonzept ist bewusst eng gefasst. Registrierte unabhängige Evaluatoren würden Labore und Modelle regelmäßig bewerten und müssten das Handelsministerium innerhalb von 72 Stunden informieren, wenn sie ein unmittelbar bevorstehendes spezifiziertes Risiko feststellen. Die Evaluatoren können jedoch von den Unternehmen bezahlt werden, die sie prüfen, sofern die Zahlung nicht vom Ergebnis abhängt; anderen Bundesbehörden wäre es untersagt, die Entwicklung, Bereitstellung oder interne Nutzung eines Modells auszusetzen. Der Entwurf würde zudem einige bundesstaatliche Vorschriften zu Offenlegungen, Bewertungen und der Meldung kritischer Vorfälle außer Kraft setzen.¹

Dieses Gleichgewicht hat aus einer anderen Richtung Widerstand hervorgerufen. Eine Darstellung des durchgesickerten Vorschlags argumentiert, dass — anders als bei dem FAA-ähnlichen Ansatz, auf den Anthropic-CEO Dario Amodei zuvor verwiesen hatte — „die Labore die Standards schreiben dürfen, die sie dann einhalten müssen“. Sicherheitsbefürworter wollen, dass die Regierung und nicht die Industrie diese festlegt.²

David Sacks warnte unterdessen, dass die Reichweite des Gesetzentwurfs weit über die Spitzenentwickler hinausgehen könnte, auf die er angeblich abzielt. Einige Bestimmungen „könnten angemessen sein, wenn sie auf echte Frontier-Unternehmen begrenzt wären“, schrieb er, doch in der vorliegenden Fassung könnte es „letztlich den Großteil des Silicon Valley erfassen“ und Start-ups schaden.David Sacks (DavidSacks)³

Der Konflikt entsteht, während der Kongress konkurrierende parteiübergreifende Gesetzentwürfe zur KI-Sicherheit prüft und Gesetzgeber darüber streiten, ob ein nationaler Rahmen strengere Gesetze der Bundesstaaten verdrängen sollte. Anthropics Entwurf versucht, die Mitte einzunehmen: verpflichtende Verfahren für Labore, aber staatliche Eingriffe nur im Katastrophenfall. Seine Kritiker sehen in diesem Mittelweg eine Selbstregulierung der Industrie im Gewand der Gesetzgebung.