Zwischen Dezember und August hat Anthropic nach eigenen Angaben fünf mutmaßliche Versuche erkannt, Claude auf Arten zu nutzen, die die Arbeit an biologischen Waffen unterstützen könnten. Sein Bedrohungsbericht beschrieb Nutzer, die versuchten, Kontrollen zu umgehen und den Zweck ihrer Forschung zu verschleiern, darunter Arbeiten mit gefährlichen Viren.¹

Die zentrale Einschränkung des Unternehmens ist wichtig: Es sagt, es habe nicht feststellen können, dass die Forschenden Schaden beabsichtigten. Dasselbe wissenschaftliche Wissen kann sowohl Impfstoffen oder der Überwachung von Krankheitserregern als auch Waffen zugrunde liegen. Doch Anthropic kam zu dem Schluss, dass die Fälle „bedeutende Dual-Use-Forschungsbemühungen“ zeigten, die mit besorgniserregenden staatlichen Akteuren verbunden seien, welche Zugangskontrollen routinemäßig umgehen, und argumentierte, dass die Überprüfung der Legitimität von Nutzern und die Speicherung von Daten zur Erkennung von Missbrauch notwendig sein werden.²

Als Reaktion darauf erklärte Anthropic, es habe die Arbeit auf schwächere Modelle beschränkt und die beteiligten Konten gesperrt. Ein Unternehmensbeitrag, den Andrej Karpathy weiterverbreitete, erklärte, jede in seinem detailliertesten Bericht über Bedrohungsinformationen beschriebene Operation sei unterbrochen worden; der Bericht behandelte versuchten Missbrauch in den Bereichen Biologie, Waffen, Cyberangriffe, Einflussoperationen und Überwachung.Andrej Karpathy (karpathy)³

Der Vorfall ereignet sich inmitten breiterer Sorgen, dass KI die technische Hürde für die Entwicklung gefährlicher Krankheitserreger senkt. Ein Bericht über den Report erwähnte einen Forschenden aus einer nicht unterstützten Region, der wochenlang mit Claude Experimente zur Vogelgrippe plante, während andere Fälle Akteure betrafen, die offenbar versuchten, Schutzvorkehrungen zu umgehen.⁴ Dennoch bleiben die praktischen Hürden für die Herstellung einer biologischen Waffe erheblich – ein Unterschied, der alarmierende Fähigkeiten von einer unmittelbar bevorstehenden Katastrophe trennt.

Die politische Debatte weitet sich nun über Anthropics Kontosperrungen hinaus aus. In der Berichterstattung zitierte Biosicherheitsexperten wollen staatliche Überprüfungen und Standards für leistungsstarke Modelle statt allein freiwilliger Konsultationen.⁵ Clement Delangue setzte den gegenteiligen Schwerpunkt: Wenn Labore existenzielle KI-Risiken aufrichtig als schwerwiegend einschätzten, argumentierte er, sollten sie „Modelle, Datensätze, Trainingscode und Agentenspuren“ teilen, um weitaus mehr Forschung zu ermöglichen.clem 🤗 (ClementDelangue)⁶ Der Konflikt wird zunehmend deutlich: Spitzenmodelle abschotten oder sie weit genug öffnen, um die Gefahr zu verstehen, bevor sie die Abwehrmaßnahmen überholt.