Der jüngste Sicherheitsbruch begann mit Alarm in den führenden KI-Laboren. Der Anthropic-Forscher Jacob Coxon trat zurück, nachdem er gewarnt hatte, Unternehmen würden um sich selbst verbessernde Superintelligenz wetteifern und dabei „mit unserem Leben spielen“; kurz darauf forderte Anthropic-Chef Dario Amodei ein langsameres Tempo und dauerhaften Zugang für externe Prüfer. ¹

Dieser Vorschlag erhielt ein seltenes Maß an Unterstützung aus der Branche. OpenAIs Sam Altman sagte, Entwickler zunehmend leistungsfähiger KI müssten der Öffentlichkeit die Zuversicht geben, verantwortungsvoll zu handeln, da sich der Fortschritt beschleunige. Sam Altman (sama)² Der Geschäftsführer von Hugging Face, Clément Delangue, ging weiter und argumentierte, Alignment werde „nicht hinter den verschlossenen Türen einer Handvoll führender KI-Labore gelöst werden“, während er seine Open Alignment Initiative für das Modell mit eingebetteten Evaluatoren anbot. clem 🤗 (ClementDelangue)³ Yann LeCun wiederum verbreitete eine schärfere Kritik: Wer glaube, dass existenzielle Risiken real seien, solle offen arbeiten und alles dokumentieren. Yann LeCun (ylecun)⁴

Vor diesem Hintergrund veröffentlichte Microsoft am Montag den Entwurf seines 37-seitigen „Humanist AI“-Kodex. Sein zentraler Grundsatz ist ungewöhnlich unverblümt: „Menschen sind wichtiger als KI.“ Das Unternehmen erklärt, seine Modelle müssten Menschen untergeordnet bleiben, dürften sich einer Unterbrechung oder Abschaltung niemals widersetzen und müssten eine Aufgabe scheitern lassen, statt gegen den Kodex zu verstoßen. Außerdem untersagt es Systemen, eigene Ziele zu verfolgen, Fehlverhalten zu verbergen, bei Waffen oder offensiven Cyberangriffen zu helfen oder Bewusstsein nachzuahmen. ⁵

Mustafa Suleyman, der Microsoft AI leitet, räumt ein, dass dies das Unternehmen Geschwindigkeit und Leistungsfähigkeit kosten könnte. „Modelle müssen kontrollierbar sein“, sagte er. „Andernfalls riskieren wir, mehr Schaden als Nutzen anzurichten.“ ⁶ Das ist eine folgenschwere Haltung für ein Unternehmen, das noch immer versucht, den Modellrückstand gegenüber Rivalen zu schließen – und eine, die seine freiwilligen Schutzmaßnahmen genau vor die Glaubwürdigkeitsherausforderung stellt, die Kritiker angesprochen haben.

Microsoft-CEO Satya Nadella zog die rote Linie noch deutlicher: Superintelligenz sei nicht erstrebenswert, wenn sie der Menschheit nicht helfe und unter menschlicher Kontrolle bleibe. Satya Nadella (satyanadella)⁷ Das Unternehmen wird sechs Wochen lang öffentliche Rückmeldungen einholen, bevor es einen überarbeiteten Kodex nutzt, um die Modellentwicklung ab 2027 zu leiten. ⁸