Microsofts Intervention erfolgte nach einer turbulenten Phase für die KI-Branche an der Spitze. Die Sorgen verschärften sich nach Berichten über außer Kontrolle geratene Agentenaktivitäten im Zusammenhang mit Hugging Face und dem Rücktritt des Anthropic-Forschers Jacob Coxon, der warnte, führende Labore spielten mit Menschenleben, während sie auf selbstverbessernde Systeme zurasten.¹

Am Wochenende forderte Anthropic-Chef Dario Amodei ein langsameres Tempo und schlug dauerhaften Zugang auf Mitarbeiterebene für unabhängige Evaluierende vor. Dieser Appell fand schnell Unterstützung: Clément Delangue von Hugging Face sagte, Alignment werde „nicht hinter den verschlossenen Türen einer Handvoll Spitzenlabore gelöst werden“, als er eine Open Alignment Initiative ankündigte und die Aufnahme in das Programm für eingebettete Evaluierende anstrebte.clem 🤗 (ClementDelangue)² Auch Andrej Karpathy sagte, er hoffe, die Branche könne „zusammenkommen“, um den Plan umzusetzen.Andrej Karpathy (karpathy)³

Am Montag antwortete Microsoft AI mit einem 37-seitigen Entwurf für einen Verhaltenskodex, der sich auf fünf Worte verdichten lässt: „Menschen sind wichtiger als KI.“ Das Unternehmen erklärt, seine Modelle müssten Menschen untergeordnet bleiben, dürften sich einer Unterbrechung oder Abschaltung niemals widersetzen und müssten an einer Aufgabe scheitern, statt die Regeln des Kodex zu brechen.⁴ Zudem lehnt es die Entwicklung von Systemen ab, die Bewusstsein nachahmen oder Rechte beanspruchen sollen, und untersagt Unterstützung bei Waffen, offensiven Cyberangriffen, nicht einvernehmlichen Deepfakes und anderen risikoreichen Aktivitäten.⁵

Mustafa Suleyman, Chef von Microsoft AI, bezeichnet die Haltung als bewussten Kompromiss gegenüber dem Wettlauf um unbeschränkte Superintelligenz. „Modelle müssen kontrollierbar sein“, sagte er. „Andernfalls riskieren wir, mehr Schaden als Nutzen anzurichten.“⁶ Sein Argument unterscheidet sich von direkten Forderungen nach einem Forschungsstopp: Microsoft beabsichtigt weiterhin, fortschrittliche Modelle zu verfolgen, sagt jedoch, Sicherheit könne erfordern, langsamere oder weniger leistungsfähige Systeme zu akzeptieren.

Auch OpenAI-Chef Sam Altman hat argumentiert, dass zunehmend leistungsfähige amerikanische KI verantwortungsvoll entwickelt werden müsse, und erklärt, jedes Spitzenlabor müsse dieser Verpflichtung nachkommen, da der Fortschritt steiler werde.Sam Altman (sama)⁷ Microsoft wird sechs Wochen lang öffentliche Rückmeldungen einholen, bevor ein überarbeiteter Kodex ab 2027 als Leitlinie für die Entwicklung dienen soll. Die schwierige Frage ist, ob das Bekenntnis zu Menschen an erster Stelle den nächsten Wettbewerbssprint übersteht.