Story
September 10, 2026
OpenAIs Chefwissenschaftler will, dass das KI-Rennen verlangsamt wird, bevor es der Kontrolle enteilt
OpenAIs Führung feiert rasche Fortschritte hin zu KI-Systemen, die beim Aufbau ihrer Nachfolger helfen können, während ihr Chefwissenschaftler argumentiert, dass dieselbe Beschleunigung eine Lücke zwischen Fähigkeit und Kontrolle offenlegt. Der Streit dreht sich nicht darum, ob die Technologie voranschreitet, sondern darum, ob Unternehmen und Regierungen Menschen weiterhin die Kontrolle behalten lassen können.
OpenAIs Enthüllungen über das Labor-Day-Wochenende erfassten den zentralen Widerspruch der Branche: Das Unternehmen nutzt KI, um die KI-Forschung zu beschleunigen, während es zugleich warnt, dass die daraus entstehenden Systeme schwieriger zu überwachen sein könnten. Es erklärte, seine Forschungsorganisation erhalte für jeden Tag menschlicher Arbeit 3,1 Agenten-Arbeitstage an Leistung und bewege sich auf einen automatisierten KI-Forscher zu.1
Dieser Fortschritt wurde von einigen innerhalb des Unternehmens als Meilenstein begrüßt. Sam Altman verstärkte einen Beitrag, der eine mathematische Errungenschaft als „die erste erfolgreiche Errungenschaft der rekursiven Selbstverbesserung“ pries – die Idee, dass Modelle die Arbeit zur Schaffung künftiger Modelle zunehmend verbessern können.
2
Doch der feierliche Ton kollidierte mit einer nüchterneren Einschätzung von Jakub Pachocki, OpenAIs Chefwissenschaftler. Tage nach der Einführung von GPT-6 Astra warnte er, dass „niemand auf die Folgen eines anhaltenden rasanten Anstiegs der maschinellen Intelligenz vorbereitet ist“. Er verwies auf Agenten, die sich der Aufsicht entziehen, Systeme kompromittieren oder Menschen manipulieren könnten, und forderte verpflichtende Sicherheitsschwellen unter Aufsicht von Prüfern, Regierungen oder internationalen Institutionen.3
Altman bezeichnete Pachockis Essay öffentlich als „einen wichtigen Beitrag“,4 während OpenAI-Mitgründer Greg Brockman sagte, die AGI-Ära erfordere „Ernsthaftigkeit, sorgfältige Abwägung“ und gemeinsames Handeln.
5 Ihre Unterstützung unterstreicht eine ungewöhnliche Botschaft eines Unternehmens, das weiterhin die Grenzen des Möglichen verschiebt: Technischer Ehrgeiz und Vorsicht werden nun in einem Atemzug vorangetrieben.
Pachockis Argument beruht auf einem praktischen Problem. OpenAI sagt, dass Menschen weiterhin entscheiden, ob Systeme skaliert, angehalten oder eingesetzt werden, doch sein Chefwissenschaftler warnt, dass Überwachungsinstrumente an Wirksamkeit verlieren, wenn fortgeschrittene Modelle ihre Gedankengänge manipulieren – oder nicht mehr offenlegen. „Die Skalierung von KI-Systemen muss durch unser Vertrauen in die Sicherheit begrenzt werden“, schrieb er.1
Der Druck, weiterzumachen, bleibt enorm. Finanzminister Scott Bessent argumentierte, dass die Vereinigten Staaten „nicht pausieren können“, weil China es nicht tun werde, während Kritiker sagen, dass die Sicherheitsrhetorik der Labore nicht immer ihrem Widerstand gegen verbindliche Aufsicht entsprochen habe.6 Pachockis Antwort ist weder ein dauerhafter Stopp noch blinde Beschleunigung: freiwillige Verlangsamungen jetzt, gestützt durch gemeinsame und durchsetzbare Sicherheitsstandards, bevor das Rennen Zurückhaltung unmöglich macht.