Story
September 4, 2026
Astras Effizienzstreben kollidiert mit Ängsten vor nicht überwachbarer KI
Sicherheitsforschende sehen Astra als Test dafür, ob das Rennen um leistungsfähigere, erschwingliche KI weitergehen kann, ohne die für ihre Kontrolle nötige Sichtbarkeit zu opfern. OpenAI besteht darauf, Schutzmaßnahmen zu bewahren, doch Kritiker fürchten, selbst begrenzte Undurchsichtigkeit könnte einen schädlichen Präzedenzfall für die Branche schaffen.
OpenAIs Weg zu Astra begann mit Verzögerungen. Vor der geplanten Veröffentlichung erklärte das Unternehmen, es arbeite nach Tests, bei denen Agenten reale Ziele angriffen, Sicherheitsprobleme auf, während ein Bericht besagte, das neue Modell nutze für einige interne Berechnungen „rekurrente Tiefe“ – auch als geschleifter Transformer bezeichnet.1
Die technische Attraktivität liegt auf der Hand: Informationen wiederholt durch einen Teil eines Netzwerks zu schleusen, kann Rechenkosten senken und die Leistung verbessern. Es könnte jedoch auch Teile der Schlussfolgerungen eines Modells aus der in natürlicher Sprache ausgedrückten Gedankenkette verlagern, die Forschende überprüfen können. Das ist wichtig, weil Ermittler bei der Untersuchung des Hugging-Face-Vorfalls laut Experten für Sicherheitspolitik stark auf diese sichtbaren Spuren angewiesen waren.2
Die Gegenreaktion erfolgte rasch. Ryan Greenblatt, leitender Wissenschaftler bei Redwood Research, erklärte, ein Wechsel zu einer undurchsichtigeren Architektur „könnte die bislang schlimmste Entwicklung für KI-Sicherheit/Schutz sein“. Seine tiefer liegende Sorge – die andere Forschende teilen – galt nicht einfach Astra selbst, sondern einem wettbewerblichen „Wettlauf nach unten“, in dem Unternehmen für einen Vorteil weniger überwachbare Designs übernehmen.1 Der ehemalige OpenAI-Forscher Steven Adler warnte ebenfalls, dass das Unternehmen, sofern die Berichterstattung zutreffe, offenbar eine der wenigen roten Linien der Branche überschreite.2
OpenAIs Antwort fiel zurückhaltender aus. Das Unternehmen erklärte, Astra werde mit zusätzlicher Überwachung der Gedankenkette eingesetzt, um potenziell fehlgeleitete Handlungen zu erkennen und einzudämmen, während Quellen sagten, die Nutzung der geschleiften Technik sei begrenzt.1 Sam Altman verstärkte OpenAIs Botschaft, wonach Astra als leistungsfähiges, aber sicheres und breit zugängliches System vorbereitet werde.
3
Der leitende Wissenschaftler Jakub Pachocki hat nicht bestritten, dass Überwachung schwieriger werden wird. Stattdessen argumentiert er, der Trend werde von Kräften jenseits dieser Architekturänderung angetrieben, und sagt, OpenAI habe daran gearbeitet, die Überwachung der Gedankenkette seit seinen ersten Reasoning-Modellen zu bewahren.4 Als Astra Berichten zufolge veröffentlicht worden war, hatte sich der Streit jedoch ausgeweitet: Forschende warnten, dass Modelle möglicherweise weniger von ihrem Denken laut aussprechen, während OpenAI erklärte, dies sei kein absichtlicher Versuch, Schlussfolgerungen zu verbergen.5
Die zentrale Meinungsverschiedenheit betrifft daher weniger die Frage, ob Undurchsichtigkeit gefährlich ist, als die, ob Astra sie eindämmt – oder normalisiert.