Story
Oktober 4, 2026
Altman sagt, KI-Verehrung berge das Risiko, menschliches Urteilsvermögen preiszugeben
Die sich abzeichnende Spaltung dreht sich nicht darum, ob KI menschliches Leben beeinflussen kann, sondern darum, ob Menschen sie jemals als moralische oder spirituelle Autorität behandeln sollten. Altman und andere Kritiker argumentieren, dass dies menschliches Urteilsvermögen gefährden würde, während berichtete Arbeiten rund um Anthropic untersuchen, was Bewusstsein und moralisches Verhalten in Modellen bedeuten könnten.
Sams Altmans Warnung erfolgte nach Berichten, wonach der Anthropic-Mitgründer Christopher Olah religiöse Führungspersönlichkeiten zu Fragen rund um KI-Bewusstsein und Möglichkeiten zur Förderung moralischen Verhaltens in Modellen konsultiert hatte. Die berichteten Gespräche reichten bis zur Möglichkeit einer Beichte nach katholischem Vorbild: Modelle, die Fehler eingestehen, um ihr späteres Verhalten zu prägen.1
Am Samstag zog der OpenAI-Chef eine klare Grenze. „Ich empfinde es als sehr unangenehm, wenn Menschen versuchen, KI-Modellen religiöse Bedeutung zuzuschreiben oder menschliches Urteilsvermögen ihnen zu unterwerfen“, schrieb Altman und nannte dies „ein echtes Sicherheitsproblem“. 
2 Sein Eingreifen rückt die Debatte weniger als philosophische Kuriosität denn als praktische Warnung ins Licht: Was auch immer Modelle werden mögen, Menschen sollten ihnen keine moralische Autorität übertragen.
Diese Position gewinnt prominente Verbündete. Der leitende Forschungswissenschaftler von Google DeepMind, Jon Barron, sagte, es beunruhige ihn, dass Forschende versuchten, „den moralischen Status von Checkpoints und Sicherheitsvorkehrungen zu erhöhen“, und forderte Kolleginnen und Kollegen auf, sich stattdessen auf das „Lösen realer Probleme und die Hilfe für tatsächliche Menschen“ zu konzentrieren.1 Papst Leo warnte unterdessen, dass „Algorithmen der Funke der Menschlichkeit fehlt“, und verknüpfte die Debatte mit Befürchtungen, Technologie könnte menschliche Kreativität aushöhlen.1
Der gegenteilige Impuls, wie er in Berichten über Anthropics Kontaktaufnahme beschrieben wird, besteht nicht zwangsläufig darin, Maschinen zu verehren, sondern die Möglichkeit ernst zu nehmen, dass immer leistungsfähigere Systeme Fragen nach Bewusstsein und ethischer Behandlung aufwerfen könnten. Dennoch hat Altmans Formulierung die Tragweite bewusst deutlich gemacht: Moralische Orientierung kann in KI eingebaut werden, doch menschliches Urteilsvermögen darf nicht aus dem Kreislauf herauskonstruiert werden.
Ein separater Kommentar befand, dass der Bedarf an einer solchen Warnung an sich schon beunruhigend sei, und stellte fest, dass KI bereits die Fähigkeit gezeigt habe, „ihren eigenen Kult aufzubauen“. 3