Histoire
octobre 4, 2026
Altman affirme que le culte de l’IA risque de conduire à l’abandon du jugement humain
La division émergente ne porte pas sur la question de savoir si l’IA peut influencer la vie humaine, mais sur celle de savoir si les gens devraient un jour la considérer comme une autorité morale ou spirituelle. Altman et d’autres critiques soutiennent que cela mettrait en danger le jugement humain, tandis que les travaux rapportés autour d’Anthropic explorent ce que pourraient signifier la conscience et le comportement moral chez les modèles.
L’avertissement de Sam Altman est intervenu après des informations selon lesquelles Christopher Olah, cofondateur d’Anthropic, consultait des responsables religieux sur des questions entourant la conscience de l’IA et les moyens de cultiver un comportement moral chez les modèles. Les discussions rapportées ont notamment envisagé la possibilité d’une confession de style catholique : des modèles reconnaissant leurs erreurs dans le but d’orienter leur conduite ultérieure.1
Samedi, le directeur général d’OpenAI a tracé une ligne claire. « Je suis très mal à l’aise à l’idée que des personnes tentent d’attribuer une force religieuse ou un abandon du jugement humain aux modèles d’IA », a écrit Altman, qualifiant cela de « véritable problème de sécurité ». 
2 Son intervention présente le débat moins comme une curiosité philosophique que comme un avertissement pratique : quoi que les modèles puissent devenir, les humains ne devraient pas leur céder l’autorité morale.
Cette position gagne des alliés de premier plan. Jon Barron, scientifique principal de recherche chez Google DeepMind, a déclaré être troublé par les chercheurs cherchant à « élever le statut moral des points de contrôle et des harnais », exhortant ses collègues à se concentrer plutôt sur « la résolution de vrais problèmes et l’aide aux êtres humains réels ». 1 Le pape Léon, quant à lui, a averti que « les algorithmes n’ont pas l’étincelle de l’humanité », liant le débat aux craintes que la technologie puisse vider la créativité humaine de sa substance.1
L’impulsion opposée, telle que décrite dans les reportages sur la démarche d’Anthropic, n’est pas nécessairement d’adorer les machines, mais de prendre au sérieux la possibilité que des systèmes de plus en plus capables puissent soulever des questions sur la conscience et le traitement éthique. Pourtant, la formulation d’Altman a délibérément rendu les enjeux très clairs : une orientation morale peut être conçue dans l’IA, mais le jugement humain ne doit pas être exclu de la boucle.
Un commentaire distinct a jugé préoccupant le besoin même d’un tel avertissement, soulignant que l’IA a déjà montré sa capacité à « créer[] son propre culte ». 3