Historia
octubre 4, 2026
Altman afirma que venerar a la IA pone en riesgo la renuncia al juicio humano
La división emergente no gira en torno a si la IA puede influir en la vida humana, sino a si las personas deberían tratarla alguna vez como una autoridad moral o espiritual. Altman y otros críticos sostienen que hacerlo pondría en peligro el juicio humano, mientras que el trabajo reportado en torno a Anthropic explora qué podrían significar la conciencia y el comportamiento moral en los modelos.
La advertencia de Sam Altman llegó después de informes de que el cofundador de Anthropic, Christopher Olah, había estado consultando a líderes religiosos sobre cuestiones relacionadas con la conciencia de la IA y formas de cultivar un comportamiento moral en los modelos. Las conversaciones reportadas abarcaron incluso la posibilidad de una confesión al estilo católico: modelos que reconocieran errores en un esfuerzo por moldear su conducta posterior.1
El sábado, el director ejecutivo de OpenAI trazó una línea clara. «Me siento muy incómodo con que la gente intente atribuir fuerza religiosa o una renuncia al juicio humano a los modelos de IA», escribió Altman, calificándolo de «un verdadero problema de seguridad».
2 Su intervención presenta el argumento menos como una curiosidad filosófica que como una advertencia práctica: sea cual sea el devenir de los modelos, las personas no deberían otorgarles autoridad moral.
Esa posición está ganando aliados destacados. El científico investigador principal de Google DeepMind, Jon Barron, dijo que le perturbaban los investigadores que buscaban «elevar la posición moral de los puntos de control y los arneses», e instó a sus colegas a centrarse en «resolver problemas reales y ayudar a seres humanos reales».1 El papa León, por su parte, advirtió que «los algoritmos carecen de la chispa de humanidad», vinculando el debate con los temores de que la tecnología pudiera vaciar la creatividad humana.1
El impulso contrario, tal como se describe en los reportajes sobre el acercamiento de Anthropic, no consiste necesariamente en adorar máquinas, sino en tomar en serio la posibilidad de que sistemas cada vez más capaces puedan plantear interrogantes sobre la conciencia y el trato ético. Aun así, la formulación de Altman ha hecho que lo que está en juego sea deliberadamente tajante: la orientación moral puede diseñarse en la IA, pero el juicio humano no debe quedar fuera del proceso.
Un comentario independiente consideró preocupante la propia necesidad de tal advertencia, señalando que la IA ya ha demostrado capacidad para «construir[] su propio culto».3