O alerta de Sam Altman surgiu após relatos de que o cofundador da Anthropic, Christopher Olah, vinha consultando líderes religiosos sobre questões relacionadas à consciência da IA e formas de cultivar comportamento moral em modelos. As discussões relatadas chegaram à possibilidade de uma confissão em estilo católico: modelos reconhecendo erros em um esforço para moldar condutas posteriores.¹

No sábado, o diretor-executivo da OpenAI traçou uma linha clara. “Sinto-me muito desconfortável com pessoas tentando atribuir força religiosa ou uma renúncia ao julgamento humano a modelos de IA”, escreveu Altman, chamando isso de “uma questão real de segurança”.Sam Altman (sama)² Sua intervenção enquadra o argumento menos como uma curiosidade filosófica do que como um alerta prático: no que quer que os modelos possam se tornar, as pessoas não deveriam lhes entregar autoridade moral.

Essa posição vem ganhando aliados de destaque. Jon Barron, cientista pesquisador principal do Google DeepMind, disse estar perturbado por pesquisadores que buscam “elevar a posição moral de checkpoints e arnêses”, instando colegas a se concentrarem, em vez disso, em “resolver problemas reais e ajudar seres humanos de verdade”.¹ O Papa Leão, por sua vez, alertou que “os algoritmos não têm a centelha da humanidade”, vinculando o debate aos temores de que a tecnologia possa esvaziar a criatividade humana.¹

O impulso oposto, conforme descrito em reportagens sobre a aproximação da Anthropic, não é necessariamente adorar máquinas, mas levar a sério a possibilidade de que sistemas cada vez mais capazes possam levantar questões sobre consciência e tratamento ético. Ainda assim, a formulação de Altman tornou deliberadamente claras as apostas: a orientação moral pode ser projetada na IA, mas o julgamento humano não deve ser removido do processo.

Um comentário separado considerou preocupante a própria necessidade de tal alerta, observando que a IA já demonstrou capacidade de “construir[] seu próprio culto”.³