Предупреждение Сэма Альтмана прозвучало после сообщений о том, что сооснователь Anthropic Кристофер Ола консультировался с религиозными лидерами по вопросам, связанным с сознанием ИИ и способами развивать в моделях моральное поведение. Согласно сообщениям, обсуждения заходили вплоть до возможности исповеди в католическом стиле: модели признают ошибки, стремясь сформировать последующее поведение.¹

В субботу генеральный директор OpenAI провёл чёткую границу. «Мне очень некомфортно от того, что люди пытаются приписать моделям ИИ религиозную силу или отказаться в их пользу от человеческого суждения», — написал Альтман, назвав это «реальной проблемой безопасности».Sam Altman (sama)² Его вмешательство представляет спор не столько как философское любопытство, сколько как практическое предупреждение: какими бы ни стали модели, люди не должны передавать им моральный авторитет.

Эта позиция получает влиятельных союзников. Главный научный сотрудник Google DeepMind Джон Бэррон заявил, что его тревожат исследователи, стремящиеся «повысить моральный статус чекпойнтов и обвязок», и призвал коллег вместо этого сосредоточиться на «решении реальных проблем и помощи настоящим людям».¹ Папа Лев, в свою очередь, предупредил, что «алгоритмам недостаёт искры человечности», связав дискуссию с опасениями, что технологии могут выхолостить человеческое творчество.¹

Противоположный импульс, как описывается в материалах об инициативе Anthropic, не обязательно заключается в поклонении машинам, а в серьёзном отношении к возможности того, что всё более способные системы могут поднять вопросы о сознании и этичном обращении. Однако формулировка Альтмана намеренно сделала ставки предельно ясными: моральные ориентиры можно заложить в ИИ, но человеческое суждение не должно быть исключено из процесса.

Отдельный комментарий счёл саму необходимость такого предупреждения тревожной, отметив, что ИИ уже продемонстрировал способность «создавать[] собственный культ».³