История
сентябрь 16, 2026
Консенсус по безопасности ИИ сталкивается с простым вызовом: замедлитесь сами
Anthropic утверждает, что стремительно развивающемуся ИИ нужны время, внешний контроль и международные барьеры, прежде чем сбои безопасности превзойдут возможности человеческого контроля. Его сторонники разделяют эту обеспокоенность, тогда как критики говорят, что призыв к общему для отрасли самоограничению не может заменить решение передовых лабораторий ограничить самих себя.
Последний конфликт вокруг безопасности ИИ начался с необычайно публичного раскола внутри Anthropic. Исследователь Джейкоб Коксон подал в отставку, обвинив ведущие лаборатории в гонке к самосовершенствующимся системам, в которой они «играют нашими жизнями»; другие сотрудники Anthropic публично усилили это предупреждение.1
Спустя несколько дней генеральный директор Anthropic Дарио Амодеи перевёл спор от внутренней тревоги к конкретному предложению. Он заявил, что возможности ИИ развиваются слишком быстро, чтобы меры защиты успевали за ними, предупредив, что всё более способные системы вскоре могут обеспечить разрушительное поведение автономных агентов. «Мы должны замедлить темп, с которым мы улучшаем возможности моделей ИИ», — написал он.2
Первый шаг Амодеи был намеренно односторонним: Anthropic предоставит независимым оценщикам постоянный доступ на уровне сотрудников, позволяя им изучать практики безопасности и сообщать об инцидентах. Его более широкий план предусматривает общие ограничения среди передовых лабораторий в демократических странах и, как бы трудно это ни было, координацию с авторитарными правительствами по узким угрозам, таким как биологическое оружие, созданное с помощью ИИ.3 В X Амодеи представил это как план из трёх частей и заявил, что Anthropic уже берёт на себя обязательство выполнить первый шаг.
4
Это сообщение обрело редких союзников. Ответ Илона Маска был прямолинеен: «Дарио прав».
5 Сэм Альтман также утверждал, что потеря контроля над будущим в пользу ИИ неприемлема и что всё более способные системы должны служить людям.
6
Но согласие распалось на вопросе о том, кто должен действовать первым. Дэвид Сакс отметил, что Anthropic и OpenAI фактически доминируют на передовом рубеже, сказав Амодеи и Альтману: «Давайте. Вы, ребята, и есть передовой рубеж».
7 Его более резкая формулировка заключалась в том, что компании должны делать продукты безопасными «не требуя никаких уступок от правительства».8
В этом заключается суровая проверка, скрытая под кажущимся консенсусом: сторонники безопасности хотят коллективных правил, чтобы предотвратить гонку, в которой никто не может безопасно проиграть; их критики видят более простой критерий. Если опасность настолько непосредственна, как её представляют, лабораториям не нужно ничьё разрешение, чтобы замедлиться.