История
сентябрь 14, 2026
Предложенное ИИ замедление ради безопасности сталкивается с проблемой доверия
Амодеи и его союзники говорят, что осознанная пауза — единственный способ сохранить все более способный ИИ под человеческим контролем. Скептики не отрицают необходимости защитных мер, но сомневаются, обеспечат ли правила, сформированные ведущими лабораториями, подотчетность или закрепят их власть.
Ранее на неделе бывший исследователь Anthropic Джейкоб Коксон подал в отставку, обвинив отрасль в том, что она «играет нашими жизнями» в гонке за самосовершенствующимися системами. Его уход обострил дискуссию о безопасности, уже разожженную сообщениями о сбоях ИИ-агентов и коммерческой гонкой между крупными лабораториями.1
В субботу генеральный директор Anthropic Дарио Амодеи превратил эту тревогу в конкретное требование: «Мы должны замедлить темп, с котор ым улучшаем возможности моделей ИИ». Он утверждал, что системы, способные помогать создавать своих преемников, могут опередить способность исследователей понимать и контролировать их, и предупредил, что более способная стая вышедших из-под контроля агентов может угрожать интернету в течение шести—12 месяцев.2
Его ответ — не остановка. Это «задавать темп переднему краю»: дать время согласованию ценностей, тестированию и надзору догнать развитие. Anthropic заявляет, что немедленно предоставит независимым оценщикам постоянный доступ к своим системам и внутренним процессам на уровне сотрудников, с возможностью сообщать о выводах без редакционного контроля компании.3 Амодеи представил этот шаг как первую часть более широкого плана по созданию общих стандартов среди демократических стран и последующей, сложной координации с авторитарными государствами.
4
Поддержка пришла быстро. Сэм Альтман из OpenAI заявил, что отрасль должна избежать утраты контроля над будущим в пользу ИИ, и настаивал, что «ИИ всегда должен служить людям».
5 Илон Маск высказал еще более лаконичную поддержку: «Дарио прав».
6
Однако согласие по поводу опасности не разрешило спор о власти. Дэвид Сакс отметил, что Амодеи и Альтман сами являются «передним краем», назвав Anthropic и OpenAI дуополией по доле рынка, росту выручки и возможностям моделей.
7 Другие критики утверждают, что апокалиптические прогнозы могут отвлекать от уже происходящего вреда, а разработанные отраслью правила задания темпа способны стать «регуляторным за хватом ... в действии».8
В этом и проходит линия разлома: сторонники безопасности хотят внешнего контроля до того, как скачки возможностей станут необратимыми; оппоненты опасаются, что компании, выдвигающие этот аргумент, смогут решать, кому разрешено конкурировать.