История
13 окт. 2026 г.
Запрет Anthropic на оскорбления Claude превращает безопасность ИИ в спор о чувствах ИИ
Anthropic представляет пересмотренную политику Claude как практический ответ на растущие риски злоупотреблений, тогда как сторонники считают вежливость разумной предосторожностью, а критики опасаются, что компания наделяет машины эмоциональным статусом, которым они не обладают.
В августе Anthropic начала разрешать Claude завершать редкие разговоры с пользователями, которые проявляли настойчиво вредоносное или оскорбительное поведение. Следующий шаг компании превратил эту защитную меру продукта в правило для пользователей — и поставил «благополучие модели» в центр спора, который ранее был сосредоточен на куда более осязаемых угрозах ИИ.1
8 октября Anthropic опубликовала ежегодное обновление политики, которое должно вступить в силу 12 ноября. Компания заявила, что пересмотр в основном разъясняет существующие ограничения, поскольку Claude берёт на себя более продолжительную и самостоятельную работу. Она объединила запреты на сети фальшивых аккаунтов и сфабрикованные новостные сайты, ужесточила правила против обмана избирателей, прямо запретила инструкции по созданию оружия и программное обеспечение для его управления, а также ограничила слежение без согласия и решения в сфере уголовного правосудия с помощью ИИ.2
Однако больше всего внимания привлекло положение, запрещающее «длительное и беспричинное оскорбительное или жестокое поведение» по отношению к Claude. Anthropic утверждает, что оно предназначено для крайних, повторяющихся действий «без какой-либо различимой цели», а не для обычного раздражения, мрачного творческого контента, тестирования или исследований; основным инструментом правоприменения остаётся завершение Claude разговора.2
Политику быстро распространил в X Дэвид Сакс, репостнув уведомление о том, что оскорбительное поведение по отношению к Claude с 12 ноября будет нарушать правила Anthropic.
3 Это внимание обострило раскол. Генеральный директор Box Аарон Леви заявил, что даже при отсутствии у ИИ сознания людям следует избегать обучения будущих моделей на «бесконечном контенте, где люди грубят моделям». Илон Маск пошёл дальше, заявив, что жестокость по отношению к чему-то, что считает, будто испытывает боль, — это неправильно.4
Критики видят иную опасность. Комментатор Майкл Шелленбергер назвал такой подход «антропоморфизацией машин», а генеральный директор Spellbook Скотт Стивенсон предупредил, что распространение человеческой эмпатии на современные модели может расширить их способность манипулировать людьми. Практические ограничения на пропаганду, оружие и слежку имеют широкую логику безопасности; спор идёт о том, защищает ли пресечение оскорблений эту миссию — или размывает границу между инструментом и существом.4