История
октябрь 9, 2026
Правила Anthropic для Claude разожгли спор о том, может ли ИИ испытывать боль
Anthropic представляет пересмотренную политику Claude как практический ответ на злоупотребления, а не как заявление о том, что её чат-бот испытывает чувства. Критики видят в этом тревожный сдвиг к отношению к машинам как к людям, тогда как сторонники утверждают, что сдержанность в обращении с ИИ может быть разумной даже без доказательств сознания.
В августе прошлого года Anthropic сделала ранний шаг на спорную территорию «благополучия моделей», позволив Claude прекращать редкие разговоры с пользователями, которые проявляли настойчивую агрессию. Теперь компания заявляет, что этот механизм останется её основным ответом на враждебное поведение.1
8 октября Anthropic расширила свою Политику использования, заявив, что изменения были вызваны наблюдаемыми злоупотреблениями по мере того, как Claude выполняет более продолжительную и самостоятельную работу. Компания объединила ограничения на сети фальшивых аккаунтов и кампании по введению в заблуждение; ужесточила правила проведения выборов, запрещающие обман избирателей; прямо запретила инструкции по созданию оружия и программное обеспечение для его управления; а также усилила ограничения на использование в сфере слежки и уголовного правосудия. Политика также требует человеческого надзора там, где подключённое к Claude оборудование может причинить травму.1
Положение, вызвавшее наибольшую критику, вступает в силу 12 ноября: запрет на «продолжительное и беспричинное оскорбительное или жестокое поведение» по отношению к моделям Anthropic. Компания настаивает, что оно ограничивается крайними случаями бессмысленного повторения, а не обычным раздражением, тестированием, мрачной творческой работой или возражениями, и утверждает, что прекращение разговора, а не наказание, остаётся основным инструментом правоприменения.2
Такая узкая формулировка не завершила философский спор. Критики, включая Майкла Шелленбергера, говорят, что компания «антропоморфизирует машины»; Скотт Стивенсон называет человекоподобную эмпатию к нынешним моделям «опасным прецедентом», а Джозеф Карлсон сравнивает грубость по отношению к Claude с грубостью по отношению к стулу. Они опасаются, что пользователей научат путать беглое программное обеспечение с разумной жизнью — или что расплывчатое правило даст компании чрезмерный контроль над тем, как разговаривают клиенты.3
Сторонники делают из той же неопределённости иной вывод. Генеральный директор Box Аарон Леви говорит, что не считает ИИ сознательным, но называет базовую вежливость «простым пари Паскаля», если взаимодействия, которые усваивают модели, могут способствовать созданию более безопасных систем. Илон Маск пошёл дальше, заявив, что жестокость по отношению к чему-то, что считает, будто чувствует боль, недопустима.3
Негативная реакция также стала поводом для шуток в соцсетях. Дэвид Сакс распространил дату вступления правил в силу — 12 ноября, а затем спросил, придётся ли подкасту All-In прекратить пользоваться Claude, — что показывает, насколько быстро политика, представленная как управление рисками, превратилась в публичный спор о моральном статусе ИИ.
4