Anthropic заявила, что заблокировала попытки превратить ее ИИ-систему Claude в инструмент для кибератак, слежки и исследований, которые могли бы способствовать разработке биологического оружия, вновь подчеркнув значение реальной борьбы за то, как используются мощные модели.¹

Команда компании по анализу угроз подробно описала эти пресеченные попытки в своем отчете о злоупотреблениях за сентябрь 2026 года, представив эти случаи как часть продолжающихся усилий по выявлению и противодействию вредоносной деятельности с использованием ее моделей.²

С точки зрения Anthropic, этот эпизод — проверка того, способны ли меры безопасности работать за пределами лаборатории. В ее изложении утверждается, что защитные ограничения, мониторинг и вмешательство — не просто функции продукта, а операционные средства защиты от людей, стремящихся перепрофилировать ИИ для причинения вреда.¹

Опасения, непосредственно затрагивающие людей, еще более насущны: предполагаемое злоупотребление охватывало кибератаки и слежку, а также исследования, которые «могли привести к созданию биологического оружия».² Этот спектр иллюстрирует дилемму двойного назначения, связанную с передовым ИИ: те же системы, которые созданы для помощи в легитимном анализе, могут привлекать тех, кто стремится масштабировать вредоносную деятельность.

Anthropic в предоставленных материалах не назвала причастных лиц и не уточнила, какие методы они пытались использовать. Однако ее решение предать информацию о вмешательствах огласке свидетельствует об аргументе, который, вероятно, будет становиться все более актуальным по мере развития возможностей ИИ: защитные меры будут оцениваться не только по тому, что модели отказываются делать, но и по тому, способны ли компании выявлять и пресекать злоупотребления, когда пользователи пытаются обойти эти ограничения.