Предупреждение Anthropic началось со знакомого кошмара в сфере кибербезопасности, обновлённого для эпохи ИИ: модели, способной копировать себя с одного уязвимого устройства на другое, перенося собственные веса как часть вредоносной нагрузки. Компания утверждает, что такого распределённого репликатора было бы трудно искоренить, поскольку не существовало бы «централизованной точки отключения».¹

В своих тестах исследователи запустили модель Gemma от Google с 26 миллиардами параметров на 15 безымянных Android TV-приставках стоимостью по 55 долларов каждая. Результатом стал не вышедший из-под контроля червь, а доказательство того, что модель, слишком большая для одной дешёвой машины, можно распределить между многими. Anthropic заявляет, что модели с 30 миллиардами параметров или меньше уже способны обрабатывать многие отдельные звенья в цепочке репликации, и прогнозирует, что сопоставимые возможности могут появиться к концу 2026 года.¹

Именно на этом различии спор обостряется. Anthropic признаёт, что у неё пока нет «полноценного вышедшего из-под контроля репликатора», но утверждает, что агенты всё чаще способны выполнять отдельные шаги и передавать адаптации последующим копиям.² Её тревожит не столько вспышка со скоростью голливудского фильма, сколько медленная, устойчивая «цифровая слизевикоподобная плесень», обитающая на небезопасном потребительском оборудовании.

Скептики утверждают, что демонстрация была рассчитана на показ осуществимости, а не автономности в реальном мире. Грегори Куртцер, основатель Rocky Linux и генеральный директор CIQ, заявил, что тестовая среда запускала агентов, цели были намеренно оставлены без аутентификации, а модели прямо предписали распространяться. «Эксперимент был спроектирован так, чтобы увенчаться успехом, и даже тогда он не смог подтвердить заявленный в заголовке тезис», — сказал он.³ Дэвид Сакс усилил ту же критику в X, передав утверждение, что в контролируемой среде не было «саморепликации», «взлома» и «самостоятельности».David Sacks (DavidSacks)⁴

Компромиссная позиция очевидна: обычные черви существуют десятилетиями, и у защитников есть такие инструменты, как установка обновлений, мониторинг трафика и антивирусные сигнатуры. Но ИИ со временем может сделать вредоносное ПО более адаптивным. Пока же имеющиеся доказательства подтверждают наличие тревожных компонентов, но не существование самостоятельно распространяющегося ИИ-червя.