Anthropic пытается перерисовать линию фронта в кремниевальской борьбе вокруг открытого ИИ. После нескольких дней негативной реакции за отказ присоединиться к отраслевому письму в поддержку моделей с открытыми весами гендиректор Дарио Амодеи теперь утверждает, что компания изначально никогда не добивалась запрета.

Это уточнение имеет значение, потому что Anthropic стала заметным «белой вороной», в то время как Nvidia, Microsoft, Meta, Google, OpenAI и другие выстроились в ряд за открытые веса. В новом посте Амодеи настаивал, что «Anthropic никогда не выступала за запрет моделей с открытыми весами» и утверждал, что модели без опасных возможностей являются «общественным благом».¹ Его позиция уже, чем у лагеря сторонников открытости: не стоит широко запрещать открытые модели, но и не стоит притворяться, что открытость автоматически безопаснее.²

Позиция Anthropic основана не столько на структуре рынка, сколько на вопросах национальной безопасности — по крайней мере, в их собственной интерпретации. Амодеи говорит, что его реальные страхи связаны с тем, что авторитарные режимы создадут превосходящий ИИ для «постоянного военного превосходства» или репрессий, а также с использованием мощных моделей для кибер- или биологических атак.¹ Поэтому вместо всеобъемлющих запретов он хочет более жесткого контроля над передовыми чипами, пресечения индустриального масштаба дистилляции и обязательного тестирования безопасности для достаточно способных моделей — как открытых, так и закрытых.³

Критики из лагеря сторонников открытых моделей не верят в «чистый» перезапуск позиции. Business Insider кратко выразил настроение: Anthropic была «единственной крупной лабораторией ИИ, не поддержавшей открытые модели», и эта позиция вызвала «серьезное давление» по всей Долине.⁴ Дэвид Сакс зашел еще дальше, обвинив Anthropic в «газлайтинге» после того, как, по его словам, остальная индустрия выступила за open source ИИ.David Sacks (DavidSacks)⁵

Сторонники открытых весов утверждают, что индустрия уже сошлась на иной формуле: открытость плюс защитные механизмы. Сатья Наделла заявил, что модели с открытыми весами «являются ключевыми для здоровой экосистемы ИИ», которая может усилить конкуренцию, «при этом защищая национальную безопасность».Yann LeCun (ylecun)⁶ Янн Лекун усилил более жесткую позицию: нынешняя борьба, по его словам, просто идет за «право на существование» моделей с открытыми весами.Yann LeCun (ylecun)⁷

В результате настоящий раскол стал очевиднее. Обе стороны теперь заявляют, что поддерживают открытые веса в той или иной форме. Спор идет о том, что должно происходить, когда эти модели становятся настолько мощными, что начинают пугать Вашингтон.