Инициатива началась в июле, когда глава Google DeepMind Демис Хассабис предложил создать возглавляемый США «орган по стандартам ИИ» — государственно-частный или саморегулируемый механизм под федеральным надзором. Идея заключалась в том, чтобы дать конкурирующим лабораториям передового ИИ общий механизм для противодействия рискам, с которыми ни одна из них не может убедительно справиться в одиночку.¹

К субботе генеральный директор Anthropic Дарио Амодеи подчеркнул срочность вопроса, призвав компании замедлить совершенствование своих наиболее передовых моделей, чтобы избежать катастрофических последствий. Хассабис назвал этот подход «правильным путем вперед», а глава OpenAI Сэм Альтман заявил, что темпы развития передовых систем стали «основной темой» внутри OpenAI.¹

Во вторник OpenAI подтвердила, что уже несколько недель ведет переговоры с Anthropic и Google о совместной работе над безопасностью. Крис Лихейн, руководитель OpenAI по глобальным вопросам, заявил, что добровольные отраслевые стандарты должны дополнять, а не заменять «обязательные федеральные меры защиты и демократический надзор». Компания также поддержала внешнюю проверку практик безопасности ведущих лабораторий.¹

Переговоры выявляют неловкое противоречие: компании являются ожесточенными коммерческими соперниками, однако все они испытывают давление, требующее показать, что способны управлять все более мощными моделями. Глава Microsoft Сатья Наделла охарактеризовал задачу как одновременно социальную и техническую, призвав работать над распространением преимуществ ИИ, получением согласия сообществ и обеспечением «безопасности и контроля ИИ».Satya Nadella (satyanadella)²

Однако складывающийся консенсус далеко не всеобщий. По сообщениям, некоторые участники высказывали антимонопольные опасения на случай, если координация будет подавлять конкуренцию; Амодеи предложил узкое исключение со стороны правительства, тогда как Лихейн утверждает, что оно не нужно. Президент Дональд Трамп и советник Дэвид Сакс тем временем отвергли аргументы об экзистенциальных рисках и предупредили, что замедление США может дать преимущество Китаю.³

Самая резкая критика из отрасли исходит от ученого Meta AI Яна Лекуна, который поддержал аргумент о том, что Anthropic и OpenAI могут использовать регулирование безопасности, чтобы «запретить конкурентоспособные модели с открытым исходным кодом».Yann LeCun (ylecun)⁴ Теперь коалиции за безопасность предстоит доказать, что сотрудничество защищает общество, не защищая при этом незаметно действующих лидеров рынка.