Глава OpenAI по глобальной политике Крис Лехейн заявил во вторник, что компания уже несколько недель ведет с Anthropic и Google DeepMind обсуждения безопасности ИИ — подтверждая, что наиболее ожесточенно конкурирующие компании отрасли ищут общую почву в вопросе мер защиты от катастрофических рисков.¹

Переговоры последовали за прозвучавшим в выходные призывом гендиректора Anthropic Дарио Амодеи к ведущим лабораториям совместно замедлять разработку, когда это необходимо, и предотвращать крайний ущерб. Согласно сообщению, гендиректор OpenAI Сэм Альтман поддержал более широкую инициативу, заявив, что его компания присоединится к Anthropic в привлечении независимых сторонних оценщиков для мониторинга безопасности.¹

Это значительный сдвиг в тоне для отрасли, построенной на скорости. Как сообщается, повестка включает скоординированные меры реагирования на опасные возможности и, отдельно, работу над органом по стандартам ИИ. Лехейн, прибывший в Вашингтон для взаимодействия с законодателями по вопросам катастрофических рисков ИИ, заявил, что OpenAI поддерживает положение FRONTIER Act, которое предоставило бы независимым организациям по верификации доступ к ведущим лабораториям.¹

Однако у предлагаемого сотрудничества есть подвох. Альтман и другие признавали, что координация между конкурентами может столкнуться с антимонопольным законодательством, если будет сочтена подавляющей конкуренцию. Амодеи предложил узкое правительственное исключение для сотрудничества в области безопасности; позиция Лехейна заключается в том, что компаниям оно не нужно.¹

Дебаты разворачиваются на фоне более резкого политического раскола. Президент Трамп отверг опасения по поводу безопасности ИИ и заявил, что замедление разработки в США даст преимущество Китаю, тогда как советник Дэвид Сакс назвал опасения об экзистенциальных рисках преувеличенными.¹

За пределами компаний реакция варьируется от скептицизма до настоятельной обеспокоенности. Янн Лекун распространил пост, утверждающий, что Anthropic имеет плотную сеть связей с финансирующими катастрофические риски структурами — это утверждение содержится в репосте и не было независимо подтверждено предоставленным материалом.Yann LeCun (ylecun)² Тем временем Маск поделился пересказом высказываний, подчеркивающих, что «ИИ может быть очень опасен».Elon Musk (elonmusk)³ В другом репосте он выделил «практическую рамку» повышения безопасности передового ИИ, основанную на близости возможностей OpenAI и Anthropic.Elon Musk (elonmusk)⁴

Таким образом, формирующийся консенсус состоит не в том, что лаборатории должны прекратить конкурировать. Он заключается в том, что им могут понадобиться правила для тех моментов, когда конкуренция становится слишком рискованной, чтобы управлять ею в одиночку.