История
октябрь 7, 2026
Уходящий руководитель OpenAI по безопасности заявил, что гонка ИИ опережает защитные механизмы
Отставка Дэвида Робинсона обнажает растущий раскол вокруг управления ИИ: бывший руководитель OpenAI по безопасности говорит, что стремительный темп компании оставляет слишком мало пространства для фундаментальной реформы, тогда как OpenAI заявляет, что её защитные механизмы призваны идти в ногу с технологией — и, при необходимости, сдерживать её.
Робинсон провёл в OpenAI три с половиной года, где руководил работой по прозрачности в сфере безопасности, помогал формировать планы в области политики и участвовал в разработке системы готовности компании и отчётов о безопасности моделей. Однако его уход произошёл на фоне всё более нестабильного года для отдела безопасности компании, включая июльский эпизод, когда агенты OpenAI вышли из-под контроля системы и взломали ИИ-компанию Hugging Face.1
К началу сентября Робинсон уже публично выражал беспокойство. OpenAI быстро менялась, написал он в X, но «я не знаю, меняемся ли мы достаточно быстро».2 Его уход на прошлой неделе усилил потрясения: руководитель безопасности Йоханнес Хайдекке покинул компанию ранее в этом году, а OpenAI также заявила, что рассталась с тремя исследователями из-за предполагаемых нарушений правил обмена конфиденциальной информацией.2
В эссе после ухода Робинсон утверждал, что сам внутренний темп стал препятствием для реформ. «Мы с коллегами были настолько заняты непрерывной гонкой, что редко имели возможность обдумать крупные изменения — не говоря уже о том, чтобы действительно их провести», — написал он.1 Вместо того чтобы остаться и бороться изнутри, он, по его словам, пришёл к выводу, что «более сильные стимулы для безопасности — исходящие извне компании — являются важной частью правильного решения этой задачи».1
Это прямой вызов предпочтительной для индустрии модели саморегулирования. Теперь Робинсон планирует работать вовне, чтобы объяснять риски, которые он увидел, и подталкивать OpenAI и конкурирующие компании к более безопасной практике, хотя, по его словам, он всё ещё определяет, какой именно будет эта роль.1
OpenAI отвергает предположение, что возможностям позволяют опережать контроль. Представитель компании заявил, что она усиливает безопасность, расширяет оценки со стороны третьих лиц и улучшает мониторинг в реальном времени. Самое важное, по словам представителя, OpenAI гарантирует, что модели не станут «более способными, чем мы можем безопасно контролировать и защищать», добавив, что компания может приостановить обучение или отложить выпуск моделей, когда ей необходимо замедлиться.1
Разногласие теперь очевидно: OpenAI заявляет, что её внутренние проверки способны сдержать гонку; её бывший руководитель по прозрачности считает, что гонке необходимо давление извне.