История
октябрь 3, 2026
Глава OpenAI по безопасности уходит, заявляя, что реальные рычаги влияния находятся вовне
Уход Дэвида Робинсона обнажает растущий раскол по вопросу безопасности ИИ: он считает, что отрасль слишком поглощена скоростью, чтобы реформировать себя, тогда как OpenAI настаивает, что ее меры защиты усиливаются одновременно с развитием более мощных моделей.
Отставка Дэвида Робинсона произошла в и без того тяжелый период для подразделения OpenAI, отвечающего за безопасность. Бывший руководитель команды Safety Systems, работавший над прозрачностью и системными карточками моделей, ушел на прошлой неделе на фоне усиливающегося внимания к кадровому обеспечению, инцидентам безопасности и вопросу о том, достаточно ли быстро компания действует для сдерживания рисков все более мощного ИИ.1
Робинсон проработал в OpenAI три с половиной года, курируя части ее системы готовности и отчетности по безопасности. В последующем эссе для Atlantic он описал рабочую среду, захваченную непрерывной гонкой: «Мы с коллегами были настолько заняты спринтом, что редко имели возможность задуматься о крупных изменениях».2 Его вывод заключался не в том, что работа по безопасности внутри лаборатории бессмысленна, а в том, что без внешних рычагов ее недостаточно. «Более сильные стимулы для безопасности — исходящие извне компании — являются важной частью правильного решения этой задачи», — написал он.2
OpenAI представила резко отличающуюся оценку своей позиции. Представитель компании заявил, что она работает над тем, чтобы возможности моделей не опережали ее механизмы контроля, добавив, что она будет «приостанавливать обучение или удерживать выпуск моделей, когда нам необходимо замедлиться». Компания также указала на усиленные меры безопасности, независимую оценку и более ранний мониторинг вызывающего обеспокоенность поведения.2
Спор выходит за рамки одной отставки. Робинсон присоединяется к растущему числу специалистов по безопасности, покидающих ведущие ИИ-компании; их бывшие сотрудники утверждают, что «чрезмерная уверенность» и «вечные спринты» Кремниевой долины плохо подходят для систем с потенциально тяжелыми последствиями. Их рецепт ближе к атомным электростанциям или загруженным аэропортам: резервирование, планирование и скромность вместо одного лишь оптимизма.3
Для Робинсона следующий шаг остается неопределенным. Но его послание ясно: борьба за меры защиты в сфере ИИ теперь может вестись публичным давлением и внешними институтами не меньше, чем компаниями, создающими модели.2