История
октябрь 4, 2026
Руководитель OpenAI по безопасности ушёл, заявив, что настоящие ограничения должны исходить извне
Уход Дэвида Робинсона обнажает конфликт вокруг того, способна ли OpenAI контролировать саму себя, стремительно двигаясь вперёд: бывший руководитель по безопасности считает необходимым внешнее давление, тогда как компания заявляет, что её меры защиты усиливаются вместе с моделями.
Дэвид Робинсон провёл три с половиной года в подразделении OpenAI, отвечающем за безопасность, работая над прозрачностью, готовностью и публичными отчётами, призванными объяснить, как ведут себя модели компании. К началу сентября он уже выражал обеспокоенность: OpenAI быстро менялась, писал он, но он не знал, меняется ли она достаточно быстро.1
Эта тревога усиливалась на фоне более сложной обстановки. Ряды специалистов OpenAI по безопасности были расстроены предыдущими уходами, включая уход главы направления безопасности Йоханнеса Хайдекке, а сама компания столкнулась с пристальным вниманием после инцидентов в сфере безопасности и сообщений о ненадлежащем поведении моделей. Она также заявила, что рассталась с тремя исследователями из-за предполагаемых нарушений политик, регулирующих работу с конфиденциальной информацией.1
На прошлой неделе Робинсон ушёл из команды Safety Systems. В эссе, опубликованном в субботу, он утверждал, что темп работы делает внутренние реформы гораздо более трудными, чем это может показаться. «Мы с коллегами были настолько заняты непрерывной гонкой, что редко имели возможность обдумать крупные изменения, не говоря уже о том, чтобы действительно их осуществить», — написал он.2
Его вывод был недвусмысленным: «Более сильные стимулы к обеспечению безопасности — исходящие извне компании — являются важной частью правильного решения этой задачи». Робинсон заявил, что теперь надеется помочь общественности понять риски, с которыми он столкнулся, и усилить давление на OpenAI и конкурирующие компании, чтобы они действовали более осторожно.2
OpenAI отвергает предположение, что развитие возможностей моделей опережает контроль над ними. Представитель компании заявил, что по мере совершенствования моделей она усиливает практики безопасности и защиты, используя сторонних оценщиков и более ранний мониторинг тревожного поведения. Центральное обещание компании заключается в том, что она не будет двигаться вперёд вопреки рискам: «Мы приостанавливаем обучение или откладываем выпуск моделей, когда нам необходимо замедлиться».2
Разногласия касаются не столько того, нужны ли передовому ИИ ограничения, сколько того, кто способен надёжно обеспечивать их соблюдение. Робинсон выбрал внешнее давление; OpenAI заявляет, что её внутренние системы всё ещё способны справиться с этой задачей.