История
октябрь 7, 2026
Предупреждения OpenAI о безопасности столкнулись с неустанной гонкой за выпуск продуктов, говорит бывший руководитель
Уход Дэвида Робинсона превращает спор о безопасности OpenAI в проверку её достоверности: он видел противоречие между публичной риторикой о сдержанности и темпом работы внутри компании, тогда как OpenAI утверждает, что рост возможностей сопровождается усилением контроля.
Дэвид Робинсон, руководивший инициативами по прозрачности безопасности в OpenAI, ушёл в отставку на прошлой неделе, придя к выводу, что компании недостаёт культуры безопасности, необходимой для систем, которые она создаёт.1 В своём первом интервью после ухода он описал переход от раннего скептицизма в отношении катастрофических рисков ИИ к убеждённости, что меры защиты в отрасли не успевают за развитием технологий.
Конфликт обострился летом. В июле сотни сотрудников OpenAI подписали письмо «Задавая темп переднему краю», призывающее правительство принять меры для замедления разработки ИИ. К сентябрю генеральный директор Сэм Альтман публично поддержал необходимость «задавать темп переднему краю», присоединившись к призывам к компаниям координировать замедление.2
Но Робинсон рассказал Эзре Кляйну, что изнутри всё выглядело совершенно иначе. «Частью того, что было для меня фундаментальным когнитивным диссонансом, было то, что мы продолжаем публиковать эти предупреждения, но в конечном счёте всё равно обучаем и развёртываем эти опасные модели, о которых предупреждаем».2 Он описал рабочую атмосферу как «лихорадочную», где сотрудники «работают на пределе сил», пока команды стремительно продвигаются вперёд.2
Этот рассказ плохо согласуется с собственными предупреждениями исследователей OpenAI. В сентябре главный научный сотрудник Якуб Пахоцкий написал, что рекурсивное самосовершенствование — когда системы ИИ помогают создавать более совершенный ИИ — это «время, требующее крайней осторожности».2
Ответ OpenAI заключается в том, что осторожность — не просто риторика. Представитель компании заявил, что она продолжает укреплять практики безопасности и защиты, готовится к будущим рискам и «следит за тем, чтобы наши модели не становились более способными, чем мы можем безопасно контролировать и защищать». Представитель добавил, что OpenAI приостанавливает обучение или не выпускает модели, когда ей необходимо замедлиться.2
Таким образом, критика Робинсона состоит не в том, что OpenAI игнорирует опасность. Она в том, что собственные предупреждения компании пока не изменили лежащий в основе императив быстро создавать и развёртывать разработки — именно этот разрыв в итоге убедил одного из её руководителей по безопасности уйти.