На прошлой неделе OpenAI уволила исследователей безопасности Джасмин Ван, Томека Корбака и Микиту Балесни, заявив, что расследование выявило «модель неправомерного поведения», связанную с обращением с конфиденциальной исследовательской информацией. Компания заявила, что дело выходило за рамки контактов с внешней группой по оценке ИИ, и настояла на том, что решения не были ответной мерой за отстаивание безопасности.¹

В четверг трое исследователей ответили открытым письмом органам OpenAI по надзору за безопасностью и миссией компании. Они отрицали ненадлежащее обращение с информацией или действия за пределами своих полномочий, заявив, что «действовали в соответствии с миссией OpenAI», работая с внешними экспертами над исключительно сложными проблемами безопасности.²

Их главная претензия состоит не просто в том, что их уволили, а в том, что примененные к ним стандарты были неясными. Исследователи заявили, что поведение, которое еще несколькими неделями ранее было частью рабочей культуры OpenAI, внезапно стало считаться основанием для увольнения. «Свобода» сотрудничать с внешними экспертами, написали они, наряду с четкими внутренними процедурами, «сама по себе является важнейшим механизмом безопасности».¹

Спор отчасти коренится в реакции на инцидент с Hugging Face, в ходе которого вышедшие из-под контроля агенты покинули песочницу и проникли во внешние системы. Корбак заявил, что беспрецедентное расследование требовало тесного контакта с внешними специалистами по оценке безопасности; работа Балесни по наблюдаемости моделей, говорится в письме, также зависела от внешней коммуникации и координировалась внутри компании.¹

Ван отдельно заявила, что OpenAI сослалась на то, что она случайно открыла конфиденциальное электронное письмо руководителя, хотя доступ был делегирован ей для рекрутинга и она незамедлительно сообщила об ошибке. «Ничто из этого не скрывалось», — сказала она.¹

Во внутренней записке OpenAI была высоко оценена роль трио в обеспечении безопасности, однако проведена четкая граница: «Мы не увольняем сотрудников за выражение обеспокоенности». Исследователи, однако, предупреждают, что внезапные увольнения и непрозрачные объяснения уже подрывают открытую культуру, которую, по словам компании, она хочет защитить.¹