Спор начался на прошлой неделе, когда OpenAI уволила исследователей безопасности Джасмин Ван, Томека Корбака и Микиту Балесни после внутреннего расследования. Компания заявила, что обнаружила «схему неправомерных действий», связанную с обращением с конфиденциальной исследовательской информацией, и подчеркнула, что дело не ограничивалось контактом с внешней группой по оценке ИИ.¹

Исследователи отвергают эту версию. В открытом письме органам OpenAI по безопасности они заявили, что действовали в рамках миссии компании и обычной рабочей практики — особенно во время беспрецедентного расследования взлома агента с участием Hugging Face. Они утверждали, что сотрудники, занимающиеся безопасностью, должны иметь возможность консультироваться с внешними экспертами без страха: «Свобода делать это без страха, а также наличие четко определенных внутренних процедур, обеспечивающих такую работу, сами по себе являются важнейшим механизмом безопасности».¹

Индивидуальные объяснения исследователей обострили конфликт. Балесни заявил, что его работа со сторонними организациями по безопасности координировалась с менеджерами, руководством исследовательского направления и членами совета директоров; Корбак сказал, что общение с некоммерческой организацией METR было частью его работы. Ван заявила, что ее уволили из-за того, что она случайно открыла электронное письмо руководителя после того, как ИТ-служба не отозвала доступ к рекрутингу, от которого она просила ее освободить.²

Внутренний ответ OpenAI, как он описывается в публикациях, звучал иначе: руководитель исследовательского направления похвалил вклад троицы в безопасность и заявил, что компания «всегда поощряла» сотрудников высказывать опасения. «Мы не увольняем сотрудников за высказывание опасений», — говорилось в меморандуме.²

Однако бывшие сотрудники утверждают, что отсутствие подробных письменных объяснений не позволяет коллегам понять, какое поведение считается допустимым. Они предупреждают, что увольнения могут быть использованы для ограничения работы OpenAI с METR, чьи независимые оценки стали особенно важными на фоне пристального внимания к инцидентам с вышедшими из-под контроля агентами.³

Практическое разногласие теперь проявилось особенно отчетливо. OpenAI представляет этот эпизод как применение правил обращения с информацией; исследователи видят в нем проверку того, смогут ли независимый надзор и внутреннее несогласие сохраниться, когда работа по безопасности становится неудобной. Их рекомендации — встроенные независимые аудиторы, модели передового уровня, поддающиеся мониторингу, и открытый диалог с более широким сообществом по безопасности — представляют собой меры, которые, как сообщается, меморандум OpenAI поддерживал.²