На прошлой неделе OpenAI уволила Джасмин Ван, Томека Корбака и Микиту Балесни — трех исследователей, работавших над безопасностью ИИ. Компания заявляет, что внутреннее расследование выявило «схему неправомерных действий», связанную с обращением с исследовательской информацией, и что увольнения не были местью за отстаивание безопасности.¹

Исследователи оспаривают как сами обвинения, так и утверждение о том, что их работа с внешними оценщиками была ненадлежащей. В открытом письме, опубликованном в четверг, они заявили, что риски передового ИИ требуют тесного сотрудничества за пределами компании: «Свобода делать это без страха, а также наличие четко определенных внутренних процедур, обеспечивающих такую работу, сами по себе являются важнейшим механизмом безопасности».¹

Их версии описывают разные пути к одному и тому же разрыву. Корбак утверждает, что общение с METR, некоммерческой организацией, оценивающей ИИ-системы и риски безопасности, было частью его работы; Балесни говорит, что его внешняя работа координировалась с его руководством, руководством исследовательского направления и советом директоров.² Ван заявляет, что ее увольнение стало следствием того, что она непреднамеренно открыла учетную запись электронной почты руководителя, доступ к которой был делегирован ей для рекрутинга; по ее словам, она немедленно сообщила об инциденте.¹

Главная обеспокоенность этой тройки шире, чем их собственные рабочие места. Они предупреждают, что внезапные увольнения и неясные границы могут заставить коллег неохотно сообщать о рисках или работать со сторонними группами по безопасности. В их письме говорится, что сотрудники OpenAI теперь «боятся говорить и действовать» способами, которые прежде были неотъемлемой частью культуры компании.²

Внутренний ответ OpenAI, переданный журналистам, представляет резко иную точку зрения. Руководитель исследовательского направления заявил, что компания ценит вклад исследователей в безопасность, и подчеркнул: «Мы не увольняем сотрудников за высказывание опасений».³ Компания также заявила, что согласна с рекомендациями этой тройки относительно привлечения внешних аудиторов, встроенных в процессы компании, наблюдаемости моделей и открытого диалога о безопасности.

Однако бывшие сотрудники утверждают, что противоречие остается неразрешенным: OpenAI поддерживает эти принципы, одновременно, по их словам, наказывая за действия, совершенные в рамках прежних норм. Они призвали к большей прозрачности в отношении увольнений и предупредили, что спор может быть использован для ограничения работы OpenAI с METR.³