История
17 нояб. 2026 г.
OpenAI открывает двери для ИИ-аудиторов — но закрывает Slack
OpenAI представляет встроенные аудиты как способ предоставить внешним экспертам значимый доступ к работе компании в области безопасности, тогда как критики утверждают, что ограничения на общение и использование внутренних инструментов могут лишить этот доступ независимости. Спор сводится к тому, может ли надзор быть тщательным, если компания по-прежнему устанавливает его границы.
OpenAI объявила о первом раунде встроенных оценок с участием Apollo Research, METR, Transluce и Goodfire, описав эту инициативу как возможность для внешних экспертов изучить её модели и проверить меры предосторожности. Грег Брокман назвал это «запуском нашего первого раунда встроенных оценок».
1
Компания заявляет, что оценщики получат доступ — с учётом особенностей каждой проверки — к таким ресурсам, как контрольные точки моделей, исходный код, данные обучения и оценки, системы мониторинга, а также обсуждения с исследователями. В рамках первой проверки Apollo выяснит, могут ли модели тайно действовать вопреки намерениям разработчиков и обнаружат ли это защитные механизмы. По словам OpenAI, оценки четырьмя организациями призваны укрепить практики безопасности и дать общественности более полное представление о том, как компания управляет рисками.2
Первое размещение специалистов Apollo планируется на четыре месяца. Однако условия предоставления доступа вызвали критику: согласно сообщению о программе, аудиторы могут общаться только с сотрудниками, одобренными OpenAI, разговоры необходимо фиксировать, а доступа к Slack у команды не будет. Критики считают, что эти ограничения не соответствуют обещанному Сэмом Альтманом «доступу на условиях, близких к тем, что есть у сотрудников».3
В опубликованных протоколах OpenAI делает акцент на другом. Компания утверждает, что оценщики могут запросить дополнительные обсуждения с сотрудниками, хотя такие беседы не подлежат записи, а защищённая работа на месте призвана оберегать конфиденциальную информацию. Кроме того, по её словам, комитет совета директоров по безопасности и защите получит отчёты без изъятий и сможет беседовать с оценщиками наедине.2
Противоречие очевидно: OpenAI представляет ограничения как меры защиты конфиденциальных систем и неприкосновенности частной жизни сотрудников, тогда как критики сомневаются, что аудиторы смогут свободно проверять свидетельства без более широкого доступа. Доверие к программе будет зависеть не только от того, что оценщикам разрешат изучать, но и от того, оставят ли ограничения им возможность оспаривать представление компании о собственной работе в области безопасности.
[1] @gdb в X — «запускаем наш первый раунд встроенных оценок:»
[2] Наш первый этап встроенных оценок — описание OpenAI условий доступа, целей оценки и протоколов надзора.
[3] OpenAI выполняет обещание предоставить доступ сторонним аудиторам… отчасти — сообщение об ограничениях, затрагивающих работу Apollo Research.