История
сентябрь 19, 2026
Оценщики ИИ хотят получить доступ изнутри — но борьба за то, кто будет контролировать лаборатории, только начинается
Оценщики безопасности утверждают, что содержательный надзор за мощным ИИ требует доступа и независимости, которые лаборатории не могут отозвать. Их критики не столько оспаривают серьезность ставки, сколько ставят под вопрос, кто должен обладать властью над отраслью — и является ли ответом ответственность, а не надзорные органы.
Дебаты обострились после того, как генеральный директор Anthropic Дарио Амодеи предложил предоставить внешним оценщикам «доступ, аналогичный доступу сотрудников» к разработке передовых моделей; позднее эту инициативу публично поддержали Сэм Альтман из OpenAI, Сатья Наделла из Microsoft и Илон Маск. Однако практические детали — кого выберут и насколько глубоко они смогут заглянуть внутрь компаний — остаются неурегулированными.1
В пятницу AI Evaluator Forum и более 100 ученых, исследователей и представителей индустрии выступили с публичным набором минимальных условий. Их исходная позиция сформулирована прямо: проверка безопасности не является независимой, если проверяемая компания контролирует информацию, деньги или последствия.
Подписанты, среди которых Джеффри Хинтон и Стюарт Рассел, призвали к «научной объективности, прозрачности, независимости и надежной защите от вмешательства». Они хотят, чтобы оценщики могли напрямую общаться с советами директоров, публиковать выводы после ограниченных по объему редакций и получать доступ к тем же релевантным системам, данным, инструментам и физическим объектам, что и старшие внутренние оценщики.2
Конрад Штосц, председатель форума, стоящего за письмом, заявил, что кампания направлена на то, чтобы независимый надзор был «значимым инструментом широкого управления рисками ИИ», а не заменой собственной работы лабораторий по безопасности. Он утверждал, что доступ к невыпущенным системам и чувствительным внутренним данным позволил бы гораздо увереннее оценивать риски в реальном мире.1
Сторонники представляют это требование как механизм контроля над концентрированной технологической властью. Винь Нгуен, бывший главный специалист по ИИ Агентства национальной безопасности, предупредил, что ни правительство, ни общественность не должны зависеть от «собственного описания того, что является защищенным и безопасным» со стороны нескольких лабораторий.1
Однако предложенная модель надзора также стала политической мишенью. Дэвид Сакс распространил сообщение, в котором выбранный Anthropic надзорный орган описывался как связанный с «woke-движением эффективного альтруизма» и «полная шутка».
3 В отдельном репосте он поддержал иной принцип: «Лучший способ сдерживать развитие передового рубежа — возложить на лаборатории полную ответственность за поведение их моделей».4
Это оставляет все более глубокую линию разлома: оценщики добиваются защищенного доступа до того, как возникнет ущерб; критики предпочитают ответственность постфактум, без наделения полномочиями нового класса арбитров в сфере ИИ.