История
сентябрь 18, 2026
Эксперты по безопасности ИИ требуют надзорных органов, которых лаборатории не смогут заставить молчать
Оценщики безопасности ИИ утверждают, что доступ без независимости превратит надзор в процесс, контролируемый компаниями, тогда как сторонники ответственности лабораторий сомневаются, что внешние надзорные органы — правильный ответ. Возникающий спор идет не о том, нуждается ли передовой ИИ в проверке, а о том, кто должен ее проводить — и на каких условиях.
Дебаты ускорились в выходные, когда генеральный директор Anthropic Дарио Амодеи предложил предоставить сторонним оценщикам «доступ, аналогичный доступу сотрудников», чтобы они могли проверять передовые модели и процесс их разработки. Генеральный директор OpenAI Сэм Альтман, Сатья Наделла из Microsoft и другие публично поддержали эту общую концепцию, поставив некогда малоизвестное сообщество тестировщиков ИИ в центр отраслевого спора о безопасности.1
В пятницу Форум оценщиков ИИ, поддержанный более чем 100 экспертами, включая Джеффри Хинтона и Стюарта Рассела, ответил перечнем не подлежащих обсуждению условий. Его позиция была прямолинейной: одного доступа недостаточно для надзора. Оценщики должны обладать «научной объективностью, прозрачностью, независимостью и надежной защитой от вмешательства» со стороны компаний, которые они оценивают.2
Группа хочет, чтобы надзорные органы могли напрямую и без фильтрации обращаться к советам директоров компаний, публиковать выводы с учетом лишь строго ограниченных изъятий и получать доступ к тем же релевантным системам, данным, инструментам и физическим объектам, которые доступны старшим внутренним сотрудникам по управлению рисками. Она также призывает привлекать нескольких оценщиков с различной экспертизой, а не одного одобренного лабораторией арбитра.
Конрад Стосз, возглавляющий форум, охарактеризовал эту инициативу как попытку установить общие базовые принципы, а не предписать единую регуляторную модель. Однако подписант Винь Нгуен более резко сформулировал ставки: когда небольшое число лабораторий контролирует возможности, способные угрожать кибербезопасности, критической инфраструктуре и экономике, «правительство и общественность не могут зависеть от собственных заявлений этих лабораторий о том, что является защищенным и безопасным».1
Эта инициатива встретила сопротивление со стороны фигур, разделяющих дерегуляционный подход администрации Трампа. Дэвид Сакс распространил критику того, что было названо «назначенным Anthropic надзорным органом по ИИ», заявив, что его связи с эффективным альтруизмом дают основания считать его «полной шуткой».
3 В отдельном репосте Сакс выдвинул конкурирующий принцип: «Лучший способ задавать темп развития передового рубежа — возложить на лаборатории полную ответственность за поведение их моделей».4
Это обозначает ключевую линию разлома. Оценщики утверждают, что заслуживающий доверия внешний доступ может дополнять внутренние меры защиты; скептики же считают, что лаборатории должна заставлять отвечать за создаваемые ими риски прямая ответственность, а не новый класс встроенных наблюдателей.