Последний ответ Anthropic на проблему подотчётности в сфере безопасности ИИ — не очередное публичное обещание. Это аудитор, имеющий почти такой же взгляд изнутри компании, как её сотрудник.

Этот шаг следует за обязательством генерального директора Дарио Амодеи встроить внешних оценщиков в Anthropic по мере того, как её модели становятся мощнее. Теперь компания выбрала Accenture через её специализированное ИИ-подразделение Faculty в качестве первого такого партнёра. Accenture будет проводить red-teaming моделей, оценивать их согласованность и тестировать защитные меры, получив доступ, сопоставимый с доступом сотрудника Anthropic.¹

Anthropic утверждает, что такая близость имеет значение. Встроенный оценщик может наблюдать за развитием моделей в ходе обучения, отслеживать решения, стоящие за их выпуском и развёртыванием, а также напрямую общаться с сотрудниками, заявляет компания. Находясь в такой позиции, оценщики могли бы выявлять слепые зоны, сообщать об инцидентах и давать общественности более ясное представление о рисках и преимуществах ИИ. «Независимые встроенные оценщики не снижают нашу подотчётность, а помогают сделать её более проверяемой», — заявила Anthropic.¹

Финансовый масштаб впечатляет: Anthropic и Accenture рассчитывают инвестировать не менее $1 млрд каждая в течение пяти лет для создания потенциала оценки.¹ Однако компания также признаёт, что система ещё не завершена. Нет установленных стандартов, регулирующих доступ оценщиков или отчётность, и нет согласованной модели финансирования. Пока Anthropic будет напрямую финансировать работу Accenture, хотя и заявляет, что со временем предпочтительнее было бы объединённое или поддерживаемое государством финансирование.¹

Именно в этом устройстве и сосредоточены сомнения. Один скептический комментарий просто спросил: «Первый встроенный оценщик Anthropic — это ... Accenture?»² Опасение состоит не в том, что оценка не нужна, а в том, что консалтинговой фирме, которой платит проверяемая ею компания, может быть трудно выглядеть полностью независимой.

Anthropic настаивает, что партнёрство не является эксклюзивным, и заявляет, что также ведёт переговоры с некоммерческими оценщиками, включая METR. Компания делает ставку на то, что контроль изнутри можно сделать заслуживающим доверия. Её критики спрашивают, не пригласили ли сторожевого пса слишком далеко за ворота.