Anthropic сделала первый конкретный шаг к более медленной и тщательно контролируемой разработке передового ИИ, за которую выступает генеральный директор Дарио Амодеи: компания привлекает Accenture к оценке своих наиболее мощных моделей.

Партнёрство, которым будет руководить специализированное ИИ-подразделение Accenture Faculty, будет включать стресс-тестирование моделей, оценку выравнивания и проверку защитных мер. В отличие от обычных внешних проверяющих, встроенные оценщики должны получить доступ, сопоставимый с доступом сотрудника Anthropic, — достаточный, чтобы наблюдать за обучением, отслеживать решения о разработке и внедрении и напрямую общаться с персоналом. Anthropic утверждает, что близость к процессу и является ключевым моментом: она может выявить слепые зоны и позволит проверяющим сообщать об инцидентах с информированной позиции. «Независимые встроенные оценщики не уменьшают нашу подотчётность, а помогают сделать её более проверяемой», — заявила компания.¹

Объявление последовало за призывом Амодеи к разработчикам ИИ подвергать свои практики безопасности проверке третьими сторонами по мере роста возможностей моделей. Anthropic заявляет, что сохраняет ответственность за безопасность своих систем и намерена работать с несколькими оценщиками, включая некоммерческую организацию METR. Роль Accenture прямо определена как неэксклюзивная, и консалтинговая компания может выполнять аналогичную работу для других разработчиков ИИ.

Но этот эксперимент также обнажает пробел в управлении, который он призван устранить. Anthropic и Accenture рассчитывают инвестировать не менее $1 млрд в течение пяти лет в создание потенциала для оценок, однако Anthropic будет напрямую финансировать работу Accenture, поскольку в настоящее время не существует ни объединённого, ни поддерживаемого государством механизма финансирования. Компания заявляет, что стандарты также остаются неурегулированными: нет согласованного свода правил о том, какой доступ должны получать оценщики и как им следует раскрывать результаты.

Таким образом, пилотный проект одновременно несёт два послания. Это заметная уступка в пользу более глубокого надзора в лаборатории передового ИИ; но это также модель аудита, независимость которой пока не обеспечена структурно. Как сказано в одном отчёте, Anthropic выбрала Accenture, чтобы «осуществлять внутренний мониторинг безопасности её ИИ-инструментов» после обещания её гендиректора усилить надзор.²