Anthropic ha compiuto il suo primo passo concreto verso lo sviluppo più lento e sottoposto a una supervisione più rigorosa dell'IA di frontiera sostenuto dall'amministratore delegato Dario Amodei: portare Accenture all'interno dell'azienda per valutare i suoi modelli più potenti.

La partnership, guidata da Faculty, l'unità specializzata nell'IA di Accenture, comprenderà red teaming dei modelli, valutazione dell'allineamento e test delle salvaguardie. A differenza dei tradizionali revisori esterni, i valutatori integrati riceveranno un accesso paragonabile a quello di un dipendente Anthropic, sufficiente per osservare l'addestramento, tracciare le decisioni sullo sviluppo e sulla distribuzione e parlare direttamente con il personale. Anthropic sostiene che la vicinanza sia il punto: può far emergere punti ciechi e consentire ai revisori di segnalare incidenti da una posizione informata. «I valutatori integrati indipendenti non riducono la nostra responsabilità, ma contribuiscono a renderla più verificabile», ha dichiarato l'azienda.¹

L'annuncio segue l'appello di Amodei agli sviluppatori di IA affinché sottopongano le proprie pratiche di sicurezza all'esame di terze parti man mano che i modelli diventano più capaci. Anthropic afferma di rimanere responsabile della sicurezza dei propri sistemi e intende collaborare con più valutatori, compresa l'organizzazione non profit METR. Il ruolo di Accenture è esplicitamente non esclusivo e la società di consulenza potrebbe assumere incarichi analoghi per altri sviluppatori di IA.

Ma l'esperimento rende anche evidente il divario di governance che intende affrontare. Anthropic e Accenture prevedono entrambe di investire almeno 1 miliardo di dollari in cinque anni per sviluppare la capacità di valutazione, eppure Anthropic finanzierà direttamente il lavoro di Accenture perché al momento non esiste alcun meccanismo di finanziamento condiviso o sostenuto dal governo. L'azienda afferma che anche gli standard restano incerti: non esiste un regolamento concordato sull'accesso che i valutatori dovrebbero ricevere o su come dovrebbero divulgare i risultati.

Ciò lascia al progetto pilota due messaggi simultanei. È una notevole concessione a una supervisione più profonda in un laboratorio di frontiera; è anche un modello di audit la cui indipendenza non è ancora stata garantita strutturalmente. Come ha scritto un rapporto, Anthropic ha scelto Accenture per «monitorare internamente la sicurezza dei suoi strumenti di IA» dopo l'impegno del suo CEO in materia di supervisione.²