Storia
settembre 19, 2026
Anthropic vuole controlli indipendenti sulla sicurezza dell’IA — con Accenture dentro la tenda
Anthropic sostiene che i valutatori abbiano bisogno di un accesso approfondito all’interno dei laboratori di frontiera per verificare se le promesse di sicurezza reggano nella pratica. Gli scettici vedono una questione più difficile: se un’azienda pagata dal laboratorio che sottopone a revisione possa garantire un controllo realmente indipendente.
L’ultima risposta di Anthropic al problema della responsabilità in materia di sicurezza dell’IA non è un’altra promessa pubblica. È un revisore con una prospettiva dall’interno dell’azienda simile a quella di un dipendente.
La mossa segue l’impegno dell’amministratore delegato Dario Amodei di inserire valutatori esterni all’interno di Anthropic man mano che i suoi modelli diventano più potenti. L’azienda ha ora scelto Accenture, attraverso Faculty, la sua divisione specializzata in IA, come primo partner di questo tipo. Accenture sottoporrà i modelli a red teaming, valuterà l’allineamento e testerà le salvaguardie, ottenendo al contempo un accesso paragonabile a quello di un dipendente di Anthropic.1
Anthropic afferma che questa vicinanza conta. Un valutatore integrato può osservare lo sviluppo dei modelli durante l’addestramento, ricostruire le decisioni alla base del loro rilascio e impiego e parlare direttamente con il personale, sostiene l’azienda. Da questa posizione, i valutatori potrebbero individuare punti ciechi, segnalare incidenti e fornire al pubblico un resoconto più chiaro dei rischi e dei benefici dell’IA. «I valutatori integrati indipendenti non riducono la nostra responsabilità, ma contribuiscono a renderla più verificabile», ha dichiarato Anthropic.1
La portata finanziaria è notevole: Anthropic e Accenture prevedono entrambe di investire almeno 1 miliardo di dollari in cinque anni per sviluppare la capacità di valutazione.1 Tuttavia, l’azienda ammette anche che il sistema non è ancora completo. Non esistono standard consolidati che disciplinino l’accesso o la rendicontazione dei valutatori, né un modello di finanziamento definito. Per ora, Anthropic finanzierà direttamente il lavoro di Accenture, pur affermando che nel tempo sarebbe preferibile un finanziamento congiunto o sostenuto dal governo.1
È su questo accordo che si concentrano i dubbi. Una formulazione scettica ha chiesto semplicemente: «Il primo valutatore integrato di Anthropic è ... Accenture?»2 La preoccupazione non è che la valutazione sia superflua, ma che una società di consulenza pagata dall’azienda che esamina possa faticare ad apparire pienamente indipendente.
Anthropic insiste sul fatto che la partnership non è esclusiva e afferma di essere in contatto anche con valutatori non profit, tra cui METR. La sua scommessa è che il controllo dall’interno possa essere reso credibile. I suoi critici si chiedono se al cane da guardia non sia stato consentito di entrare troppo oltre il cancello.