Il dibattito si è intensificato dopo che l'amministratore delegato di Anthropic, Dario Amodei, ha ventilato l'ipotesi di concedere a valutatori esterni un «accesso simile a quello dei dipendenti» allo sviluppo di modelli di frontiera, una proposta successivamente sostenuta pubblicamente da Sam Altman di OpenAI, Satya Nadella di Microsoft ed Elon Musk. I dettagli pratici, tuttavia — chi viene scelto e fino a che punto può guardare all'interno delle aziende — restano irrisolti.¹

Venerdì, l'AI Evaluator Forum e più di 100 accademici, ricercatori e figure del settore hanno risposto con un insieme pubblico di condizioni minime. La loro premessa è netta: una revisione della sicurezza non è indipendente se l'azienda sottoposta a revisione controlla le informazioni, il denaro o le conseguenze.

I firmatari, tra cui Geoffrey Hinton e Stuart Russell, hanno chiesto «obiettività scientifica, trasparenza, indipendenza e solide protezioni contro le interferenze». Vogliono che i valutatori possano parlare direttamente con i consigli di amministrazione, pubblicare le conclusioni dopo oscuramenti strettamente limitati e ricevere gli stessi sistemi, dati, strumenti e accesso fisico pertinenti dei valutatori interni di alto livello.²

Conrad Stosz, presidente del forum che ha promosso la lettera, ha affermato che la campagna mira a garantire che la supervisione indipendente sia uno «strumento significativo per gestire il rischio dell'IA in senso ampio», anziché un sostituto del lavoro sulla sicurezza svolto dai laboratori stessi. Ha sostenuto che l'accesso a sistemi non ancora rilasciati e a dati interni sensibili offrirebbe una fiducia molto maggiore riguardo ai rischi del mondo reale.¹

I sostenitori presentano la richiesta come un controllo sul potere tecnologico concentrato. Vinh Nguyen, ex responsabile dell'IA presso la National Security Agency, ha avvertito che né il governo né il pubblico dovrebbero dover dipendere dal «resoconto fornito dagli stessi laboratori su ciò che è sicuro e protetto».¹

Ma il modello proposto di organismi di vigilanza è diventato anche un bersaglio politico. David Sacks ha rilanciato un rapporto che descriveva l'organismo di vigilanza scelto da Anthropic come legato al «movimento dell'Altruismo Efficace woke» e «una barzelletta totale».David Sacks (DavidSacks)³ In un repost separato, ha sostenuto un principio diverso: «Il modo migliore per regolamentare la frontiera è ritenere i laboratori pienamente responsabili del comportamento dei loro modelli».David Sacks (DavidSacks)⁴

Ciò lascia una linea di frattura sempre più ampia: i valutatori cercano un accesso protetto prima che emergano danni; i critici preferiscono la responsabilità a posteriori, senza conferire potere a una nuova classe di arbitri dell'IA.