Storia
settembre 18, 2026
Gli esperti di sicurezza dell’IA chiedono controllori che i laboratori non possano mettere a tacere
I valutatori della sicurezza dell’IA sostengono che un accesso senza indipendenza trasformerebbe la supervisione in un esercizio controllato dall’azienda, mentre i sostenitori della responsabilità dei laboratori si chiedono se i controllori esterni siano la risposta giusta. La controversia emergente non riguarda la necessità di sottoporre l’IA di frontiera a scrutinio, ma chi debba condurlo — e a quali condizioni.
Il dibattito ha subito un’accelerazione nel fine settimana, quando l’amministratore delegato di Anthropic, Dario Amodei, ha proposto di concedere a valutatori terzi un “accesso simile a quello dei dipendenti” per ispezionare i modelli di frontiera e il loro sviluppo. L’amministratore delegato di OpenAI Sam Altman, Satya Nadella di Microsoft e altri hanno sostenuto pubblicamente il concetto generale, portando una comunità un tempo poco nota di tester dell’IA al centro del dibattito dell’industria sulla sicurezza.1
Venerdì, l’AI Evaluator Forum — sostenuto da oltre 100 esperti, tra cui Geoffrey Hinton e Stuart Russell — ha risposto con un elenco di requisiti non negoziabili. La sua posizione è stata netta: il solo accesso non è supervisione. I valutatori devono disporre di “obiettività scientifica, trasparenza, indipendenza e solide protezioni contro le interferenze” delle aziende che valutano.2
Il gruppo vuole controllori in grado di parlare direttamente e senza filtri ai consigli di amministrazione aziendali, pubblicare i risultati con oscuramenti limitati in modo restrittivo e ricevere gli stessi sistemi, dati, strumenti e accesso fisico pertinenti disponibili al personale interno senior addetto ai rischi. Chiede inoltre più valutatori con competenze diverse, anziché un unico arbitro approvato dal laboratorio.
Conrad Stosz, che presiede il forum, ha descritto l’iniziativa come un tentativo di stabilire principi condivisi di base, non di prescrivere un unico modello normativo. Ma il firmatario Vinh Nguyen ha formulato la posta in gioco in termini più netti: quando una manciata di laboratori controlla capacità che potrebbero minacciare la cybersicurezza, le infrastrutture critiche e l’economia, “il governo e il pubblico non possono dipendere dal resoconto degli stessi laboratori su ciò che è protetto e sicuro”.1
La spinta ha incontrato resistenza da figure allineate all’approccio deregolamentatore dell’amministrazione Trump. David Sacks ha amplificato le critiche a quello che è stato descritto come il “controllore dell’IA scelto personalmente da Anthropic”, affermando che i suoi legami con l’altruismo efficace sono motivo per considerarlo “una barzelletta totale”.
3 In una condivisione separata, Sacks ha rilanciato un principio concorrente: “Il modo migliore per regolamentare la frontiera è ritenere i laboratori pienamente responsabili del comportamento dei loro modelli”.4
Questo lascia una linea di frattura fondamentale. I valutatori affermano che un accesso esterno credibile può integrare le salvaguardie interne; gli scettici sostengono che la responsabilità diretta — non una nuova categoria di monitor integrati — dovrebbe costringere i laboratori a rispondere dei rischi che creano.