Il dibattito ha subito un'accelerazione dopo che l'amministratore delegato di Anthropic, Dario Amodei, ha proposto di concedere a valutatori esterni un accesso simile a quello dei dipendenti allo sviluppo di modelli di frontiera, un approccio sostenuto dall'amministratore delegato di OpenAI Sam Altman e da altre figure del settore. Per i valutatori, tuttavia, l'accesso è solo l'offerta iniziale: affermano che un revisore scelto, pagato o vincolato dall'azienda sottoposta a esame non possa svolgere una funzione di controllo significativa.

Venerdì, l'AI Evaluator Forum e più di 100 firmatari, tra cui Geoffrey Hinton e Stuart Russell, hanno illustrato le loro condizioni minime. La loro lettera chiede che i valutatori dispongano di “obiettività scientifica, trasparenza, indipendenza e solide tutele” dalle interferenze, oltre all'accesso a sistemi, dati, strumenti e personale sensibili paragonabile a quello disponibile per i valutatori interni.¹ Conrad Stosz, presidente del forum, ha affermato che tale accesso potrebbe consentire ai revisori di ispezionare sistemi non rilasciati e dati interni, dando al pubblico maggiore fiducia riguardo ai rischi che i laboratori potrebbero non divulgare spontaneamente.¹

Il modello della coalizione è deliberatamente più esigente di un audit amichevole. Chiede più valutatori con competenze diverse, comunicazione diretta con i consigli di amministrazione, vincoli limitati di riservatezza e il diritto di pubblicare le conclusioni dopo oscuramenti mirati e limitati nel tempo. Insiste inoltre sul fatto che i cani da guardia siano protetti da cause legali ritorsive o tagli ai finanziamenti quando le loro conclusioni mettono in imbarazzo un'azienda ospitante. Secondo quanto riportato sulla lettera, l'amministratore delegato di Microsoft Satya Nadella ha accolto favorevolmente il concetto di valutatore integrato.²

Ma il piano ha immediatamente evidenziato un secondo problema di responsabilità: chi sorveglia i cani da guardia? David Sacks ha amplificato un attacco del New York Post che descriveva il presunto cane da guardia di Anthropic come “scelto personalmente” e legato al movimento dell'Altruismo Efficace, definendo l'accordo “una barzelletta completa”.David Sacks (DavidSacks)³ In una ripubblicazione separata, ha rilanciato l'alternativa di Naval Ravikant: “Il modo migliore per stabilire il ritmo della frontiera è ritenere i laboratori pienamente responsabili del comportamento dei loro modelli.”David Sacks (DavidSacks)⁴

Ciò rende netta la linea di frattura centrale. I valutatori non si presentano come un sostituto del lavoro interno sulla sicurezza o di una supervisione più ampia; vogliono una finestra protetta sui laboratori. I loro critici temono che quella finestra possa semplicemente insediare un altro centro di potere non responsabile.