Anthropic ha silenziosamente portato a Capitol Hill la sua campagna per la sicurezza dell’IA con una bozza di legge che creerebbe un percorso federale ristretto ma significativo per bloccare pericolosi modelli di frontiera.

La proposta consentirebbe un intervento solo quando un modello rappresenta un “rischio prevedibile e imminente” di uccidere o ferire gravemente più di 50 persone, o di causare oltre 1 miliardo di dollari di danni. La minaccia dovrebbe riguardare un’arma biologica, un modello che sfugge ai controlli del suo sviluppatore o un attacco informatico.¹

Anthropic afferma che la bozza traduce in legge i principi che sostiene presso i legislatori federali e statali da giugno. “Sono politiche sensate sulle quali riteniamo che il Congresso dovrebbe agire”, ha dichiarato un portavoce dell’azienda.¹

Secondo la tempistica prevista dalla legge, valutatori indipendenti registrati presso il Dipartimento del Commercio valuterebbero periodicamente i laboratori e i loro modelli. Se riscontrassero un rischio imminente tra quelli elencati, ne informerebbero il Dipartimento del Commercio entro 72 ore. Il Dipartimento del Commercio potrebbe quindi chiedere a un giudice federale di Washington di sospendere il rilascio di un modello — ma nessun’altra agenzia federale potrebbe fermarne unilateralmente lo sviluppo, l’impiego o l’uso interno.¹

Questo impianto è la principale linea di frattura. Una critica sostiene che il quadro trapelato si discosta dal modello di regolatore sullo stile della FAA precedentemente prospettato dal CEO di Anthropic Dario Amodei: i laboratori scriverebbero gli standard che devono rispettare, mentre i sostenitori della sicurezza dell’IA vogliono che sia invece il governo a definirli.² Un’altra avverte che i valutatori potrebbero essere pagati dalle aziende che esaminano, anche se i pagamenti non possono essere legati ai risultati — una disposizione che lascia irrisolta l’apparenza di indipendenza.³

La proposta arriva inoltre nel mezzo di una più ampia corsa del Congresso ad affrontare il rischio catastrofico dell’IA e la preclusione delle leggi statali. Rispecchia le soglie della SB 53 della California, imponendo al contempo quadri di sicurezza, rapporti sulla trasparenza, protezioni per i whistleblower e segnalazione degli incidenti.¹

David Sacks, tuttavia, ha sostenuto che la logica della legge potrebbe andare oltre il suo obiettivo dichiarato. Alcune disposizioni potrebbero essere ragionevoli per le “vere aziende di frontiera”, ha scritto, ma ha avvertito che la bozza potrebbe alla fine comprendere gran parte della Silicon Valley e danneggiare l’ecosistema delle startup.David Sacks (DavidSacks)⁴

Il risultato è un consueto compromesso di Washington: Anthropic offre al governo un freno, ma cerca un sistema in cui l’industria contribuisca ancora a definire quando azionarlo.