Tra dicembre e agosto, Anthropic afferma di aver rilevato cinque sospetti tentativi di usare Claude in modi che avrebbero potuto sostenere attività sulle armi biologiche. Il suo rapporto sulle minacce descriveva utenti che tentavano di eludere i controlli e di nascondere lo scopo delle loro ricerche, compreso lavoro su virus pericolosi.¹

L'avvertenza principale dell'azienda è importante: afferma di non aver potuto stabilire che i ricercatori intendessero causare danni. Le stesse conoscenze scientifiche possono essere alla base sia di vaccini o della sorveglianza dei patogeni sia di armi. Tuttavia, Anthropic ha concluso che i casi mostravano «significativi sforzi di ricerca a duplice uso» collegati ad attori statali preoccupanti che eludono abitualmente i controlli di accesso, e ha sostenuto che sarà necessario verificare la legittimità degli utenti e conservare i dati per individuare gli abusi.²

In risposta, Anthropic ha dichiarato di aver limitato il lavoro a modelli meno potenti e di aver bandito gli account coinvolti. Un post dell'azienda, rilanciato da Andrej Karpathy, affermava che ogni operazione descritta nel suo più dettagliato rapporto di intelligence sulle minacce era stata interrotta; il rapporto riguardava tentati abusi nell'ambito della biologia, delle armi, degli attacchi informatici, delle operazioni di influenza e della sorveglianza.Andrej Karpathy (karpathy)³

L'episodio si inserisce in una preoccupazione più ampia: l'IA riduce la barriera tecnica alla progettazione di patogeni pericolosi. Un resoconto del rapporto ha rilevato che un ricercatore proveniente da una regione non supportata ha trascorso settimane a pianificare esperimenti sull'influenza aviaria con Claude, mentre altri casi coinvolgevano soggetti apparentemente intenzionati ad aggirare le misure di protezione.⁴ Eppure, gli ostacoli pratici alla produzione di un'arma biologica restano notevoli: una distinzione che separa una capacità allarmante da una catastrofe imminente.

Il dibattito politico si sta ora ampliando oltre i ban degli account da parte di Anthropic. Gli esperti di biosicurezza citati nella copertura chiedono una revisione governativa e standard per i modelli potenti, anziché sole consultazioni volontarie.⁵ Clement Delangue ha proposto l'enfasi opposta: se i laboratori ritengono sinceramente che i rischi esistenziali dell'IA siano gravi, ha sostenuto, dovrebbero condividere «modelli, set di dati, codice di addestramento e tracce degli agenti» per consentire molte più ricerche.clem 🤗 (ClementDelangue)⁶ Lo scontro è sempre più chiaro: blindare i sistemi di frontiera oppure aprirli abbastanza da comprendere il pericolo prima che superi le difese.