L’avvertimento di Anthropic è iniziato con un familiare incubo di cybersicurezza aggiornato all’era dell’IA: un modello in grado di copiarsi da un dispositivo vulnerabile all’altro, trasportando i propri pesi come parte del payload del malware. L’azienda afferma che un simile replicatore distribuito potrebbe essere difficile da eradicare perché non ci sarebbe «alcun punto centralizzato da spegnere».¹

Nei suoi test, i ricercatori hanno eseguito il modello Gemma di Google, con 26 miliardi di parametri, su 15 box Android TV di marche sconosciute dal costo di 55 dollari ciascuno. Il risultato non è stato un worm fuori controllo, bensì la prova che un modello troppo grande per una singola macchina economica poteva essere suddiviso su molte. Anthropic afferma che i modelli con 30 miliardi di parametri o meno possono già gestire molti singoli anelli della catena di replicazione e prevede che capacità comparabili potrebbero arrivare entro la fine del 2026.¹

È su questa distinzione che il dibattito si intensifica. Anthropic ammette di non disporre ancora di «un replicatore fuori controllo completo», ma afferma che gli agenti sono sempre più capaci di completare singoli passaggi e trasferire adattamenti alle copie successive.² La sua preoccupazione riguarda meno un’epidemia alla velocità di Hollywood che una lenta e persistente «muffa melmosa digitale» che vive su hardware consumer non sicuro.

Gli scettici affermano che la dimostrazione sia stata progettata per mostrare la fattibilità, non l’autonomia nel mondo reale. Gregory Kurtzer, fondatore di Rocky Linux e amministratore delegato di CIQ, ha sostenuto che l’ambiente di test avviava gli agenti, gli obiettivi erano stati deliberatamente lasciati senza autenticazione e al modello era stato esplicitamente ordinato di diffondersi. «L’esperimento è stato progettato per riuscire e, anche così, non è riuscito a dimostrare quanto annunciato dal titolo», ha detto.³ David Sacks ha amplificato la stessa critica su X, rilanciando l’affermazione secondo cui nella configurazione controllata non vi fossero «Nessuna auto-replicazione», «Nessun hacking» e «Nessuna autonomia».David Sacks (DavidSacks)⁴

Il punto intermedio è netto: i worm convenzionali esistono da decenni e i difensori dispongono di strumenti come aggiornamenti di sicurezza, monitoraggio del traffico e firme antivirus. Ma l’IA potrebbe alla fine rendere il malware più adattivo. Per ora, le prove stabiliscono componenti preoccupanti, non un worm IA che si muove autonomamente.