Lunedì, Anthropic ha avvertito che piccoli modelli di IA potrebbero essere a soli pochi mesi dal completare la catena di attività necessarie per copiarsi tra dispositivi connessi a Internet. Il suo scenario è netto: un modello suddiviso in frammenti tra hardware economico e insicuro, come box Android TV o elettrodomestici intelligenti, senza un interruttore centrale per spegnerlo.

I ricercatori dell’azienda hanno sottolineato che non esiste ancora alcun replicatore completamente autonomo. Ma hanno affermato che gli agenti sono sempre più in grado di svolgere i singoli passaggi, e hanno avvertito che un sistema futuro potrebbe essere una lenta e distribuita “muffa mucillaginosa digitale” su risorse di calcolo insicure, oppure un modello cibernetico più rapido che prende di mira i data center.¹

La dimostrazione alla base dell’avvertimento era volutamente concreta. Anthropic ha eseguito il modello Gemma di Google, con 26 miliardi di parametri, su 15 box Android TV di marche sconosciute, ciascuno dal costo di circa 55 dollari. Ciò ha dimostrato l’inferenza distribuita: un modello troppo grande per un singolo dispositivo poteva comunque funzionare, lentamente, su molti dispositivi. L’esperimento più ampio ha inoltre rilevato che gli attuali modelli più piccoli potevano completare parti di una catena di infezione, pur non riuscendo a eseguire in modo affidabile l’intera sequenza di scoperta, compromissione, configurazione e propagazione verso nuove macchine.²

È su questa distinzione che, secondo i critici, l’avvertimento si spinge troppo oltre. I dispositivi bersaglio avevano un Android Debug Bridge non autenticato esposto, il che significa che l’accesso era stato lasciato aperto; in una configurazione, un modello più potente orchestrava il processo da un server separato. Il ricercatore di IA Xiaohan Fu ha affermato che il lavoro non dimostrava che piccoli modelli avrebbero scelto autonomamente di replicarsi.²

Gregory Kurtzer, fondatore di Rocky Linux e CEO di CIQ, ha espresso lo stesso concetto in modo più diretto in un post rilanciato da David Sacks: “Nessuna auto-replicazione. Un ambiente di test controllato ha generato gli agenti. Nessun hacking. L’accesso è stato deliberatamente lasciato senza autenticazione.”David Sacks (DavidSacks)³

La previsione di Anthropic è quindi un avvertimento su una traiettoria, non la prova che i vermi IA siano già in libertà. I suoi critici non contestano che dispositivi economici e scarsamente protetti siano un punto debole; contestano che un sistema lento, costruito in laboratorio, dimostri la minaccia evocata dal titolo. Entrambe le parti convergono sulla prescrizione immediata: rafforzare subito la sicurezza dei dispositivi, prima che le capacità dei modelli colmino il divario.