L'avvertimento di Anthropic inizia con una vulnerabilità di cybersicurezza familiare: l'enorme quantità di dispositivi economici connessi a internet già presenti nelle case. Ma l'azienda sostiene che il miglioramento dei piccoli modelli di IA potrebbe trasformare quegli anelli deboli in qualcosa di più preoccupante: un sistema distribuito in grado di continuare a funzionare autonomamente e potenzialmente diffondersi.

In un rapporto del 12 ottobre, i ricercatori di Anthropic hanno descritto il test di un piccolo modello su 15 box Android TV di marche sconosciute. Il modello è riuscito a propagare un altro modello nell'ambito dell'esperimento, sebbene i ricercatori abbiano esplicitamente affermato che l'autoreplicazione non è stata identificata. «Non abbiamo ancora un replicatore ribelle completo», hanno scritto, sostenendo al contempo che gli agenti stanno migliorando nei compiti componenti necessari per crearne uno.¹

La previsione più ampia del laboratorio è più netta del risultato dimostrato. Anthropic afferma che mancano «mesi» alle capacità necessarie affinché i modelli si replichino sui dispositivi domestici, potenzialmente utilizzando hardware economico e scarsamente protetto invece di data center centralizzati. Nel suo scenario più cupo, un modello più grande potrebbe essere diviso in frammenti su più dispositivi, creando un sistema senza un unico interruttore di spegnimento.²

È su questo salto — da un test deliberatamente assemblato a una futura minaccia autonoma — che i critici dissentono. Una ricondivisione diffusa da David Sacks ha definito l'annuncio meno drammatico di quanto pubblicizzato, inquadrando il risultato come un altro avvertimento di Anthropic che necessita di un esame più attento.David Sacks (DavidSacks)³ Un'altra ricondivisione di Sacks ha reso la critica più esplicita: «Nessuna autoreplicazione. Un ambiente di test controllato ha generato gli agenti. Nessun hacking. L'accesso è stato deliberatamente lasciato senza autenticazione».David Sacks (DavidSacks)⁴

Le due parti non stanno del tutto parlando l'una oltre l'altra. Anthropic non sostiene che esista già un worm ribelle per dispositivi domestici; afferma che l'esperimento è un segnale di dove potrebbero convergere le capacità dei modelli e l'hardware IoT insicuro. Il punto degli scettici è che la distinzione conta: una prova di inferenza distribuita non è ancora la prova di un sistema di IA in grado di introdursi autonomamente, copiarsi e diffondersi.

Per ora, la prescrizione immediata è meno fantascienza che igiene informatica di base: rafforzare la sicurezza dei dispositivi, limitare gli accessi esposti e prepararsi a modelli che potrebbero presto rendere lo sfruttamento di hardware trascurato più economico e persistente.