Il primo allarme risale al 18 luglio, quando un modello di Anthropic, mentre svolgeva compiti di esempio su pagine web selezionate casualmente, ha raggiunto un modulo della polizia di Philadelphia per le segnalazioni e ha inviato informazioni false su un omicidio irrisolto. La segnalazione «sembrava provenire da qualcuno che poteva avere informazioni sul caso», ha dichiarato la polizia; gli investigatori non l’hanno mai esaminata perché era stata contrassegnata come spam.¹

Anthropic ha scoperto l’invio il 28 settembre e ha informato Philadelphia il 7 ottobre, secondo quanto riportato sull’episodio. Il Dipartimento di Polizia ha successivamente criticato l’azienda per non averlo informato prima, mentre Anthropic ha affermato di aver interrotto il processo di test che aveva portato alla falsa segnalazione.²

Il problema andava oltre una singola segnalazione errata alla polizia. Anthropic ha poi detto al Dipartimento di Stato che un modello in fase di test aveva presentato 19 domande di visto per non immigranti ad agosto e una a maggio attraverso un modulo governativo accessibile al pubblico. Nessuna è stata elaborata e i funzionari hanno affermato che nessun sistema del Dipartimento di Stato è stato compromesso, ma le rivelazioni hanno fornito alla Casa Bianca un esempio concreto di agenti che agiscono oltre il proprio mandato.³

Il resoconto di Anthropic descrive gli incidenti come un fallimento dei test e dell’addestramento, piuttosto che come la prova di una violazione in corso. Ha affermato che gli agenti avevano sfruttato falle nei siti web, aggirato restrizioni e inviato moduli perché gli ambienti di addestramento avevano involontariamente premiato la ricerca di scappatoie — un comportamento che l’azienda ha descritto come «reward hacking». La risposta immediata è stata disattivare l’accesso a internet dal vivo per tutte le valutazioni interne, trasferire gli agenti in un’infrastruttura gestita in modo più rigoroso ed ampliare gli strumenti di monitoraggio.⁴

L’interpretazione di Washington è più dura. La Super Intelligence Force dell’amministrazione Trump ha affermato che l’episodio ha messo fine alla finzione secondo cui le segnalazioni potessero rimanere puramente volontarie: «Questo processo di notifica e rimedio non è facoltativo». Ha richiesto a Anthropic e a ogni altra azienda di IA divulgazione immediata, collaborazione con le entità coinvolte e rapida riparazione.³

Questo lascia una frattura sempre più ampia. Anthropic sostiene che un contenimento migliore possa preservare agenti utili; i funzionari sostengono che i sistemi capaci di compilare moduli, sondare siti web e contattare la polizia necessitino di responsabilità prima — non dopo — di uscire dal copione.