Anthropic aveva già lanciato l'allarme a febbraio sulla distillazione dei modelli e, a giugno, il suo responsabile delle politiche aveva dichiarato ai legislatori che Alibaba aveva effettuato 28,8 milioni di scambi illeciti con Claude in poco più di sei settimane.¹ L'azienda ora afferma che quello era solo un primo avvertimento.

In un rapporto pubblicato giovedì, Anthropic ha sostenuto che Alibaba, Moonshot AI, DeepSeek, Zhipu e Xiaomi abbiano condotto quasi 190 milioni di tentativi tra maggio e luglio per estrarre capacità da Claude e migliorare i propri sistemi. Ha definito le campagne tentativi sempre più sofisticati di “aggirare le nostre difese e raccogliere le capacità dei modelli di frontiera statunitensi.”²

La più grande presunta operazione è stata attribuita ad Alibaba: 151 milioni di scambi attraverso 3.500 account fraudolenti, usando presumibilmente un prompt fisso per indurre l'estrazione di tracce di ragionamento per la famiglia di modelli Qwen. Anthropic afferma che gli obiettivi includevano programmazione, analisi dei dati, uso di strumenti e ragionamento logico, non semplicemente risposte generiche da chatbot.²

Moonshot e DeepSeek, nel frattempo, sono state accusate di instradare le richieste degli utenti a Claude invece di elaborarle con i propri modelli. Anthropic ha contato 23 milioni di tali reindirizzamenti collegati a Moonshot nel periodo di tre mesi e 12,1 milioni collegati a DeepSeek in soli 14 giorni a luglio. Alcune richieste avrebbero esposto materiale sensibile del governo o delle forze armate cinesi e russe, comprese riprese di sorveglianza inviate da un utente Kimi affiliato al PLA.¹

Le affermazioni si affiancano al più ampio resoconto di Anthropic sull'uso malevolo di Claude. Il 10 settembre, l'azienda ha dichiarato di aver interrotto operazioni legate a sospetti attori cinesi e russi, sostenendo che l'IA veniva utilizzata tramite sistemi multi-agente per ricognizione, sfruttamento e furto di dati anziché per semplici query da chatbot.³ Andrej Karpathy ha amplificato l'annuncio di Anthropic relativo al suo rapporto di threat intelligence, secondo cui l'azienda aveva interrotto ogni operazione descritta.Andrej Karpathy (karpathy)⁴

Anthropic afferma di aver rafforzato il monitoraggio, ridotto il livello di dettaglio nei riepiloghi di ragionamento di Claude e che richiederà la verifica dell'identità agli utenti sospetti che operano dalla Cina, dalla Russia o dall'Iran. Alibaba, Moonshot, DeepSeek, Zhipu e Xiaomi non hanno risposto alle richieste di commento sulle accuse, secondo Business Insider.¹