La spinta di Anthropic a rendere tracciabile il materiale generato da Claude sta trasformando una misura di trasparenza in un argomento più acceso sulla paternità dei contenuti. I segni possono essere invisibili, ma l’ansia che li circonda non lo è.

La disputa è iniziata con i nuovi obblighi di trasparenza dell’AI Act dell’UE, entrati in vigore il 2 agosto, che richiedono ai provider di rendere il materiale generato o manipolato dall’IA rilevabile dalle macchine. Anthropic ha dichiarato che i nuovi modelli Claude apporranno una filigrana al testo e allegheranno metadati di provenienza C2PA ai file supportati a livello globale, con i modelli precedenti a seguire.¹

Anthropic ha poi cercato di spiegare che il sistema di filigrana del testo non è un carattere nascosto o un tag visibile. Utilizza una versione del metodo SynthID-Text di Google DeepMind: quando Claude ha diverse scelte di parole ugualmente plausibili, un pattern con chiave modella queste selezioni a basso rischio. L’azienda afferma che i lettori non noteranno alcuna differenza e che il risultato risponde solo a una domanda limitata: “Qual è la probabilità che questo sia stato scritto in parte da Claude?”²

Questa precisazione ha fatto ben poco per placare il contraccolpo. I critici sostengono che una marcatura a livello di modello possa offuscare la linea di demarcazione tra un documento scritto da Claude e uno semplicemente passato attraverso di esso per traduzione, formattazione o revisione. Ars Technica ha avvertito che Claude potrebbe imprimere il marchio “esattamente sul contenuto che la legge è stata scritta per lasciare intatto”, dato che le linee guida UE esentano la normale modifica assistita che non altera in modo sostanziale il testo dell’utente.³

Alcuni abbonati a Claude hanno risposto andandosene. Gli utenti che hanno annullato l’iscrizione hanno detto a Business Insider di temere che un segnale persistente nel codice o nel lavoro per i clienti possa sollevare interrogativi sulla conformità, sulla proprietà e su quanto del lavoro fosse realmente loro. Un consulente ha riassunto la frustrazione in modo brutale: “Anche se modifichi il tuo stesso lavoro che hai scritto tu, loro aggiungono comunque la filigrana.”⁴

I sostenitori vedono la stessa funzione come una forma di trasparenza attesa da tempo. Sostengono che lettori, datori di lavoro e piattaforme dovrebbero poter distinguere il pensiero di una persona dall’output di un chatbot—e che le etichette potrebbero contribuire a impedire che i futuri sistemi di IA si addestrino su un bacino sempre più ampio di testo sintetico. Il problema centrale è che entrambi gli schieramenti riconoscono la necessità di una migliore provenienza; non sono d’accordo sul fatto che il segnale di Claude possa fornirla senza gettare ingiustamente sospetti sul lavoro umano.⁵