La proposta di Anthropic per rendere il testo generato dall’IA più facile da individuare ha aperto una domanda ancora più spinosa: quando un chatbot si limita ad aiutare a rifinire il lavoro di qualcuno, chi viene etichettato come autore?

L’azienda ha iniziato a incorporare un “watermark impercettibile” nel testo proveniente dai modelli Claude supportati rilasciati dopo il 2 agosto, presentando l’adozione come parte dei suoi impegni ai sensi dell’AI Act dell’UE. Il sistema riprende il metodo SynthID-Text di Google DeepMind: Claude compie scelte statisticamente strutturate tra parole a basso impatto ed egualmente plausibili, lasciando un segnale invisibile ai lettori ma rilevabile tramite una chiave.¹

Anthropic sostiene che il marchio non altera l’esperienza di lettura né definisce la titolarità. Afferma che il watermarking “non ha impatto sulla qualità dell’output di Claude” e che un watermark si limita a verificare se Claude potrebbe aver generato o elaborato del materiale—non chi lo possiede o chi ne è responsabile.² Per la semplice revisione di bozze, afferma l’azienda, potrebbe esserci poco a cui il marcatore possa agganciarsi, perché la maggior parte delle parole restano dell’utente.

Questa rassicurazione non ha placato i critici. Un’analisi delle norme UE ha rilevato che l’articolo 50(2) esenta la normale attività di editing che non modifica sostanzialmente le parole o il significato di un utente, sollevando interrogativi sul fatto che l’approccio globale di Anthropic vada oltre quanto richiesto da Bruxelles. Caroline De Cock lo ha definito “un bisturi per catturare deepfake e generazione sintetica di massa” sostituito da “una mazza che colpisce la semplice revisione di bozze e la traduzione.”³

La disputa è pratica oltre che filosofica. I sostenitori vedono un utile controllo sull’uso non dichiarato dell’IA nei compiti scolastici, nelle candidature di lavoro e nei post online. I detrattori temono che un risultato positivo venga trattato come prova che Claude abbia scritto tutto, mettendo potenzialmente a rischio lavori per i clienti, posizione accademica o rivendicazioni di copyright. Come ha avvertito il CEO di Deepset, Milos Rusic, i watermark possono essere prove, ma non dovrebbero diventare “un giudizio automatizzato sulla paternità o sulla cattiva condotta.”³

Gli sviluppatori hanno già messo alla prova i limiti del sistema. Un rimuovitore open source riscrive il testo per interrompere il pattern di scelta delle parole; il suo creatore, Guillaume Meyer, dice di sostenere l’attribuzione ma si oppone a una tecnologia che “tratta la paternità come una cosa binaria.”⁴ I ricercatori affermano che una riscrittura massiccia può sempre sconfiggere un watermark—lasciando Anthropic intrappolata tra una norma di trasparenza che deve rispettare e un’etichetta che gli utenti potrebbero né fidarsi né riuscire a mantenere.