Il watermark invisibile in arrivo per Claude è pensato per smascherare gli scritti generati dalle macchine. Il problema più difficile potrebbe però essere ciò che rivela—o sembra rivelare—su persone che hanno usato l’IA solo per rifinire il proprio lavoro.

Il cambiamento segue i nuovi requisiti di trasparenza dell’AI Act dell’UE, entrati in vigore il 2 agosto e che impongono ai fornitori di rendere identificabile il contenuto generato o manipolato. Anthropic afferma che i futuri modelli Claude applicheranno marcature leggibili dalle macchine a livello globale, mentre i modelli più vecchi verranno integrati nel sistema in seguito. Il testo porterà un segnale incorporato; i file supportati riceveranno metadati di provenienza C2PA.¹

Il resoconto di Anthropic sulla tecnologia è deliberatamente rassicurante. L’azienda sostiene che il contrassegno non sia testo nascosto né un carattere aggiunto, ma uno schema creato tramite scelte di parole altrimenti di basso impatto. Sostiene che i lettori non saranno in grado di distinguere l’output con watermark dall’output ordinario e che il sistema non contiene alcuna informazione identificativa di un utente, un’organizzazione o una chat.²

L’azienda ammette anche che il rivelatore risponderà a una domanda più ristretta di quanto temano i critici: «Qual è la probabilità che questo sia stato scritto in parte da Claude?»² Il rilevamento diventa meno affidabile in passaggi brevi, materiale fattuale, codice e testo pesantemente riscritto. Nella rappresentazione di Anthropic, una lieve correzione grammaticale può lasciare troppo poco linguaggio scritto dal modello perché il contrassegno venga rilevato; una riscrittura completa può rimuoverlo.

Questa distinzione non ha placato le reazioni. I resoconti sul lancio hanno avvertito che i team di comunicazione che usano Claude per formattare, tradurre o ripulire un comunicato redatto da umani potrebbero comunque ritrovarsi una firma di IA sul documento finale.³ Ars Technica è andata oltre, sostenendo che un sistema a livello di modello non può separare in modo affidabile una generazione completa da «una correzione di virgola», marchiando potenzialmente lavori che le regole UE erano state pensate per esentare.⁴

La disputa quindi non riguarda il fatto che il pubblico meriti segnali più chiari sull’IA. Entrambe le parti accettano questo obiettivo. Il disaccordo è se il segnale di Claude chiarirà la provenienza—o appiattirà ogni grado di assistenza sotto la stessa etichetta sospetta.