Il tentativo di Anthropic di rendere più trasparente il testo scritto dall’IA ha aperto una questione ancora più netta: quando una modifica utile diventa un’etichetta digitale indelebile?

Il 2 agosto, Anthropic ha iniziato ad applicare filigrane leggibili dalle macchine al testo prodotto dai nuovi modelli Claude supportati in tutto il mondo, citando gli impegni di trasparenza previsti dall’AI Act dell’UE. L’azienda afferma che il contrassegno non è un carattere nascosto né un dispositivo di tracciamento degli utenti; è un modello statistico nelle scelte di parole a basso impatto, progettato per indicare solo la probabilità che Claude sia stato coinvolto. «La filigrana non contiene alcuna informazione identificativa e non può essere ricondotta a una specifica persona, organizzazione o chat», ha dichiarato Anthropic.¹

L’argomentazione tecnica del laboratorio è semplice: i lettori non dovrebbero notare alcuna differenza, mentre un rilevamento autorizzato può identificare un modello all’interno di una quantità sufficiente di testo. Anthropic afferma che il suo sistema, basato sull’approccio SynthID-Text di Google DeepMind, non ha effetti pratici su qualità, creatività o leggibilità. Ne riconosce però i limiti: brani brevi, prosa fattuale, codice preciso e testi umani solo leggermente corretti potrebbero contenere un segnale troppo debole per essere rilevato in modo affidabile. «La filigrana si applica solo alle parole scelte da Claude», ha detto l’azienda.¹

Questa distinzione non ha placato le reazioni. I critici temono che un risultato positivo possa essere trattato come prova di una paternità interamente dell’IA quando Claude si è limitato a tradurre, formattare o modificare un lavoro umano. Un’analisi ha sostenuto che un contrassegno a livello di modello potrebbe marchiare materiale che le norme UE esentano esplicitamente dalla divulgazione, trasformando un controllo grammaticale in un segnale fuorviante di provenienza.² I sostenitori replicano che questa ambiguità è preferibile a un mondo in cui i lettori non possono capire se un testo rifletta in alcun modo il pensiero di una persona; il dibattito si è esteso dalle aule scolastiche e dalle candidature di lavoro fino al diritto d’autore e alla deontologia professionale.³

Poi è arrivato il prevedibile test da stress. Gli sviluppatori hanno rilasciato rapidamente strumenti che sostengono di ripulire o riscrivere il testo per eliminare il segnale, mentre i ricercatori hanno osservato che una riformulazione sufficientemente estesa può sconfiggere le filigrane testuali. «Ci saranno sempre modi per rimuovere la filigrana», ha dichiarato Thibaud Gloaguen, ricercatore dell’ETH di Zurigo, indicando la riscrittura integrale.⁴ La risposta di Anthropic è un’API di rilevamento in fase di progettazione. Il compito più difficile sarà convincere il pubblico che un contrassegno di Claude indica un coinvolgimento—non un verdetto sulla paternità.