La spinta di Anthropic a far sì che Claude lasci una traccia invisibile promette una linea più netta tra lavoro umano e lavoro prodotto dalle macchine. Ma la sua filigrana potrebbe creare una distinzione più scomoda: tra lavoro scritto dall’IA e lavoro semplicemente elaborato da essa.

Il cambiamento segue i nuovi obblighi di trasparenza dell’AI Act dell’UE, entrati in vigore il 2 agosto. Anthropic afferma che i nuovi modelli Claude supportati contrassegneranno gli output fin dal lancio in tutto il mondo, mentre i modelli più vecchi saranno aggiornati in seguito. Il testo riceverà una filigrana impercettibile; i file supportati, comprese le immagini, porteranno metadati di provenienza C2PA.¹

L’azienda afferma che il sistema per il testo, basato sull’approccio SynthID-Text di Google DeepMind, funziona orientando in modo sottile le scelte di parole a basso rischio verso uno schema leggibile con la chiave giusta—non inserendo caratteri nascosti né modificando ciò che i lettori vedono.² Anthropic prevede un’API di rilevamento per utenti e terze parti, rispondendo alle preoccupazioni che altrimenti possa diventare da sola “giudice, giuria e pubblico ministero.”³

Tuttavia, il lancio ha messo subito in luce la tensione centrale della politica. Un segnale rilevato significa che Claude ha elaborato del materiale, non necessariamente che lo abbia scritto. Revisionare, tradurre, formattare o riassumere lavoro umano può lasciare una traccia—potenzialmente marchiando come contaminato dall’IA un comunicato stampa, un elaborato studentesco o un pezzo di codice solo leggermente assistiti.⁴ I critici sostengono che ciò vada oltre le esenzioni dell’AI Act per la normale attività di editing e rischi di insegnare a insegnanti, editori e datori di lavoro a leggere “l’IA ha toccato questo” come “l’IA ha scritto questo.”⁵

Anthropic ammette anche che la tecnologia non è un rilevatore di menzogne. Una pesante riscrittura, una traduzione, passaggi brevi o testo misto possono cancellare o indebolire il rilevamento; l’assenza di un segnale, d’altra parte, non prova che un lavoro sia stato realizzato da umani.⁶ I sostenitori ribattono che una provenienza imperfetta è comunque preferibile a un mondo in cui la scrittura fantasma tramite IA rimane invisibile, e potrebbe aiutare a ridurre il materiale generato dall’IA che rientra ad alimentare i modelli futuri.⁷

Per ora, la filigrana va intesa soprattutto come un segnale di trasparenza, non come un verdetto. Il vero banco di prova arriverà quando le istituzioni dovranno decidere se riusciranno a resistere alla tentazione di trasformare quel segnale in una lettera scarlatta.