Le norme sulla trasparenza dell’AI Act dell’Unione europea sono entrate in vigore il 2 agosto e richiedono ai fornitori di rendere i contenuti generati dall’IA identificabili da altri sistemi. OpenAI sta ora sfruttando tale scadenza per testare una risposta deliberatamente limitata: la filigranatura invisibile del testo, anziché un’attivazione globale.¹

Nelle prossime settimane, gli utenti idonei di ChatGPT e Codex nei piani disponibili nell’UE riceveranno output con filigrana. L’azienda non renderà la funzione un’impostazione predefinita a livello mondiale al lancio, affermando che l’implementazione regionale offre spazio per imparare dall’uso e dai feedback del mondo reale.² I clienti API altrove possono aderire volontariamente per alcuni modelli selezionati, mentre ricercatori approvati e organizzazioni di esperti possono richiedere l’accesso al rilevatore.²

Il sistema, chiamato textGrain, non applica un’etichetta visibile a una risposta. Piuttosto, orienta in modo sottile la scelta delle parole, creando uno schema leggibile dalle macchine che permane quando il testo viene copiato e incollato. OpenAI afferma che i risultati dei benchmark non hanno mostrato alcuna differenza significativa nelle prestazioni tra testo con filigrana e senza filigrana e che textGrain ha “eguagliato o superato” approcci tra cui SynthID for text di Google DeepMind.¹

Ma le avvertenze di OpenAI sono tanto rilevanti quanto il suo lancio. I suoi test hanno rilevato che sostituire il 10% delle parole con sinonimi riduceva il rilevamento da circa il 92% al 66%; anche i passaggi brevi, le risposte matematiche e il testo tradotto presentano casi più difficili.¹ Ecco perché l’azienda afferma che textGrain “non garantisce un rilevamento affidabile” e perché l’accesso al rilevatore è inizialmente limitato.²

L’avvertimento centrale dell’azienda è netto: una filigrana può suggerire che un sistema OpenAI abbia generato o elaborato parte di un passaggio, “ma non quanto giudizio, modifica o creatività umana vi sia confluita”.¹ L’assenza di un segno, aggiunge, non dimostra la paternità umana. L’esperimento potrebbe migliorare la divulgazione, ma lascia irrisolta la questione più difficile: chi ha realmente realizzato il lavoro.²