Fonte:https://www.corriere.it/tecnologia/26_ottobre_07/attenti-a-farvi-scrivere-tutto-da-chatgpt-openai-introduce-textgrain-filigrana-invisibile-per-scovare-i-testi-del-chatbot-de4608a0-55bd-4510-930e-f48a48117xlk_amp.shtml
Nelle prossime settimane, una risposta abbastanza lunga generata da ChatGPT nell’Unione Europea potrà portarsi dietro una firma che non si vede. Niente caratteri nascosti da scovare con qualche trucco, nessuno spazio misterioso incollato tra due parole: il segnale sarà infilato direttamente nelle scelte linguistiche compiute dal modello.
OpenAI lo ha chiamato textGrain e ha annunciato che verrà introdotto gradualmente negli output di testo idonei di ChatGPT e Codex nell’UE. Dallo stesso giorno i clienti delle API possono già attivarlo, su alcuni modelli, anche fuori dall’Europa; in quel caso resta opzionale e disattivato per impostazione predefinita.
L’obiettivo è adeguarsi alle nuove regole sulla trasparenza dell’AI Act, applicabili dal 2 agosto 2026, che chiedono ai fornitori di sistemi generativi di rendere i contenuti prodotti o manipolati dall’intelligenza artificiale riconoscibili anche attraverso marcature leggibili dalle macchine. La Commissione europea prevede però eccezioni e distingue con una certa cura tra testo interamente generato, semplice assistenza editoriale e contenuti sottoposti a controllo umano.
La filigrana è nelle parole, non sotto le parole
Il meccanismo è più sottile di quanto suggerisca la parola watermark. Durante la generazione di un testo, un modello linguistico ha davanti diverse parole o porzioni di parola plausibili e assegna a ciascuna una probabilità. textGrain interviene su questa scelta introducendo uno schema statistico legato a una chiave segreta.
Nel rapporto tecnico pubblicato insieme all’annuncio, i ricercatori descrivono un sistema che modifica il campionamento dei token mantenendo sotto controllo la perdita di variabilità del testo. Un rilevatore dotato della stessa chiave può poi verificare se quelle scelte linguistiche seguono lo schema atteso più spesso di quanto accadrebbe per caso.
Per chi legge, insomma, non cambia nulla di visibile. Copiare il testo su Word, incollarlo in una mail o togliere la formattazione non fa comparire alcun marchio perché non esiste un carattere da cancellare. OpenAI precisa che textGrain non aggiunge spazi invisibili, punteggiatura anomala o token creati apposta per il watermark.
Più il testo viene riscritto, più la traccia si indebolisce
Qui la faccenda diventa meno comoda per chi immagina una specie di metal detector universale per i compiti scritti con ChatGPT. Nei test pubblicati da OpenAI, impostando il rilevatore per avere un tasso obiettivo di falsi positivi dell’1%, il watermark è stato riconosciuto in circa l’80% dei testi di 200 token e nel 95% di quelli da 400 token per contenuti come le risposte di argomento psicologico. Nei testi matematici, dove il modello ha molta meno libertà nella scelta delle parole, i risultati sono peggiori. Sono inoltre valutazioni effettuate in condizioni controllate e OpenAI avverte esplicitamente che non descrivono automaticamente ciò che accadrà in ogni situazione reale.
Basta poi cominciare a mettere mano al testo. In un test su passaggi di 400 token, sostituendo con sinonimi il 10% delle parole, il rilevamento è sceso da circa il 92% al 66%. Con il 25% delle parole sostituite, è precipitato al 17%. Traduzioni e riscritture più profonde possono indebolire ulteriormente il segnale.
C’è anche la lingua. OpenAI ha verificato che le prestazioni cambiano tra i 24 idiomi ufficiali dell’Unione Europea e sta regolando l’intensità della filigrana proprio perché alcune lingue lasciano al modello più spazio di manovra di altre. Quindi quel 95% non va preso, trasportato su qualsiasi testo italiano e trasformato in una sentenza.
Se textGrain trova qualcosa, non sa chi ha scritto il testo
Anche un risultato positivo dice molto meno di quanto potrebbe sembrare.
Secondo OpenAI, il watermark può indicare che un suo sistema ha generato o elaborato almeno una parte del testo. Non può stabilire chi abbia utilizzato ChatGPT, quale account lo abbia fatto, quale prompt sia stato scritto né quale conversazione abbia prodotto quelle parole. Non misura nemmeno quanto lavoro umano sia arrivato dopo: un testo generato e poi riscritto, corretto e verificato da una persona può continuare a contenere parte del segnale.
Non stabilisce neppure chi sia l’autore in senso giuridico, chi possieda il testo o se ciò che c’è scritto sia vero. E vale anche il ragionamento opposto: nessun watermark rilevato non significa automaticamente testo umano. Potrebbe essere troppo breve, modificato, tradotto, prodotto prima dell’introduzione di textGrain, generato con un modello non coperto oppure provenire da un’altra azienda.
Per questo il rilevatore dei testi, almeno all’inizio, non verrà messo liberamente online. OpenAI sta accettando richieste da ricercatori e organizzazioni specializzate e valuterà gli accessi caso per caso. Il rischio è piuttosto evidente: un falso positivo usato come prova definitiva per accusare uno studente, un dipendente o un autore avrebbe conseguenze ben più concrete di una percentuale sbagliata su un grafico.
L’AI Act non impone un’etichetta su ogni testo toccato da ChatGPT
C’è poi una distinzione importante, soprattutto per chi usa l’intelligenza artificiale nel lavoro editoriale.
L’AI Act impone ai fornitori, quindi alle aziende che sviluppano i sistemi, di predisporre marcature leggibili dalle macchine per i contenuti sintetici. Per chi invece utilizza questi strumenti professionalmente e pubblica testi su questioni di interesse pubblico, l’obbligo di mostrare chiaramente che il contenuto è stato generato o manipolato dall’AI riguarda i testi che non hanno subito una revisione umana o un controllo editoriale, secondo le indicazioni della Commissione europea.
Una revisione sostanziale svolta da una persona competente, con verifica delle informazioni e responsabilità editoriale sul contenuto, può quindi rientrare nell’esenzione prevista. Una semplice correzione automatica di grammatica e refusi, invece, non basta a trasformarsi magicamente in controllo editoriale.
La Commissione precisa inoltre che l’obbligo tecnico di marcatura non si applica quando il sistema svolge soltanto una funzione assistiva di normale editing. Anche i frammenti molto brevi e il codice hanno regole specifiche, perché proprio lì un watermark statistico dispone di troppo poco spazio per funzionare decentemente.