Fatta la legge, trovato l’inganno, dicevano i nostri nonni. Ad esempio: sostituire con sinonimi il 10% delle parole di un brano di 400 token porta il tasso di rilevamento della filigrana di OpenAI da circa il 92% al 66%. Con il 25% di parole cambiate il rilevamento scende al 17%. Sono i numeri forniti dell’azienda stessa, resi noti insieme all’annuncio dello scorso lunedì 5 ottobre.
Nelle prossime settimane ChatGPT e Codex inizieranno a marcare con textGrain i testi idonei prodotti nell’Unione europea. Quasi negli stessi giorni, in Francia, è bastato il giudizio di un software (peraltro di intelligenza artificiale) per togliere un romanzo dalla corsa a un premio e rovinare (o quasi) la carriera di uno scrittore. Ma andamo in ordine, perché l’argomento è più complesso di quel che sembra.
Un segnale nelle scelte lessicali
Cominciamo a spiegare cosa fa adesso l’azienda di Sam Altman. OpenAI descrive textGrain come un segnale statistico che altera in modo impercettibile le scelte di parole del modello. Il lettore non vede alcuna etichetta: un rilevatore verifica se il brano segue lo schema definito da una chiave segreta. Proprio come aveva annunciato questa estate Anthropic che vuole mettere il watermark, la filigrana, alle frasi scritte da Claude.
La spinta viene dall’articolo 50 del regolamento europeo sull’intelligenza artificiale (AI Act), applicabile dal 2 agosto 2026, che impone ai fornitori di marcare i contenuti sintetici, testo compreso, in modo leggibile da una macchina. I sistemi già sul mercato hanno tempo fino al 2 dicembre.
La filigrana per l’Unione europea riguarda gli utenti di ChatGPT con qualunque piano. I clienti delle API nel resto del mondo potranno attivarla su alcuni modelli, ma resta spenta per impostazione predefinita. Ovviamente la filigrana deve essere “segreta” e quindi è necessario uno strumento per poterla rilevare, altrimenti non servirebbe a nulla. All’inizio il rilevatore sarà riservato a ricercatori e organizzazioni di esperti approvati, e OpenAI dice di voler rilasciare textGrain come software open source. Nel 2024 l’azienda ne aveva sviluppata una e aveva scelto di non distribuirla.
Anthropic aveva già aperto la strada
Ad agosto, come abbiamo detto, Anthropic ha annunciato una filigrana per i testi di Claude, applicata ai modelli supportati su scala globale e non solo per gli utenti europei, con una variante di SynthID-Text di Google DeepMind, secondo Campus Technology. Anche Google marca già i testi con SynthID, e OpenAI sostiene che textGrain lo abbia eguagliato o superato nei test interni. Le strade secondo gli analisti differiscono per ampiezza, ma la direzione è la stessa: i grandi laboratori adottano la stessa tecnica perché una norma la richiede.
Quello che la filigrana non può dire però è cosa è successo veramente a un testo. OpenAI, infatti, avverte che il rilevamento può sbagliare e che modificare o tradurre un testo indebolisce il segnale. Una filigrana, precisa l’azienda, non identifica l’utente, non rivela i prompt, non verifica l’accuratezza né stabilisce la proprietà del testo, e la sua assenza non dimostra che il testo sia umano.
Il segnale è quindi asimmetrico: può suggerire che un brano sia passato da un modello, non può certificare che sia stato scritto da una persona, e dice sempre meno quanto più il testo viene rimaneggiato.
Facciamo degli esempi. Per chi usa l’AI soltanto per la revisione finale, con correzioni grammaticali, punteggiatura, una frase da riformulare, la situazione diventa molto scomoda. Quello che è sostanzialmente un correttore ortografico avanzato si trasforma in un pericoloso strumento che potrebbe provocare dei guai all’autore umano. Infatti, il modello restituisce il testo parola per parola, e ciò che restituisce può portare il segnale della filigrana. OpenAI non spiega come textGrain si comporti con una pagina umana ritoccata dalla macchina, né quale quota di parole basti a farlo scattare. Stando ai suoi test, l’unico modo di far sparire la traccia è lavorare di più sul testo, cioè faticare per dimostrare di non aver usato lo strumento. Riscriverlo, praticamente. Ma non tutto, perché basta relativamente poco per annullare l’effetto dei rilevatori. O almeno, così sembrerebbe.
Il romanzo escluso
Il caso più clamoroso di questi ultimi tempi è quello di Thélyson Orélien, autore haitiano-canadese del romanzo C’était ça ou mourir, pubblicato da Grasset in Francia e da Les Éditions du Boréal in Quebec. Il libro, secondo le cronache, ha venduto circa 65mila copie in Francia e ha accordi di traduzione in oltre 20 paesi.
A fine settembre un account anonimo su X ha diffuso i risultati di Pangram, che indicavano il testo come generato dall’AI al 100%, e l’Académie Goncourt ha tolto il romanzo dalla corsa. Ma è veramente così? L’agenzia France-Presse ha provato altri sette rilevatori, con risultati contraddittori, da testo interamente artificiale a interamente umano.
Tra l’altro, Orélien nega: dice di aver scritto la prima bozza nel 2019 e di attingere a una tradizione letteraria haitiana e caraibica fatta di ritmo, ripetizione e immagini. I pattern che possono essere scambiati per filigrana, cioè, sono invece parte della modalità di scrittura.
Grasset ha quindi respinto le accuse come calunnie. Tuttavia, nel frattempo sono emerse separatamente anche accuse di plagio su testi precedenti (articoli di giornale copiati da altri articoli precedenti). Per quanto riguarda la vicenda principale, cioè il libro, secondo l’analisi di Plagiarism Today, l’unica prova resta Pangram, un genere di strumenti già accusato di falsi positivi. E non è certamente l’unico caso.
In Nuova Zelanda, a novembre 2025, gli Ockham New Zealand Book Awards avevano squalificato Stephanie Johnson ed Elizabeth Smither dal premio Jann Medlicott Acorn per la narrativa per le copertine generate dall’AI, con una regola introdotta ad agosto 2025, e l’editore aveva obiettato che le copertine erano precedenti al divieto (i due libri lo scorso dicembre sono stati poi riammessi).
Chi è l’autore
Francesco D’Isa, filosofo e artista, direttore de L’Indiscreto, in La rivoluzione algoritmica delle immagini (Sossella, 2024) sostiene che tra artista umano e AI non corra un confine ontologico: ogni opera nasce dalla combinazione di elementi disponibili, attraverso trasmissione, ricombinazione e selezione. L’AI, dice in un incontro sul prompting, costringe l’artista a ripensarsi. La polemica del 2023 su Sunyata, narrazione per immagini ideata da D’Isa con Midjourney e pubblicata da Eris Edizioni, si accese anche perché l’uso dell’AI non era stato dichiarato all’inizio.
Il dettaglio indica una strada diversa dal rilevamento. La figura dell’autore come unico proprietario di un testo è una costruzione sociale relativamente recente, legata al diritto d’autore moderno, e in buona sostanza nasconde solo in parte il lavoro di redattori, traduttori, correttori (senza contare i ghost writer o gli editor che strutturano o ristrutturano fortemente l’opera).
Da un altro lato, ci sono programmi di scrittura come iA Writer tracciano già quali parti di un testo vengono dall’utente e quali da ChatGPT o da collaboratori: una dichiarazione esplicita invece di una filigrana nascosta. Spostare il confine dell’autore verso la responsabilità del risultato sarebbe probabilmente più semplice che rincorrere ogni traccia della macchina, e più giusto che mandare sotto accusa le persone che la usano. Cosa succede quando il libro lo scrive l’intelligenza artificiale è una domanda che rimane aperta. Il rilevatore di OpenAI, all’inizio, verrà usato soltanto da entità approvate dall’azienda. Non ci dimentichiamo però che per mettere un romanzo sotto accusa, con Pangram, è bastato un account anonimo su X.
Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di Macitynet.
