OpenAI aggiungerà filigrane invisibili al testo di ChatGPT nell'UE

Il 16 ottobre 2026 OpenAI ha annunciato che inizierà a inserire una filigrana invisibile nel testo prodotto da ChatGPT e Codex nell'Unione Europea. L'azienda ha presentato la modifica come parte del rispetto degli obblighi di trasparenza previsti dall'AI Act europeo e ha dichiarato che, nelle prossime settimane, la funzione sarà attivata per gli utenti idonei di tutti i piani di ChatGPT e Codex nel blocco.

Al lancio la filigrana del testo non sarà attivata di default a livello globale, ha precisato OpenAI. I clienti API di qualsiasi parte del mondo, invece, possono aderire per alcuni modelli selezionati dal 5 ottobre.

Cosa richiede la legge

L'articolo 50, paragrafo 2, dell'AI Act obbliga i fornitori di sistemi di IA generativa a contrassegnare in modo leggibile dalle macchine i contenuti sintetici o manipolati, testo compreso, affinché possano essere rilevati. La Commissione europea afferma che tali misure dovrebbero essere efficaci, interoperabili, robuste e affidabili nella misura in cui sia tecnicamente possibile. Gli obblighi sono in vigore dal 2 agosto 2026. La legge non impone specificamente le filigrane e la Commissione ha predisposto un Codice di buone pratiche volontario; la sua prima sezione, dedicata alla marcatura e al rilevamento, è stata firmata da Anthropic, Google, Meta, Microsoft, Mistral e OpenAI.

Secondo un documento tecnico pubblicato da OpenAI, textGrain non inserisce caratteri nascosti o token aggiuntivi. Il modello, invece, orienta leggermente la scelta delle parole durante la generazione, usando una chiave segreta e il contesto precedente, e lascia uno schema statistico che un rilevatore può successivamente cercare.

Chiari limiti nel rilevamento

OpenAI ha riferito che, con un tasso di falsi positivi target dell'1%, il suo rilevatore ha individuato la filigrana in circa l'80% dei brani di psicologia da 200 token e in circa il 95% di quelli da 400 token. I risultati sono stati molto più deboli per la matematica, dove la formulazione è meno flessibile. Anche le modifiche riducono il segnale: sostituendo il 10% delle parole con sinonimi nei brani da 400 token, il rilevamento è sceso da circa il 92% al 66%, mentre sostituendo il 25% è crollato a circa il 17%.

Citando il rischio di falsi positivi e di filigrane non rilevate, OpenAI limiterà inizialmente il rilevatore a ricercatori approvati e organizzazioni esperte. Il sistema indicherà solo se è presente una filigrana di OpenAI, senza identificare gli utenti né esporre prompt e conversazioni. L'azienda ha sottolineato che il segno è un indicatore di provenienza, non una prova di paternità: non può misurare l'apporto umano, stabilire la proprietà o verificare l'accuratezza, e l'assenza di una filigrana non significa che un essere umano abbia scritto il testo, poiché output brevi, modificati, tradotti o provenienti da terzi possono sfuggire al rilevamento.

OpenAI prevede di rilasciare textGrain come open source. Per immagini e audio utilizza già le Content Credentials basate su C2PA e le filigrane SynthID, e ha affermato che nessun singolo metodo di provenienza è sufficiente da solo.