OpenAI voegt onzichtbare watermerken toe aan ChatGPT-tekst in de EU

OpenAI kondigde op 16 oktober 2026 aan dat het in de Europese Unie een onzichtbaar watermerk gaat aanbrengen in in aanmerking komende tekst die door ChatGPT en Codex wordt geproduceerd. Het bedrijf schaart de wijziging onder de naleving van de transparantieverplichtingen uit de AI Act van de EU. Volgens OpenAI wordt de functie de komende weken uitgerold naar in aanmerking komende gebruikers op elk ChatGPT- en Codex-abonnement binnen het blok.

Tekstwatermerken worden bij de lancering volgens OpenAI niet wereldwijd standaard ingeschakeld. API-klanten overal ter wereld kunnen het echter sinds 5 oktober voor geselecteerde modellen al inschakelen.

Wat de wet vereist

Artikel 50, lid 2, van de AI Act verplicht aanbieders van generatieve AI-systemen om synthetische of gemanipuleerde content, ook tekst, op een machineleesbare manier te markeren zodat die kan worden herkend. De Europese Commissie stelt dat dergelijke maatregelen, voor zover technisch haalbaar, doeltreffend, interoperabel, robuust en betrouwbaar moeten zijn. De verplichtingen gelden sinds 2 augustus 2026. De wet schrijft niet specifiek watermerken voor, en de Commissie heeft een vrijwillige gedragscode opgesteld. Het eerste deel daarvan, over markering en detectie, is ondertekend door Anthropic, Google, Meta, Microsoft, Mistral en OpenAI.

Volgens een technische paper die OpenAI heeft uitgebracht, voegt textGrain geen verborgen tekens of extra tokens toe. In plaats daarvan stuurt het model tijdens het genereren van tekst zijn woordkeuzes bij, met behulp van een geheime sleutel en de voorafgaande context. Zo ontstaat een statistisch patroon waar een detector later naar kan zoeken.

Duidelijke beperkingen bij detectie

OpenAI meldt dat de detector, bij een beoogd percentage valse positieven van 1%, het watermerk vond in ongeveer 80% van de psychologieteksten van 200 tokens en in ongeveer 95% van die van 400 tokens. De resultaten waren veel zwakker bij wiskunde, waar de formulering minder flexibel is. Bewerkingen ondermijnen het signaal ook: het vervangen van 10% van de woorden door synoniemen in teksten van 400 tokens verlaagde de detectie van ongeveer 92% naar 66%, en bij 25% vervanging zakte die tot circa 17%.

Vanwege het risico op valse positieven en gemiste markeringen beperkt OpenAI de detector in eerste instantie tot goedgekeurde onderzoekers en deskundige organisaties. Die kunnen alleen nagaan of een OpenAI-watermerk aanwezig is, zonder gebruikers te identificeren of prompts en gesprekken bloot te leggen. Het bedrijf benadrukt dat het merkteken een herkomstsignaal is en geen bewijs van auteurschap. Het kan menselijke inbreng niet meten, eigendom niet vaststellen en de juistheid niet verifiëren. Een ontbrekend watermerk betekent bovendien niet dat een mens de tekst heeft geschreven, omdat korte, bewerkte, vertaalde of door derden gegenereerde output detectie kan ontlopen.

OpenAI is van plan textGrain als open source uit te brengen. Voor afbeeldingen en audio vertrouwt het bedrijf al op Content Credentials op basis van C2PA en SynthID-watermerken, en het stelde dat geen enkele herkomstmethode op zichzelf voldoende is.