OpenAI plant unsichtbare Wasserzeichen für ChatGPT-Texte in der EU

OpenAI kündigte am 16. Oktober 2026 an, in der Europäischen Union damit zu beginnen, geeignete von ChatGPT und Codex erzeugte Texte mit einem unsichtbaren Wasserzeichen zu versehen. Das Unternehmen begründete die Änderung mit der Einhaltung der Transparenzpflichten aus dem AI Act der EU. Die Umstellung werde in den kommenden Wochen für berechtigte Nutzer aller ChatGPT- und Codex-Tarife im Staatenbund ausgerollt.

Die Textwasserzeichen werden laut OpenAI zum Start nicht weltweit standardmäßig aktiviert. API-Kunden überall auf der Welt können dafür jedoch seit dem 5. Oktober für ausgewählte Modelle optieren.

Was das Gesetz verlangt

Artikel 50 Absatz 2 des AI Act verpflichtet Anbieter generativer KI-Systeme, synthetische oder manipulierte Inhalte, einschließlich Texte, maschinenlesbar zu kennzeichnen, damit sie erkannt werden können. Die Europäische Kommission erklärt, solche Maßnahmen sollten, soweit technisch machbar, wirksam, interoperabel, robust und zuverlässig sein. Die Pflichten gelten seit dem 2. August 2026. Das Gesetz schreibt Wasserzeichen nicht ausdrücklich vor. Die Kommission hat zudem einen freiwilligen Verhaltenskodex erarbeitet; dessen erster Abschnitt zur Kennzeichnung und Erkennung wurde von Anthropic, Google, Meta, Microsoft, Mistral und OpenAI unterzeichnet.

Laut einem technischen Papier, das OpenAI veröffentlicht hat, fügt textGrain keine versteckten Zeichen oder zusätzlichen Token ein. Stattdessen lenkt das Modell während der Generierung mithilfe eines geheimen Schlüssels und des vorangehenden Kontexts seine Wortwahl leicht in bestimmte Richtungen. Dabei entsteht ein statistisches Muster, nach dem ein Detektor später suchen kann.

Klare Grenzen der Erkennung

OpenAI berichtete, dass der Detektor bei einer angestrebten Falsch-Positiv-Rate von 1 % das Wasserzeichen in etwa 80 % der Psychologie-Passagen mit 200 Token und in rund 95 % der Passagen mit 400 Token fand. Bei Mathematik waren die Ergebnisse deutlich schwächer, da dort die Formulierung weniger flexibel ist. Auch Bearbeitungen schwächen das Signal: Wurden in 400-Token-Passagen 10 % der Wörter durch Synonyme ersetzt, sank die Erkennung von etwa 92 % auf 66 %. Bei 25 % Ersetzung fiel sie auf rund 17 %.

Mit Verweis auf das Risiko falsch positiver Treffer und übersehener Markierungen will OpenAI den Detektor zunächst auf zugelassene Forscher und Expertenorganisationen beschränken. Er meldet nur, ob ein OpenAI-Wasserzeichen vorhanden ist, ohne Nutzer zu identifizieren oder Prompts und Unterhaltungen offenzulegen. Das Unternehmen betonte, dass die Markierung ein Herkunftssignal und kein Nachweis der Urheberschaft ist. Sie kann menschliche Beteiligung nicht messen, keine Eigentumsverhältnisse belegen und keine Richtigkeit überprüfen. Fehlt ein Wasserzeichen, heißt das zudem nicht, dass ein Mensch den Text geschrieben hat, denn kurze, bearbeitete, übersetzte oder von Dritten stammende Ausgaben können der Erkennung entgehen.

OpenAI plant, textGrain als Open Source zu veröffentlichen. Bei Bildern und Audio setzt das Unternehmen bereits auf C2PA-basierte Content Credentials und SynthID-Wasserzeichen. Eine einzelne Herkunftsmethode reiche allein nicht aus, so das Unternehmen.