OpenAI将在欧盟为ChatGPT文本添加隐形水印

OpenAI于2026年10月16日宣布，将开始在欧盟符合条件的ChatGPT和Codex生成文本中嵌入隐形水印。该公司表示，此举是其履行欧盟《人工智能法案》透明度义务的一部分，并称将在未来几周内向欧盟境内所有ChatGPT和Codex套餐中符合条件的用户逐步推出。

OpenAI表示，文本水印在推出时不会在全球范围内默认开启。不过，自10月5日起，全球任何地区的API客户都已可以选择为部分模型启用该功能。

法规的要求

《人工智能法案》第50条第2款要求生成式AI系统的提供者，以机器可读的方式标记合成或经过处理的内容（包括文本），以便其可被识别。欧盟委员会表示，在技术可行的范围内，此类措施应当有效、可互操作、稳健且可靠。相关义务自2026年8月2日起适用。该法案并未专门要求使用水印，委员会还制定了一份自愿性行为准则；其首个部分涉及标记与检测，已获Anthropic、Google、Meta、Microsoft、Mistral和OpenAI签署。

根据OpenAI发布的一篇技术论文，textGrain不会插入隐藏字符或额外的词元。相反，模型在生成过程中会利用一个秘密密钥和前文语境，微调其用词选择，从而留下一种统计模式，检测器之后可以对其进行搜索。

检测的明显局限

OpenAI报告称，在目标误报率为1%的情况下，其检测器在约80%的200词元心理学段落和约95%的400词元心理学段落中发现了水印。在数学领域，效果则明显较差，因为其措辞灵活性较低。编辑也会削弱这一信号：在400词元的段落中，将10%的词替换为同义词后，检测率从约92%降至66%；替换25%的词后，检测率降至约17%。

鉴于误报和漏检的风险，OpenAI最初将检测器限制在经批准的研究人员和专业机构范围内使用。该检测器只会报告是否存在OpenAI水印，不会识别用户身份，也不会泄露提示词和对话内容。该公司强调，水印是一种来源标识信号，而非作者身份的证明：它无法衡量人类的投入程度，无法确立所有权，也无法验证内容的准确性。而且，没有检测到水印并不意味着文本由人类撰写，因为较短、经过编辑、翻译或来自第三方的输出可能会规避检测。

OpenAI计划将textGrain开源。对于图像和音频，该公司已在使用基于C2PA的内容凭证和SynthID水印，并表示没有任何单一的来源标识方法本身就足够可靠。