OpenAI, EU 내 ChatGPT 텍스트에 보이지 않는 워터마크 도입

OpenAI는 2026년 10월 16일 유럽연합(EU)에서 대상 ChatGPT 및 Codex가 생성한 텍스트에 보이지 않는 워터마크를 삽입하기 시작한다고 발표했다. 회사는 이번 조치를 EU AI 법의 투명성 의무 준수의 일환이라고 설명했으며, 향후 몇 주에 걸쳐 EU 내 모든 ChatGPT 및 Codex 요금제의 대상 사용자에게 순차적으로 적용할 계획이라고 밝혔다.

OpenAI는 출시 시점에 텍스트 워터마크를 전 세계적으로 기본 적용하지는 않는다고 밝혔다. 다만 API 고객은 10월 5일부터 일부 모델에 대해 전 세계 어디서든 옵트인 방식으로 이를 사용할 수 있었다.

법이 요구하는 것

AI 법 제50조 2항은 생성형 AI 시스템 제공자에게 텍스트를 포함한 합성 또는 조작된 콘텐츠를 탐지할 수 있도록 기계가 판독할 수 있는 방식으로 표시할 것을 의무화하고 있다. 유럽위원회는 이러한 조치가 기술적으로 가능한 범위에서 효과적이고, 상호 운용 가능하며, 견고하고 신뢰할 수 있어야 한다고 설명했다. 이 의무는 2026년 8월 2일부터 적용되고 있다. 법은 워터마크를 구체적으로 의무화하지는 않으며, 위원회는 자율 준수 행동강령을 마련했다. 표시 및 탐지에 관한 첫 번째 섹션에는 Anthropic, Google, Meta, Microsoft, Mistral, OpenAI가 서명했다.

OpenAI가 공개한 기술 문서에 따르면 textGrain은 숨겨진 문자나 추가 토큰을 삽입하지 않는다. 대신 모델이 비밀 키와 앞선 문맥을 이용해 생성 과정에서 단어 선택을 미세하게 조정하며, 이로 인해 남는 통계적 패턴을 나중에 탐지기가 찾아낼 수 있다.

탐지의 명확한 한계

OpenAI는 거짓 양성 비율 목표를 1%로 설정했을 때, 자사 탐지기가 200토큰 길이의 심리학 지문에서는 약 80%, 400토큰 지문에서는 약 95%의 비율로 워터마크를 찾아냈다고 보고했다. 단어 선택의 여지가 적은 수학 분야에서는 결과가 훨씬 약했다. 편집도 신호를 약화시켰다. 400토큰 지문에서 단어의 10%를 동의어로 바꾸자 탐지율은 약 92%에서 66%로 떨어졌고, 25%를 바꾸자 약 17%까지 떨어졌다.

OpenAI는 거짓 양성과 워터마크 누락의 위험을 이유로, 초기에는 탐지기를 승인된 연구자와 전문 기관으로만 제한할 것이라고 밝혔다. 탐지기는 OpenAI 워터마크의 존재 여부만 알려주며, 사용자를 식별하거나 프롬프트와 대화 내용을 노출하지 않는다. 회사는 이 표식이 저작자를 증명하는 것이 아니라 출처를 나타내는 신호라고 강조했다. 인간의 기여도를 측정하거나, 소유권을 확정하거나, 정확성을 검증할 수 없으며, 워터마크가 없다고 해서 사람이 직접 쓴 글이라는 뜻은 아니라고 설명했다. 짧거나, 편집되거나, 번역되었거나, 제3자가 생성한 결과물은 탐지를 피할 수 있기 때문이다.

OpenAI는 textGrain을 오픈소스로 공개할 계획이다. 이미지와 오디오에는 이미 C2PA 기반 콘텐츠 자격 증명과 SynthID 워터마크를 활용하고 있으며, 단일 출처 증명 방식만으로는 충분하지 않다고 밝혔다.