오픈AI·구글·메타·앤트로픽, AI 텍스트 워터마크 적용한다…EU AI법이 바꿀 생성형 AI

AI로 작성한 텍스트를 사람이 눈으로 구분하기 어려운 시대에 생성된 콘텐츠 자체에 기계가 읽을 수 있는 표시를 심는 방식이 현실화되고 있다.

출발점은 유럽연합의 AI Act다. EU는 2026년 8월 2일부터 생성형 AI 콘텐츠의 투명성을 높이기 위한 Article 50 관련 의무를 적용하기 시작했다. AI 시스템 제공자는 AI가 생성하거나 조작한 콘텐츠를 식별할 수 있도록 기계 판독 가능한 표시를 구현해야 한다.

여기에는 중요한 구분이 있다. EU가 모든 AI 텍스트에 사람 눈에 보이는 ‘AI 작성’ 문구를 붙이라고 요구하는 것은 아니다.

EU의 Code of Practice on Transparency of AI-Generated Content는 AI 생성물의 출처와 표시를 기술적으로 구현하기 위한 방법을 제시한다. 텍스트에서는 비가시적 워터마킹 같은 방식이 포함됐으며, 짧은 텍스트에는 기술적 한계 때문에 예외가 적용될 수 있다. 실무 규범에는 200토큰을 넘는 자유 형식 텍스트에 워터마킹을 적용하는 방안도 담겼다.

2026년 12월 2일이 기존 AI 모델의 분기점

새롭게 시장에 출시되는 AI 시스템과 기존 시스템의 적용 시점도 다르다.

2026년 8월 2일 이전에 이미 시장에 출시된 시스템에는 4개월의 전환 기간이 부여됐다. 따라서 기존 시스템은 2026년 12월 2일까지 관련 표시 체계를 갖춰야 한다.

이 일정이 중요한 이유는 API 기반 서비스까지 영향을 받을 수 있기 때문이다.

기업이 직접 대규모 언어 모델을 개발하지 않더라도 외부 AI 모델을 API로 연결해 서비스를 운영한다면, 실제 서비스의 제공자와 배포자 지위에 따라 Article 50의 의무가 발생할 수 있다. EU 집행위원회 역시 관련 규정이 특정 모델 자체만이 아니라 AI 시스템의 제공자와 배포자를 대상으로 한다고 설명하고 있다.

따라서 앞으로 기업의 AI 도입은 단순히 "어떤 모델이 더 정확한가"만으로 결정하기 어려워질 가능성이 있다. 생성된 결과에 출처 정보가 붙는지, API를 거쳐도 표시가 유지되는지, 서비스에서 이를 어떻게 고지할 것인지까지 확인해야 한다.

앤트로픽은 Claude 전체에 보이지 않는 워터마크를 넣는다

가장 구체적인 움직임을 공개한 곳 중 하나가 앤트로픽이다.

앤트로픽은 Claude가 생성한 텍스트에 사람이 눈으로 확인하기 어려운 비가시적 워터마크를 적용하겠다고 밝혔다. 이 워터마크는 텍스트 자체에 포함되는 방식이며, 복사·붙여넣기 이후에도 유지될 수 있도록 설계한다는 설명이다.

더 중요한 부분은 적용 범위다.

앤트로픽은 워터마킹을 모델 수준에서 적용하기 때문에 Claude 웹 서비스뿐 아니라 Claude API, Claude Code, Claude Cowork, Claude Tag 등 여러 제품과 서비스에 적용될 수 있다고 밝혔다. AWS, Google Cloud, Microsoft Foundry를 통해 Claude 모델을 사용하는 경우에도 텍스트 워터마크를 적용할 계획이다.

이 방식이라면 기업이 Claude API를 이용해 자체 서비스를 구축하더라도 생성 단계에서부터 워터마크가 포함될 수 있다. 기존처럼 최종 서비스 단계에서 별도의 AI generated 태그를 붙이는 것과는 구조가 다르다.

앤트로픽은 이 정책을 유럽 사용자에게만 한정하지 않는다. 워터마크를 지원하는 Claude 모델에는 전 세계적으로 적용할 계획이라고 밝혔다.

구글은 이미 Gemini 텍스트에 SynthID를 적용했다

구글은 이 분야에서 상대적으로 앞서 있다.

구글은 2024년부터 SynthID를 이미지뿐 아니라 텍스트와 비디오까지 확대했다. Gemini에서 생성되는 텍스트에 워터마크를 적용하고 있으며, 토큰 선택 과정에서 특정 토큰의 확률을 조정하는 방식으로 워터마크를 삽입한다.

구글은 이후 SynthID Detector를 통해 AI 생성 텍스트를 확인할 수 있는 기능도 제공하기 시작했다. 즉 생성 단계에서 워터마크를 삽입하고, 별도의 탐지 시스템에서 이를 확인하는 구조다.

구글은 2026년 7월 EU의 AI 생성 콘텐츠 투명성 규범에도 서명했다. 동시에 기술 표준이 계속 발전하는 상황에서 지나치게 많은 라벨과 규제가 오히려 이용자에게 혼란을 줄 수 있다는 우려도 공식적으로 제기했다.

이 지점은 단순한 찬반 논쟁보다 중요하다. AI 출처를 표시하는 것과 출처 표시를 지나치게 많이 만들어 사용자가 무시하게 되는 것은 서로 다른 문제이기 때문이다.

메타도 같은 EU 투명성 규범에 합류

메타 역시 2026년 7월 28일 EU AI Act의 Code of Practice on Transparency of AI-Generated Content에 서명한다고 공식 발표했다.

메타는 이미 2024년부터 자사 플랫폼에서 AI 생성 콘텐츠를 식별하고 라벨링하는 정책을 운영해 왔으며, C2PA와 같은 업계 표준을 활용해 AI 콘텐츠 식별 기술을 발전시키고 있다고 설명했다.

메타가 강조한 것도 구글과 비슷하다. AI 생성물의 투명성을 높이는 동시에 서로 다른 서비스에서 제각각의 라벨과 표시가 난립하면 오히려 이용자가 정보를 제대로 이해하기 어려워질 수 있다는 것이다.

따라서 이번 움직임을 단순히 'EU 규제 때문에 기업들이 워터마크를 넣는다'고만 해석하기에는 부족하다. 업계는 동시에 C2PA 같은 콘텐츠 출처 표준과 워터마킹 기술을 하나의 생태계로 묶는 작업을 진행하고 있다.

오픈AI도 콘텐츠 출처 기술을 확대하는 방향

오픈AI 역시 콘텐츠 출처 기술을 확대하고 있다.

오픈AI는 2026년 5월 콘텐츠 출처 기술과 관련해 C2PA Content Credentials와 Google의 SynthID 등을 활용한 다층적인 출처 확인 체계를 강화하겠다고 발표했다. 당시 공개된 내용의 중심은 이미지와 오디오였으며, 텍스트에 대한 구체적인 적용 방식과 일정은 상대적으로 제한적으로 공개됐다.

이 때문에 오픈AI의 경우에는 EU 규범에 참여한다는 정책적 방향과 실제 텍스트 워터마크를 어떤 기술로, 언제 적용할 것인지를 구분해서 볼 필요가 있다.

반면 앤트로픽은 이번에 Claude 텍스트 워터마킹의 존재와 적용 범위를 비교적 구체적으로 공개했다. 다만 워터마크를 어떻게 탐지하는지, 어떤 조건에서 검출 정확도가 유지되는지에 대한 기술적 세부사항은 아직 공개 범위가 제한적이다.

미국에서는 법이 없는데 왜 적용할까

미국 연방법 차원에서 모든 AI 생성 텍스트에 워터마크를 의무화하는 일반적인 규정이 있는 것은 아니다.

그런데도 미국 기업이 미국 사용자에게까지 워터마크를 적용하는 것은 이상한 일이 아니다. 글로벌 AI 서비스 입장에서는 지역별로 서로 다른 모델과 출력 정책을 운영하는 비용이 커지기 때문이다.

앤트로픽이 Claude 모델 수준에서 워터마크를 적용하겠다고 한 것도 같은 맥락에서 볼 수 있다. 모델 자체에 표시를 넣으면 유럽에서만 별도의 모델을 운영할 필요가 줄어든다. 실제로 앤트로픽은 미국을 포함한 전 세계 Claude 서비스에 적용하는 방향을 제시했다.

규제가 한 지역에서 시작됐지만 결과적으로 글로벌 AI 서비스의 기본 아키텍처에 반영되는 셈이다.

그렇다고 AI 워터마크가 완벽한 것은 아니다

여기에는 명확한 반론도 있다.

AI 워터마크가 있다고 해서 모든 AI 생성물을 확실하게 찾아낼 수 있는 것은 아니다.

특히 이미지나 파일에 포함되는 C2PA 메타데이터는 콘텐츠가 다른 플랫폼을 거치면서 제거될 수 있다. 앤트로픽 역시 AI 생성물에 표시가 없다고 해서 해당 콘텐츠가 인간이 작성했다는 의미는 아니라고 설명하고 있다.

텍스트 워터마크도 마찬가지다. 문장을 번역하거나 대폭 수정하거나 다른 모델로 재작성하면 검출 성능이 달라질 수 있다. EU 규범이 긴 텍스트에서도 워터마킹의 신뢰도가 낮아질 수 있다는 점을 전제로 별도의 탐지 접근법을 제시한 이유이기도 하다.

따라서 워터마크를 AI 생성 여부를 판정하는 절대적인 증거로 보는 것은 위험하다. 더 현실적인 역할은 콘텐츠의 출처를 판단할 때 사용할 수 있는 하나의 신호를 추가하는 것이다.

오픈 모델이 새로운 선택지가 될 수 있다는 주장

이번 변화가 오픈 모델에 대한 관심을 높일 가능성도 있다.

상용 AI 서비스가 모델 단계에서 워터마킹을 적용하면 API를 사용하는 기업은 해당 정책의 영향을 함께 받을 수 있다. 반면 직접 내려받아 실행할 수 있는 오픈 웨이트 모델은 운영자가 모델과 추론 환경을 직접 통제할 수 있는 범위가 상대적으로 크다.

다만 이것을 곧바로 "오픈 모델은 워터마크 규제를 피할 수 있다"는 의미로 해석해서는 안 된다. 실제 규제 의무는 모델의 공개 여부가 아니라 어떤 AI 시스템을 누가 어떤 방식으로 제공·배포하는지에 따라 달라질 수 있기 때문이다.

오히려 기업 입장에서는 모델 선택 단계에서 워터마크 정책, API 출력의 출처 정보, C2PA 지원 여부, EU 규제 대응 방식을 함께 비교해야 하는 상황에 가까워지고 있다.

AI 생성물의 출처가 모델의 기능이 되는 시대

이번 변화에서 가장 큰 의미는 워터마크 자체보다 AI 모델이 생성한 결과에 출처 정보가 따라붙기 시작했다는 점이다.

과거에는 모델이 무엇을 생성했는지가 중요했다면, 이제는 그 결과물이 어디에서 생성됐고 어떤 방식으로 식별할 수 있는지도 제품의 일부가 되고 있다.

EU의 규제는 이를 촉진하는 강력한 계기가 됐다. 2026년 8월부터 관련 투명성 의무가 적용됐고, 기존 시스템에는 12월 2일까지의 전환 기간이 주어졌다.

앞으로 확인해야 할 것은 기업들이 워터마크를 넣는지 여부가 아니다. 서로 다른 AI 모델과 API, 클라우드, CMS와 SNS를 거치는 과정에서도 그 출처 정보가 얼마나 오래 유지되고, 독립적인 탐지 시스템에서 실제로 얼마나 정확하게 검증되는지가 핵심이다.

참고 자료

• 유럽연합 집행위원회 — AI 생성 콘텐츠 투명성 규범
• 유럽연합 집행위원회 — AI Act Article 50 투명성 가이드라인
• Google — EU AI Act 투명성 규범 서명 발표
• Meta — EU AI Act 투명성 규범 서명 발표
• OpenAI — 콘텐츠 출처 기술 관련 발표
• The Verge — Anthropic Claude 텍스트 워터마킹 발표 보도