클로드 워터마크, 단어 선택에 지문 심는다

앤스로픽(Anthropic)이 전 세계 모든 클로드(Claude) 모델의 생성물에 워터마크를 넣기로 한 방식이 공개됐다. 보이지 않는 특수 문자를 끼워넣는 방식이 아니었다. 모델이 다음 단어를 고르는 매 순간의 확률에 편향을 걸어, 단어 선택 패턴 자체에 지문을 남기는 방식이다. 기술 평론가 존 그루버(John Gruber)는 8월 16일 자신의 블로그 데어링 파이어볼(Daring Fireball)에서 이 방식을 글쓰기의 변질이라고 강하게 비판했다.

무슨 일인가

앤스로픽은 EU 규제 대응을 이유로 텍스트를 포함한 클로드의 모든 산출물에 표식을 넣겠다고 예고했다. 문제는 첫 지원 문서가 '클로드가 AI 생성 콘텐츠를 표시하는 방법'이라는 제목을 달았는데도 정작 작동 원리를 설명하지 않았다는 점이다. 그 문서는 워터마크가 감지할 수 없게 삽입되며 응답의 의미·품질·가독성을 바꾸지 않는다고 못박았다. 설명이 없는 동안 그루버는 인쇄되지 않는 유니코드 문자를 숨기는 방식일 것이라고 추측했다. 하루 뒤 앤스로픽이 별도 사이트에 올린 '클로드의 텍스트 워터마크가 작동하는 방식'이 실제 구조를 밝히면서 그 추측은 틀린 것으로 드러났다.

핵심 짚어보기

실제 구현은 스테가노그래피에 가깝다. 모델은 다음 토큰을 만드는 시점마다 후보 단어들을 비밀키로 즉석에서 초록 목록과 빨간 목록으로 나눈다. 그리고 초록 쪽 단어를 조금 더 자주 고른다. 빨간 목록 단어를 아예 안 쓰는 것은 아니고, 51대 49로 살짝 기울어진 동전처럼 통계적으로만 치우친다. 특정 단어를 늘 선호하거나 피하는 고정 목록이 생기지는 않으며, 어느 단어가 어느 목록인지는 비밀키를 가진 쪽만 계산할 수 있다.

검증 논리도 동전 던지기와 같다. 표본이 많을수록, 즉 글이 길수록 초록·빨간 비율의 쏠림이 통계적으로 유의해지고 판정 신뢰도가 올라간다. 반대로 문장 몇 개짜리 짧은 글은 원리상 판정이 거의 불가능하다. 또한 이 표식은 처음부터 AI가 쓴 글에만 남는 것이 아니라 AI가 손을 댄 글에도 남는다.

그루버의 비판은 여기서 나온다. 단어 선택을 인위적으로 기울인다면 그것은 이미 의미와 품질을 바꾸지 않는다는 약속과 충돌한다는 것이다. 워터마킹 원리를 쉽게 풀어낸 참고 자료로는 제임스 파돌시(James Padolsey)의 인터랙티브 해설이 함께 거론됐다.

1인기업 실전 적용 포인트

• AI 초안을 그대로 발행하지 말고 최종 문장은 직접 다시 쓴다. 편향된 어휘가 걸러지는 동시에 저작권·독창성 리스크도 함께 줄어든다.
• 헤드라인·광고 카피처럼 단어 하나가 성과를 좌우하는 산출물은 AI가 고른 어휘를 그대로 두지 말고 후보를 여러 개 받아 사람이 최종 선택한다.
• 탐지 도구를 쓰는 거래처(교육·출판·공공 입찰)가 있다면 납품물에 AI 활용 범위를 미리 문서로 명시해 사후 분쟁 여지를 없앤다.
• 글이 길수록 탐지 신뢰도가 올라가는 구조이므로, 장문 보고서와 전자책은 AI 초안 비중을 낮추고 구조 설계와 사례를 자기 데이터로 채운다.

전망과 주의점

확률적 워터마크는 원리상 오탐과 미탐을 완전히 없앨 수 없다. 짧은 글은 판정이 안 되고, 번역이나 재작성을 거치면 신호가 희석된다. 그럼에도 규제 압력이 이어지는 한 다른 대형 모델도 비슷한 방식을 따라갈 가능성이 크다. 1인기업에게 실질적인 대비는 AI 사용을 숨기는 방법을 찾는 쪽이 아니라, AI 초안에 내 판단과 내 데이터를 얼마나 얹었는지 증명할 수 있게 작업 과정을 남겨두는 쪽이다.

출처: 데어링 파이어볼 (https://daringfireball.net/2026/08/anthropics_watermark_text_adulteration_in_claude_is_a_perversion_of_writing)