AI 워터마크는 감시 도구? '스파이마크' 논쟁을 해설
機械翻訳 / Machine-translated
A
AI Friends
8時間前・10分で読める
機械翻訳 / Machine-translated
@aifriends
AI Friends（https://aifriends.jp）のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
AI로 만든 이미지나 글에 당신도 모르는 '눈에 보이지 않는 표시'가 붙어 있을지도 모릅니다. 2026년 9월에 공개된 한 편의 에세이가 이 워터마크를 '스파이마크'라고 다시 부르자고 제안하여 논쟁을 불러일으키고 있습니다.
발단은 AI 이미지·영상 제작 소프트웨어 'ArtCraft'의 창업자 브랜든 토마스 씨가 2026년 9월 21일에 공개한 에세이 「Spymarks, not Watermarks」입니다. 일본에서는 11월 8일에 GIGAZINE이 다루었습니다.
토마스 씨의 주장은 단순합니다. 워터마크(투명 마크)는 본래 눈에 보이며, 진본 증명이나 소유자 주장에 사용하는 것이었습니다. 그런데 지금은 사용자가 알아채지 못하도록 추적할 수 있는 숨겨진 신호까지, 똑같이 '워터마크'라고 불리고 있습니다.
그래서 'Spy(몰래 감시한다)'와 'mark(표시)'를 합쳐 스파이마크라는 명칭을 제안했습니다. 이름에 '감시'의 의미를 담아두면 프라이버시 문제를 한눈에 알 수 있기 때문입니다.
역사를 거슬러 올라가면, 1980년대부터 존재했던 프린터 추적 점(인쇄물에 몰래 삽입되는 작은 점)도 초기 스파이마크의 사례로 꼽히고 있습니다.
SynthID(Google DeepMind)는 AI가 만든 이미지·영상·음성·문장에 사람이 감지할 수 없는 워터마크를 삽입하는 기술입니다. 공식 페이지에서는 AI가 만든 콘텐츠인지 판별하여 생성 AI에 대한 신뢰를 높이는 것이 목적이라고 설명하고 있습니다.
이미지와 영상에서는 잘라내기, 필터, 압축을 해도 남도록 설계되어 있다고 합니다. 음성에서는 노이즈나 MP3 압축에도 견딘다고 합니다.
문장의 경우 작동 방식이 조금 다릅니다. 모델이 다음 단어를 선택할 때의 확률을 미세하게 조정하여, 나중에 조사하면 발견할 수 있는 통계적 경향을 만들어 냅니다.
토마스 씨가 문제로 삼은 것은 이미지용 방식 'SynthID-O'의 용량입니다. 512×512픽셀 이미지에 136비트의 정보를 삽입할 수 있다고 소개되어 있습니다.
내역은 데이터베이스 식별 번호가 64비트, 오류 수정용이 72비트입니다. 이 번호를 사용자의 이름이나 IP 주소 등이 담긴 데이터베이스와 연결한다면, 이론상으로는 이미지 한 장에서 만든 사람을 추적할 수 있습니다.
단, 이는 어디까지나 '그럴 수 있다'는 지적입니다. DeepMind 공식 페이지에는 프라이버시에 관한 구체적인 설명이 없습니다. Google이 실제로 사용자 정보를 번호와 연결하고 있는지는 이번에 확인한 자료에서는 나타나 있지 않습니다.
스파이마크는 무엇이 다른지, 세 가지를 나란히 비교해 보겠습니다.
친구에게 이미지를 보내기 전에 스마트폰 설정에서 위치 정보를 지운 경험이 있지 않으신가요? 그것은 메타데이터를 지우는 작업입니다. 그런데 이미지 내용 자체에 신호가 삽입되어 있다면, 같은 방법으로는 지울 수 없습니다.
토마스 씨는 문장에서의 작동 방식도 예시로 보여주고 있습니다. 8곳의 단어 선택을 8비트로 간주하고, 이진수 10101101을 번호 173으로 읽어 들입니다. 그 번호가 작성자와 시각을 가리킨다는 가상의 예시이며, 씨 본인은 이 예를 가상의 것이라고 밝히고 있습니다.
음성에서도 마찬가지입니다. 2018년에 공개된 오픈소스 도구 'audiowmark'는 128비트의 정보를 음성에 숨기고, 암호 키(AES)로 보호할 수 있다고 소개되어 있습니다. 기술 자체는 새로운 것이 아닙니다.
이 논쟁을 확산시킨 기사 중 하나가 byteiota의 해설 기사입니다. 의견 기사이므로, 아래는 필자의 주장으로 읽어주시기 바랍니다.
byteiota에 따르면, 2026년 8월 2일 이후 Claude API가 반환하는 문장에는 단어 선택 방식에 보이지 않는 표시가 삽입되어 있다고 합니다. 조사할 수 있는 것은 Anthropic과 해당 키를 가진 상대방뿐입니다.
Anthropic은 이 워터마크가 나타내는 것은 'Claude가 작성 또는 편집에 관여했다'는 사실뿐이라고 설명하고 있습니다. 특정 사용자, 조직, 대화는 식별할 수 없다고 합니다.
byteiota는 이를 기술의 한계가 아닌 현재 방침에 따른 제한이라고 평가하고 있습니다. 즉, 작동 원리상 미래에 바뀔 여지가 있다는 시각입니다.
같은 기사는 개발자 Xusheng Li 씨가 8월에 Microsoft Paint를 분석한 결과도 소개하고 있습니다. AI 생성 이미지에는 서버가 발행한 GUID(전 세계적으로 중복되지 않는 고유 번호)가 눈에 보이지 않는 형태로 삽입되어 있었다고 보도되고 있습니다.
'로컬에서 생성'을 내세우는 Copilot+ PC에서도 마찬가지였다고 하며, Microsoft의 출처 정보 설명에는 GUID에 대한 기재가 없다고도 쓰여 있습니다. 단, 이 번호를 실제로 사용자 추적에 사용하고 있다는 증거는 제시되어 있지 않습니다.
또 하나는 Lasso Security가 9월 17일에 발표한 연구입니다. 문장의 워터마크가 AI 에이전트의 동작을 변경할 우려가 있다고 보고되어 있습니다. 연구자들은 이를 'provenance tax(출처세)'라고 부르고 있습니다.
워터마크를 삽입하는 측에도 이유가 있습니다. TechTarget의 해설은 허위 정보나 딥페이크 대책, 작성자 증명, 증거의 진정성 확인 등의 장점을 꼽고 있습니다.
한편 단점도 정리되어 있습니다. 문장의 워터마크는 사람이 수정하면 지워지기 쉽고, OpenAI는 문장 판별 도구를 '정확도가 낮다'는 이유로 6개월 만에 철수했습니다. 진짜 이미지에 가짜 워터마크를 붙여 의심을 유발하는 악용도 생각해볼 수 있습니다.
같은 해설은 워터마크가 확산되면 생성 AI 사용 방식을 추적할 수 있게 된다는 우려에도 언급하고 있습니다. 지지하는 측도 프라이버시 측면의 과제가 있다는 점 자체는 부정하지 않고 있습니다.
또한 SynthID Detector는 Google이 만든 AI뿐 아니라, OpenAI, NVIDIA, Kakao 등 협력사가 만든 콘텐츠도 조사할 수 있다고 안내되어 있습니다. 워터마크 기술은 이미 여러 기업에 확산되어 있습니다.
한국 사용자에게도 남의 일이 아닙니다. Gemini, ChatGPT, Copilot, Claude는 한국에서도 동일한 서비스로 이용할 수 있기 때문입니다. 한국만을 위한 별도 발표는 이번 조사에서는 확인되지 않았습니다.
세 가지 상황을 상상해 보세요.
첫 번째는 회사 홍보 담당자가 AI로 만든 배너를 공개하는 상황입니다. 이 경우 AI 생성임을 알 수 있는 워터마크가 오히려 신뢰로 이어질 수 있습니다.
두 번째는 거래처의 부정을 알게 된 직원이, AI로 다시 작성한 문서를 익명으로 내부 고발하는 상황입니다. 문장에 추적 가능한 표시가 삽입된다면 작성자가 특정될 우려가 있습니다.
세 번째는 정치적인 의견을 AI로 다듬어 SNS에 게시하는 일반 사용자입니다. 확산 경로가 추적될 수 있다고 생각한다면, 쓸 내용을 주저하게 될 것입니다.
byteiota는 많은 용도에서는 워터마크의 존재를 받아들이고 기록해 두면 된다고 하고 있습니다. 익명 고발이나 기밀 문서 처리에는 자신의 컴퓨터에서 실행할 수 있는 오픈 웨이트 모델(Llama, Mistral, Qwen 등)을 권장하고 있습니다. 단, 성능 차이라는 대가가 따른다고도 언급하고 있습니다.
EU의 AI법(제50조)에 대해서도, byteiota는 '처리한 콘텐츠에서 워터마크를 제거하지 말 것'을 개발자에게 요구한다고 소개하고 있습니다. 이러한 흐름이 진행된다면, 추적 체계는 더욱 깊이 내장될지도 모릅니다.
아닙니다. 토마스 씨가 제안한 명칭입니다. 기술적으로는 '보이지 않는 워터마크' 또는 '전자 워터마크'라고 불립니다.
SynthID-O는 64비트 식별자를 삽입할 수 있는 용량이 있다고 소개되어 있지만, Google이 개인 정보와 연결하고 있다는 증거는 이번에 확인한 자료에는 없습니다. 가능성에 대한 지적과 실제 운용은 별개로 생각할 필요가 있습니다.
지워지지 않는 경우가 있다고 합니다. 스파이마크는 픽셀이나 단어 선택 방식 자체에 삽입되어 있기 때문에, EXIF 등을 지우는 작업으로는 제거할 수 없습니다.
단언할 수 없습니다. 허위 정보 대책이나 진정성 확인에 도움이 되는 반면, 사용 방식에 따라서는 추적 수단이 될 수도 있습니다. 무엇이 삽입되어 있고 누가 조사할 수 있는지를 공개해 달라는 것이 이 논쟁의 핵심입니다.
우선 자신이 사용하는 AI 서비스의 워터마크 사양과 공식 설명을 한 번 확인해 보세요.
이 기사는 AI Friends에서 크로스 포스트된 글입니다.
