Claude Code가 당신의 요청에 '보이지 않는 표식'을 숨기고 있었다?

여러분이 AI에게 보낸 코드 요청에 눈에 보이지 않는 ‘꼬리표’가 붙어 있다면 어떨까요. 최근 개발자 커뮤니티에서 Claude Code 같은 AI 도구가 사용자 요청에 은밀한 워터마크를 심는다는 이야기가 흘러나왔습니다. 사실이든 추측이든, 이 주제는 AI 시대의 신뢰 문제를 정면으로 건드립니다.

먼저 솔직하게 말씀드리겠습니다. 이번 주제는 최근 한 달간 관련 커뮤니티 토론이 거의 잡히지 않았습니다. 확인된 신규 게시글이 사실상 없었습니다. 그래서 이 글은 특정 사건의 ‘확정된 폭로’가 아니라, 기술적으로 무엇이 가능한지와 왜 사람들이 이런 의심을 품는지를 차분히 따져보는 데 초점을 맞추겠습니다. 단정보다는 원리를 보는 시간입니다.

스테가노그래피 워터마킹이 뭔가요

먼저 용어부터 풀어보겠습니다. 스테가노그래피는 정보를 ‘숨기는’ 기술입니다. 암호화가 내용을 알아볼 수 없게 만드는 것이라면, 스테가노그래피는 정보가 거기 있다는 사실 자체를 숨깁니다.

가장 유명한 사례가 텍스트 워터마킹입니다. 사람 눈에는 똑같아 보이는 텍스트에 표식을 심는 방식입니다. 방법은 생각보다 단순합니다.

• 눈에 안 보이는 특수 유니코드 문자를 단어 사이에 삽입합니다.
• 일반 공백을 미세하게 다른 폭의 공백 문자로 바꿉니다.
• 단어 선택이나 문장 구조를 통계적으로 미세하게 편향시킵니다.

결과물은 사람이 읽기에 아무 차이가 없습니다. 하지만 특정 패턴을 아는 쪽은 “이 텍스트는 우리 시스템을 거쳤다"는 사실을 알아낼 수 있습니다. 이것이 보이지 않는 워터마크의 핵심 아이디어입니다.

왜 AI 회사들이 워터마킹을 고민할까요

여기서 중요한 구분이 필요합니다. AI 워터마킹 논의는 보통 두 방향으로 나뉩니다.

첫째는 출력물 워터마킹입니다. AI가 생성한 글이나 이미지에 표식을 남기는 것입니다. 이건 사실 공개적으로 연구되고 권장되는 영역입니다. 가짜 뉴스, 딥페이크, AI 생성물의 무분별한 확산을 막자는 취지입니다. 구글의 SynthID 같은 기술이 대표적입니다. “이건 AI가 만든 거예요"라고 알려주는 착한 표식인 셈입니다.

둘째는 이번 주제의 핵심인 입력물 또는 요청 워터마킹입니다. 사용자가 보낸 요청 자체에 표식을 심는다는 의혹입니다. 이건 성격이 완전히 다릅니다. 사용자가 만든 콘텐츠에 사용자 몰래 추적용 표식이 붙는 것이기 때문입니다.

전자는 투명성을 높이는 도구입니다. 후자는 자칫 감시 도구가 될 수 있습니다. 같은 워터마킹 기술이라도 어느 쪽 끝에 표식을 심느냐에 따라 의미가 정반대입니다.

의심은 어디서 시작됐을까요

확정된 증거가 없는데도 이런 의혹이 도는 데는 이유가 있습니다.

개발자들은 AI 도구가 출력하는 코드나 텍스트에서 종종 이상한 문자를 발견합니다. 보이지 않는 유니코드 문자, 예를 들어 제로폭 공백 같은 것들입니다. 이걸 발견하면 “혹시 추적용 표식 아니야?“라는 의심이 자연스럽게 생깁니다.

하지만 여기엔 함정이 있습니다. 이런 보이지 않는 문자는 대부분 워터마킹이 아니라 부작용일 가능성이 높습니다. 토큰화 과정의 잔여물이거나, 학습 데이터에 섞여 있던 문자가 그대로 출력되는 경우입니다. 의도된 표식과 우연한 잡음은 겉보기엔 똑같습니다.

문제는 사용자 입장에서 이 둘을 구분할 방법이 거의 없다는 점입니다. 바로 이 정보 비대칭이 의심을 키웁니다. 기술적으로 가능하고, 검증하기는 어렵고, 회사는 명확히 부인하지 않는다면 의혹은 계속 살아남습니다.

그래서 어디까지 허용될까요

기술적 가능성과 별개로, 윤리적 선은 분명히 그어야 합니다. 핵심 질문은 세 가지입니다.

투명성입니다. 표식을 심는다면 그 사실을 사용자에게 알렸는가. 약관 깊숙이 묻어둔 한 줄이 아니라 실질적인 고지가 있었는가.

목적입니다. 표식의 용도가 무엇인가. 보안과 악용 방지라면 명분이 있습니다. 하지만 사용자 행동 추적이나 마케팅이라면 이야기가 달라집니다.

통제권입니다. 사용자가 이를 끌 수 있는가. 동의를 철회할 수 있는가. 선택권 없는 표식은 결국 감시에 가깝습니다.

AI 도구는 점점 우리 작업 흐름 깊숙이 들어오고 있습니다. 코드를 짜고, 글을 쓰고, 의사결정을 돕습니다. 그만큼 이 도구가 내 작업물에 무엇을 더하거나 빼는지 알 권리도 커집니다. 보이지 않는 표식이 보안을 위한 것인지, 아니면 사용자를 위한 척하는 통제인지를 가르는 기준이 바로 위 세 가지입니다.

이번 주제는 확정된 폭로가 아니라 가능성과 신뢰의 문제입니다. 기술적으로 가능하다는 사실 자체가 우리에게 질문을 던집니다. 여러분은 매일 쓰는 AI 도구가 내 요청에 무엇을 하는지 얼마나 알고 계신가요. 그리고 모른다는 사실이, 지금 우리가 짚어야 할 가장 큰 문제 아닐까요.