브뤼셀에서 만든 규정 하나가 전 세계 클로드 출력물을 바꿨어

8월 11일 앤트로픽이 조용한 공지를 하나 올렸어. 앞으로 클로드가 만들어내는 텍스트에는 사람 눈에 보이지 않는 표식이 들어간다는 내용이야. 파일에는 서명된 출처 인증서가 붙고. 공지문은 담백했지만 이 결정에는 짚어볼 지점이 여러 개 있어.

첫 번째는 적용 범위야. 이 조치의 법적 근거는 EU AI법 50조, 그러니까 유럽연합 규정이야. 그런데 앤트로픽은 유럽 사용자만 골라내지 않았어. 공식 문서의 표현을 그대로 옮기면 "표식은 클로드가 제공되는 곳 어디에서나, 전 세계적으로 적용된다"고 돼 있어. 서울에서 클로드에 뭔가 물어보고 받은 답변에도 브뤼셀 규정의 흔적이 들어간다는 뜻이야.

두 번째는 앤트로픽이 스스로 밝힌 한계야. 보통 이런 발표는 기술의 성능을 강조하기 마련인데, 이번 문서는 워터마크가 언제 지워지는지를 나열하는 데 상당한 분량을 썼어. 문장을 크게 고치거나, 다른 말로 바꿔 쓰거나, 번역하거나, 다른 글에 섞어 넣으면 탐지가 안 될 수 있다고 명시했어. 파일 쪽은 더 단순해. 포맷을 바꾸거나 다시 저장하거나 스크린샷을 찍으면 메타데이터가 통째로 날아가.

세 번째는 시점이야. EU AI법의 투명성 조항은 8월 2일부터 실제로 집행되기 시작했어. 앤트로픽의 발표는 그로부터 9일 뒤에 나왔고, 대상도 "2026년 8월 2일 이후에 출시된 모델"로 딱 맞춰져 있어. 규정 발효일과 기술 적용 기준일이 같은 날짜라는 건 이게 제품 로드맵에서 나온 결정이 아니라 준법 일정에서 나온 결정이라는 걸 보여줘.

그래서 이 뉴스는 워터마크 기술 이야기이면서 동시에 규제 이야기야. AI 규제가 실제로 제품의 출력물 형태를 바꾼, 눈에 보이는 첫 사례에 가깝거든.

앤트로픽과 EU AI법, 그리고 그 사이의 거리

앤트로픽은 2021년 오픈AI 출신 연구자들이 세운 회사야. 창업 서사 자체가 "안전"이라는 단어 위에 세워져 있어. 헌법적 AI(Constitutional AI), 책임 있는 스케일링 정책(RSP) 같은 개념을 먼저 문서로 내놓고 그다음에 제품을 붙이는 방식으로 움직여 왔어. 규제 대응에 적극적인 회사라는 이미지가 업계에서 굳어진 것도 그래서야.

EU AI법은 2024년에 통과된 세계 최초의 포괄적 AI 규제법이야. 다만 통과와 집행 사이에는 시차가 있어. 법은 단계적으로 발효되도록 설계됐고, 조항마다 적용 시점이 달라. 금지 관행 조항이 먼저 켜졌고, 범용 AI 모델(GPAI) 관련 의무가 그다음이었고, 이번에 켜진 게 50조의 투명성 의무야.

50조가 요구하는 건 생각보다 단순해. AI가 만든 콘텐츠는 기계가 읽을 수 있는 형태로 표시되어야 한다는 것. 사람이 눈으로 보고 알아채라는 게 아니라, 소프트웨어가 판별할 수 있게 하라는 요구야. 위반하면 과징금이 붙는데, 규모가 작지 않아. 투명성 의무 위반은 최대 1500만 유로 또는 전 세계 연매출의 3% 중 더 큰 금액까지 부과될 수 있어.

여기서 흥미로운 게 앤트로픽의 선택이야. 지역별로 다른 동작을 하는 시스템을 만드는 건 기술적으로 가능해. 유럽 IP에서 온 요청에만 워터마크를 붙이는 방식 말이야. 그런데 그렇게 하지 않았어. 이유는 명시되지 않았지만, 추론해볼 만한 근거는 몇 가지 있어.

우선 API 사용 패턴이 지역 구분을 어렵게 만들어. 미국 서버에서 호출한 API 결과물이 유럽 사용자에게 전달되는 경우, 어느 쪽 기준을 적용해야 하는지가 애매해져. 클로드 코드나 클로드 코워크처럼 개발자 도구를 거치면 경로는 더 복잡해지고. 두 번째로 규정 준수 증명 부담이 있어. 지역별 분기가 있으면 "유럽 사용자에게는 항상 붙었다"는 걸 나중에 입증해야 하는데, 전 세계에 일괄 적용하면 그 입증이 필요 없어져. 세 번째는 브랜드 포지셔닝이야. 안전을 앞세운 회사가 규제 회피 여지를 남기는 설계를 하는 건 서사에 맞지 않아.

실제로 뭐가 심기는 건지 — 텍스트와 파일이 다르게 동작해

기술적으로 이번 조치는 두 갈래야. 텍스트와 파일이 완전히 다른 방식으로 처리돼.

텍스트에 들어가는 건 통계적 워터마크야. 언어모델이 다음 단어를 고를 때는 확률 분포에서 하나를 뽑는데, 이 선택 과정에 미세한 편향을 넣는 방식이야. 특정 단어 집합이 아주 조금 더 자주 선택되도록 만들어 두면, 충분히 긴 글에서는 그 편향이 통계적으로 검출돼. 사람이 읽을 때는 문장 품질 차이를 느끼지 못하지만 탐지 도구는 "이 텍스트는 우연히 나올 확률이 매우 낮은 분포를 갖는다"고 판단할 수 있어.

이 방식의 특성은 분량에 의존한다는 거야. 표본이 적으면 통계가 성립하지 않으니까. 앤트로픽 문서도 아주 짧은 글에서는 표식이 탐지되지 않을 수 있다고 인정하고 있어. 한 문장짜리 답변, 짧은 코드 조각, 단답형 응답 같은 건 사실상 커버 밖이야.

파일 쪽은 접근이 달라. C2PA(Coalition for Content Provenance and Authenticity) 표준을 따르는 서명 메타데이터를 붙여. .svg, .png, .jpg 같은 지원 포맷에 "이 파일은 클로드가 처리했다"는 정보가 암호학적 서명과 함께 기록돼. 파일이 변조되면 서명 검증이 실패하니까 위조는 어려워. 대신 메타데이터 자체를 지우는 건 아주 쉬워.

구분 텍스트 파일
방식 통계적 워터마크(토큰 선택 편향) C2PA 서명 메타데이터
적용 대상 지원 모델의 모든 생성 텍스트 .svg / .png / .jpg 등 지원 포맷
강한 점 복사·붙여넣기해도 따라감 변조 시 검증 실패로 드러남
약한 점 짧은 글·의역·번역에 취약 재저장·포맷 변환·스크린샷에 소실
적용 범위 전 세계 전 세계

적용되는 제품 목록도 공개됐어. 클로드 플랫폼(API), 클로드, 클로드 코드, 클로드 코워크, 클로드 태그. 여기에 더해 AWS·구글 클라우드·마이크로소프트 파운드리 같은 주요 클라우드에서 클로드 모델을 호출하는 경우에도 표식이 붙은 출력이 나가. 즉 앤트로픽이 직접 운영하는 표면뿐 아니라 재판매 경로까지 포함이야.

기준일은 명확해. 2026년 8월 2일 이후 출시된 모델은 출시 시점부터 기계 판독 표식을 지원해. 그 전에 나온 모델들은 "적용 작업 진행 중"으로 표기돼 있어. 그러니까 지금 이 순간 모든 클로드 출력물에 표식이 있는 건 아니고, 신규 모델부터 순차적으로 채워지는 구조야.

앤트로픽은 탐지 도구의 기술 세부사항도 공개하겠다고 했어. 이건 생각보다 중요한 약속이야. 워터마크는 탐지 가능해야 의미가 있는데, 탐지 방법을 공개하면 회피 방법도 함께 공개되는 딜레마가 있거든. 어느 수준까지 공개할지가 이 조치의 실효성을 가를 거야.

각자가 뭘 얻는지 따져보면

앤트로픽이 얻는 건 규제 리스크의 정리야. EU 시장에서 영업하는 이상 50조는 피할 수 없는 조건이고, 미준수 상태로 남는 건 매출의 3%라는 잠재적 비용을 계속 안고 가는 거야. 여기에 더해 "선제적으로 규제를 지키는 회사"라는 포지션이 있어. 이건 특히 규제 산업 고객, 그러니까 금융·의료·공공 부문에서 조달 심사를 받을 때 실질적으로 작동하는 자산이야.

다만 비용도 있어. 워터마크는 토큰 선택에 개입하는 거라 이론적으로는 출력 품질에 영향을 줄 수 있어. 앤트로픽은 사용자가 알아채지 못하는 수준이라고 말하지만, 코드 생성처럼 정확한 토큰 하나가 중요한 작업에서 이게 어떻게 작동하는지는 아직 외부 검증이 없어.

EU 규제 당국이 얻는 건 집행 가능성의 증명이야. AI법은 통과 이후 줄곧 "실제로 강제할 수 있냐"는 회의론에 시달렸어. 주요 사업자가 자발적으로, 그것도 전 세계 일괄 적용으로 맞춰 오면 그 회의론은 힘을 잃어. 규제 학계에서 말하는 브뤼셀 효과 — 유럽 규정이 사실상 글로벌 표준이 되는 현상 — 의 새로운 사례가 하나 추가된 셈이야.

콘텐츠 플랫폼과 언론사가 얻는 건 판별 수단이야. AI 생성 텍스트가 유입되는 걸 막고 싶은 곳들 — 학술지, 뉴스룸, 채용 담당자, 온라인 커뮤니티 — 은 지금까지 확률적 추정 도구에 의존해 왔어. 그 도구들은 오탐이 심해서 실무에서 쓰기 어려웠고. 워터마크 기반 판별은 원리상 훨씬 정확해. 다만 클로드로 만든 것만 잡히니까 커버리지가 문제야.

일반 사용자가 얻는 건 애매해. 표식이 붙는다는 사실 자체가 사용 경험을 바꾸진 않아. 오히려 프라이버시 관점에서 불편해하는 반응도 있어. 내가 클로드로 초안을 쓰고 직접 고쳐서 제출한 글에 표식이 남아 있으면, 그게 어디까지 추적되는가 하는 문제가 생기거든. 앤트로픽은 워터마크가 개별 사용자를 식별하지는 않는다고 설명하지만, 이 부분은 사용자 인식과 기술 설명 사이의 간극이 큰 영역이야.

워터마크의 역사는 실패의 기록이기도 해

이게 처음 시도되는 게 아니라는 점이 중요해. 앞선 사례들을 보면 이번 조치가 어디서 막힐지 짐작할 수 있어.

가장 성공적인 사례는 구글의 신스ID(SynthID)야. 2023년 이미지용으로 시작해서 오디오·비디오·텍스트로 확장됐고, 제미나이 출력물에 적용돼 왔어. 구글은 신스ID로 표시된 콘텐츠가 수십억 건이라고 밝혀 왔고, 탐지기도 일부 공개했어. 이미지 쪽에서는 상당히 견고하다는 평가를 받아. 그런데 텍스트 쪽은 이야기가 달라. 학계 검증에서 의역과 재작성에 취약하다는 결과가 반복적으로 나왔어. 워터마크된 텍스트를 다른 모델에 넣고 "다시 써줘"라고 하면 신호가 상당 부분 사라져.

반대편 사례가 오픈AI야. 2023년 초 AI 텍스트 판별기를 내놨다가 6개월 만에 정확도가 낮다는 이유로 내렸어. 이후 텍스트 워터마킹 기술을 내부적으로 개발해 놓고도 출시를 미뤄왔다는 보도가 여러 차례 나왔고, 그 이유로 사용자 이탈 우려가 지목됐어. 워터마크가 붙는 서비스와 안 붙는 서비스가 있으면 학생과 프리랜서 같은 이용자층이 후자로 옮겨간다는 계산이야. 이건 지금도 유효한 문제고, 앤트로픽이 감수한 리스크이기도 해.

C2PA 쪽은 또 다른 교훈을 줘. 어도비가 주도한 콘텐츠 인증 이니셔티브(CAI)와 C2PA 표준은 2019년부터 추진돼 왔고, 카메라 제조사와 뉴스 통신사가 대거 참여했어. 표준 자체는 잘 설계됐다는 평가야. 문제는 유통 경로였어. 소셜 미디어 플랫폼 대부분이 업로드 시 메타데이터를 제거해. 대역폭 절약과 프라이버시 보호가 이유인데, 결과적으로 인증 정보가 소비 지점에 도달하지 못했어. 표준이 좋아도 파이프라인 전체가 지원하지 않으면 소용이 없다는 걸 보여준 사례야.

이 세 가지를 겹쳐 보면 이번 조치의 예상 성적표가 나와. 복사·붙여넣기 수준의 단순 유통에서는 작동할 거야. 의도적인 세탁 — 다른 모델로 재작성, 번역 후 역번역, 문장 단위 재구성 — 앞에서는 무력할 가능성이 높아. 파일 쪽은 스크린샷 한 번에 끝나. 앤트로픽 스스로 이걸 문서에 써놨다는 게, 오히려 이 발표에서 가장 정직한 대목이야.

다른 랩들은 어떻게 움직일까

지금 상황은 앤트로픽 혼자 앞서 나간 모양새야. 다른 프론티어 랩들의 선택지를 짚어보면 이렇게 정리돼.

오픈AI는 압박을 받는 위치야. EU에서 영업하는 이상 같은 조항의 적용을 받고, 경쟁사가 먼저 움직였으니 "왜 안 하냐"는 질문에 답해야 해. 다만 오픈AI는 챗GPT 개인 사용자 규모가 압도적이라 이탈 리스크가 앤트로픽보다 훨씬 커. 기업 API 위주인 앤트로픽과 계산이 다르다는 뜻이야. 대응하더라도 유럽 한정으로 좁히거나, 텍스트는 빼고 이미지·비디오만 하는 식으로 범위를 조정할 가능성이 있어.

구글은 이미 신스ID가 있어서 기술적으로는 준비된 상태야. 오히려 이번 건으로 신스ID의 텍스트 커버리지를 확대하고 이를 규제 준수 실적으로 내세울 여지가 생겼어. 구글은 표준화 논의에서 주도권을 잡는 데 관심이 있으니, C2PA와 신스ID를 묶는 방향으로 움직일 수도 있어.

메타는 가장 까다로운 위치야. 라마 계열은 오픈웨이트로 배포되니까 사용자가 모델 가중치를 직접 받아서 돌려. 서비스 제공자가 출력에 개입할 지점이 없어. 워터마크 로직을 모델에 넣어도 코드 몇 줄로 뺄 수 있고. 오픈웨이트 생태계 전반이 같은 구조적 문제를 안고 있어. 이건 EU AI법이 오픈소스 모델에 어떤 예외를 두느냐와 직결되는 문제로, 아직 정리가 안 됐어.

중국계 오픈웨이트 모델들 — 딥시크나 큐원 계열 — 은 EU 규정의 직접 대상이 아니면서 유럽 개발자들이 활발히 쓰고 있어. 여기서 역설이 생겨. 규정을 지키는 서구 상용 모델의 출력에는 표식이 있고, 규정 밖에 있는 오픈웨이트 모델 출력에는 없어. 판별 도구 입장에서는 "표식이 없다"가 "사람이 썼다"를 뜻하지 않게 되고, 이건 워터마크 체계 전체의 신뢰도를 갉아먹어.

탐지 도구 업계는 미묘해. 턴잇인 같은 표절 검사 업체나 AI 판별 스타트업들은 확률 기반 추정으로 사업을 해왔는데, 워터마크가 확산되면 그 시장의 성격이 바뀌어. 정확한 판별이 모델 제공자의 무료 API로 가능해지면 유료 추정 도구의 가치가 떨어져. 반대로 워터마크 없는 콘텐츠를 다루는 영역은 여전히 남으니, 두 층으로 갈라질 가능성이 커.

그래서 뭐가 달라지는데

클로드를 업무에 쓰는 직장인에게는 당장 달라지는 건 거의 없어. 표식은 눈에 보이지 않고 문장 품질도 그대로야. 다만 알아둘 건, 회사가 AI 사용 정책을 만들고 판별 도구를 도입하는 경우 클로드로 만든 초안은 상대적으로 탐지되기 쉬운 쪽에 속하게 된다는 거야. 초안을 받아서 본인이 실질적으로 고쳐 쓴다면 신호는 흐려져. 표식 유지 여부가 곧 "AI가 썼는가"의 답은 아니라는 뜻이기도 해.

개발자와 API 이용자에게는 확인할 게 하나 생겼어. 클로드 API로 텍스트를 받아 최종 산출물로 내보내는 파이프라인을 운영한다면, 그 산출물에 표식이 실려 나가. 고객 대상 콘텐츠를 생성하는 서비스라면 이걸 미리 고지할지 판단이 필요해. 이미지·파일을 다루는 경우엔 C2PA 메타데이터가 붙으니, 후처리 단계에서 메타데이터를 유지할지 제거할지도 결정 사항이 돼.

교육 현장에 있는 사람에게는 판별 정확도가 조금 올라갈 여지가 생겼어. 다만 기대는 낮게 잡는 게 맞아. 학생이 클로드로 초안을 쓰고 다른 모델로 한 번 돌리거나 직접 문장을 손보면 신호는 거의 사라져. 워터마크는 부주의한 사용을 잡는 도구지, 의도적 회피를 막는 도구가 아니야.

AI 정책에 관심 있는 사람에게는 이번 건이 관찰 지점이야. 규제가 제품 사양을 실제로 바꾸는 데까지 갔고, 그것도 관할 밖까지 확산됐어. 앞으로 볼 것은 두 가지야. 오픈AI와 메타가 어떤 형태로 따라오는지, 그리고 EU가 오픈웨이트 모델에 이 조항을 어떻게 적용하는지. 후자가 정리되지 않으면 이 체계는 절반짜리로 남아.

투자자에게는 규제 준수 역량이 경쟁 요소로 부상하는 흐름을 보여주는 신호야. 규제 산업 고객을 상대하는 AI 기업에게 준법 인프라는 비용이면서 동시에 진입장벽이야. 다만 워터마크 하나가 매출에 미치는 영향을 직접 계산할 만한 근거는 아직 없어.

🥄 남은 궁금증 세 가지

— 그래서 내가 클로드로 쓴 글이 다 추적된다는 거야? 그건 아니야. 워터마크는 "이 텍스트가 클로드에서 나왔을 확률이 높다"를 판별하는 거지 누가 언제 생성했는지를 담지는 않아. 앤트로픽도 개별 사용자 식별 용도가 아니라고 설명하고 있어. 다만 조직이 판별 도구를 도입하면 "AI로 썼는지"는 이전보다 쉽게 확인될 수 있어.

— 이거 지우려면 어떻게 해야 해? 앤트로픽이 문서에 직접 써놨어. 크게 고쳐 쓰거나, 의역하거나, 번역하거나, 다른 글에 섞으면 탐지가 안 될 수 있고, 파일은 재저장·포맷 변환·스크린샷이면 메타데이터가 날아가. 회피가 어렵지 않다는 걸 회사가 먼저 밝힌 셈이야. 그래서 이 조치를 "위조 방지"보다 "출처 표시"에 가깝게 이해하는 게 맞아.

— 다른 회사들도 곧 따라오는 거야? 단정하긴 일러. EU에서 영업하는 이상 같은 의무를 지지만, 적용 범위를 유럽으로 좁힐 수도 있고 텍스트 대신 이미지·영상만 할 수도 있어. 구글은 신스ID가 이미 있어서 부담이 적은 편이고, 오픈AI는 개인 사용자 이탈 우려 때문에 신중했던 전례가 있어. 오픈웨이트 모델은 구조적으로 강제가 어렵고.

참고 자료

수치는 발표 시점 기준이라 바뀔 수 있어.