TIMEWELL
솔루션
무료 상담문의하기
TIMEWELL

AI로 조직의 잠재력을 실현

ISO/IEC 27001 (ISMS) 인증 마크 (SGS / ISMS-AC)

ISO/IEC 27001:2022 인증 인증서 번호 JP26/00000255 범위: AI 기술을 활용한 SaaS 제품의 기획, 개발 및 운영

서비스

  • ZEROCK
  • TRAFEED
  • TIMEWELL BASE
  • WARP
  • WARP 1Day
  • WARP NEXT Corporate
  • WARP BASIC
  • WARP ENTRE
  • Alumni Salon
  • WARP for Schools
  • 수료생 사업 소개
  • FDE
  • AI 컨설팅
  • EMC GLOBAL

회사

  • 회사 소개
  • 팀
  • TIMEWELL을 선택하는 이유
  • 뉴스
  • 문의
  • 무료 상담

콘텐츠

  • 인사이트
  • 지식 베이스
  • 사례 연구
  • 백서
  • 이벤트
  • 솔루션
  • AI 준비도 체크
  • ROI 계산기

법적 고지

  • 개인정보처리방침
  • 매뉴얼 크리에이터 확장 프로그램
  • WARP 이용약관
  • WARP NEXT 스쿨 규칙
  • 법적 고지
  • 보안
  • 반사회적 세력 배제 정책
  • ZEROCK 이용약관
  • TIMEWELL BASE 이용약관

뉴스레터

최신 AI 및 DX 인사이트를 매주 받아보세요

이메일은 뉴스레터 발송 목적으로만 사용됩니다.

© 2026 株式会社TIMEWELL All rights reserved.

문의하기
홈인사이트テックトレンドAI 텍스트 워터마크의 구조|EU AI Act 제50조와 주요 사업자의 현황
テックトレンド

AI 텍스트 워터마크의 구조|EU AI Act 제50조와 주요 사업자의 현황

공개2026-08-13수정2026-11-06濱本 隆太
워터마크EU AI ActClaudeChatGPTSynthID생성 AIWARP

2026년 8월, Claude가 생성 텍스트에 보이지 않는 워터마크를 넣기 시작했습니다. 배경은 EU AI Act 제50조의 투명성 의무입니다. 토큰 선택에 신호를 심는 구조, 2026년 10월에 발표된 ChatGPT의 EU 대상 텍스트 워터마크와 Grok의 현황, 워터마크가 사라지는 지점까지 초심자 기준으로 정리합니다.

AI 텍스트 워터마크의 구조|EU AI Act 제50조와 주요 사업자의 현황
Share

안녕하세요, 주식회사 TIMEWELL의 하마모토입니다.

요즘 「Claude가 스쿼시를 넣었다」는 이야기를 자주 듣습니다. 일본어 음성 입력이면 「스카시(워터마크)」가 「스쿼시」로 들립니다. 아마 전자 워터마크 이야기일 겁니다. 화면에는 아무것도 나오지 않습니다. 그런데 복사해서 다른 곳으로 가져가면, 기계만 읽을 수 있는 표시가 따라갑니다. 그런 구조가 2026년 8월부터 Claude의 새 모델에 들어가기 시작했습니다1.

솔직히 말하면, 저도 처음에는 「이미지 워터마크와 같은 것을 글에도 겹쳤구나」라고 생각했습니다. 다릅니다. 글의 워터마크는 로고를 옅게 놓는 이야기가 아닙니다. 다음 한 단어를 고를 때 주사위 눈에, 아주 작은 편향을 심는 이야기입니다. 오늘은 그 편향이 어떻게 만들어지고, 왜 이제야 구현이 한꺼번에 움직였는지, 그리고 ChatGPT나 Grok이 한 걸음 늦은 이유를, 연구 쪽 일차 정보도 짚어 가며 씁니다.

8월 13일 초판 이후 달라진 점

2026년 11월 6일에 다시 읽으며 세 가지를 갱신했습니다. 첫째는 OpenAI입니다. 2026년 10월 5일, EU의 ChatGPT와 Codex에 텍스트 워터마크를 넣겠다고 발표했습니다. 8월 시점에는 ChatGPT에 텍스트 워터마크가 없었지만, 지금은 「EU 먼저, 순차 도입」으로 바뀌었습니다. 다만 실제로 각 사용자에게 도달했는지는 이 글에서 확인하지 못했습니다.

둘째는 Claude의 검출기입니다. 널리 공개된 것이 아니라 비공개 프리뷰 단계입니다. 셋째는 집행위원회의 서명자 페이지가 9월 24일에 갱신되고, 행동규범 태스크포스가 9월부터 움직이기 시작한 점입니다. 기존 모델의 유예 기한(2026년 12월 2일)은 변하지 않았고, 이제 한 달도 남지 않았습니다.

이 글은 기술과 공개 정보를 정리한 것이며 법률 자문이 아닙니다. 자사의 의무는 법무 또는 전문가에게 확인해 주십시오.

계기는 Claude. 배경은 EU의 투명성 의무

Anthropic의 헬프 센터는 꽤 분명하게 적혀 있습니다. 2026년 8월 2일 이후 유럽에 투입하는 Claude 신규 모델은, 첫날부터 기계 가독 표시를 붙인다. 생성 텍스트에는 임베디드 워터마크를, 대응하는 파일에는 디지털 서명 있는 출처 메타데이터를 붙인다. 대상은 Claude 본체만이 아니라 API, Claude Code, Claude Cowork, Claude Tag, 클라우드 경유까지. 지역도 유럽 한정이 아니라, Claude가 제공되는 모든 곳입니다1. 같은 페이지의 주석에는 Amazon Bedrock에서의 도입이 11월 10일까지 완료될 예정이라는 점, Sonnet 4.6에서는 온도 등 샘플링 설정을 기본값에서 바꾸면 워터마크가 확실히 실리지 않을 수 있다는 점도 적혀 있습니다.

기존 모델에는 유예가 있습니다. 2026년 8월 2일보다 전에 시장에 나온 생성 AI는, 기계 가독 마킹 적용이 2026년 12월 2일까지 미뤄져 있습니다. Anthropic 자신도 옛 모델에 대한 후처리를 진행 중이라고 적었습니다1. 이 유예는 AI Act를 간소화하는 개정(Digital Omnibus)으로 정해졌다고 해설됩니다. 이번에는 관보 원문을 열어 보지 못했기 때문에, 기한은 사업자의 설명과 여러 2차 해설에서 읽은 범위입니다.

왜 이 날짜인가. 답은 EU AI Act(규칙 2024/1689) 제50조입니다. 제50조(2)는 음성·이미지·영상·텍스트를 합성하는 AI 시스템 제공자에게, 출력을 기계 가독 형식으로 표시하고, 인공적으로 생성 또는 개변된 것으로 검출 가능하게 할 것을 요구합니다. 2026년 8월 2일부터 적용입니다2. 오늘은 그 가운데 「표시하라」는 한 문장이, 기술 세계에서 무엇을 움직였는지에 좁혀 씁니다.

여기서 중요한 것은, 조문이 「워터마크를 넣어라」고 쓰지 않았다는 점입니다. 기술 중립입니다. 전문 133항은 워터마크, 메타데이터 식별자, 출처 증명을 위한 암호 기술, 로그, 지문 등을 예시합니다. 요구되는 것은 「기술적으로 실행 가능한 범위에서, 유효·상호운용 가능·견고하고 신뢰할 수 있을 것」입니다. 공격 내성의 완전성까지는 요구하지 않습니다2.

2026년 6월 10일에는 유럽연합 집행위원회와 AI Office가 「AI 생성 콘텐츠의 투명성에 관한 행동규범」 최종판을 냈습니다. 7월 말까지 약 190개 조직이 서명했습니다. 제1부(제공자 측) 예로 이름이 나온 것은 Aleph Alpha, Anthropic, Black Forest Labs, Cohere, Google, Meta, Microsoft, Mistral, OpenAI, Synthesia 등입니다. xAI 이름은 2026년 9월 24일 갱신된 같은 페이지에도 보이지 않습니다3. 서명자는 9월부터 모범 사례를 공유하는 두 개의 태스크포스에 참여할 수 있습니다. 서명은 임의입니다. 제50조 의무는 서명하지 않아도 남습니다.

제재금 이야기도 조문을 나눠 읽어야 합니다. AI Act 전체의 상한은 3,500만 유로 또는 전 세계 매출의 7%이지만, 제50조 클래스의 의무는 제99조 중단, 1,500만 유로 또는 3% 쪽입니다4. 어느 쪽이든, 연구 주제였던 워터마크가 2026년 여름에 「출하 항목」으로 격상된 사정은 여기에 있습니다.

AI 기반 개발을 프로덕션까지 완주하세요

WARP는 헤드라인 이상을 원하는 팀을 위한 실무 중심 프로그램입니다. 전 기업 DX 및 데이터 전략 리더들이 실제 운영까지 함께합니다.

무료 상담 예약WARP 살펴보기

보이지 않는 워터마크는, 다음 한 단어의 고르는 법에 심는다

AI 생성문을 가려내는 방법은 크게 세 가지뿐입니다. Google DeepMind의 SynthID-Text 논문이 이 정리를 분명하게 적었습니다5.

첫째는 검색입니다. 서비스 측이 생성한 글을 전부 저장해 두고 나중에 대조한다. 확실하지만, 모든 사용자 대화를 남긴다는 전제라 프라이버시 비용이 큽니다. 둘째는 사후 검출입니다. 통계나 분류기로 「AI 같음」을 잽니다. DetectGPT 계열이 이쪽입니다. 생성 측에 손을 대지 않아도 되는 대신, 영어를 모어로 하지 않는 사람의 글을 AI로 오판하기 쉽다는 편향이 반복해서 보고되어 왔습니다. 모델이 능숙해질수록 인간과의 차도 줄어듭니다.

셋째가 워터마크입니다. 생성하는 순간에 신호를 심습니다. 개입이 필요한 대신, 검출은 통계로 설명할 수 있습니다. 모델 본체를 넘기지 않아도, 비밀 키와 토크나이저만 있으면 제삼자가 검증할 수 있는 설계도 있습니다.

2023년 Kirchenbauer 등의 논문이 지금의 실무 어휘를 만들었습니다. LLM은 다음 토큰(말의 조각)을 고를 때 어휘 전체에 확률을 붙입니다. 직전 토큰과 비밀 키의 해시를 난수 씨앗으로 써서, 어휘를 그린 리스트와 레드 리스트로 나눕니다. 그린 쪽 토큰의 점수를 조금만 끌어올린 다음 주사위를 굴립니다. 검출하는 쪽은 같은 키로 리스트를 재현하고, 그린이 몇 개 들어 있는지를 셉니다. 워터마크가 없으면 그린 비율은 대략 절반. 들어 있으면 유의하게 늘어납니다. 이 차를 z 통계량으로 낼 수 있어서, 「AI 같음 80%」가 아니라 「이것이 우연일 확률은 100만분의 1 미만」이라고 말할 수 있는 것이 설계의 장점입니다6.

비유를 하나. 글의 워터마크는 종이에 옅은 로고를 찍는 작업이 아닙니다. 카지노 주사위에, 눈에 보이지 않는 편향을 심는 작업입니다. 한 번으로는 모릅니다. 수십 번 굴리면 6이 너무 많다는 것을 알아챕니다. 검출기는 그 편향을 세고 있을 뿐입니다.

그래서 다음 말이 거의 하나로 정해지는 자리에는 묻을 수 없습니다. 논문이 드는 예가 알기 쉬운데, 「Barack」 다음은 거의 확실히 「Obama」입니다. 여기를 억지로 다른 말로 밀면 문장이 깨집니다. 워터마크는 모델의 「망설임」에 기생합니다. 망설임이 적을수록 신호는 약해집니다. 이 제약을 논문은 스파이크 엔트로피라는 지표로 정식화했습니다6. 코드나 고유명사 연속, 짧은 인사문이 약한 것은 이 때문입니다.

Google DeepMind의 SynthID-Text는 같은 난수원 위에서 샘플링 방식을 바꿉니다. 토너먼트 방식입니다. 어휘 안에서 후보를 여러 번 내고, 비밀 채점 함수로 승자 전을 반복합니다. 살아남은 말은 비밀 점수가 높은 경향이 있습니다. 검출 측은 그 평균을 봅니다. 표준 설정은 30층입니다. Gemini 프로덕션 트래픽 약 2,000만 건에서 썸즈업 비율 차는 0.01%, 지연 증가는 0.57%. 품질을 거의 떨어뜨리지 않고 대규모에 올릴 수 있다는 것이 이 논문의 본령입니다5.

Berkeley의 Mark My Words는 방식을 품질, 검출에 필요한 길이, 개변 내성 세 축으로 때립니다. 실무에서 자주 쓰는 온도 범위라면 Kirchenbauer형이 가장 강하고, 영어로 대략 40단어, 50~60토큰이면 검출할 수 있습니다. 반면 코드 생성에서는 정답률이 떨어지고 검출도 불안정해집니다. GPT-3.5로 바꿔 쓰면, 최선의 방식에서도 60% 이상 확률로 워터마크가 떨어진다는 숫자도 나옵니다7.

Anthropic이 채택한 알고리즘의 속은, 이 글을 쓰는 시점에는 공개되어 있지 않습니다. 그린 리스트인지 토너먼트인지, 다른 방식인지. 헬프는 「텍스트 자체에 짜 넣는다」「의미와 품질은 바꾸지 않는다」「복사해도 남는 경우가 있다」고만 적었습니다1. 다만 2023년 이후 연구가 공유하는 골격은 같습니다. 특수 문자를 숨기는 것이 아니라, 말을 고르는 통계에 신호를 갖게 하는 것.

파일 쪽은 별개입니다. Claude가 출력하는 SVG, PNG, JPG 등에는 C2PA라는 업계 표준의 서명 메타데이터가 붙습니다1. 이것은 텍스트 워터마크가 아니라, 파일 봉투에 출처를 쓰는 방식입니다. 이미지를 스크린샷하면 떨어지기 쉽습니다. 그래서 이층으로 한다는 것이 유럽 행동규범의 읽기이기도 합니다.

ChatGPT와 Grok은 왜 한 걸음 늦었나

8월 시점에는 「ChatGPT는 안 넣었는데 Claude만 먼저 냈다」로 읽으면 선악의 이야기가 되기 쉬웠습니다. 저는 그렇게 보지 않습니다. 각사가 안고 있는 제약이 다르다는 것이, 일차 정보에서 읽을 수 있는 범위입니다.

OpenAI는 2024년 5월 공식 블로그에서, 텍스트 워터마크 기법을 이미 갖고 있다고 적었습니다. 8월 추기에서는 국소적인 바꿔 쓰기에는 강한 반면, 번역, 다른 생성 모델로 다시 쓰기, 단어 사이에 특수 문자를 끼웠다가 나중에 지우는 식의 전체 개변에는 약하다고 인정했습니다. 악의 있는 상대에게는 쉽게 벗겨진다는 평가. 또 하나, 영어를 모어로 하지 않는 사람이 작문 보조로 쓰는 경우를, 워터마크가 부당하게 낙인찍을 우려가 있다고도 적었습니다8. 우선순위는 당시, 허위 정보가 더 위험하다고 보였던 이미지와 음성이었습니다.

2026년 8월 시점의 OpenAI 헬프에는, 이미지는 C2PA 메타데이터와 SynthID 워터마크 양쪽, 음성은 SynthID, 텍스트는 「모든 모달리티로 넓히는 것이 목표」라고만 적혀 있고 출하 서술은 없었습니다9. 여기까지가 초판의 내용입니다.

그 뒤 상황이 움직였습니다. OpenAI는 2026년 10월 5일, EU의 ChatGPT와 Codex에서 생성되는 텍스트에 눈에 보이지 않는 워터마크를 넣겠다고 발표했습니다. 방식 이름은 textGrain이고, 모델의 단어 선택에 통계적 신호를 싣습니다. ChatGPT와 Codex는 모든 요금제의 대상 사용자에게 앞으로 몇 주에 걸쳐 순차적으로, EU에서만 적용됩니다. API는 일부 모델에 대해 전 세계 개발자가 선택해 켤 수 있으며 기본값은 꺼짐이고, 출시 시점에 전 세계 기본값으로 삼지는 않는다고 합니다10.

한계도 OpenAI 스스로 먼저 적었습니다. 이 워터마크가 보여 줄 수 있는 것은 「OpenAI의 시스템이 그 글의 일부를 생성 또는 처리했다」는 점까지입니다. 사용자 특정, 사람의 기여도, 저작권 귀속, 내용의 정확성은 보여 주지 못합니다. 워터마크가 없다고 사람이 썼다는 증명이 되는 것도 아닙니다. 짧은 글이나 나중의 편집으로 검출은 불안정해집니다. 검출기는 당분간 승인된 연구자와 전문 기관에만 제공됩니다10. 보도에 따르면 OpenAI의 시험에서 단어의 10%를 유의어로 바꾸자 검출률이 약 92%에서 약 66%로 떨어졌다고 합니다11.

저는 이로써 Anthropic과의 차이가 분명해졌다고 봅니다. Claude는 전 세계에 넣었습니다. OpenAI는 EU의 ChatGPT와 Codex에 한정하고 API는 선택식으로 했습니다. 어느 쪽이 옳다는 이야기가 아니라, 규제가 요구하는 범위를 어디까지로 읽고 EU 밖 이용자에게 어떻게 설명하느냐의 설계 차이입니다. OpenAI가 2024년에 우려한 「영어 비모어 화자에 대한 낙인」에 어떻게 대응했는지는 발표 전문을 구하지 못해 이 글에서는 판단하지 않습니다.

서명과 구현은 별개입니다. OpenAI는 행동규범 서명자이기도 합니다3. 제50조는 기술 중립이어서 워터마크 이외의 기계 가독 수단도 인정됩니다. 「텍스트 워터마크를 넣지 않는다 = 위법」이라고도, 「넣었다 = 규제를 충족했다」라고도 쓸 수 없습니다.

Google은 2024년 시점에 SynthID-Text를 Gemini에 올리고 논문까지 냈습니다5. 구현은 오픈소스로 Hugging Face Transformers v4.46.0 이후에서 쓸 수 있고, 검출기는 「워터마크 있음, 없음, 불확실」의 세 값으로 결과를 돌려줍니다. Google의 개발자 문서도 사실 관계형 답변에는 효과가 떨어지고, 대폭적인 바꿔 쓰기나 번역 뒤에는 검출 확신이 크게 내려가며, 의도를 가진 공격자를 직접 막기 위한 장치는 아니라고 밝힙니다12. 텍스트 워터마크의 프로덕션 운용은, 사실 Claude가 세계 최초가 아닙니다. 대규모로 올리고 숫자를 공개한 것은 Google이 더 빠릅니다. 2026년 8월에 화제가 된 것은, 대화형 어시스턴트로 일상에서 쓰이는 Claude가 채팅 본문 자체에 표시를 넣기 시작했다는, 체감 쪽이라고 생각합니다.

Grok 쪽은 공식 설명이 아직 얇습니다. 유럽연합 집행위원회 서명자 페이지(2026년 9월 24일 갱신)에서 xAI의 이름은 보이지 않습니다3. Anthropic처럼 「텍스트에 임베디드 워터마크를 넣는다」는 헬프도, 이 글을 쓰는 시점에는 보이지 않습니다. 여기서부터는 추측을 섞지 않는 편이 낫습니다. 미서명이라서 의무가 없는 것은 아닙니다. EU를 향해 생성 AI를 내면 제50조는 남습니다. 서명은 「적합을 보여 주기 쉬운 길」이지, 의무 자체의 면제가 아닙니다. xAI가 다른 수단으로 표시하고 있는지, 기존 모델의 유예 기간을 쓰고 있는지, 앞으로 낼 것인지. 공개 정보만으로는 가를 수 없습니다.

제 짐작으로는, OpenAI가 2024년에 보류한 본체는 「기술이 미완성」이 아니라 「텍스트는 이미지보다 거짓말을 하기 어렵다」는 점입니다. 이미지 워터마크는 화소에 신호를 흩뿌릴 수 있습니다. 텍스트는 말의 선택지 자체가 좁고, 바꿔 쓰기 한 번에 통계가 무너집니다. OpenAI가 2024년에 쓴 우려는, 2024년 Mark My Words나 워터마크 절취 논문과 방향이 같습니다. Jovanović 등은 공개 API를 제한된 횟수만 두드려도 비밀 워터마크 규칙을 근사할 수 있고, 비용은 50달러 미만, 제거 성공률은 80% 초과까지 뛴다고 보였습니다13. Zhang 등은 자연스러운 가정 아래에서는 강한 의미의 워터마크는 불가능하다고 증명했습니다14.

그래서 「먼저 낸 회사가 옳고, 늦게 낸 회사가 태만하다」는 구도는 저는 잡지 않습니다. 먼저 낸 회사는 규제 달력에 맞추고, 한계 설명까지 세트로 냈습니다. 뒤따른 회사는, 깨지는 방식을 안 뒤에 범위를 좁힌 방식을 택한 것으로 보입니다. 둘 다 공개 정보의 범위에서는 설명으로 성립합니다.

워터마크가 사라지는 곳, 듣지 않는 곳

Anthropic 자신이 한계를 먼저 적었습니다. 검출되어도 Claude가 원저자라는 뜻은 아닙니다. 교정, 번역, 요약, 파일 변환만 맡겨도 표시가 붙습니다. 검출되지 않아도 AI 생성이 아니라는 뜻은 아닙니다. 옛 모델, 대폭 편집, 번역, 다른 글과의 혼합, 너무 짧은 문장, 파일 메타데이터 박리. 모두 「표시 없음」이 됩니다1.

연구 쪽 지도와 겹치면, 현장에서 듣지 않는 곳은 꽤 분명합니다. 짧은 글. 코드. 고유명사 연속. 구조화된 JSON. 작심한 공격자의 바꿔 쓰기. 오픈 웨이트 모델을 로컬에서 돌린 출력. 후자에는 원리적으로 제공자의 워터마크를 강제할 수단이 없습니다. SynthID-Text 논문 자신이 이 한계를 인정합니다5.

반대로 듣는 곳도 있습니다. 가벼운 복사 붙여넣기 억지. 플랫폼 쪽의 대규모 자동 분류. 자사가 자사 모델 출력을 나중에 줍는 출처 관리. 「기계 가독 마킹」을 구현하는 구체적인 방법 가운데 하나라는 용도. 숙제를 편하게 하려는 학생이 번역하고 다른 모델로 다시 쓰고 특수 문자를 끼우는 손수를 밟을 동기는 얇다, 가 Mark My Words의 정리입니다7. 완전한 방어는 아닙니다. 마찰로는 작동합니다.

워터마크 절취 논문이 까다로운 것은, 제거와 사칭이 동시에 가능해진다는 점입니다. 공격자가 혐오 발언에 「그 회사의 워터마크」를 붙여 유통시키면, 제공자에게 책임이 잘못 귀속됩니다13. 워터마크는 본인 확인이 아닙니다. 안전벨트에 가깝다고 저는 생각합니다. 사고를 막는 장치는 아닙니다. 없으면 피해가 확실히 커지는 종류의 장치일 겁니다.

한국어나 일본어 글에서는, 영어 연구 숫자를 그대로 믿지 않는 편이 낫다고도 느낍니다. 토큰화 단위가 다릅니다. 조사 하나로 끊김이 바뀝니다. 50~60토큰이면 검출할 수 있다는 영어 숫자가, 한국어로 몇 글자에 해당하는지는 공개 벤치마크가 아직 얇습니다. Claude의 검출기가 나오기 전까지, 현장은 「긴 본문일수록 남기 쉽고, 짧은 회신일수록 사라진다」 정도의 입자로 보는 것이 성실하다고 생각합니다.

함께 읽기보이지 않는 코드가 실행된다 — GlassWorm이 깨뜨린 「리뷰하면 막을 수 있다」는 전제

현장이 가져야 할 기대값은 「안전벨트」

그렇다면 기업 쪽은 어떻게 자세를 잡을까. 저라면, 워터마크 단체를 감사의 근거로 삼지 않는 것부터 시작합니다. 채용 서류, 논문, 보도자료, 고객용 문서. 어느 것도 「검출기가 반응했다 / 하지 않았다」만으로 인사나 법무의 결론을 내서는 안 됩니다. 짧은 글은 반응하지 않습니다. 교정만 해도 반응합니다. 둘 다 공식에 적혀 있는 일입니다1.

대신 가져야 할 것은 이층입니다. 텍스트 쪽의 통계적 표시와, 파일 쪽의 서명 메타데이터(C2PA). 유럽 행동규범이 미는 것도 이 겹침입니다. 이미지나 자료를 사외로 내는 경로에서는, 스크린샷이나 다시 저장으로 메타데이터가 떨어지는지를 먼저 보는 편이 낫습니다. 텍스트는 어느 모델로, 언제, 어느 프롬프트로 냈는지를 사내 로그로 남깁니다. 워터마크는 그 보조입니다. 주기록이 아닙니다.

생성 AI 글이 「AI 같다」는 느낌으로 판단하는 시대는 이미 끝나 가고 있습니다. 능숙한 모델일수록 인간과의 차는 줄어듭니다. 사후 검출기의 오판이 영어 비모어 화자를 다치게 해 온 역사도 있습니다. 그래서 제공자 측이 생성 시에 표시를 넣는 쪽으로 움직였습니다. 그 판단 자체는 타당하다고 생각합니다. 다만 표시의 의미를 과대평가하면 다음 사고가 납니다. 워터마크가 있는 글을 「나쁜 글」로 다루는 공기입니다. OpenAI가 2024년에 두려워한 것은 바로 거기입니다8.

개인적으로, 2026년 후반의 초점은 「누가 먼저 워터마크를 넣었는가」가 아니라 「검출 결과를 누가, 무엇에 써도 되는가」의 합의 형성이라고 생각합니다. 대학, 채용, 보도, 플랫폼. 용도마다 위양성 비용이 다릅니다. 행동규범 태스크포스는 2026년 9월부터 움직이고 있습니다3. 거기에 실무의 말을 올리는 쪽에, 일본과 한국의 기업도 서는 편이 낫습니다. 일본에서는 총무성과 경제산업성의 「AI 사업자 가이드라인」이 2026년 3월에 제1.2판으로 개정되었다고 보도되었습니다. 다만 워터마크나 출처 표시를 본문에서 어떻게 다루는지는 이번에 확인하지 못했습니다. 자사 방침을 정할 때는 원문으로 확인해 주십시오.

생성 AI 출력을 사내에서 어떻게 다루고, 어디까지 인간이 책임을 질 것인가. 그 설계가 워터마크보다 먼저 필요한 일입니다. TIMEWELL의 WARP에서는 모델 선정이나 프롬프트 이야기만이 아니라, 출력의 출처를 남기는 운용, 사내 규칙, 인력 쪽 리터러시까지 포함해 동행합니다. 「검출기를 넣으면 끝」인 이야기가 아니라고 느끼는 분은, 개별 상담부터 이야기해 주십시오.

보이지 않는 표시는 앞으로 평범한 인프라가 됩니다. 평범해진 뒤에 듣는 것은, 표시 자체보다 표시를 어떻게 읽을지의 작법 쪽입니다.

참고문헌

Footnotes

  1. Anthropic, How Claude marks AI-generated content(Claude Help Center) ↩ ↩2 ↩3 ↩4 ↩5 ↩6 ↩7

  2. Regulation (EU) 2024/1689, Article 50 / Recital 133 ↩ ↩2

  3. European Commission, Strong backing for the Code of Practice on Transparency of AI-generated Content(2026-07-31 공표, 2026-09-24 갱신) ↩ ↩2 ↩3 ↩4

  4. Regulation (EU) 2024/1689, Article 99 ↩

  5. Dathathri, S. et al. (2024). Scalable watermarking for identifying large language model outputs. Nature 634, 818–823. DOI: 10.1038/s41586-024-08025-4 ↩ ↩2 ↩3 ↩4

  6. Kirchenbauer, J. et al. (2023). A Watermark for Large Language Models. ICML 2023. arXiv:2301.10226 ↩ ↩2

  7. Piet, J. et al. (2025). Mark My Words: Analyzing and Evaluating Language Model Watermarks. IEEE SaTML 2025. arXiv:2312.00273 ↩ ↩2

  8. OpenAI, Understanding the source of what we see and hear online(2024-05-07, 2024-08-04 갱신) ↩ ↩2

  9. OpenAI Help, Provenance signals (Content Credentials, SynthID) in OpenAI-generated content ↩

  10. OpenAI, Our approach to EU text provenance rules(OpenAI Developer Community, Announcements, 2026-10-05). openai.com의 전문은 가져올 수 없어, 공식 포럼 게시글로 확인했습니다 ↩ ↩2

  11. TechCrunch, OpenAI will start watermarking ChatGPT's text in the EU(2026-10-05). 유의어 치환 수치는 보도가 전하는 OpenAI의 시험 결과이며, 일차 자료로는 확인하지 않았습니다 ↩

  12. Google AI for Developers, SynthID Text ↩

  13. Jovanović, N., Staab, R., & Vechev, M. (2024). Watermark Stealing in Large Language Models. ICML 2024. arXiv:2402.19361 ↩ ↩2

  14. Zhang, H. et al. (2024). Watermarks in the Sand: Impossibility of Strong Watermarking for Generative Models. ICML 2024. arXiv:2311.04378 ↩

본 기사는 일부 내용을 AI로 작성했으며, 게시 전에 사람이 1차 자료를 확인하고 편집했습니다.

다음에 읽을 글

이 글을 읽고 난 뒤 생기는 다음 궁금증에 답하는 글입니다.

  1. 1SpaceXAI가 사흘 만에 내놓은 것|Grok 4.6, Build, Bot, 그리고 「AI에서 이겨야 한다」2026년 8월 11일 Grok Bot, 12일 Grok 4.6. SpaceXAI가 며칠 사이에 에이전트 제품과 새 모델을 연달아 내놓았습니다. 공개된 벤치마크를 정직하게 읽으면 10개 항목 중 1등은 3개뿐이지만, 진짜 볼거리는 다른 데 있습니다. 머스크의 사내 발언, 가격 구조, 중국 진영과의 차이까지 정리합니다.
  2. 2보이지 않는 코드가 실행된다 — GlassWorm이 깨뜨린 「리뷰하면 막을 수 있다」는 전제화면에 아무것도 표시되지 않는 Unicode 문자에 실행되는 코드를 심는 공격 GlassWorm이 확인되었습니다. VS Code 확장 기능을 거쳐 자기 증식하며 설치 수 35,800건에 이르렀습니다. 왜 사람 눈에 안 보이는지, 어느 장면에서 밟게 되는지, 그리고 육안 리뷰가 통하지 않는 전제에서 어떻게 지킬지를 정리합니다.
  3. 3FDE와 AI 동반 지원은 무엇이 다른가|팔고 있는 것부터 보면 다른 일입니다MIT NANDA의 조사에서는, 생성형 AI에 투입된 추정 300억~400억 달러에 대해 95%의 조직이 측정 가능한 수익을 얻지 못했습니다. 현장에 엔지니어를 두는 FDE와, 일본에서 자주 듣는 AI 동반 지원은 비슷해 보입니다. 팔고 있는 것, 산출물의 귀속, 시스템으로의 쓰기까지 따라가면, 다른 일입니다.

AI에 대해 얼마나 잘 알고 계신가요?

AI 이해도부터 보안 인식까지 7개 영역을 다루는 무료 5분 진단을 받아보세요.

무료 상담 예약
무료 상담 예약45분 온라인 세션자료 다운로드제품 브로셔 및 백서

이 글이 도움이 되었다면 공유해 주세요

Share

뉴스레터

최신 AI 및 DX 인사이트를 매주 받아보세요

이메일은 뉴스레터 발송 목적으로만 사용됩니다.

관련 기초 지식

Enterprise AI GuideAI Adoption Roadmap

과제 해결 솔루션

AI Adoption & DX SupportEnd-to-end support from strategy to adoption

AI駆動開発を、動かせるところまで

記事で読んだ話を、自分の手で動かせるようにする実践プログラムがWARPです。元大手DX・データ戦略の専門家が伴走します。

문의하기WARP 자세히 보기

Related Articles

SpaceXAI가 사흘 만에 내놓은 것|Grok 4.6, Build, Bot, 그리고 「AI에서 이겨야 한다」

SpaceXAI가 사흘 만에 내놓은 것|Grok 4.6, Build, Bot, 그리고 「AI에서 이겨야 한다」

2026년 8월 11일 Grok Bot, 12일 Grok 4.6. SpaceXAI가 며칠 사이에 에이전트 제품과 새 모델을 연달아 내놓았습니다. 공개된 벤치마크를 정직하게 읽으면 10개 항목 중 1등은 3개뿐이지만, 진짜 볼거리는 다른 데 있습니다. 머스크의 사내 발언, 가격 구조, 중국 진영과의 차이까지 정리합니다.

2026-08-13
보이지 않는 코드가 실행된다 — GlassWorm이 깨뜨린 「리뷰하면 막을 수 있다」는 전제

보이지 않는 코드가 실행된다 — GlassWorm이 깨뜨린 「리뷰하면 막을 수 있다」는 전제

화면에 아무것도 표시되지 않는 Unicode 문자에 실행되는 코드를 심는 공격 GlassWorm이 확인되었습니다. VS Code 확장 기능을 거쳐 자기 증식하며 설치 수 35,800건에 이르렀습니다. 왜 사람 눈에 안 보이는지, 어느 장면에서 밟게 되는지, 그리고 육안 리뷰가 통하지 않는 전제에서 어떻게 지킬지를 정리합니다.

2026-08-13
FDE와 AI 동반 지원은 무엇이 다른가|팔고 있는 것부터 보면 다른 일입니다

FDE와 AI 동반 지원은 무엇이 다른가|팔고 있는 것부터 보면 다른 일입니다

MIT NANDA의 조사에서는, 생성형 AI에 투입된 추정 300억~400억 달러에 대해 95%의 조직이 측정 가능한 수익을 얻지 못했습니다. 현장에 엔지니어를 두는 FDE와, 일본에서 자주 듣는 AI 동반 지원은 비슷해 보입니다. 팔고 있는 것, 산출물의 귀속, 시스템으로의 쓰기까지 따라가면, 다른 일입니다.

2026-08-13
에이전트 엔지니어링 입문|40만 세션이 보여 준 「맡기는 방식」의 설계

에이전트 엔지니어링 입문|40만 세션이 보여 준 「맡기는 방식」의 설계

Anthropic이 약 40만 세션을 분석한 연구에서는, 사람이 계획 의사결정의 약 70%를 맡고 실행 의사결정의 약 80%는 AI가 맡았습니다. 전문성이 높을수록 세션당 산출이 5배가 됩니다. 맡길 수 있는 작업의 길이는 계속 배가되고 있으며, 그 차이를 만드는 것은 모델이 아니라 환경 설계입니다.

2026-08-13
Terafab은 정말 「사상 최대의 건물」인가|1억 제곱피트의 자릿수를 검산한다

Terafab은 정말 「사상 최대의 건물」인가|1억 제곱피트의 자릿수를 검산한다

SpaceX와 Tesla가 2026년 8월 6일, 텍사스주 그라임스 카운티에 반도체 공장 「Terafab」을 짓겠다고 발표했습니다. 연면적 1억 제곱피트, 1기만으로 168억 달러. 텍사스 주지사실의 공식 발표와 머스크 본인의 게시물을 일차로 확인하고, 「사상 최대의 건물」이라는 주장이 어디까지 성립하는지를 실제로 검산합니다.

2026-08-08
YC Summer 2026의 236개사를 전부 읽었다 — AI 에이전트가 「고객」이 되고, 2인 팀이 공장을 짓는다

YC Summer 2026의 236개사를 전부 읽었다 — AI 에이전트가 「고객」이 되고, 2인 팀이 공장을 짓는다

Y Combinator Summer 2026 배치 236개사를 공개 디렉터리 데이터로 전부 분석했습니다. 팀 규모 중앙값은 2명, 산업 분야가 23%, 그리고 사람이 아니라 AI 에이전트를 고객으로 삼는 회사들이 늘어서 있습니다. 무슨 일이 일어나고 있는지, 사업을 구상하는 사람에게 어떤 시사점이 있는지를 전 기업 링크와 함께 정리합니다.

2026-08-26