powered by TechFeed
表示モード
Anthropic

ClaudeはあなたのAI生成テキストにウォーターマークを埋め込んでいる — しかし自分で検出する手段はまだない

11月20日、O'Reillyが「Claude Watermarks Your Words, and You Can't Check Them (Yet)」と題した記事を公開した。Claudeが生成するすべてのテキストにAI透かし(ウォーターマーク)を静かに埋め込んでいる事実と、その透かしを一般ユーザーが検証する手段が現時点で存在しないという非対称な現状が、技術的な仕組みとともに詳しく解説されている。「AIが書いた文章かどうか」を判別する透かし技術が企業側に独占されているという問題は、AI活用が日常化した今、多くの書き手に直結する話題だ。

11月20日、O'Reillyが「Claude Watermarks Your Words, and You Can't Check Them (Yet)」と題した記事を公開した。Claudeが生成するすべてのテキストにAI透かし(ウォーターマーク)を静かに埋め込んでいる事実と、その透かしを一般ユーザーが検証する手段が現時点で存在しないという非対称な現状が、技術的な仕組みとともに詳しく解説されている。「AIが書いた文章かどうか」を判別する透かし技術が企業側に独占されているという問題は、AI活用が日常化した今、多くの書き手に直結する話題だ。


Claudeは今、すべての出力にウォーターマークを埋め込んでいる

AnthropicのClaudeは現在、世界中のすべての利用面(Claude.ai、API等)で生成するテキストに透かしを埋め込んでいる。Anthropicのサポートページによれば、最新モデルはもちろん一部の旧モデルでも適用済みだ。GoogleのGeminiアプリは2024年から同様の透かしを導入しており、OpenAIは2025年10月にEU向けのChatGPTおよびCodexテキストへの追加を発表した。

背景にあるのはEU AI法(EU AI Act)の要件だ。同法はAI生成コンテンツを機械が読み取れる形式でマーキングすることを義務付けている。

ただし、透かしの検出器を一般公開しているAI企業は現時点で存在しない。Googleのsynthid.comでは画像・動画・音声の透かし検出が誰でも使えるが、テキストは対象外だ。検出できるのはAnthropicやGoogleが承認した一部組織のみとなっている。


ウォーターマークの仕組み:LLMの「出力の末端」だけ知れば理解できる

記事の著者は、LLMの動作を理解した上で「自分ならどう設計するか」を先に考え、その推論が実際の手法とほぼ一致していたと述べている。仕組みを理解するために必要な前提知識は少ない。

LLMがテキストを生成する流れ(要点のみ)

LLMは次のトークンを予測する機械だ。テキストは「トークン」という単位に分割され、それぞれに数値ID(トークンID)が割り当てられる。モデルはコンテキストウィンドウに積まれたトークン列を受け取り、語彙全体に対して「次のトークンになる確率」を出力する。

モデルが出力するのは確率だけで、実際に単語を選ぶのは別プログラム「ランナー(inference runtime)」の役割だ。ランナーがサイコロを振って次のトークンを確率的に選ぶ。チャットAIが同じプロンプトに毎回異なる返答を返すのは、このランナーの乱数処理による。

グリーンリスト法(Green List):著者が独自に思いついた手法

著者が「自分ならこうする」と考えた方法は、語彙をグリーンリストとレッドリストに二分し、グリーントークンの確率を上乗せするというものだった。これは2023年にメリーランド大学のJohn Kirchenbauerらが発表した論文「A Watermark for Large Language Models」で実際に提案されている手法と一致していた。

ただし重要な点として、グリーンリストは毎回固定ではない。同じ単語が常に優遇されると読者に気付かれるため、直前のトークンと秘密鍵を組み合わせてその都度グリーンリストを動的に生成する。検出時は秘密鍵と直前トークンを使ってグリーンリストを再構築し、テキスト中のグリーントークンの比率が統計的に有意に高ければ「透かしあり」と判定する。モデル本体は不要で、秘密鍵とトークナイザーがあれば検出できる。

SynthID-Text:Claudeが実際に使う手法

Anthropicによると、Claudeの透かしはGoogle DeepMindが2024年にNature誌に発表したSynthID-Textを採用している。グリーンリスト法が確率分布そのものをゆがめてグリーントークンを優遇するのに対し、SynthID-Textは確率分布自体は変えず、ランナーが乱数を引くプロセスに手を加える方式だ。確率分布を直接操作しないことで、生成テキストの品質や自然さへの影響を最小限に抑えられる点がグリーンリスト法との大きな違いであり、Anthropicがこの手法を選んだ理由のひとつと考えられる。

具体的には:

  1. ランナーが次のトークン候補をいくつかサンプリングする
  2. 各候補に対し、秘密鍵・候補トークン・直前数トークンを組み合わせてコインを仮想的に「フリップ」する
  3. 表(heads)が出た候補をテキストに書き込む
  4. モデルが実質的に1択しか選択肢を持たない箇所では透かしは入らない(選択の余地がある箇所にのみ透かしが乗る)

検出器は同じ秘密鍵を使ってコインフリップを再現し、表の出現率が統計的に偶然より有意に高ければ透かしありと判定する。


インタラクティブなデモで体験できる

記事ではSynthID-Textの動作を体験できるHTML製のデモ(著者が「toy」と呼ぶ学習ツール)の作り方も紹介されている。ChatGPTまたはClaude.aiに記事中の画像とプロンプトを貼り付けると、物語の単語をドロップダウンで選びながらコインフリップを体験できるページが生成される。

秘密鍵は 3 1 4 1 5(πの先頭5桁)で、各トークンのIDと直前4トークンのIDをキーの各桁と掛け合わせて総和を取り、一の位が5〜9なら「表」と判定する、という簡易実装で透かしの統計的な性質を体感できる。


「検出できない透かし」の問題

技術的な仕組みは公開されている一方で、一般ユーザーが自分のAI生成テキストにClaudeの透かしが混入していないか確認する手段は現時点で存在しない。AIを執筆補助に使い、大幅に編集した文章でも透かしが残る可能性があることを著者は指摘している。

ここで言う「スラム(slop)フィルター」とは、slopというスラングに由来する。slopはAIが大量生成した粗悪・没個性なコンテンツを指すネットスラングで、透かし技術はこうしたAI生成コンテンツを自動検出・排除するフィルタリングの基盤として期待されている。ただし、その検証手段が企業側に独占されている現状は、透明性の観点から課題が残る。AIで下書きを作り人間が編集した文章が「AI製」と判定されうる一方、ユーザー側にはそれを確かめる方法がない。書き手とプラットフォームの間に生じたこの非対称性は、ウォーターマーク技術の普及とともに今後さらに議論を呼ぶことになるだろう。

詳細はClaude Watermarks Your Words, and You Can't Check Them (Yet)を参照していただきたい。