powered by TechFeed
表示モード
Deep Dive

ClaudeのAI生成テキストに電子透かしを入れる仕組み — 文章品質を変えずに「ランダム性の源を置き換える」という発想

8月15日、Anthropicが「How Claude's text watermarking works」と題した記事を公開した。Claudeが生成するテキストに電子透かしを実装する仕組みと、その技術的詳細について詳しく紹介されている。最も驚くべき点は、文章の品質や意味を一切変えることなく透かしを埋め込めるという事実だ。読者には検知できないが、鍵を持つ者が後から統計的に確認できる——その仕組みを以下に紹介する。

8月15日、Anthropicが「How Claude's text watermarking works」と題した記事を公開した。Claudeが生成するテキストに電子透かしを実装する仕組みと、その技術的詳細について詳しく紹介されている。最も驚くべき点は、文章の品質や意味を一切変えることなく透かしを埋め込めるという事実だ。読者には検知できないが、鍵を持つ者が後から統計的に確認できる——その仕組みを以下に紹介する。


「ランダム性の源を置き換える」という発想

Claudeのテキスト電子透かしは、Google DeepMindが2024年にNature誌で発表したSynthID-Textをベースにしている。さらに遡れば、2022年にScott Aaronsonが提案した手法の系譜に属する。

仕組みの核心はシンプルだ。LLMはトークンを1つずつ生成する際、確率的に同程度「正解」な候補が複数存在する場面が頻繁にある。「今日の天気は寒くて…」の次が「曇り」でも「どんより」でも意味はほぼ変わらない。通常はここで乱数を使って選択するが、電子透かしでは「秘密鍵+直前の数単語」を入力とした疑似乱数生成器に置き換える

この変化は読者には一切検知できない。しかし鍵を持つ者が後から確認すれば、単語の選択パターンが鍵と整合しているかどうかを統計的に判定できる。

記事中のアナロジーがわかりやすい。モノポリーのサイコロを、円周率πの特定桁から始まる数列に置き換えても、ゲームの体験は何も変わらない。しかし後からその手順を知っていれば、「このゲームはπを使った可能性が高い」と判定できる。

なお、従来のAI検出手法——「AI特有の言い回し」を統計的に分析するアプローチ——は精度に限界があり、モデルの出力スタイルが変われば検出が難しくなる。今回のアプローチはモデルの挙動そのものに鍵を組み込む点で、根本的に異なる発想だ。


品質への影響はないのか

結論から言えば、実質ゼロだ。

Google DeepMindはSynthID-Textの論文で、Geminiの一部トラフィックに透かし版モデルを適用し、通常版とのサムズアップ/サムズダウン評価を比較している。結果は統計的に有意な差なし。人間の評価者が透かし有/無の回答を並べて比較した実験でも、品質の差は検出されなかった。

Anthropicの内部テストでも、コンテンツの内容・創造性・可読性への影響はなかったとしている。

またコスト面でも変化はない。追加トークンを生成するわけではないため、速度・料金ともに影響なしだ。


透かしが「効かない」ケースも正直に説明

記事はこの技術の限界についても明示している。エンジニアとして特に気になる点をまとめる。

  • コード生成への効果は限定的2 + 2 =の次は4しかない、といったように正確さが求められる箇所では透かしを適用できない。コード内のコメント等には適用されるが、実際のコードロジックへの影響は無視できるレベルにとどまる。
  • 短いテキストには使えない:透かしは単語の選択が積み重なることで初めて統計的に有意になる。短文サンプルでは検出精度が下がる。
  • 事実に縛られた記述も苦手:「Isaac Newtonの主著はPrincipia…」の次はMathematica一択なので、透かしが入り込む余地がない。
  • 書き換えれば回避できる:部分的な編集では透かしは残るが、全文書き直せば除去できる。もっともその場合は「AI生成テキスト」と呼べるかどうか自体が曖昧になる、と記事は指摘している。
  • 個人・組織は特定不可能:透かしにはユーザーや組織の情報は一切含まれず、誰が生成したかを追跡することはできない。

また、「Claudeが関与した可能性が高い」という確率的判定しかできない点も重要だ。「Claudeが書いた」と「Claudeが大幅に編集した」を区別することはできない。


EU AI Act対応で業界横断の動き

今回の実装の直接的な契機はEU AI Actへの準拠だ。元記事によれば、AnthropicはEU「AI生成コンテンツの透明性に関する行動規範(Code of Practice)」に署名しており、同規範にはAnthropicを含む多数の事業者が参加している。EU AI Actは対象となるAI生成テキストへの「マーキング」を義務づけるものだ。

Anthropicは当面グローバルに透かしを適用する方針で、地域別に適用を絞る手段が確立できていないためとしている。規制施行前に発売された旧モデルへの対応は数ヶ月かけてロールアウト予定だ。

透かし検出APIも近日提供予定とのことで、詳細は調整中とされている。


画像・ファイルへの対応はC2PA

テキスト以外のファイル(PNG、JPG、SVGなど)については、電子透かしではなく**C2PA(Coalition for Content Provenance and Authenticity)**という別の標準を採用する。ファイルのメタデータに暗号署名付きのノートを添付する形式で、カメラメーカーや画像編集ソフトでも採用されているオープン標準だ。

テキスト透かしと根本的に異なるのは、C2PAがファイル本体への埋め込みを行わない点だ。テキストの場合は生成プロセス自体に鍵を組み込むため、コンテンツをコピーしても透かしは残る。一方C2PAはメタデータ層に署名を付与する設計であり、ファイル変換や再エクスポートでメタデータが失われるリスクがある。両者でアーキテクチャが異なるのは、テキストと画像・ファイルでは「コンテンツの生成プロセス」と「流通形態」がそもそも異なるためだ。


詳細はHow Claude's text watermarking worksを参照していただきたい。