powered by TechFeed
表示モード
Anthropic

AnthropicがClaudeの文章にAI透かしを実装へ — 隠し文字なしで統計的に検出、テキスト生成プロセス自体に組み込む仕組みとは

8月15日、セキュリティ・テクノロジー系メディアのBleepingComputerが「How Anthropic plans to watermark Claude's AI-generated text」と題した記事を公開した。AnthropicがClaudeのAI生成テキストに実装する透かし(ウォーターマーク)技術は、テキストに何も「追加」せず、生成プロセス自体に統計的なパターンを埋め込むという点で従来の発想と一線を画す。EU AI Actへの対応という規制的背景もあり、AI生成コンテンツの識別技術として注目に値する。

8月15日、セキュリティ・テクノロジー系メディアのBleepingComputerが「How Anthropic plans to watermark Claude's AI-generated text」と題した記事を公開した。AnthropicがClaudeのAI生成テキストに実装する透かし(ウォーターマーク)技術は、テキストに何も「追加」せず、生成プロセス自体に統計的なパターンを埋め込むという点で従来の発想と一線を画す。EU AI Actへの対応という規制的背景もあり、AI生成コンテンツの識別技術として注目に値する。


「隠し文字なし」で検出可能にする仕組み

最も技術的に興味深い点は、この透かしがテキストに何も追加しないという点だ。

一般的に「透かし」と聞けば、不可視文字を埋め込んだり、文章を後処理で加工したりするイメージがある。しかしAnthropicの実装は根本的に異なる。Google DeepMindのSynthID-Text手法をベースに、テキスト生成プロセス自体に透かしを組み込む方式を採用している。

LLMはテキストを生成する際、次に来るトークン(単語や記号の単位)を確率的に選択し続ける。通常はランダムな乱数生成器がこの選択に使われるが、Anthropicの透かし実装では、秘密鍵と直前のいくつかの単語を乱数の源として使用する。

つまり、選ばれる単語は依然としてランダムだが、そのランダムさの出どころが変わる。同じプロンプトに対して「どちらでも自然に見える複数の候補」がある場面で、鍵によって選択が誘導される。一つひとつの選択は読者には完全に普通のテキストに見えるが、十分な長さの文章になると、統計的なパターンが積み重なる。

Anthropicの説明を引用する:

透かしを検出できるのは、そのパターンをエンコードした鍵を持つ者のみだ。鍵と直前の単語列を使って、Claudeが透かしを使用していた場合に選んだであろう単語列と一致するかを検査し、テキストがClaudeによって生成された確率を推定できる。

Anthropicによれば、追加トークンは不要で、生成速度への影響もほぼゼロ。コスト増加もないとしている。


コードと事実回答には透かしが薄くなる

透かしが機能するのは「どちらを選んでも自然」な場面だけだ。正解が一つしかない箇所には透かしは適用されない。

2 + 2 = の次のトークンは 4 以外に選択肢がない。コードも同様で、別の変数名を使えば動作が壊れる可能性がある。Anthropicはこう説明する:

正確な出力が求められる箇所——選択の余地がなく、別のタームを選べば事実として誤りになるか、コードが壊れる場合——には透かしは適用されない。

コードについては、コメント部分など任意の選択が存在する箇所には透かしが入るが、実際のコードへの影響はほぼないとしている。

この制約はSynthID-Textの論文でも指摘されている。透かしの検出精度はテキストの長さエントロピー(選択の多様性)の両方に依存する。低エントロピーな出力、つまり選択肢が少ないテキストほど透かしの有効性は下がる。


検出APIを提供予定、ただし「証明」はできない

Anthropicは透かしを検出するためのAPIの提供を計画している。このAPIはテキストにClaudeが関与した確率を推定するが、「Claudeが書いた」と確定的に証明するものではないと強調している。

いくつかの重要な制限がある:

  • 他のAIモデルの透かしは検出できない。各プロバイダーが異なる鍵・手法を使うため
  • 「Claudeが書いた」と「Claudeが大幅に編集した」を区別できない
  • サンプルが短いと、解析できる選択箇所が少なくなり検出精度が落ちる
  • 軽い校正では透かしは消えないが、全文書き直しには耐えられない

また、画像(PNG・JPG・SVG)については異なるアプローチを取る。ファイル自体に透かしを埋め込む代わりに、**C2PA(Coalition for Content Provenance and Authenticity:コンテンツの出所・真正性を証明するための業界標準規格)準拠の暗号署名付きプロベナンスメタデータ**をファイルに付与する方式だ。C2PAはAdobeやMicrosoft、Intelなどが主導する業界団体が策定しており、AI生成コンテンツのメタデータ標準として広く採用が進んでいる。詳細はC2PA公式仕様を参照されたい。


EU AI Actへの対応が背景、ただし当初から全世界展開

この透かし実装はEU AI Actへの準拠が直接の契機だ。EU AI Actは2024年8月に発効したEUのAI規制法で、AIシステムのリスク分類と義務を定めている。その中でAI企業に対してはAI生成コンテンツへの識別マーク付与が義務付けられており、Anthropicを含む主要AIプロバイダーはEUの実践規範(Code of Practice)への準拠に合意している。

規制の完全適用は2026年8月2日を節目としており、それ以前にリリースされたモデルについてはEUが定める移行期間の適用対象となる。Anthropicは今後数か月かけてこれらのモデルへの透かし追加に取り組むとしている。移行期間中であっても実質的な準拠が求められるため、今回の全世界展開方針はその対応の一環と見ることができる。

ただし、Anthropicは「地域ごとにスコープを限定する耐久性のある方法がまだない」として、ローンチ時点から全世界で透かしを適用する方針を明らかにした。EU向けだけでなく全ユーザーに透かしが入ることになるため、APIを使って出力テキストを活用している開発者・事業者にとっても影響のある動きだ。


詳細はHow Anthropic plans to watermark Claude's AI-generated textを参照していただきたい。