11月6日、IEEE Spectrumが「AI Text Watermarking May Not Be Able to Meet the EU's New Rules」と題した記事を公開した。OpenAIのAIテキスト透かし技術「textGrain」は、単語の25%を同義語に置換するだけで検出率が17%まで低下するという構造的な限界を抱えており、EU AI法の透明性要件を満たせない可能性がある。
EUが「AI生成テキストへの透かし義務化」を施行
EU AI法第50条に基づく透明性義務が2024年8月2日に発効した。この条項は、合成音声・画像・動画・テキストを生成するシステムの提供者に対し、AIが生成・操作したことを機械可読な形式で識別できるよう出力にマークを付けることを義務づけている。技術的解決策は「効果的・相互運用可能・堅牢・信頼性が高い」ことが求められ、「技術的に実現可能な範囲で」という条件が付く。
発効から約1年が経過した現時点でも、各事業者の実装が法的要件を満たすかどうかの判断基準は依然として明確ではなく、技術側と規制側のギャップが埋まらないまま運用が先行している状況だ。こうした背景から、本記事のような技術検証の報告が注目を集めている。
これに対応するため、OpenAIは2024年10月にtextGrainと呼ばれるテキスト透かし技術を公開した。しかし、テストの結果、この透かしには無視できない限界があることが明らかになっている。
textGrainの仕組み
AIモデルは次のトークン（単語や語片）の確率を計算しながらテキストを生成する。textGrainはこのプロセスに介入し、秘密鍵から生成された擬似乱数値を使って、モデルがどのトークンを選択するかに影響を与える。これにより、同じ秘密鍵を持つ検出器が統計的パターンを識別できる。
他の透かし手法との違いは、エントロピー（モデルの単語選択の予測不可能性を示す指標）を管理可能なリソースとして扱う点だ。開発者が「どれだけの予測不可能性を許容するか」を指定すると、textGrainがその目標値に合わせて調整する。
textGrainの共著者でペンシルバニア大学のポスドク研究者であるXiang Li氏は次のように説明する。
「エントロピーを資源、一種のお金として考えることができます。私たちのアプローチでは、そのリソースをどれだけ消費したいかを正確に決定できます。」
検出精度の「壁」：短文と編集に弱い
問題は検出精度にある。ELI5データベース（Redditの/r/explainlikeimfiveから収集したQ&Aデータセット）を用いたテストでは以下の結果が示された。
- 200トークン（約150語）のテキスト：検出率 約80%
- 400トークン（約300語）のテキスト：検出率 約95%
Li氏はこれを「テキスト透かし技術の基本的な限界」と認めており、解決は容易ではないとしている。
さらに、編集による信号劣化も深刻だ。400トークンのテキストに対して：
- 単語の10%を同義語に置換→検出率が92%から66%に低下
- 単語の25%を置換→検出率が17%まで低下
透かしは直前のトークンに依存する構造のため、1語変更するだけで複数箇所のシグナルが乱れる。AIが生成した文章を人間が少し手直しするだけで、透かしが機能しなくなるという構造的な問題だ。
OpenAI自身も「透かしだけでは、コンテンツがAI生成かどうかを判定するには不十分」と認めている。
EUの基準を満たすかどうかは不明
パリ高等教育院のAI倫理ポスドク研究者Thomas Souverain氏は、EU AI法の文言は解釈の余地が大きいと指摘する。textGrainの基礎的な手法は他の競合より信頼性が高い可能性があるとしながらも、現段階では法的要件を満たすかどうか判断するのは時期尚早だと述べている。
「技術的な研究しかない。査読付き学術論文もなく、正確なプロトコルにもアクセスできていない。」（Souverain氏）
OpenAIは現在、コーネル大学のJohn Thickstun助教やスロバキアのKempeler知能技術研究所（KInIT）の研究者らと限定的に協力して評価を進めている段階だ。KInITのDominik Macko上級研究員によれば、異なる主題領域・言語・テキスト長にわたってtextGrainの「堅牢性」をテストする計画があるという。
また、OpenAIはtextGrainが自社テストにおいてGoogleのSynthID Textと同等以上の性能を示したと主張しているが、この結果は独立した第三者による検証を経ていない。
Souverain氏はtextGrainのオープンソース化を求めており、研究者コミュニティ全体が「欠陥・パラフレーズ・翻訳上の問題」を検証できるようにすべきだと主張している。もしtextGrainがEUの要件を満たさないと判断された場合、OpenAIは年間収入の最大7%の制裁金を科される可能性がある。
AIテキスト透かしは技術的に興味深いアプローチだが、短文への非対応・編集への脆弱性・独立検証の欠如という三重の問題を抱えたまま、規制の「合格基準」が定まっていない状況で運用が始まっている。規制当局と技術の間のギャップが今後どう埋まるか、注視が必要だ。
詳細はAI Text Watermarking May Not Be Able to Meet the EU's New Rulesを参照していただきたい。
