10月7日、Ars Technicaが「Google rolls out improved SynthID AI content detector, now available globally」と題した記事を公開した。GoogleのAIコンテンツ検出ツール「SynthID Detector」が刷新され、OpenAIが生成した画像もウォーターマーク検出の対象となった。さらにGoogle・OpenAI・Appleのアカウントでログインすれば誰でも無料で使えるようになり、一般ユーザーへの提供が始まっている。
OpenAIの画像も検出対象に——SynthID Detectorがグローバル公開
SynthIDは、GoogleがDeepMindと共同で開発したAIウォーターマーク技術だ。画像・動画・音声などのメディアに、人間の目では識別できない形で「AI生成である」という署名を埋め込み、後から検出できるようにする仕組みである。従来はGoogle内部での限定的な提供にとどまっていたが、今回の更新でOpenAIが生成した画像への対応が追加され、一般ユーザーへと対象が広がった。
ログインに使えるアカウントとしてGoogle・OpenAI・Appleの3種類が挙げられているが、これはあくまで認証手段の選択肢であり、Apple製AIコンテンツの検出に特別対応したわけではない点は注意が必要だ。元記事でもApple製コンテンツの検出については具体的な言及はなく、主要な新機能はOpenAI生成コンテンツへの対応拡張にある。
1日あたり約10回という制限の理由
ツールは無料で利用できるが、1ユーザーあたりの1日の利用枠は画像・動画・音声の合計で約10回に制限されている。この制限について、GoogleのエンジニアはArs Technicaに対し、「アクセスを制限しないと、チェック結果を利用してSynthIDのウォーターマーク除去ツールを開発する者が現れる」と説明している。
また、回数の上限が「約10回」とあいまいな表現になっているのには理由がある。非常に似通った画像を連続してチェックした場合、システムがウォーターマーク回避ワークフローの調整を試みていると判断し、上限に達する前にロックアウトする可能性があるためだ。制限の運用そのものが、悪用への防衛機構として設計されている。
「AI生成ではない」とは言い切れない現実
機能拡張は評価できる一方で、根本的な限界もある。SynthID Detectorが検出できるのは、対応済みパートナー企業のウォーターマークが埋め込まれたコンテンツのみだ。Metaのように独自のウォーターマーク技術を使っている企業のコンテンツは対象外であり、そもそもウォーターマークを付与していないAIモデルも多数存在する。さらに、ユーザーが自身のハードウェアで動作させられるオープンウェイトモデル（重みが公開されており、誰でもローカルで実行できるモデル）は、メタデータのラベル付けすら行わずにリアルな画像を生成できる。
つまり、SynthID Detectorで「検出なし」と出ても、そのコンテンツがAI生成でないとは断言できない。ツールのWebサイトにもその旨の免責事項が記載される予定だという。加えて、誰かがSynthIDのウォーターマークを除去する手法を発見するシナリオも否定できない。ウォーターマークへの依存はそもそも完全な解決策ではなく、インターネット上で急増するAI生成コンテンツへの対処としては根本的な制約を抱えている。
より堅牢なアプローチとしてのC2PA
記事では、逆転の発想としてC2PA（Coalition for Content Provenance and Authenticity）による暗号技術ベースのアプローチが言及されている。C2PAはコンテンツの出所・真正性を証明するための業界標準規格で、Adobe・Microsoft・Sony・Armなどが参加する業界横断的な取り組みだ（公式サイト）。AIコンテンツを事後的に検出するのではなく、本物のコンテンツが作成された時点で「本物である」というラベルを付与するという考え方であり、ウォーターマーク方式とは発想が異なる。GoogleのPixelスマートフォンはこの方式を実装している数少ないデバイスの一つである。
ただし現時点では対応機器・対応サービスが限られており、普及にはまだ時間がかかる見通しだ。その間の現実的な選択肢として、今回刷新されたSynthID Detectorが位置づけられている。完全ではないが、対応コンテンツに限れば一定の信頼性をもってAI生成を見抜ける手段が、ようやく一般ユーザーの手に届いたことの意義は小さくない。
詳細はGoogle rolls out improved SynthID AI content detector, now available globallyを参照していただきたい。
