6月19日、Search Engine Journalが「Google Research Shows How AI Spam Can Be Detected」と題した記事を公開した。Googleの研究者が発表した論文によれば、AI生成スパムはすでに「1件ずつ検出して弾く」従来型のフィルタを機能不全に追い込むほどの規模に達しており、Googleはその前提を根本から覆す検出アーキテクチャを提案している。
従来のコンテンツフィルタが機能しなくなっている
Googleの研究者が発表した論文「Scalable Detection of Adversarial Synthetic Slop and Coordinated Media Abuse: A LoRA-Enabled Multimodal Defense System」は、AI生成スパムがなぜ既存のフィルタを突破できるのかを正面から認めた点が興味深い。なお論文タイトルに含まれる「slop」とは、低品質なAI生成コンテンツを指す英語スラングで、近年のAI普及とともに使われるようになった表現だ。
研究者たちはその理由を3つ挙げている：
- AI生成の低品質コンテンツの検出が「指数関数的な課題」になっている
- 現行の対策には限界がある
- コンテンツ単位での検出は、クオリティフィルタを「圧倒する」規模の攻撃に対して機能しなくなっている
論文中のキーフレーズが問題の核心を突いている。研究者たちは「unique, localized variations（ユニークな局所バリエーション）」「functionally identical content（機能的に同一のコンテンツ）」「infinite, unique variations of functionally identical spam（機能的に同一のスパムの無限にユニークなバリエーション）」という表現を使っている。
要するに、スパマーたちは内容的には同じスパムを、コンテンツ解析をすり抜けるために無限に異なる「指紋」を持つ形で生成・投下している。個別のコンテンツを1件ずつ評価する従来型の手法では、この戦術に対応できない。
解決策：コンテンツではなく「クラスター」を見る
Googleが提案するシステムが Scalable Cluster Termination System（S-CTS） だ。個別のスパムコンテンツを検出する代わりに、同一の組織や自動化スクリプトに由来するアカウント群（「Generation Clusters」）をまとめて特定・停止する。つまり本システムの核心は「コンテンツ単位の検出」から「クラスター単位の検出」への転換にある。
システムは2つのMLコンポーネントで構成される：
- コンテンツパターンコンポーネント：AI生成コンテンツに特有の「繰り返しのテンプレート的ナラティブ」や「非人間的・高頻度な投稿行動」をスキャンする
- インフラコンポーネント：Googleの独自インフラシグナルを分析し、同一組織または同一スクリプトに由来する可能性が高いアカウント群を統計的に特定する
アカウント群の中で、同一のAI生成テキスト／メディアテンプレートを使っている割合が高い場合、クラスター全体を停止する仕組みだ。
注目技術：Sentence-BERT（S-BERT）によるAIテキスト検出
エンジニアにとって特に面白いのが、**Sentence-BERT（S-BERT）** への言及だ。
S-BERTはBERTをベースにしたモデルで、Siamese・Tripletネットワーク構造を使って意味的に比較可能な文ベクトル（センテンスエンベディング）を生成する。通常のBERT/RoBERTaで類似文ペアを探すと約65時間かかる処理が、S-BERTなら約5秒で済む。
Googleの研究者はこれをAI生成テキストの「数学的な指紋（テキストエンベディング）」を検出する根拠として引用している。
"For text-based content, methods like text embeddings generated by models like Sentence-BERT are used to detect scripted AI narratives."
S-BERTは7年前から存在していた技術だが、SEO業界ではAIスパム検出への活用という観点ではほぼ知られていなかった。生成AIが広く普及したここ数年で、実際の活用が始まった可能性がある。
新しいAIモデルへの素早い適応：LoRAとAPO
スパマー側も新しい生成AIモデル（論文ではSoraやKlingが例示されている）を次々と採用してくる。これに対してS-CTSが大規模なモデル再学習なしに素早く適応できる仕組みが、**Low-Rank Adaptation（LoRA）** と Automatic Prompt Optimization（APO） だ。
- LoRA：学習パラメータ数を大幅に削減し、メモリフットプリントを抑えることで、迅速かつコスト効率の高いファインチューニングを実現する手法。もとはLLMの効率的なファインチューニング手法として広く普及している
- APO：新しいスパムトレンドに対して、モデルの再学習なしにプロンプトを自動最適化する手法。本論文ではS-CTSのコンポーネントとしてこの名称が使われているが、一般的に「APO」と呼ばれる手法が複数存在するため、この論文固有の実装を指している可能性がある点に注意が必要だ
論文では、ベースモデルとしてGemini 2.0 Flashを使用し、TPUインフラ上でスケーラブルな並列推論を行うと説明されている。
"We can retrain a LoRA adapter rapidly when a new GenAI model (like Sora or Kling) is released by attackers."
システムの効果
論文では「高い精度（precision）でスパム生成チャンネルのクラスターを停止することに成功した」と報告されている。また、LLMによる自動化で人手によるレビュー効率も大幅に向上したとしている。ただし、論文には具体的な適合率・再現率の数値や比較ベースラインとなる従来手法との定量比較は明示されておらず、精度の絶対的な水準については論文原文での確認が必要だ。
なお、本論文の主眼はAI生成動画スパムの検出だが、テキストベースのエンベディングやナラティブテンプレート検出の手法はそのままWebコンテンツスパムへの応用が示唆される内容だ。Googleが実際にウェブ検索のスパム対策としてこのアプローチを採用しているかどうかは、論文からは確認できない。
詳細はGoogle Research Shows How AI Spam Can Be Detectedを参照していただきたい。
