9月21日、Inside AIが「Iran, China, Israel deploy first autonomous AI influence campaigns」と題した記事を公開した。イラン・中国による国家支援キャンペーン、そしてイスラエルの民間企業による実験的なキャンペーンを含む、初の完全自律型AIによるSNS影響工作の実態が明らかになった。最大のケースではAIが生成した偽アカウント群が約8万人のフォロワーを獲得しており、「将来のリスク」ではなくすでに現実に起きている問題として研究者・当局双方が警鐘を鳴らしている。
人間なしで大量アカウントを自動生成・運用
今回の影響工作の最大の特徴は、AIエージェント（自律的にタスクを実行するソフトウェアボット）を使って、人間の介入をほぼゼロにした点だ。
従来の偽情報キャンペーンでは、人間のオペレーターが偽アカウントを管理しコンテンツを投稿していた。今回の手口は2段階で構成される。まず、中国の開発者が公開しているオープンソースのAIモデルをダウンロード・改変し、次にそのモデルからAIエージェントを生成する。数百のエージェントが起動されると、Instagram・Facebook・X・TikTokなどのプラットフォームで自律的に偽アカウントを開設し、政治・時事に関する虚偽の投稿を自動で量産した。
さらに重要なのが、安全プロトコル（ガードレール）の意図的な無効化だ。主要AIモデルには偽アカウント作成や世論操作を防ぐ制御機構が実装されているが、オペレーターはこれを意図的に取り除いて運用した。この手法は「アンアライメント（un-alignment）」とも呼ばれ、モデルの安全設計を意図的に逸脱させるものだ。オープンソースモデルは誰でもどこでもダウンロード・改変できる性質上、規制や行為者の特定（アトリビューション）が著しく困難になるという構造的な問題がある。
国家支援 vs. 民間企業：それぞれの手口
今回の報告では、国家が関与するキャンペーンと民間企業によるキャンペーンが別個に確認されている点が重要だ。両者は手法を共有しつつも、目的・主体・説明責任の所在が大きく異なる。
イランの国家支援キャンペーンは米国内の世論を標的にした。エージェントが生成したアカウントは、主要都市に住む「普通のアメリカ人」を装い、ジャーナリストや政治家の投稿にタグ付けしながら、共和党批判のミームや主張を拡散した。これらのアカウントには約8万人がフォローしており、今年前半にかけて活動していた。
中国の国家支援キャンペーンも同様の自律型手法を採用していたことが確認されているが、具体的な標的やメッセージの詳細は現時点で公表されていない。
イスラエルについては、国家ではなく民間企業による2件のエージェント型キャンペーンが確認された。うち1件はテルアビブに拠点を置くIntelEye社が夏に実施したもので、同社共同創業者のMaor Sellek氏はAIモデルの安全性テストを目的とした実験だったと説明し、「IntelEyeは影響工作キャンペーンを運営していない」と述べた。IntelEyeはサイバーインテリジェンスを専門とする企業とされているが、独立した第三者による検証情報は現時点では公開されていない。
検出は「AIの異常検知＋人間の分析」の組み合わせで
これらのキャンペーンは、AIによる異常検知と人間によるアナリシスを組み合わせることで発覚した。各プラットフォームはその後、多数の偽アカウントを削除済みだ。ただし、同様の手法は今後も広まると研究者らは見ている。
米国の情報機関や大手テック企業は監視強化と対策の開発を進めているが、オープンソースモデルの普及がその難易度を上げている。AIが高性能化・アクセス容易化するほど、こうした工作へのハードルは下がり続ける構造だ。Meta・Googleなどの主要プラットフォームが公表している透明性レポートでも、協調的な不正行動（Coordinated Inauthentic Behavior）の摘発件数は増加傾向にある。
「仮想の脅威ではなく、現実の脅威だ」
当局と研究者が強調しているのは、これが将来のリスクではなくすでに起きている問題だという点だ。数カ月にわたって検出を回避し続けたという事実は、現在の防衛体制の脆弱性を示している。AI活用の情報戦に対する国際的な規範は未整備のままであり、民主的なプロセスや公開討論の健全性が脅かされている状況だ。
選挙介入やSNS上の協調的偽情報工作に関しては、Stanford Internet Observatoryや米国DHS CISAも継続的に調査・報告を行っており、今回の事例もこうした文脈の延長線上にある。
詳細はIran, China, Israel deploy first autonomous AI influence campaignsを参照していただきたい。
