10月10日、Wiredが「AI Is Getting Really Good at Messing With Cybercriminals」と題した記事を公開した。この記事では、AIを使ってサイバー犯罪者を逆に騙し、リソースを浪費させる防衛手法が実用段階に入りつつあることについて詳しく紹介されている。
「完璧な被害者」を大量生産するボット
オーストラリアの企業Apate（ギリシャ神話の欺瞞の女神にちなんで命名）は、過去2年間にわたり、電話詐欺師をAIボットとの通話に引き込むシステムを開発してきた。仕組みはシンプルだ。詐欺師がかけてきた電話をAIが受け、「絶対に騙されない」ながらも「希望を持たせ続ける」絶妙な会話を継続する。目的は2つ——詐欺師の時間とリソースを消耗させることと、詐欺の手口に関するインテリジェンスを収集することだ。
Apateのファウンダー兼CEOであるDali Kaafar氏は次のように語る。
「私たちが作っているのは、詐欺師にとって"完璧な被害者"です。ボットと話している1分間は、その詐欺師が実際の被害者に電話できない1分間でもある。自動ダイヤルを使えば、同じ時間で何百、何千人にもアプローチできるわけですから」
「完璧な被害者」とは、すぐに騙されて電話を切るわけでもなく、かといって詐欺と見破って通報するわけでもない——詐欺師にとって「もう少し押せば落とせる」と思わせ続ける対象のことを指す。この絶妙な"騙されかけ加減"こそがリソース浪費の鍵であり、Apateのシステムが追求するものだ。
現在、Apateのプラットフォームは銀行に採用され、通信会社のサポートも受けている。展開しているボットの数は約35万体。電話を受けるだけでなく、オンラインの詐欺チャットグループに潜入したり、SMSへの返信も行う。収集した詐欺関連の情報は25万件以上に上り、詐欺URLや「マネーミュール（資金洗浄の仲介役として使われる口座）」の情報、銀行口座の詳細などが含まれる。
6分間、仮想通貨を売り込んでも落とせなかった
Wiredの記者2人は実際にデモ版を試した。ユーザーが「詐欺師役」を演じ、Apateのボットを騙そうとする構成だ。ボットは「Lucy」という名の人物を演じており、適度な懐疑心を見せながらも会話を続けさせる余地を残すという絶妙なバランスを保っていた。記者2人がLucyと彼女のファイナンシャルアドバイザー「Mickey」という設定で6分間仮想通貨への投資を勧め続けたが、成功しなかった。
ボットは個性・言語スキル・プロフィールが異なる複数のペルソナを持ち、「WhatsAppを使っている場合もあれば、使っていない場合もある」「電話に出ることもあれば、"後でかけ直す"と言って切ることもある」という挙動を再現している。Kaafar氏によれば、Apateの通話は2時間以上継続するケースも珍しくないという。
ハニーポットにもLLMが入り込んでいる
電話詐欺への対抗という文脈だけでなく、AIはセキュリティの古典的な手法にも組み込まれ始めている。「攻撃者を引きつけて足止めする」という発想はApateと共通しており、その延長線上に位置するのがハニーポット（ハッカーを引きつける囮の仮想マシン）だ。
ETH Zurichのコンピュータサイエンス学部の博士研究員であるMark Vero氏らの研究によると、LLM（大規模言語モデル）を組み込んだハニーポットは、従来の固定的な挙動のハニーポットよりも攻撃者（AIエージェントによる自動攻撃を含む）をシステム内に「著しく長く」滞留させることがわかった。
「エージェント型の攻撃者はLLMが模倣するハニーポットをより本物らしいと判断し、ハニーポットと見抜く確率もはるかに低い。十分に作り込まれていれば、防御側にとって有利に働く」（Vero氏）
AIは攻撃側だけでなく防衛側も強化する
現状、Apateの35万体のボット群をもってしても、詐欺師によるコンタクトを完全に止めることはできない。サイバー犯罪者は年間で数十億件ものメッセージや電話を送り出しており、組織的な詐欺拠点も存在する。法執行機関や研究機関による取り組みだけでは、デジタル詐欺全体の拡大を食い止めるには至っていない。
しかし記事が強調するのは、AIが詐欺師やランサムウェア攻撃者の「心理的な脆弱性」を突く手段として機能し始めているという点だ。具体的には、身代金要求に応じる素振りを見せながら交渉を長引かせたり、攻撃グループ内の不信感を煽るような情報を流したりする、いわゆるサイバー領域でのpsyops（心理作戦）がその一例として挙げられている。犯罪者側のリソースを浪費させ、実際の攻撃に割けるキャパシティを削る——この戦略は、電話詐欺対策としてのApateと根を同じくする発想だ。警察、SNS企業、銀行などの間でのインテリジェンス共有においても、AI駆動のモニタリングと分析が貢献できるとされている。
詳細はAI Is Getting Really Good at Messing With Cybercriminalsを参照していただきたい。
