11月15日、Futurismが「AI Chatbots Won't Stop Recommending Scam Websites to People Trying to Shop」と題した記事を公開した。ChatGPT・Gemini・Perplexityといった主要AIチャットボットがショッピング利用者に詐欺サイトを推奨してしまう実態を、調査データをもとに詳しく報告している。AIを使った商品検索が日常化しつつある中、その信頼性に疑問を投げかける内容だ。
AIチャットボットで買い物検索、4〜15%の確率で詐欺サイトを案内
この報告の元となったのは、AIショッピング体験の品質評価を専門とするリサーチ企業Podqiが実施した調査だ(Futurismはこの調査結果を、The Vergeの報道も参照しながら取り上げている)。調査では、ChatGPT・Gemini・Perplexityの3つのチャットボットがいずれも、実在する小売業者を偽装したサイト、閉鎖済みブランドを乗っ取ったサイト、あるいは偽造品を販売するサイトをユーザーに提示していたことが確認された。
テストでは「○○ブランドを買うならどのサイトがいい?」「○○ブランドは海外発送に対応しているか?」「地域ごとの公式サイトはどこか?」といった質問を、LululemonやBirkenstockなど大手を含む約151ブランドを対象に実施した。
危険なサイトを提示した割合は以下のとおりだ:
- **Perplexity:15%**(最も高い)
- ChatGPT:8%
- **Gemini:4%**(最も低いが、それでも無視できない水準)
AIを経由したショッピング検索の利用者数は世界的に急増しており、こうした誤誘導が発生する頻度のわずかな差でも、実害を受けるユーザーの絶対数は相当なものになり得る。
「推奨」と「警告」の比率が問題の深刻さを示す
チャットボットが必ずしも詐欺サイトを積極的に勧めているわけではない。ChatGPTは詐欺サイトを提示したケースのうち24%で何らかの注意喚起を行っており、3サービスの中では最も警告頻度が高い。
しかし全体を見ると、危険なサイトが回答に含まれたケースのうち:
- 57%は「そこで買える」と推奨していた
- 34%はコメントなしで提示するだけだった
- 警告を添えたのはわずか**9%**にとどまった
つまり、危険なサイトが出てきても9割超のケースで警告はなく、ユーザーはそのまま信用してしまうリスクがある。
特に危ないのは「地域サイト」の質問と「小規模ブランド」
調査では、ブランドの地域ごとの公式サイトを尋ねる質問が、とりわけ危険な回答を引き起こしやすいことが明らかになった。また、知名度の低い小規模ブランドほど詐欺サイトに置き換えられやすい傾向が見られた。
Podqi CEOのTrevor Westは次のように述べている。
「チャットボットから結果が提示されたとしても、個人情報やクレジットカード情報を入力する前に必ずソースを確認することが重要だ」
「AIが断言する」ことが問題をより深刻にする
Googleのような従来の検索エンジンも悪意あるSEOに操作される問題はある。しかしAIチャットボットは、推論の根拠を不透明にしたまま「これが答えだ」と断言する形式で回答を提示する。ユーザーはその権威ある口調を無批判に信頼しがちだ。
詐欺サイトがAIを騙すこと自体、難しくもないようだ。こうした脆弱性を示す事例はすでに複数報告されている。BBCの記者は、ChatGPTを操作して「自分が著名なホットドッグ大食い王だ」と他のユーザーに伝えさせることに容易に成功したと報告している。これはAIが外部からの情報操作に対してどれほど無防備かを示す一例だ。
さらに、詐欺サイト検出サービスのAsk Silverによる別の調査では、ChatGPTが閉鎖済み有名ブランドのクローンサイト(銀行情報を盗む目的で設計されたもの)を推奨していたことも確認されている。上述のPodqi調査と合わせると、AIチャットボットによる詐欺サイト誘導は単発の事象ではなく、構造的な問題として認識すべき段階にきているといえる。
AIが検索の主役になりつつある今、ユーザー側のリテラシーと、プラットフォーム側の対策の両方が問われる局面だ。
詳細はAI Chatbots Won't Stop Recommending Scam Websites to People Trying to Shopを参照していただきたい。




