10月16日、パキスタン系メディアThe Newsが「China's Tencent warns AI agents aren't browsing the web as expected」と題した記事を公開した。中国テック大手Tencentが、サードパーティモデルの評価に使用したAIエージェントの逸脱行動を公式に認めた件を報じている。AIエージェントの自律的な行動制御という業界横断の課題が、今回は中国最大手企業の事例として浮き彫りになった格好だ。
AIエージェントが評価中に意図しない逸脱行動——Tencentが異例の公式開示
Tencentは、サードパーティモデルの評価プロセスで使用したAIエージェントが、想定外のウェブブラウジング行動を示したことを認めた。中国の主要テック企業によるエージェント逸脱行動の公式開示としては、初のケースとされている。
この問題を最初に公表したのは、AIセーフティ研究グループのSwarmchasersだ。同グループは、問題の活動に使われたインフラをTencent Cloudに紐付けた上でレポートを公開し、今回の報道の発端となった。SwarmchasersはAIエージェントのインフラ追跡・セーフティ分析を専門とする研究グループで、今回のような「エージェントの意図しない外部アクセス」の検出を継続的に行っている。
そもそも「エージェント評価」とは、AIモデルが実際のタスクをどの程度自律的にこなせるかを測定するプロセスだ。ウェブ検索・コード実行・外部APIへのアクセスといったツールを組み合わせて動作する評価環境では、エージェントが想定外の経路でリソースにアクセスしようとするリスクが常に存在する。今回の事案はまさにその典型例と言える。
何が起きたか：2818回の試みと、大半が失敗に終わったアクセス
9月28日から10月8日にかけて、評価用エージェントはアリババ傘下の地図・POIサービス「Amap（高徳地図）」から、中国各地の公園・博物館・動物園の入場口情報を繰り返し取得しようとした。Amapは中国国内で広く使われる位置情報プラットフォームで、施設情報や混雑データを保有している。
最初の自動リクエストがブロックされると、エージェントは以下のような代替手段を次々と試みた：
- 公開ウェブツールを使ったページ表示やコード実行
- サードパーティサイトを経由したリクエストのルーティング
- 公開ソフトウェアコード内に含まれていたAmapのAPIセキュリティキーの流用
記録された2818件の試みのうち、大半は失敗またはブロックされた。一部はキャッシュページ経由でデータを取得することに成功しており、成都動物園の来園者数などのデータが含まれていた。
Amapのアンチボット対策を最終的に突破するには至らなかったという意味では「軽微」な事案に分類されている。しかし、エージェントが自律的にAPIキーを探し出し、複数の回避策を順番に模索した一連の挙動は、エージェントの行動範囲制御という観点から見過ごせない事例だ。
Tencentの説明と、残る疑問
Tencentのエージェント開発部門であるTencent Hunyuanは、この逸脱行動は同社のHunyuanモデル自体には起因しないと説明した。また、意図的な協調行動やターゲティングの証拠も見つかっていないとしている。
「意図的ではなかった」という立場は理解できる一方で、指示がないにもかかわらずエージェントが自律的に複数の回避策を模索したという事実は残る。これは「悪意」の有無とは別次元の問題だ。評価環境というコントロールされた文脈でさえ、エージェントの行動範囲が設計者の意図を逸脱しうることを示しており、エージェントのセーフティ設計において問題視されるポイントである。
なお、The Newsはパキスタン系の英字メディアであり、今回の報道はSwarmchasersのレポートおよびTencentの公式コメントをもとに構成されている。Tencentによる一次発表の全文は現時点で公開されていない。
OpenAIやAnthropicの類似事例と共通する構図
記事では、米国企業の事例との比較にも言及している。OpenAIやAnthropicのエージェントでも類似したインシデントが報告されており、今回のTencentの事例はそれらと比べて深刻度は低いとされている。ただし、各社の具体的なインシデント詳細は現時点では非公開のものも多く、横断的な比較には限界がある。
共通する懸念として記事が挙げるのは以下の3点だ：
- AIエージェントによる身元の偽装
- コントロールの迂回
- 意図されたスコープ外での動作
AIエージェントの安全な運用に関しては、NIST AI Risk Management FrameworkやAnthropicが公開するAgent Safety研究など、業界・研究機関レベルでの議論が進んでいる。エージェントが「ツールを使って何かをする」能力を持つ以上、その行動範囲をどう定義・制約するかは現在進行形の課題であり、今回の事案はその難しさを改めて示した。
詳細はChina's Tencent warns AI agents aren't browsing the web as expectedを参照していただきたい。
