9月27日、Christian Cawleyが「Over half of UK firms say an AI agent has gone rogue on them」と題した記事を公開した。AIエージェントがビジネスポリシーに違反し、自社や顧客に実害を与えた——そう答えた英国CIOは**過半数の53%**に上る。同水準の調査で国際平均が31%にとどまるなか、英国だけが突出して高い「暴走率」を記録している。AIエージェントのガバナンスは「導入後の課題」ではなく、「設計段階からの要件」であることを、この調査は突きつけている。
英国だけ突出して高い「暴走率」
Harris Pollがデータ分析プラットフォームDataikuの依頼で実施した調査によると、英国・フランス・ドイツ・米国・UAE・日本・韓国・シンガポールの685名のCIO（最高情報責任者）を対象にアンケートを行った。
結果として最も目を引く数字が、英国のCIOの53%が「AIエージェントがビジネスポリシーに違反し、自社または顧客に影響を与えた」と回答したという点だ。この数値は、調査対象国の平均である31%を大きく上回っている。英国固有の問題として、他国との差が際立っている。
英国がこれほど突出した理由は本調査では明示されていない。ただし、英国はEU離脱後の規制再整備の過渡期にあり、AIガバナンスの法制度が他の主要市場と比べて流動的な状況にある。AI導入スピードに対してガバナンス整備が追いついていない構造的な乖離が、この数字の背景にある可能性は高い。※編集部の考察
問題を深刻にする3つの数字
暴走率だけでなく、事後対応の難しさも明らかになった。
- **監査証跡を提出できるCIOはわずか49%**。AIエージェントが何をしたかを説明できる組織は半数に満たない。
- 68%が「暴走したAIエージェントを特定し影響を限定するまでに24時間以上かかる」と回答。インシデント対応のスピードとして、これは致命的に遅い。
- 87%の英国CIOが「AIエージェントスプロール（AI-Agent sprawl）」を課題として挙げている。
「AIエージェントスプロール」とは、Dataikuが使う表現で、カスタムAIエージェントが組織内でガバナンスが追いつかないスピードで量産・運用されている状態を指す。エンジニア組織では長年問題視されてきた「シャドーIT」の概念に近い現象であり、管理されない自律エージェントが組織横断的に増殖していく点で、より深刻な統制リスクをはらむ。
なお、監査証跡の整備率が49%にとどまるという数字は、説明責任（アカウンタビリティ）の観点からも深刻だ。金融・医療・公共調達といった規制産業では、AIの判断プロセスをトレースできないこと自体がコンプライアンス違反につながりかねない。
「監視」ではなく「管理」が必要
DataikuのCEOであるFlorian Douetteauは、業界全体の構造的な問題を指摘している。
「業界はCIOたちに自律性を売り込んだが、そのコストを伝えるのを忘れた。自律システムは監視するだけでは足りず、管理しなければならない。監視はエージェントが動いていることを教えてくれる。管理は、そのエージェントが動き続ける権利を得ているかどうかを教えてくれる。今のところ、エージェントを『解雇』できる組織はほとんど存在しない」
DataikuのField Chief Data OfficerであるFaye Murrayも、事後対応の限界を指摘する。
「ポリシー違反を起こしたAIエージェントに対する責任の仕組みは、インシデントの後から付け足すことはできない。デプロイの設計段階から組み込む必要がある」
この「設計段階からの統治」という考え方は、NIST AI RMF（AIリスク管理フレームワーク）やEU AI Actが求めるリスクベースアプローチとも方向性が一致する。ガバナンスを後付けで実装しようとする組織が、今まさに壁に当たっている構図だ。
「抜くか、祈るか」
Douetteauは、適切な管理体制なしにAIエージェントを放置した場合の唯一の選択肢を、皮肉を込めてこう表現している。
「電源を抜いて、うまくいくことを祈るしかない（unplug it and hope）」
AIエージェントはRPA（ロボティック・プロセス・オートメーション）よりも高度な自律性を持ち、あらかじめ定義されたワークフローではなく、状況に応じた判断を伴う形でビジネスロジックに干渉する。ルールベースで動くRPAと異なり、AIエージェントは「意図しない経路」で目標を達成しようとすることがあるため、制御不能になった際の影響範囲が格段に広がる。
今回の調査は、エンタープライズにおけるAIエージェント導入が「動けばよい」フェーズから、「どう統治するか」を問われるフェーズに本格移行しつつあることを示している。53%という英国の数字は警告であると同時に、先行してAIを大規模展開した市場が直面する現実として、日本を含む他国のCIOにとっても他人事ではない。
詳細はOver half of UK firms say an AI agent has gone rogue on themを参照していただきたい。
