6月27日、Techstrong AIが「AI Governance Used to Be a Checklist. Now It's a Continuous Process」と題した記事を公開した。AIガバナンスはいまや「開発末尾に一度やれば終わり」のチェックリスト作業ではなく、エージェントAIが常時動き続ける限り止まることのない継続的プロセスだ——この主張を軸に、世界経済フォーラム（WEF）の提唱するフレームワークを交えて論じている。
チェックリストでは追いつかない理由
従来のAIガバナンスは、開発プロセスの末尾に置かれた「チェック完了→以降は不要」という静的なものだった。しかしエージェントAI（自律的に判断・行動し、他システムと連携してタスクを完遂するAIシステム）の登場により、この前提は根本から崩れている。
問題の核心は、異なる組織が開発したエージェント同士が設計外で連携するケースが増えていることだ。例えば、顧客の代わりに商品を購入するエージェントと、深いリサーチを行う別のエージェントがオープンウェブ上で出会い、協調動作する。両者はそもそも一緒に動くことを想定して設計されていない。にもかかわらず、次世代システムの柔軟なアーキテクチャがそれを可能にしてしまう。こうしたマルチエージェント協調は、個々のエージェントを単独で評価・承認した従来のガバナンス手順では想定外の事態だ。
さらに厄介なのが、個々のエージェントの能力が時間とともに変化する点だ。あるエージェントが参照するナレッジストアが更新・削除されれば、そのエージェントの性能は上がりも下がりもする。変化のたびにガバナンスチェックが必要になるが、そのスピードは人間が手動でレビューできる限界を超えている。
世界経済フォーラム（WEF）は2025年に公開したAIエージェントに関するホワイトペーパーで、この問題に対する「プログレッシブガバナンス」のアプローチを提唱した。その要点は2つ——チェックリスト型コンプライアンスから継続的コンプライアンスへの移行、そしてガバナンス定義における部門横断的な協働の必要性だ。
「道路の速度バンプ」としてのガバナンス設計
記事が提示する比喩が的確だ。エージェントAIシステムにおけるガバナンスは、道路上のスピードバンプや信号機に相当する「摩擦点（friction points）」を人間が設計することで実現される。
具体的には、人間が定義したルールをエージェントが遵守し、プロセスの重要チェックポイントでバリデーションが走る仕組みだ。これにより、エージェントが安全な動作範囲を逸脱して誤りやハルシネーション（事実と異なる出力）をマルチエージェントシステムに持ち込むリスクを抑える。特にマルチエージェント環境では、1つのエージェントの誤出力が連鎖的に他エージェントへ伝播するリスクがある。摩擦点の設計はそうした連鎖障害を防ぐ安全弁でもある。
WEFが提唱する4段階フレームワーク
WEFのプログレッシブガバナンスフレームワークは、ガバナンスレビューを発動させる4つのプラクティスを定義している。
1. 分類（Classification）
各エージェントの能力と動作範囲を定義する。エージェントの正当性の認証方法、自律性のレベル、ステークホルダー間での役割・性能期待値の合意などを決める。たとえばリテール企業の新しい購買エージェントについて、マーケティングチームとセキュリティチームが顧客体験とデータ保護の目標を一致させる必要がある。
2. 評価（Evaluation）
分類後、代表的な環境でエージェントをテストする。能力だけでなく、タスク完了時間・成功率・生成されるエラーの種類・信頼指標などが評価基準となる。コーディング支援エージェントであれば、実際のワークフローを模倣したサンドボックス環境でテストし、矛盾した入力や不明確な入力への応答も確認する。人間の開発者からの信頼度フィードバックも重要だ。
3. リスク評価（Risk Assessment）
分類・評価のデータをもとに、アクセス可能なデータの種類・呼び出せるツール・出力内容・動作コンテキストに基づいてリスク分析を行う。サプライチェーンを追跡する製造業向けエージェントと、国際金融取引を処理する銀行向けエージェントでは、リスクプロファイルが根本的に異なる。
4. ガバナンス（Governance）
上記3つの結果をもとにコントロールを実装する。保護されたデータベースへのクエリにはリクエストチケットの提出を必須にする、センシティブなデータへのアクセスや異常なツール呼び出しには人間レビューを挟む、といった措置が該当する。いつ・どのように人間が介入するか、誰がセンシティブなリクエストに対応するかの明確なガイドライン設定が不可欠だ。
これら4段階は独立していない。あるコーディング支援エージェントの性能が評価指標に対して低下した場合、参照データが変化していればリスク再評価と再分類が必要になる。マルチエージェントシステムでは、1つのエージェントの変化がリアルタイムで他エージェントのガバナンスレビューを要求することもある。
部門横断の協働がガバナンスの前提条件
エージェントシステムは組織内の複数部門にまたがり、多様なデータセットにアクセスする。そのためガバナンス計画にはIT・HR・プロダクト・リスク管理など複数部門のステークホルダーが関与する必要がある。
議論の出発点は「そもそもエージェントがこのユースケースに適切か」という問いだ。この問いをチームで共有することで、ガバナンスは孤立した技術的タスクから協働によるデザインプラクティスへと変わる。
人間が「運転席」にとどまるために
記事の結論は明快だ。エージェントAIはインターネットの速度で動き、人間の速度を超えてスケールする必要がある。その前提で安全・信頼性・倫理的な動作を保証するためには、AIレギュレーターと実務者が共同でエージェントAIの動作と監視の基盤を設計することが求められる。
静的なチェックリストで対応できる時代はすでに終わっている。
詳細はAI Governance Used to Be a Checklist. Now It's a Continuous Processを参照していただきたい。
