11月20日、Molly Nagamuthuが「Four AI Architecture Patterns for Regulated Industries」と題した記事を公開した。金融・医療などの規制産業においてAIエージェントをエンタープライズシステムへ組み込む際の4つのアーキテクチャパターンについて詳しく紹介されている。
著者のMolly NagamuthuはDatabricksのPrincipal Forward Deployed Engineer(FDE)として、グローバルバンクをはじめとする大企業のデータ・AI変革を支援してきた人物だ。本記事は、フィールドで繰り返し問われる問いへの答えとして書かれた:「どこにエージェントを入れてよく、どこには入れてはいけないか?」
なぜ規制産業はAI導入が難しいか
規制産業のシステムは決定論的制御(deterministic control)——固定ルール・再現可能なプロセス——を前提に設計されている。エラーが非対称なリスクを生む(例:金融決済ミス、コンプライアンス違反)環境では、エージェントが「いい感じに推論する」だけでは足りない。監査可能性・再現性・説明責任が求められる。
日本においても同様の文脈は明確だ。金融庁が公表しているAI・機械学習に関する監督指針では、モデルの説明可能性やガバナンス体制の整備が求められており、個人情報保護法の観点からも自動的な意思決定への関与については透明性確保が義務付けられつつある。医療分野でも、AIを用いた診断支援システムは薬機法上の医療機器に該当し得るため、設計段階からの規制対応が不可欠だ。こうした国内の規制環境は、本記事が体系化した4パターンの必要性をより切実なものにしている。
Databricksは、この現場で共通して浮かび上がった4パターンを体系化した。設計の前提として問うべきは次の3点だ:
- エージェントは何について推論できるか?
- エージェントは何をしてよいか?
- 何はエージェントの権限の外に置かなければならないか?
Pattern 1:決定論的制御 + エージェントの調査
最も制約が厳しいパターン。エラーが不可逆、またはコストが非常に高い場面向け。
例:銀行の勘定照合(Reconciliation)。照合は「承認済みのルール」に基づいてPASS/FAILを出力しなければならない。エージェントがトレランス(許容誤差)を独自解釈したり、自分の説明文を「合格」として通すことは許されない。
ただしエージェントは、照合が失敗したときに証拠収集・ログ調査・過去の類似インシデントとの比較・原因候補の絞り込み・次のアクションの推薦を行える。
エージェントは制御を調査できる。制御になることはできない。
規制計算、ポリシー適用、データ品質ゲートにも同様に適用される。国内事例で言えば、銀行系システムにおける日銀ネット接続要件やFATF勧告に基づくAML(マネーロンダリング対策)ルールの適用判定は、まさにこのパターンが求められる典型的な領域だ。
Pattern 2:エージェントの実行 + 決定論的ジャッジ
「正解は一つではないが、テストで合否を判定できる」場面向け。
レガシーシステムのモダナイゼーション(移行・コード生成)が典型例だ。エージェントが既存ワークロードを解析して移行実装を生成するとき、毎回まったく同じコードを出力する必要はない。重要なのは「結果が正しいかどうか」だ。
決定論的なジャッジが次を検証する:コードのコンパイル可否、スキーマの適合、データ照合、コントロール合計の一致、ガバナンス要件、パフォーマンス目標の達成。失敗すればエージェントは証拠を受け取り、問題を診断して修正し、再検証を走らせる。
出力を決定論的に評価できるなら、エージェント自体を決定論的にしようとするな。
ジャッジはエラーを検出するだけでなく、エージェントが結果を改善するためのフィードバックループとして機能する。コード生成・テスト・リメディエーション(是正処理)に有効だ。
Pattern 3:エージェントの推論 + 人間の権限
正解を決定論的に証明できず、判断に責任ある人間が必要な場面向け。
金融犯罪調査がわかりやすい例だ。エージェントはトランザクション・文書・ポリシー・関係性・過去のパターンを横断的に相関させ、証拠をまとめて推奨を提示できる。しかし推奨は決定ではない。
人間のレビューは、すべてのステップの内部ではなく、決定の境界に置くべきだ。
また、エージェントの推論は「説明可能」でなければならない。推奨はすべて証拠・ソース・ツールまでトレースできる必要がある。規制によっては、影響を受ける当事者への説明義務が課される場合もあり、「モデルがフラグを立てた」では不十分だ。最終判断の根拠(エージェントをオーバーライドした場合も含む)は調査担当者が記録する。
日本の文脈では、犯罪収益移転防止法に基づく疑わしい取引の届出(STR)業務がこのパターンに直結する。エージェントが疑義フラグを立てた案件に対し、コンプライアンス担当者が最終判断を下して記録を残す構造は、まさにPattern 3が想定するユースケースだ。
Pattern 4:エージェントの実行 + 制限された自律性(Bounded Autonomy)
エージェントが実際に行動する必要があるが、明示的な動作範囲に制限を設ける場面向け。
ガバナンス対象のデータへのアクセス管理が例示されている。ユーザーが必要なデータ・理由・期間を記述すると、エージェントがリクエストを解釈し、必要最小限のアクセス権を特定し、IDや承認ポリシー・所有者・分類・リネージュ・利用状況を収集する。
標準的なリクエストに毎回手動承認を求めると遅延が生じる。かといってエージェントに無制限の権限を与えるとコントロールの空白が生まれる。解決策がBounded Autonomy(制限された自律性)だ。
動作範囲(Operating Envelope)は次を明示的に定義する:
- ストレートスルー処理(自動処理)が許可されるデータ製品とアクセスレベル
- 適用必須のID・目的・地理・法人・居住地・職務分離ルール
- 付与可能な最長期間・最低権限レベル
- エージェントが発動できる承認済みのUnity Catalogアクション
- 人間の承認が必要なケース(機密データ、ポリシー競合、過剰権限など)
- アクセスの監視・失効・記録の方法
すべての決定を制約しようとするな。動作範囲を制約せよ。
Envelopeの外に出るリクエスト(機密データ、属性不足、ポリシー競合、職務分離例外など)は自動処理をブロックし、データオーナーやリスクレビュー担当者にルーティングする。
既存の決定論的システムがエージェントの土台になる
記事が強調するのは「レガシーを捨てる」ではなく、既存の決定論的システムをエージェントアーキテクチャの基盤として再利用するという視点だ:
- ポリシーエンジン → コントロールプレーン
- バリデーションフレームワーク → 決定論的ジャッジ
- 受入基準 → エージェント評価
- 運用制限 → 自律性の境界
MLflowはエージェントのトレースと評価証拠を保存し、監査記録としても機能する。AI Gatewayがモデル・ツール・MCPサーバー・外部APIへのアクセスを統制する。
4パターンは排他的ではない。一つの本番システムで複数を組み合わせることも当然あり得る。重要なのは、それぞれの境界を明示的に設計することだ。
詳細はFour AI Architecture Patterns for Regulated Industriesを参照していただきたい。




