11月20日、Analytics India Magazineが「Why Banks Are Betting on AI Orchestration Over Autonomy」と題した記事を公開した。銀行業界がAIの自律的な意思決定を避け、オーケストレーション(調整・統制)役に限定する実装アプローチとその背景について、実務家の発言を交えながら詳しく紹介している。
オーケストレーターに限定する、という選択
AIエージェントの自律性が技術的には高まる一方で、銀行は本番環境への展開において意図的に制限を設けている。その理由は単純だ。計算を間違えたときのコストが高すぎるからである。
ここで言う「制限」とは、AIを使わないということではない。LLM(大規模言語モデル)が「どのツールをいつ呼ぶか」を判断するオーケストレーター役に徹し、実際の財務計算や業務ロジックは別途設計された関数に委ねる、という役割分担の明確化を指す。自律型AIが推論から実行まで一貫して担う構成とは対照的なアーキテクチャだ。
インドの大手民間銀行であるHDFC BankのEVP(エンジニアリング・GenAI・イノベーション担当)Amit Sehgal氏は、LLMの説明可能性の問題を率直に認める。
「このモデルが何をしているかを説明する標準的な手段がない」
具体的な課題として、融資審査をAIが却下した場合を想定すればわかりやすい。顧客が異議を唱え、規制当局がその判断根拠を問い合わせてきたとき、モデル内部の推論を再現することは極めて難しい。金融機関においては、この「説明できない」という事実が致命的なリスクになる。
これに対してHDFC Bankが採用したアーキテクチャは以下の通りだ。
- 財務計算は、あらかじめ設計されたエンジニアリング関数が担う
- 関数は**MCP(Model Context Protocol)ツール**として公開される
- LLMは「どのツールを呼ぶべきか」を判断し、ワークフローを調整する役割のみ
- 本番環境ではコード生成を許可していない
※MCPはAnthropicが策定したオープン標準で、AIモデルが外部ツールやデータソースと連携するためのプロトコル。ツールの入出力仕様を明示的に定義できるため、監査トレースとの親和性が高い。
「モデルがやるのは主にオーケストレーション、判断、そしていつ何を使うかだ」とSehgal氏は述べる。
決定論的な関数には定義されたインプット・アウトプット・ロジックがあり、監査・説明が可能だ。一方でモデルの内部推論はそれができない。重要な計算を関数側に閉じ込めることで、ステップごとの説明責任を確保するという設計思想である。
ハルシネーションをゼロにできない前提での設計
LLMをオーケストレーターに限定しても、エラーの可能性は残る。モデルがリクエストを誤解したり、不適切なツールを呼び出したり、結果を誤って伝えることは起こりうる。
「ハルシネーションをゼロにするのは不可能だ」とSehgal氏は言う。
HDFC Bankでは、ほぼすべてのチャットボットに「ハーネス」と呼ぶ検証レイヤーを組み込んでいる。主モデルが生成した出力は、別のモデルによるクリティーク(批評)や数値の正確性チェックにかけられる。
「モデルが生成するものはすべて、検証する手段を常に持っている」
この構成が示すのは、モデルの品質選定だけでなくオブザーバビリティ(可観測性)の整備が不可欠だという点だ。どのツールが呼ばれたか、出力が検証をパスしたかを継続的に監視する仕組みが求められる。モデルを選ぶことよりも、モデルを監視し続けられる体制を整えることの方が、実運用上の優先度は高いとも言える。
AIにどこまでの権限を与えるか
Jocataはインドを拠点とするフィンテック企業で、銀行・金融機関向けにAIを活用した融資・リスク管理プラットフォームを提供している。同社のシニアディレクター(プロダクトマネジメント担当)であるKarthigeyan S氏は、ブルネイ中央銀行での実務経験を踏まえ、AIへの権限委譲の範囲について明確な基準を示す。
「規制当局が最終的に気にするのは、エンドカスタマーへの影響だ」
例として挙げるのが不正検知のシナリオだ。クレジットカードがスリランカで使われた5分後にイギリスで使われた場合、システムは不審な活動を検知できる。しかし、どちらの取引が正当かをその場で判断することは難しい。
この場合の推奨される設計は、フリーズ(取引停止)はシステムが行い、最終判断は人間が行うという構成だ。疑わしいと判定された取引の一部を人間のレビューキューに回し、担当者が確認した上で処置を確定させる。
元に戻せない判断ほど、人間のループが必要になるというのが基本的な考え方だ。情報取得や要約といった低リスクな処理と、口座凍結や融資判断といった高リスクな処理では、AIへの委任レベルを変えるべきだという。リスクの非対称性に応じて自律性の範囲を設計する、という発想はエンタープライズAI全般に通じる原則でもある。
金融AIにおける判断基準
この記事が示す実装方針を整理すると、以下の3点に収束する。
- 解釈・調整・コミュニケーションはLLMに任せる
- 財務計算はエンジニアリング関数(MCPツール)が担う
- モデル出力は必ず検証レイヤーを通す、かつ取り消し不能な判断には人間を介在させる
金融サービス業界が問うのは「この技術がタスクを自動化できるか」ではなく、「それをやらせるだけの根拠と制御の仕組みがあるか」だ。自律性の高さを競う方向とは逆に、制御可能性と説明可能性を優先する実装判断は、規制産業におけるエンタープライズAIの設計思想として参考になる。
詳細はWhy Banks Are Betting on AI Orchestration Over Autonomyを参照していただきたい。




