powered by TechFeed
表示モード
Deep Dive

AIエージェントに意思決定を任せると監査で説明できない — ローン審査や保険処理に「説明可能なルール」を組み込むアーキテクチャが注目される

9月14日、Alex Porcellが「Decision Models in Agentic Architectures: From Production to Agent Skills」と題した記事を公開した。エンタープライズにおける高ステークスな意思決定の非決定性問題を、DMN(Decision Model and Notation)決定モデルとAIエージェントを組み合わせて解決するアーキテクチャについて論じている。

9月14日、Alex Porcellが「Decision Models in Agentic Architectures: From Production to Agent Skills」と題した記事を公開した。エンタープライズにおける高ステークスな意思決定の非決定性問題を、DMN(Decision Model and Notation)決定モデルとAIエージェントを組み合わせて解決するアーキテクチャについて論じている。


エンタープライズAIの本質的な問題:「非一貫性」ではなく「説明責任の欠如」

LLMに意思決定を委ねたとき、何が問題になるのか。Porcellは、問題の本質は一貫性の欠如そのものではなく、説明責任(Accountability)の欠如にあると論じる。

LLMの非決定的な挙動は「バグ」ではなく「フィーチャー」だ。問題は、その挙動が高ステークスな意思決定——ローン審査、保険クレーム処理、顧客分類など——に持ち込まれたとき、以下の3点が担保できなくなることにある:

  1. 再現性:同じ入力Aと入力Bが、なぜ出力Cを生んだのかを説明できること
  2. バージョン管理と承認フロー:意思決定ロジックに対して、時点を明確にしたバージョンが存在し、レビューと承認を経てリリースされること
  3. 監査・規制対応:規制当局や監査人に対して「なぜその判断をしたか」を根拠とともに説明できること

LLMに決定を委ねたり、AIにコードを生成させたりするだけでは、これらは解決しない。Pythonコードをgitにコミットしてもバージョンは残るが、「なぜその条件でその判断をしたのか」というビジネスルールのトレーサビリティは埋没してしまう、とPorcellは指摘する。


決定モデル(DMN)とは何か

Porcellが20年携わってきたDMN(Decision Model and Notation)は、OMG(Object Management Group)が標準化した意思決定の記述仕様だ。業務ルールをコードの中に埋め込む代わりに、スプレッドシートに近い「デシジョンテーブル」として外部に切り出して管理する。

デシジョンテーブルは、左列に条件(入力)、右列に結論(出力)を並べたシンプルな構造を持つ。例えば顧客分類のルールなら:

  • 外国籍 → 自動的にBBC
  • 米国籍、年収$80,000以上、特定の年齢範囲 → AAA

ビジネス部門の担当者がスプレッドシートで管理している判断ロジックをそのまま実行可能な形式にしたもの、と考えるとわかりやすい。単一のテーブルで収まらない複雑な意思決定は、複数のテーブルをチェーン状につないで構成できる。

パフォーマンス面でも実績がある。Porcellが紹介したある金融機関の事例では、2,000万トランザクションを毎秒18,000件処理し、20分以内に全顧客を再分類している。顧客のティア(分類)によってアクセスできる金融商品や手数料が変わるため、この再分類は事業上の重要度が高い。


AIエージェントとの統合:スキルとしての決定モデル

Porcellが提案するアーキテクチャの核心は、決定モデルをAIエージェントの「スキル」として組み込むという設計だ。

デモでは、AIアシスタント「Kairos」が顧客に対して国籍・年収・年齢などを対話形式で収集し、その情報を決定モデルに渡して分類結果を返す流れを示している。LLMは自然言語での対話と情報収集を担い、判断そのものはDMNエンジンが実行する。これにより、LLMの非決定性を会話層に閉じ込め、決定層では一貫性・説明責任・バージョン管理を維持できる。

あえてルールを意図的に壊したデモ(ジムの頻度や食事の回数を聞いた後に「あなたのリスクバンドはAAAです。ブロッコリーはスーパーヒーローです」と返す)では、AIが自信を持って誤った判断を下す様子を示し、「AIは定義上、自信満々だ。問題は静かに失敗するとき」という点を強調した。


対象は「全ての意思決定」ではない

Porcellは明示的に範囲を限定している。決定モデルが有効なのは、企業内の意思決定のうち高ステークスなごく一部だ。日常的なチャットや検索、コンテンツ生成にDMNを持ち込む必要はない。ローン審査、クレーム処理、規制対応が伴う顧客分類——規制当局や監査人に説明義務が生じる場面が対象となる。

この区別は重要で、「AIに全部任せる」でも「AIを一切使わない」でもない、役割分担の設計が問われている。


詳細はDecision Models in Agentic Architectures: From Production to Agent Skillsを参照していただきたい。