11月17日、Eva Khmelinskayaが「A Mental Model for Designing Agentic Systems」と題した記事を公開した。この記事では、AIエージェントの単純なシーケンス設計を、非同期・イベント駆動型の信頼性あるアーキテクチャへと段階的に構築するメンタルモデルについて詳しく紹介されている。
「ブラックボックスを並べるだけ」が招く設計の破綻
LLMが高度化するにつれ、「エージェントにゴールを渡して任せる」スタイルが一般化しつつある。しかしその習慣をシステム設計に持ち込むと、エージェントをブラックボックスとして並べただけの図が出来上がり、制御フロー・状態管理・障害回復・セキュリティが一切未定義のまま残る。
本記事が扱うのは、外部イベント(Webhook、監視アラート、受信ドキュメント等)で非同期に起動するシステムだ。起動後は、非構造化・信頼性未確認の入力を解釈し、外部ストアやツールからコンテキストを収集し、ドメインルールと照合し、トラフィックバーストや重複配信、実行中断に耐えながら外部状態変更を安全に適用しなければならない。
サプライヤの請求書照合、本番インシデントのトリアージ、クライアントファイルのレビュー、ビルド修復——問題の形は違っても構造は同じだ。
記事は以下のシナリオを軸に、6つのステージで設計を構築していく。
シナリオ: 20〜30のリポジトリを横断して1日10,000デプロイを処理し、そのうち1%(=100件/日)の失敗を自動修復するシステム。3つのエージェント(問題検出・修正提案・PR作成)で構成される。
核心:「決定論的シェル × モデルコア」ハイブリッドアーキテクチャ
記事の最も重要な主張は、エージェントを決定論的ワークフローの中に閉じ込めるという設計方針だ。Anthropic、12-Factor Agents、Google Cloudがそれぞれ同様のアプローチを提唱している。
- モデルが担う部分: 非構造化入力の解釈、オープンエンドな解法探索(診断・修正候補の生成)
- 決定論的コードが担う部分: 封じ込め、キューイング、重複排除、リース管理、スキーマ検証、副作用の一度だけのコミット
なお、マルチエージェントシステムのトークン消費量は通常のチャットの約15倍になるとAnthropicは報告しており、コスト管理の観点でもこの分離は重要になる(単一エージェントでも約4倍)。このデータの出典は上記のAnthropicリンク先記事で確認できる。
6ステージの設計プロセス
記事全体を通じて、設計者が自問すべき7つの問い(Q1〜Q7)が各ステージに割り当てられている。これらはフレームワークやSDKの変化に依存しないアーキテクチャ上の問いであり、設計チェックリストとして機能する——というのが著者の基本的な立場だ。
Stage 1:フレーミングと緊急封じ込め
最初のホワイトボード図が隠している3つのトラップを潰す。
- Q1(何がシステムを起動するか): CIランナー・カナリアコントローラ・エラーレートアラームという複数の起動源を正規化し、生ログ(50MB規模になりうる)はポインタに置き換えた小さなイベントとしてバスに流す。
- Q2(本当の規模は何か): 1日10,000件のうち実際に動くのは100件。インフラをオーバーエンジニアリングする前に、フィルタ後の実数を計算する。
- Q3(何秒以内に何をすべきか): カナリアのロールバックは秒単位で決定論的に実行し、エージェントのパスに乗せない。モデルは非同期の「分単位」修復パスのみを担当する。
Stage 2:信頼性ある受付
Webhookは数秒でタイムアウトするが、テスト実行は数分かかる。ここではQ4(どこで確実性を保証するか)を問う。ステートレスなReceiverがHMAC/OIDCで署名検証し100ms以内に200を返し、背後の耐久性キューがバーストを吸収する。ターミナル状態(PR開設・スキップ・エスカレーション)になって初めてackを送る設計で、イベントロストを防ぐ。
Stage 3:協調と回復
「少なくとも1回」配信は、同一バグへの二重実行を生む。Q5(重複実行をどう排除するか)をスキップすれば、1つのバグに対して15件のPRが開くといった具体的な失敗形態が生じる。Dispatcher/GuardとCoordination Storeがこれを防ぐ。
- アトミックロック: 1ケースにつき1ワーカーのみ
- 有効期限付きリース(120秒): クラッシュしたワーカーのクレームを自動解放
- 単調増加フェンシング番号: 旧ワーカーの遅延書き込みをブロック
さらにストームブレーカーは、5分間スライディングウィンドウで5リポジトリ以上が失敗した場合にPR作成を15分停止してオンコールにページする。キルスイッチはオペレーターが手動でセットできる1フラグで、プロンプト不具合やモデルリリース問題に対処する。
Stage 4:ブラックボックスを開く
Q6(各エージェントボックスの中で、LLMが本当に必要なステップはどれか)を問うステージだ。3つのエージェントボックスの中身を精査し、静的パースで処理できる構造化部分とモデルが必要な非構造化部分を明示的に分離する。「コードでできることはコードで」 が原則で、不必要なLLM呼び出しを排除することがコスト・レイテンシ・信頼性のいずれにも効く。Stage 1〜3で築いた決定論的シェルの恩恵が最も具体的に現れるフェーズでもある。
Stage 5:ハンドオフと状態管理
Q7(ステップ間で何を受け渡し、誰が状態に書き込む権限を持つか)を問う。ステップ間の受け渡しは小さな型付きコントラクト(例:FailureEvent(repo, commit_sha, failure_fingerprint, log_pointer))に限定し、状態・メモリへの書き込み権限を明示的に管理する。権限の曖昧さは競合書き込みや意図しない状態変更の温床になる。コントラクトを小さく保つことで、エージェント間の依存関係を最小化し、個別のテストと差し替えも容易になる。
Stage 6:分離とロールアウト
信頼できないコードのサンドボックス実行と、オフラインリプレイおよびライブメトリクスによるロールアウトゲーティングを追加する。新しいモデルや修正ロジックを本番トラフィックの一部に段階的に当て、問題があれば即座にロールバックできる構造にする。Stage 4で明確化したLLM境界と、Stage 5で確立した型付きコントラクトがあって初めて、このロールアウト戦略は機能する。
設計を通じた7つの問い:全体像
記事が各ステージに割り当てる問いをまとめると以下のとおりだ。
| 問い | 内容 | 対応ステージ |
|---|---|---|
| Q1 | 何がシステムを起動するか | Stage 1 |
| Q2 | 本当の規模は何か | Stage 1 |
| Q3 | 何秒以内に何をすべきか | Stage 1 |
| Q4 | どこで確実性を保証するか | Stage 2 |
| Q5 | 重複実行をどう排除するか | Stage 3 |
| Q6 | LLMが本当に必要なステップはどれか | Stage 4 |
| Q7 | ステップ間で何を受け渡し、誰が書き込み権限を持つか | Stage 5 |
フレームワークやSDKは次々と登場するが、これらのアーキテクチャ上の問いは変化が遅い——というのが著者の基本的な立場だ。
記事にはプラットフォーム非依存のアーキテクチャ図とGoogle Cloudへのマッピングが用意されており、インタラクティブなブループリントはAll About Agentsシリーズで参照できる。
詳細はA Mental Model for Designing Agentic Systemsを参照していただきたい。




