10月14日、LangChainが「How Orange Business Built Live Intelligence with LangChain and LangSmith」と題した記事を公開した。欧州大手通信会社Orange GroupのB2B部門であるOrange Businessが、オーケストレーション・モニタリング基盤を自前で構築しようとした結果「1年以上の開発期間が必要」と判断し、LangChain／LangSmithの採用に切り替えた事例だ。AI Products責任者のMathieu Ducrot氏は「LangSmithのオブザーバビリティを内製していたら、ロードマップが12〜18ヶ月遅延していた」と明言しており、エンタープライズAI基盤の「作る vs 買う」判断の実例として注目に値する。
スクラッチ開発を諦めた理由：12〜18ヶ月の差
Orange BusinessはOrange Groupの法人向け部門で、すでに12万人の社員が利用し、フランスおよびヨーロッパで150社以上の顧客に採用されたAIプラットフォーム「Live Intelligence」を展開している。
当初、エンタープライズグレードのAIエージェントに必要なオーケストレーション、デプロイ、モニタリング、オブザーバビリティの基盤を自前で構築しようとしたが、1年以上の開発期間が必要と判断。Orange Group傘下のイノベーション調査部門「Orange Innovation」が約20社の主要クラウドプロバイダーおよび専門AIベンダーを評価した結果、LangChainとLangSmithの採用を決定した。
選定の決め手はLangChainのモデル中立性とポータビリティだ。特定のモデルやクラウドにロックインされず、欧州のデータ主権要件（GDPR等を念頭に置いたデータローカライゼーション対応）に応じてワークロードを管理できる点が重視された。
LangSmithについて、Mathieu Ducrot氏はこう述べている。
「LangSmithのオブザーバビリティ機能は、私たちが現実的に内製できるレベルをはるかに超えていた。自前で構築していたら、ロードマップが12〜18ヶ月遅延していただろう。」
なお、この12〜18ヶ月という数字はLangSmithのオブザーバビリティ基盤を内製した場合のロードマップ遅延見積もりであり、プラットフォーム全体の本番稼働が12〜18ヶ月早まったことを意味するわけではない点に留意されたい。
3層構造のプラットフォーム設計
Live IntelligenceはStudio・Portal・Consoleの3コンポーネントで構成され、それぞれ異なるユーザー層を対象とする。
- Live Intelligence Studio：AIエンジニア向け。LLM-as-a-Serviceカタログ（Orange Business基盤およびパブリッククラウド上でホストされるモデル群）、LangSmith Fleet（大規模なエージェントのデプロイ・管理・モニタリングを一元化するLangSmithのエンタープライズ向け機能）によるエージェントビルダー、MCP（Model Context Protocol：AIエージェントが外部ツールやデータソースにアクセスするための標準プロトコル）サポート、LangSmithによるエージェントオブザーバビリティを提供する。
- Live Intelligence Portal：ビジネスユーザー向け。HR（求人票作成）、法務（NDA条項レビュー）、開発チーム（テストスクリプト自動生成）、ヘルプデスク（ITサポートエージェント構築）などの業務ユースケースに対応する。Studioで構築したワークフローをそのままデプロイできる。
- Live Intelligence Console：企業管理者向け。使用状況モニタリング、パフォーマンス追跡、セキュリティ・コンプライアンスポリシーの適用を担う。
組織横断ガバナンスの核心：Agent RegistryとMCP Registry
エンジニアに最も刺さる設計ポイントがここだ。Live Intelligenceは個別エージェントの管理にとどまらず、組織全体でのガバナンスを実現する2つのレジストリを持つ。
Agent Registryでは、チーム横断でエージェントとプロンプトを発見・再利用・バージョン管理できる。各チームが同じ機能を再実装するのではなく、エージェントを「共有資産」として扱う設計だ。プロンプト管理にはLangSmith Context Hubを使用し、環境ごとに異なるプロンプトバージョンを管理。コード変更なしに本番反映前のテストと検証が可能になっている。
MCP Registryは、Microsoft 365、CRM、内部API、カスタムサービスといった企業システムへのアクセスを、監査可能な制御層を通じて一元管理するツール・コネクタのカタログだ。MCPはAnthropicが提唱しエンタープライズ領域で急速に普及しつつある標準プロトコルであり、Orange Businessはこれをレジストリ形式で管理することで、ガバナンスと拡張性を両立させている。
この設計思想は明快で、認証・セキュリティ・ガバナンスの問題をプラットフォーム層に引き上げることで、各チームが同じ課題を個別に解決するコストをなくしている。
本番運用を支える3層評価フレームワーク
Orange Businessは本番環境でLangSmithを使った3段階の評価パイプラインを構築している。
- RAG品質評価：Q&Aペアのゴールデンデータセットを使い、検索リコール、根拠品質、回答の忠実性を検証する。
- エージェント行動評価：ツール選択精度、タスク完了率、プロンプトインジェクション耐性、ビジネス制約への準拠を評価する。
- 本番トレース監視：レイテンシ、コスト、モデル使用状況、失敗ランの検出、ヒューマンフィードバック、エスカレーション事例を追跡する。
Mathieu氏は以前の課題をこう語る。
「以前はエージェントのデバッグが困難だった。障害がモデルの挙動の中に隠れていたからだ。LangSmithを使えば、実行の各ステップを検査でき、問題が検索にあるのか、プロンプトか、モデルか、ツール呼び出しか、ビジネスロジックかを特定できる。」
具体的なトレース検査項目として、記事では以下が挙げられている。
- ワークフローのどこで失敗したか
- その時点でどのエージェント・ツールが実行されていたか
- そのステップに渡された入力と受け取ったレスポンス
- 各ステップの所要時間
- ワークフロー全体で実行されたエージェント・ツールの数
- 各ステップが全体の実行にどう寄与したか
さらに、本番デプロイ前にリグレッション評価を必須化し、過去のトレースを再生してエージェントのバージョン間比較を行う運用も確立している。
今後の展開
Orange Businessは今後、オンライン評価を活用したチームコラボレーションの拡充を計画している。また、より複雑な業務プロセスの自動化にも取り組む方針で、元記事では2つの具体的なユースケースが示されている。
保険金請求プロセス支援エージェントは、CRMや法務ワークフローと連携し、請求受付から審査・承認までの一連のプロセスを横断的にサポートするものだ。保険業務は規制対応や証跡管理が厳しく、エージェントのガバナンス基盤が整っていなければ本番導入が困難なユースケースの典型であり、Agent RegistryやMCP Registryによる統制が不可欠となる。
港湾セキュリティセンサー監視エージェントは、港湾に設置された各種センサーからのデータをリアルタイムに解析し、異常検知時にフィールドエンジニアへ緊急介入通知を送るものだ。IoTデータとAIエージェントを組み合わせたオペレーショナルユースケースであり、レイテンシ管理や誤検知抑制といった観点でも、本番トレース監視の3層評価フレームワークが直接活きる領域といえる。
いずれも、単純な社内向けチャットボットとは異なる「業務プロセス全体への組み込み」を前提としており、Orange Businessがエンタープライズ向けAI基盤として目指す方向性をよく示している。
詳細はHow Orange Business Built Live Intelligence with LangChain and LangSmithを参照していただきたい。
