10月11日、Dell TechnologiesのフェローでありVP・CTOを務めるGaurav Chawlaが「The hidden tax on enterprise AI: Why data architecture is the ROI problem nobody budgeted for」と題した記事を公開した。エンタープライズAI投資のROIを蝕む「データアーキテクチャの隠れたコスト」について、その構造的な問題を解説している。
AIインフラへの投資予算は通ったのに、なぜ成果が出ないのか。その答えは、多くの場合GPUでもモデルでもなく、データの置き場所と動かし方にある。
95%の生成AIパイロットが損益に影響ゼロ
MITのNANDAイニシアチブが2025年に公開したレポート（※編集部が参照した関連資料）によると、エンタープライズ向け生成AIパイロットの95%が損益計算書に対して測定可能な影響をほぼ与えていない。Chawlaはこの数字を踏まえつつ、原因はモデルの品質ではなく、AIを業務に統合する方法のギャップにあると論じる。
「データをまず一箇所に集める」という前提が崩れる
多くのエンタープライズAIアーキテクチャは、データを新しいプラットフォームに移動させれば、その上のインテリジェンス層は機能するという前提で設計されている。PoC（概念実証）の段階では、あらかじめクリーニングされた小さなデータの切れ端で動くため、この前提は正しいように見える。
問題は本番展開時に現れる。エンタープライズのデータには「データグラビティ（data gravity）」と呼ばれる性質がある。大量のデータは、アプリケーションをデータの側に引き寄せる。データ側から動くのではなく、データのある場所にシステムが近づかざるを得ない、という概念だ。
この概念はSnowflakeやDatabricksが推進するデータメッシュアーキテクチャ（分散したドメインごとにデータの所有権を持たせるアプローチ）とも通底するが、Chawlaの論点はさらに実務的な制約——規制・主権・ガバナンス——を中心に据えている点で異なる。（※編集部の考察）
具体的には以下のような制約がデータの移動を妨げる：
- 規制によってレコードの保存場所が制限されている
- データ主権（sovereignty）のルールにより、安価なコンピューティングが使えない管轄区域でデータを保持しなければならない
- 各事業部門が10年かけて構築したガバナンスが存在し、中央ストアへの移行に法的・組織的な壁がある
- データと密結合したアプリケーションは、データを切り離すと高コストな障害を起こす
転送コストだけが問題ではない。レイテンシ、帯域幅、セキュリティ制御、運用負荷——これらすべてがモデルが有益な回答を生成する前から請求書に積み上がっていく。
「税金」は12〜24ヶ月後に請求書が届く
このコストが特にやっかいなのは、タイミングが遅い点にある。プラットフォームの調達とチーム組成から12〜24ヶ月後に顕在化することが多く、その時点では初期の成功指標はすでに上層部に報告済みだ。
契約は締結され、採用は完了し、方向性は対外的にコミットされている。「一元化優先」のアーキテクチャを巻き戻すコストは、最初からデータグラビティを設計に織り込んだ場合と比べて桁違いに高くなる。
コストの内訳も見えにくい。コンピューティングはわかりやすい予算項目だが、パイプラインのメンテナンス、データの整合性確認（reconciliation）、ガバナンス適用、セキュリティレビュー、それを維持するための人員コストは、複数の組織にまたがって分散して計上される。
問題はストレージではなく「コンテキスト」
多くのAIプロジェクトの失敗分析は「データの準備ができていなかった」で止まる。しかし著者は、本質的な問題はストレージ戦略ではなくコンテキスト問題だと指摘する。
モデルが必要とするのは生データのダンプではない。正しいレコードを見つけ、ポリシーと照合し、アクセスルールを尊重し、プロジェクト開始当初のスナップショットではなく現在の情報から処理できる能力——つまりコンテキストだ。
ここで重要な区別がある。AIシステムが意味を推論するために使うレコード・メタデータ・ベクトルはそれぞれ異なる制約を持つ。レコードは規制・主権・所有権・アプリケーションによって移動が制限される。一方、メタデータとベクトルは、ソースデータが抱える制約を引き継がずに、AIがレコードを見つけて推論することを助けられる。
つまり問いは「どうすべてのデータを一箇所に集めるか」ではなく、「データがすでに存在する場所で、そのデータを管轄するルールの下に、適切なコンテキストをいかに提供するか」に変わる。
予算承認前に確認すべき4つの質問
著者は、大規模なAIインフラ投資を承認する前に組織が答えられるべき4つの問いを挙げている：
- 移動が規制または契約上制限されているデータセットはどれか？
- 各データセットのガバナンスは現在誰が持ち、コピーが別の場所に存在する場合どうなるか？
- ソースシステムが変化した際に、それらのコピーはどう同期を保つか？
- インテリジェンスがデータの存在する場所に向かえるか、それともアーキテクチャがすべての一元化を前提としているか？
ROI指標を見直す
業界のROI評価はトークン数・スループット・GPU使用率を中心に行われがちだが、それはコンピューティング効率の半面しか語らない。モデルに入力されるデータが信頼できるか、ガバナンスされているか、人的負荷なく最新の状態を保てるか——これがもう半分の制約だ。
トークン長とGPU効率は、モデルを動かすコストを教えてくれる。しかし、モデルが適切な判断をするために必要なコンテキストを持っているかどうかは教えてくれない。それはデータが正確で・最新で・ガバナンスされ・正しいビジネスプロセスと接続されているかどうかにかかっている。
Chawlaは代替となる具体的な指標名こそ明示していないが、「データの信頼性・鮮度・ガバナンス適合率」をROI評価に組み込む必要性を一貫して主張している。コンピューティングは企業が予算計上に慣れた項目だ。データグラビティは、多くの企業がまだ発見の途上にある項目——たいていは小切手を切ったずっと後で。
詳細はThe hidden tax on enterprise AI: Why data architecture is the ROI problem nobody budgeted forを参照していただきたい。
