9月1日、SiliconAngleが「Cloud AI economics push enterprises toward private AI clouds」と題した記事を公開した。クラウドAIのコスト・データ主権問題がエンタープライズをプライベートAIクラウドへ押し戻しつつある構図について、VMware Explore 2026での発言をもとに詳しく整理している。
「とりあえずクラウドで試す」フェーズの終焉
クラウド上でのAI実験が壁にぶつかっている。データ管理、データ主権（自国・自組織のデータを自国・自組織のインフラ上で管理・統制する権利および能力）、そしてトークンコスト（LLMの推論処理単位であるトークンあたりの課金）が積み重なり、エンタープライズの視線がオンプレミスのプライベートクラウドへ向き始めている。
VMware Explore 2026の場で、BroadcomのVMware Cloud Foundation部門でグローバルAI責任者を務めるChris Wolfがこの動向を整理した。彼が指摘する問題の本質は、「実験」から「本番推論」への移行だ。本番環境では、フロンティアモデル（GPT-4クラスの大規模モデル）、小規模なローカルSLM（Small Language Model）、そしてエージェント群を同一ハードウェアプールで動かさなければならない。これを、サーバー・電力・ライセンスコストを抑えながら実現することが、現在の中心的なアーキテクチャ課題だという。
Wolfの言葉を引用する。
「主権の問題がある。トークンコストの問題もある。だからといってフロンティアモデルを使うなということではない。実用的であれ、ということだ。深い推論が必要な場面ではフロンティアモデルを使う。それ以外は特化モデルやローカルSLMを使う。今まさにこの多様化が業界全体で起きており、ITオペレーションチームがその真ん中に立たされている」
ハードウェアを先に買うな
記事の中で最も実務的な指摘が、調達順序に関する警告だ。
「『とりあえずハードウェアを買って、ソフトウェアは後で考える』——それは最悪の判断だ。ソフトウェアの選択がハードウェアと互換性があるかどうかを先に確認しなければならない」
BroadcomがVMware Cloud Foundationで狙うのはまさにここだ。ベアメタルからモデルランタイムまでを一括でプロビジョニングする「AIファクトリー」アプローチを提供しており、YAMLファイルを出力することで追加クラスタをクローンできる構成になっている。Wolfによれば、既存デプロイから移行してくる顧客の多くが同じ後悔を語るという。
「フルターンキーソリューションだと思って買ったが、実際にはそうではなかった——そういう『バイヤーズリモース（購入後の後悔）』が頻発していた」
データ主権がオンプレミス回帰を後押し
コスト以上に構造的な要因として浮上しているのがデータ主権だ。北米・欧州・アジアの各国政府が、ローカライズされたモデル、データプレーン、暗号化キー、コントロールプレーンを要求するケースが増えており、クラウドAIを選びづらくする規制圧力となっている。欧州におけるAI Actや各国のデータローカライゼーション規制がその代表例として挙げられる。
Wolfはアーキテクチャの設計思想についても言及している。
「これまで以上に、変化を前提とした設計が必要だ。今日良く見えるものを基準に設計してはいけない。この空間はあまりにも速く動いている。ソフトウェアをアーキテクチャと意思決定の最前線に置いて、そこから判断を積み上げていくべきだ」
エージェント系ワークロードが加える新たな制約
エージェント型AIワークロードには固有の要件もある。エージェントを隔離されたVM上で素早く起動しつつ、エスケープや権限昇格を防ぐウォームプールの維持が必要になる。メモリ管理も複雑で、GPU間でのKVキャッシュ（Key-Valueキャッシュ：推論の中間状態を保持する領域）配置と、ストレージ階層間でのティアリングが求められる。VMware Cloud Foundationはこのプーリング層としての役割を担う位置付けで開発が進められている。
プライベートAIクラウドへの移行は、単なるコスト最適化ではなく、主権・セキュリティ・アーキテクチャの柔軟性が複合的に絡む問題になりつつある。
※編集部の考察：Wolfの発言が示す「ソフトウェアファースト」の調達原則は、インフラ計画を立てるITチームが短期的なハードウェア投資を固める前に検討すべき視点として注目に値する。
詳細はCloud AI economics push enterprises toward private AI cloudsを参照していただきたい。
