powered by TechFeed
表示モード
Deep Dive

GPUだけ積んでも本番AIは動かない — エージェント型AIが要求するCPU・データ主権・実行環境の全スタック設計

11月20日、SiliconAngleが「Enterprise AI infrastructure moves beyond GPUs」と題した記事を公開した。この記事では、エンタープライズAIの本番運用が進む中で、GPU中心だったインフラ要件がCPU・セキュア実行環境・データ主権を含む全スタックへと拡張されつつある動向について詳しく紹介されている。以下に、その内容を紹介する。

11月20日、SiliconAngleが「Enterprise AI infrastructure moves beyond GPUs」と題した記事を公開した。この記事では、エンタープライズAIの本番運用が進む中で、GPU中心だったインフラ要件がCPU・セキュア実行環境・データ主権を含む全スタックへと拡張されつつある動向について詳しく紹介されている。以下に、その内容を紹介する。


GPUだけでは足りない——本番AIが突きつけるインフラの現実

AIインフラ投資の初期フェーズは、とにかくGPUへのアクセスが焦点だった。だがエージェント型AI(Agentic AI:与えられたタスクを自律的に分解・実行するAIシステム)が本番環境に移行し始めると、話は変わってくる。

エージェントはプロンプトを投げてレスポンスを受け取るだけではない。スクリプトを実行し、リポジトリにアクセスし、ビルドを走らせ、データベースを参照し、外部ツールを呼び出す。これらの処理はGPUではなくCPUが担う領域だ。

KubeCon + CloudNativeCon North America 2026のライブインタビューで、クラウドプロバイダーVultrのCMO Kevin Cochraneは次のように述べた。

「すべてのワークロードをGPUに乗せる必要はない」

Cochraneは、企業がAI導入に躓く主因として複雑性と専門スキルの不足を挙げた。強力なアクセラレータがあっても、その周辺インフラとサービスなしにはアプリケーションを構築・運用できない。

Vultrはクラウドコンピュート・GPUインフラ・ネットワーク・ストレージに加え、**CNCF(Cloud Native Computing Foundation)の60以上のプロジェクト**を顧客が直接デプロイできる形で提供している。企業側がコンポーネントを個別に統合する手間を省くのが狙いだ。


CPUの復権——エージェントワークフローが要求する全スタック設計

GPUが注目を集め続ける一方で、エージェント型AIはCPUの役割を再び前景化させている。

  • GPU:大規模モデルの推論・ファインチューニング
  • CPU:データベース、アプリケーションコード、データパイプライン、小規模オープンソースモデルの推論

さらに重要なのがセキュアサンドボックスの問題だ。エージェントがコードを実行し外部システムと対話できるようになると、その処理を本番環境やセンシティブなリソースから隔離する実行環境が必要になる。Cochraneは、クラウドネイティブエコシステムでこの「エージェント向け安全な実行環境」の整備が進んでいると指摘した。

GPUだけ調達してその周辺——コンピュート・ストレージ・ネットワーク・分離環境——を考慮しないと、また別のインフラサイロが生まれる。


データ主権はアーキテクチャ設計の問題になった

規制産業や各国のデータ要件に対応する企業にとって、「データをどのリージョンに置くか」はもはや運用上のチェックボックスではない。アーキテクチャレベルの意思決定だ。

Cochraneは、Vultrの34か所のグローバルデータセンターリージョンが互いに独立して動作する構成を説明した。各リージョンのデータはそのリージョン内に留まり、Vultrのグローバルコントロールプレーンや他リージョンからはアクセスされない。

その考え方を端的に示す発言がある。

「仮に世界の他のリージョンがすべて落ちたとしても、フランスで動いているあなたのプロダクションアプリは、そのまま動き続ける」

クラウドプロバイダーがリージョナルデータストレージを提供していても、アプリケーション運用に必要なすべてのサービスが同じ地域内で分離されているとは限らない。AIアプリケーションが業務に深く組み込まれるほど、データ・コンピュート・管理サービス・運用依存関係の全体にわたって主権の評価が求められる。


推論コスト削減——オープンソースモデルの自社運用という選択肢

エージェントがモデルを繰り返し呼び出し、情報を取得し、マルチステップのワークフローを実行すると、推論コストは急速に膨らむ。

Cochraneが紹介した事例では、あるプラットフォームエンジニアリング組織がオープンソースモデルを自社データでポストトレーニングし、自社インフラ上で運用することで推論コストを80%削減した。すべての商用モデルAPIに依存するのではなく、特定ワークロード向けに専用モデルを調整・自社展開するという方向性だ。

ただしCochraneも「すべての企業が自社でモデルを構築・運用すべき」とは言っていない。ポイントは、モデルをどこで動かし、ワークロードをどう分散させるかを選べる柔軟性を持つことだ。


プラットフォームエンジニアリングの役割拡大

Cochraneは、プラットフォームエンジニアがエンタープライズAI導入の中核を担うようになると見ている。インフラのプロビジョニングや開発者支援にとどまらず、ガバナンスを備えたAIアプリケーションをデベロッパーが独立してデプロイできる「構成要素」を定義する役割へと広がる。

また、CNCFエコシステムが個別のOSSプロジェクト採用を後押ししてきたように、今後は特定ワークロード向けのプリビルドスタックを共有・流通させるマーケットプレイスが生まれると予測した。コンポーネントを個別に選択・設定する代わりに、テスト済みのアーキテクチャから始めて要件に合わせて調整するモデルだ。

ネオクラウド市場ではGPUベアメタル特化型プロバイダーへの圧力が高まり、フルスタックのパブリッククラウドプラットフォームに拡張できる事業者が優位に立つという見立ても示された。


詳細はEnterprise AI infrastructure moves beyond GPUsを参照していただきたい。