11月11日、NVIDIA Blogが「NVIDIA Expands Open Source Commitment With OpenShell Donation and New AI Infrastructure」と題した記事を公開した。NVIDIAがKubeCon + CloudNativeConにおいてAIエージェントのセキュリティ基盤「OpenShell」をCNCFに寄贈し、Kubernetes上でのAIインフラを強化する複数のオープンソースツールを発表したという内容だ。
なかでも即座に目を引くのが、推論コンテナのコールドスタート短縮の実測値だ。ワークロードが使用可能になるまでの時間が約8分から31秒へと劇的に縮まったという数字は、Kubernetes上でGPUインフラを運用するチームにとって見逃せない。その裏側にある技術スタック全体を以下で紹介する。
NVIDIA Snapshotが解くコールドスタート問題——8分→31秒の実測値
NVIDIA Snapshot は、推論スケーリング時のコールドスタート問題を解消するコンポーネントだ。モデルのロードやウォームアップなしに、チェックポイントしたレプリカを数秒で復元する仕組みを持つ。
実測値が具体的で分かりやすい。設計パートナーのCrusoe CloudがGLM-5.3（ZhipuAIが開発した大規模言語モデル）でテストしたところ、ワークロードが使用可能になるまでの時間が約8分から31秒に短縮。Saturn CloudのvLLMスケールアップでは、起動時間が2〜8.5分から6〜34秒に削減された。いずれもNVIDIA HGX B300システム上での計測だ。
Snapshotは後述する**NVIDIA DSX AI Factory Platform** の新コンポーネントとして追加されており、推論サービング用のNVIDIA Dynamoとの連携を前提とした設計になっている。
OpenShellをCNCFに寄贈——エージェントのセキュリティ基盤をオープン化
今回の発表のもうひとつの柱が、NVIDIA OpenShellのCNCF（Cloud Native Computing Foundation）寄贈だ。
OpenShellは、自律エージェント（AIが自律的にタスクを実行するシステム）が何をできるかを組織側でコントロールするためのオープンソースランタイムだ。エージェントがツールを使用したり、推論サービスにアクセスしたり、ワークロードを実行したりする際に、決定論的な制御（deterministic controls）——つまり、条件分岐や確率に依存しない厳格なポリシー適用——を行う。
アーキテクチャは拡張可能で、コンピュート、推論プロバイダー、認証情報ストレージ、モニタリングツールをそれぞれ組織が用意したものに差し替えられる設計になっている。既存のエンタープライズシステムと統合しながら、異なるデプロイ環境をまたいでガバナンスを適用できる。
ローンチから1年未満で数百の組織が導入し、数万件のコントリビューションを受けたという。CNCFのSandboxプロジェクトとして採択されたことで、今後はLinux Foundationのガバナンス下でセキュリティ専門家を含む広いコミュニティが開発に参加する形になる。
Linux FoundationのCEO、Jim Zemlin氏はこう述べている。
「クラウドネイティブコミュニティには新たなインフラ課題がある——エージェントに安全な実行環境を提供することだ。NVIDIAのOpenShell寄贈は、開発者が共有の基盤の上に構築し、エージェントセキュリティの進化を方向づける機会を与える。」
Agent Substrateとの連携——スケールする推論とスケジューリング
エージェントのセキュリティを担うOpenShellに対し、スケールでの実行基盤を担うのが**Agent Substrate**だ。CNCFのSandboxプロジェクトであり、NVIDIAも開発に参加している。
Agent Substrateは、エージェントがアイドル状態のときにコンピュートを解放しつつ、タスク間でエージェント環境を保持する仕組みを持つ。エージェントプールを共有しながら環境をサスペンド・レジュームすることで、セッションごとに専用コンピュートを常時稼働させずにスケールできる。
NVIDIAはこのAgent Substrateと、推論サービング用のNVIDIA Dynamo、クラスタリソース割り当て用のKAI Schedulerとの連携を進めている。さらにGoogleと共同で、OpenShellとAgent Substrateの統合も進めており、クラウドとオンプレミスをまたいだエージェントのセキュアな管理を目指す。
NVIDIA DSX AIファクトリープラットフォームの新コンポーネント
Kubernetes上でGPUインフラを運用するチーム向けに、**NVIDIA DSX AI Factory Platform**に3つのオープンソースコンポーネントが追加された。
NVIDIA Kubernetes Engine（NVKE） と NVIDIA Kubernetes Recipes（NVKR） は、マネージドKubernetesサービスをGPUインフラ上で提供するためのオープンソースビルディングブロックだ。クラスタのライフサイクル管理を自動化し、署名済み・バージョン固定済みのイメージを提供する。現在パブリックプレビュー中で、Mirantis、Netris、OpenNebula Systems、Rafay、Spectro Cloud、vCluster、Firmus、SK Telecomがエコシステムパートナーとして名を連ねている。
NVIDIA Snapshot（前述）は、これら3コンポーネントのうち推論スケーリングを担う位置づけだ。NVKEおよびNVKRと組み合わせることで、クラスタ管理からモデルサービングまでを一貫してカバーするスタックが構成される。
OpenShellのCNCF寄贈、Agent Substrateとの連携強化、そしてSnapshotによるコールドスタートの劇的な短縮——今回の発表はいずれも、Kubernetes上でAIエージェントを本番運用するための基盤整備という一本の軸でつながっている。各プロジェクトがどう連携するかは、実際のスタック構成とともに元記事で図解されている。
詳細はNVIDIA Expands Open Source Commitment With OpenShell Donation and New AI Infrastructureを参照していただきたい。
