powered by TechFeed
表示モード
主要ニュース

NVIDIAが576基のGPUを「1つの巨大GPU」として束ねる新構成を発表 — 10兆パラメータモデルを動かすために、ラック丸ごと1つのGPUとして扱う

10月23日、Hassan Mujtabaが「NVIDIA To Connect 576 Rubin Ultra GPUs Using CPO To Create One Giant GPU With The "Highest Performance per Watt" on the Planet Next Year To Drive 10 Trillion-Parameter AI Models」と題した記事を公開した。NVIDIAが次世代CPO(Co-Packaged Optics)技術とNVLink 7を用いて576基のRubin Ultra GPUを論理的に1基の巨大GPUとして扱うラックスケール構成「Vera Rubin Ultra NVL576」を発表したというもので、10兆パラメータモデルの実運用を見据えた設計思想が随所に見て取れる。

10月23日、Hassan Mujtabaが「NVIDIA To Connect 576 Rubin Ultra GPUs Using CPO To Create One Giant GPU With The "Highest Performance per Watt" on the Planet Next Year To Drive 10 Trillion-Parameter AI Models」と題した記事を公開した。NVIDIAが次世代CPO(Co-Packaged Optics)技術とNVLink 7を用いて576基のRubin Ultra GPUを論理的に1基の巨大GPUとして扱うラックスケール構成「Vera Rubin Ultra NVL576」を発表したというもので、10兆パラメータモデルの実運用を見据えた設計思想が随所に見て取れる。


576基のGPUを「1つのGPU」として扱う、という発想

NVIDIAが進める次世代プラットフォーム「Vera Rubin Ultra」の核心は、576基のGPUをNVLinkで相互接続し、ソフトウェアスタックから見て1つの統合されたGPUとして動作させるという構成にある。物理的に1枚のチップに統合するのではなく、高速インターコネクトによって複数のGPUを論理的に一体化する点が重要だ。

OCP 2026においてNVIDIAのVice President、Ian Buckはこの構成を次のように語った。

これは1ラックに72基のGPUを積んだものではなく、576基すべてがNVLinkで接続されたものだ。次世代NVLink CPOスイッチトレイを使い、すべてのGPUとすべての個別ラックをCPOネットワークで結合して、576基が全結合した1つの巨大GPUを構成する。これは地球上で最高のPerformance per WattのNVLink巨大GPUとなり、10兆パラメータモデルを実現するために設計されている。来年、その恩恵を受けられるようになるだろう。

Ian Buck — NVIDIA VP & GM, Hyperscale and HPC

従来のBlackwell世代(GB300 NVL72)が1ラックに72基のGPUを搭載していたのに対し、Rubin Ultraでは1ラックあたり144基を搭載するKyberラックを複数束ねて合計576基を論理的に一体化させる。これはソフトウェアスタック側から見れば、1つの巨大な演算リソースとして扱えることを意味する。


CPO(Co-Packaged Optics)が鍵を握る

この規模の接続を実現する技術的な要がCPO(Co-Packaged Optics)だ。CPOとは、光学エンジン(トランシーバ)をスイッチチップと同一パッケージ内に統合することで、従来の外付け光トランシーバに比べて消費電力と伝送遅延を大幅に削減する技術である。

NVIDIAはOCP 2026でNVLink 7 CPO Switch Trayを初披露した。Ian Buckの発言では「小さな黄色いファイバーが光学エンジン同士を接続している」とあり、次世代の光インターコネクトが実装段階に入っていることが確認できる。

NVIDIAのCEO Jensen HuangはGTC Berlinにおいて、CPOラックがすでに量産段階に入ったと発表しており、一部で報じられていたCPO遅延の懸念を明確に否定している。Rubin Ultraは、このCPO技術をラックスケールで全面採用する最初のシステムとなる。


主要スペック比較

メトリクス B300(Blackwell Ultra) V300(Rubin Ultra)
アーキテクチャ Oberon Kyber
量産時期 2H25〜2H26(2025年後半〜2026年後半) 2H27〜2H28(2027年後半〜2028年後半)
GPU数/ラック 72基 144基
HBM/GPU 288 GB 576 GB
HBM総量/ラック 20,736 GB(約20 TB) 82,944 GB(約81 TB)
HBMタイプ HBM3e HBM4e

※「量産時期」欄の「2H」は上半期・下半期を示す半期表記で、「2H25」は2025年後半を指す。

NVL576全体での性能はFP4推論で15 Exaflops、FP8学習で5 Exaflops。Blackwell GB300 NVL72比で14倍の性能向上となる。メモリ帯域は4.6 PB/s、NVL576システム全体(8ラック相当)の総HBM容量は365 TB(スペック表のHBM総量/ラック欄はKyberラック1台あたりの値)。NVLink 7の帯域は1.5 PB/s、新世代ConnectX-9 Spectrumチップは115.2 TB/sの帯域を持つ。

※編集部の考察:スペック表の「HBM総量/ラック」欄に記載の82,944 GB(約81 TB)はKyberラック1台あたりの値(144基×576 GB)であり、末尾の「365 TB」はNVL576システム全体(複数ラックで構成される576基分)の合算値に相当する。元記事での記述が混在しているため、両者を混同しないよう注意されたい。

各GPUには最大1 TBのHBM4Eを搭載(4レチクルサイズのGPU)し、メモリ容量はBlackwell比で8倍に拡張されている。


完全液冷・OCP準拠のモジュラー設計

Kyberラックは完全液冷設計を採用する。基本ユニットである「Vera Rubin Ultra Compute Tray」は、Rubin Ultra GPU 2基とVera CPU 1基を1トレイに収め、これも液冷で冷却される。

設計はOCP(Open Compute Project)標準に準拠しており、Vera Rubinで導入されたプラグイン式モジュール設計を継承する。これによりラックの組み立て時間は従来の数時間から数分に短縮される。

NVIDIAはさらに「DSX Pod」という参照設計も提供しており、AIファクトリーとしての展開期間を数ヶ月から14日間に短縮するとしている。


10兆パラメータモデルへの布石

現在主流の大規模言語モデルはGPT-4相当で推定1〜1.8兆パラメータとされる。Rubin Ultraが想定する10兆パラメータのモデルは、その約5〜10倍の規模に相当し、現行インフラでは扱いきれない水準だ。NVIDIAはこのクラスのモデルを動かすための基盤として、576 GPU一体型構成を設計している。

量産時期は2027年後半〜2028年後半を予定している。Blackwell世代の展開が本格化する2025〜2026年を経て、さらにその先を見据えたロードマップとなっており、NVIDIAがAIインフラの主導権を長期にわたって握り続ける意図が読み取れる。

関連情報として、GTC Berlin 2025のNVIDIA公式発表や、OCP 2026の概要、またBlackwell世代の先行技術についてはGB300 NVL72の公式ページも参照されたい。

詳細はNVIDIA To Connect 576 Rubin Ultra GPUs Using CPO To Create One Giant GPU With The "Highest Performance per Watt" on the Planet Next Year To Drive 10 Trillion-Parameter AI Modelsを参照していただきたい。