7月26日、TechRadarが「AI90 pairs HBM, DDR, and SSD storage to stretch eight RTX 5090 GPUs」と題した記事を公開した。この記事では、GenStorAIGEが開発した推論アクセラレーションプラットフォーム「AI90」がHBM・DDR・SSDを3層メモリとして統合し、RTX 5090×8枚の推論スループットを最大5.8倍に引き上げる仕組みについて詳しく紹介されている。
RTX 5090を8枚使って「46GPU相当」を実現する仕組み
GenStorAIGEは、WAIC 2026にて推論アクセラレーションプラットフォーム「AI90」を発表した。コアアイデアはシンプルで、GPUのHBM（高帯域メモリ）だけに頼らず、SSDをメモリ階層に直接組み込むというものだ。
LLMの推論で最もメモリを消費するのがKVキャッシュ（Key-Value Cache）である。アテンション機構が過去トークンの情報を保持するために使う領域で、コンテキスト長が伸びるほど肥大化する。AI90はこのKVキャッシュの一部をSSDに透過的にオフロードすることで、GPU上のHBM消費量を約39%削減しながら、より大きなワークロードと長いコンテキストウィンドウを扱えるようにする。
GPUはピア・ツー・ピアの通信と組み合わせることで、8枚のNvidia GeForce RTX 5090を使った推論を最大5.8倍高速化できるとGenStorAIGEは述べている。元記事では「8枚構成が46GPU相当のクラスターに近い動作をする」と表現されているが、この46という数字の導出根拠は元記事中で明示されていない（8×5.8≒46.4という単純な積算とも一致するが、あくまで参考値として捉えるべきだ）。
対応コンテキスト長は128,000トークン超。これにより、大規模文書処理や長い会話履歴の保持がGPUを追加せずに可能になる。
3層メモリ構成の詳細
AI90が採用するメモリ階層は以下の3層だ：
- HBM（GPU搭載の高帯域メモリ）：最もホットなデータを保持
- システムDRAM（DDR）：中間バッファ
- PCIe Gen5 SSD：KVキャッシュのコールドデータをオフロード
この構成により、ファーストトークン生成のレイテンシが数秒からサブ秒（1秒未満）に短縮され、最大50倍の改善になるとされる。スループット向上は5.1倍と報告されている。
専用SSD「PT200Z」が支える高頻度書き込み
KVキャッシュは推論中に絶え間なく更新されるため、通常のエンタープライズSSDでは書き込み耐性が不足する。AI90には専用SSD「PT200Z」が対となって用意されている。
主なスペックは以下のとおり：
| 項目 | 値 |
|---|---|
| インターフェース | PCIe Gen5 x4 |
| NANDタイプ | pSLC（疑似SLC、書き込み耐性重視） |
| シーケンシャルリード | 14.8 GB/s |
| ランダムリード | 約310万 IOPS |
| リードレイテンシ | 54マイクロ秒 |
| ライトレイテンシ | 10マイクロ秒 |
| 書き込み耐性（DWPD） | 最大100（1日あたりドライブ全体を100回書き込み可能） |
pSLC（pseudo-SLC）は、通常MLCやQLCとして使うNANDセルを1ビット/セルのSLCモードで動作させる手法で、書き込み耐性と低レイテンシを重視する用途向けだ。DWPD 100はエンタープライズSSDとしても極めて高い数値であり、AI推論のような常時書き込みワークロードを想定している。
独立検証はまだない
記事では明示的に注意点が示されている。これらの性能数値はすべてGenStorAIGEが自社で測定したものであり、独立した第三者による検証はまだ行われていない。多様な実環境ワークロードでのベンチマークが出るまでは、数字の額面どおりの受け取りは慎重にすべきだ。
ただし、アーキテクチャの方向性自体は業界トレンドと一致している。LLMのモデル規模とコンテキスト長の拡大がGPU HBMの実用的な上限を超えつつある現状で、SSDをメモリ階層に組み込むアプローチは複数のプレイヤーが模索している領域だ。たとえばMicrosoftはInferenceにおけるNVMe活用を研究論文レベルで検討しており、学術・産業双方での取り組みが進んでいる。AI90はその流れの中で、製品として市場に出てきた初期の事例の一つと位置づけられる。
詳細はAI90 pairs HBM, DDR, and SSD storage to stretch eight RTX 5090 GPUsを参照していただきたい。
