powered by TechFeed
表示モード
主要ニュース

SK hynixとSanDiskが「HBMとSSDの間」を埋める新メモリ規格HBFを発表 — 最大512GB・帯域3TB/sでLLMの重みを丸ごと格納する構成を狙う

8月4日、Omar Sohailが「SK hynix, In Collaboration With SanDisk, Unveils The New High Bandwidth Flash (HBF) Standard, Helping To Resolve AI Inference Bottlenecks, Targeting Up To 3TB/s Bandwidth」と題した記事を公開した。SK hynixとSanDiskが共同でAI推論のボトルネック解消を目的とした新メモリ標準「High Bandwidth Flash(HBF)」を発表したもので、HBMの高速性とSSDの大容量性を両立しようとする意欲的な規格だ。

8月4日、Omar Sohailが「SK hynix, In Collaboration With SanDisk, Unveils The New High Bandwidth Flash (HBF) Standard, Helping To Resolve AI Inference Bottlenecks, Targeting Up To 3TB/s Bandwidth」と題した記事を公開した。SK hynixとSanDiskが共同でAI推論のボトルネック解消を目的とした新メモリ標準「High Bandwidth Flash(HBF)」を発表したもので、HBMの高速性とSSDの大容量性を両立しようとする意欲的な規格だ。


HBMとSSDの間を埋める新標準、HBFとは

AIアクセラレータの性能を語るとき、常についてまわるのが「メモリ帯域幅」の問題だ。HBM(High Bandwidth Memory)は高速だが容量が限られ、エンタープライズSSDは大容量だが帯域幅でHBMに遠く及ばない。この両者の性能差が、AI推論のボトルネックになっている。

HBFはこのギャップを埋めるポジションを狙う。HBMと同様に複数のメモリダイを積層する構造を採用するが、DRAMの代わりにNANDフラッシュを使用することで大容量化を実現する。HBMの代替ではなく、あくまでも「補完」が役割だ。

帯域幅のレンジ「0.4TB/s〜3TB/s」は幅が大きいが、これは実装グレードや積層構成によって変わるためだと記事では説明されており、エントリー構成から最大構成まで段階的な製品展開が想定されている。UCIeへの対応により、HBFはCPUやGPUに柔軟に接続できる。


500億パラメータのLLMを格納する、という使い方

記事中では具体的なユースケースが示されている。500億パラメータのAIモデルを例に取ると、500GBの容量が必要になる計算だ。なお、この数値は元記事が「1GBあたり10億パラメータを格納できる」という前提で示している試算であり、実際の必要容量は量子化精度(fp16では約2倍、int4では約半分など)によって大きく変わる点には注意が必要だ。

これをすべてHBMに載せるのはコスト面で現実的ではない。そこでHBFが登場する。即時の演算に必要なデータはHBMで処理しつつ、モデル全体をHBFに格納しておく構成が想定されている。LLMのサイズが膨らみ続ける昨今、モデルウェイトの「置き場所」の問題は各社が頭を抱えている課題であり、HBFはその解の一つとなりえる。

SK hynixのソリューション開発責任者であるKim Chun-sung氏は「メモリとストレージの境界を広げ、システム全体の効率を高める新しいアーキテクチャの構築に貢献する」とコメントしている。


競合はすでに動いている――SamsungのCMXアプローチ

SK hynixとSanDiskがHBFの普及に向けて動く一方、Samsungはすでに別のアプローチでNVIDIAとの関係を構築している。Samsungが開発・量産を進めるCMX(Computational Memory eXpansion)ソリューションは、最大500層積層を実現するV10/V11 NANDフラッシュを採用し、AIサーバーのGPUオフローディング性能向上を目指している。CMXはNVIDIAとの協業を軸に展開している点がHBFと大きく異なる戦略的特徴であり、容量・帯域幅・接続規格の詳細は現時点では公開されていない。

HBFとCMX、どちらのアプローチが業界に浸透するかはこれからの動向次第だ。両社ともにエコシステムの形成を目指しており、複数企業が互換製品を開発できる標準化を推進しているか、特定パートナーとの深い協業を選ぶかという戦略の違いが今後の分岐点になる。


まとめ

HBF(SK hynix × SanDisk) CMX(Samsung)
ベース技術 NANDフラッシュ積層 V10/V11 NAND(最大500層)
最大容量 512GB 非公開
最大帯域幅 3TB/s(0.4TB/s〜、構成依存) 非公開
主要パートナー エコシステム全体への開放を目標 NVIDIA(協業を軸に展開)
接続規格 UCIe対応 非公開
標準化戦略 オープン標準として複数ベンダーへ展開 クローズドな協業モデル

HBFは標準化による広いエコシステム形成を戦略の核心に置く。SK hynixとSanDiskという異なるベンダーが共同で規格を策定した点は、特定ベンダーに依存しない普及戦略として読み取れる。CMXが詳細スペックを非公開としている以上、直接の性能比較はまだできないが、「オープンな標準化」対「特定パートナーとの深い協業」という構図は、HBMをめぐる覇権争いとも重なる興味深い対立軸だ。

詳細はSK hynix, In Collaboration With SanDisk, Unveils The New High Bandwidth Flash (HBF) Standard, Helping To Resolve AI Inference Bottlenecks, Targeting Up To 3TB/s Bandwidthを参照していただきたい。