10月20日、wccftechが「China's MiniMax And DeepSeek Have A Compute Capacity Of Sub-100,000 H100-Equvalent GPUs, And Yet Their Latest Models Continue To Scale The Frontier Curve, With Distillation Failing To Explain This Disparity」と題した記事を公開した。OpenAIの370万基のH100相当GPUに対し、わずか7万基以下の計算資源しか持たない中国AI企業・MiniMaxとDeepSeekが、フロンティアモデルの性能水準を維持し続けているという構造的な謎について詳しく報告している。
「1/78のGPU数」で首位を争う中国勢
まず数字を整理する。
- OpenAI:H100相当GPU 370万基
- MiniMax:H100相当GPU 約7万基(OpenAI比 約1/53)
- DeepSeek:H100相当GPU 約4万7,000基(OpenAI比 約1/78)
タイトルの「1/78」はDeepSeekの比率であり、MiniMaxは約1/53となる。いずれにせよ、両社合わせてもOpenAIの保有基数には遠く及ばない水準だ。それでも両社の最新モデルは、エージェント系ベンチマークのコスト対性能カーブ(パレート曲線)で首位を争っている。
直近では、DeepSeek-V4.1-Flash-1017(DeepSeekが公開した最新の高速推論モデル)がエージェント向けベンチマーク「DeepSWE v1.1」のコスト対スコア曲線でパレート最適点を独占していたが、新たにリリースされたMiniMax M3.1 Flash(MiniMaxの最新軽量推論モデル)がその地位を脅かしつつある状況だ。
なお、DeepSeekのモデルについてはTechFeedでもDeepSeek-V3の紹介記事などで継続的に取り上げてきた。
MiniMax M3.1 Flashの中身
MiniMax M3.1 Flashは、総パラメータ数4,280億・アクティブパラメータ数230億のMoE(Mixture of Experts)モデルで、価格は入力**$0.15/100万トークン、出力$0.60/100万トークン**という低コスト設定だ。Automation Bench、Banker ToolBench、LOCA-Bench-256Kの3つの主要ベンチマークでグローバル首位に立っている。
Sparse Attentionで計算量を1/20に削減
このモデルの技術的な核心が、MiniMax独自のMSA(MiniMax Sparse Attention)フレームワークだ。
通常のAttentionは、100万トークンのコンテキスト全体に対してトークン単位で注意計算を行う。MiniMaxはこれを変えた。KVキャッシュをブロック単位に圧縮し、低コストの「ブロックスコア」で関連性を事前に評価。実際に全計算を行うのは上位6〜7%のブロックのみに絞る。この結果、トークンあたりの計算コストを通常Attentionの1/20まで圧縮している。
さらにカスタムGPUカーネルで分散KVキャッシュの読み込みレイアウトを再設計し、プリフィル(入力処理)9倍速、デコード(出力生成)15倍速を達成した。
そのほかの実装上の工夫
- Speculative Decoding:小さなドラフトモデルがトークンを先読みし、本体モデルが並列検証・修正する2段構成でデコードを高速化
- KV-Block-Major + Paged Attention:メモリをページブロックにマップしてGPUメモリの断片化を排除し、GPUを最大稼働に近い状態で維持
- Rustベースのサービングゲートウェイ:画像・動画の前処理をCPUクラスタに完全オフロードし、GPUがデータ待ちでアイドルになる状況を防ぐ
これらの積み重ねにより、MiniMaxは前バージョン比でオンライン推論約3倍速、エージェントタスクのコスト70%削減、出力速度200+ TPS(P50で170+)を謳っている。
蒸留では説明できない「謎」
計算資源が少ない中国勢がこれほどの性能を出す理由として、よく挙げられるのが知識蒸留(Distillation)だ。大きなモデルの推論トレースを使って小さなモデルをSFT(Supervised Fine-Tuning)する手法で、AnthropicとOpenAIはいずれもその経路を遮断しようと動いている。元記事によれば、Anthropicは蒸留経路を塞いだことで四半期売上が5〜6%減少したと報告しているという。
しかし、この説明には反論がある。SFTによる蒸留は幻覚(ハルシネーション)を増やす副作用を伴うことが知られている——教師モデルが自信を持って答える事実を、生徒モデルが「記憶していない」まま同じ自信で答えてしまうためだ。ところがDeepSeek-V4.1-Flash-1017の幻覚率は低い。
この点についてX(旧Twitter)のAI研究者Teortaxesは次のように述べている。
蒸留は一部が信じるほど大きな要因ではないと思う。ハルシネーションのわずかな増加は重度のRLでは典型的なことだが、他モデルのトレースへの重度SFTはハルシネーションを確実に増やす。
— Teortaxes(@teortaxesTex)
同氏はDeepSeekとMiniMaxの最新モデルが、2024年末〜2025年のモデルよりも総パラメータ・アクティブパラメータともに減っている点も指摘している。計算資源を強化学習(RL)側に回していることがその背景にある。
構造的な背景:輸出規制が生んだ「制約駆動型イノベーション」
DeepSeekとMiniMaxの現状は、単なる「効率化の成功事例」にとどまらない。米国政府による対中半導体輸出規制——2022年のBIS規制を皮切りに段階的に強化されてきた措置——によって、中国のAI企業はH100・A100といったハイエンドGPUの新規調達を事実上封じられている。これは「計算資源の上限が法的に固定された状態で、性能競争を強いられる」という前例のない条件だ。
こうした制約のもとでDeepSeekがDeepSeek-V3や後継モデルで見せたスケーリング手法、MiniMaxが今回のM3.1 Flashで示したSparse Attentionとサービングの最適化は、制約を回避する工夫であると同時に、潤沢な計算資源を前提に設計された西側モデルとは異なるアーキテクチャ思想の産物とも言える。
計算資源が1/53〜1/78でもフロンティアに居続けられる理由が、蒸留では説明しきれない以上、アーキテクチャ設計・RLの使い方・ハードウェア最適化の組み合わせに何らかの答えがあるとみられる。輸出規制の強化が続くほど、この「制約駆動型イノベーション」の圧力は高まり続ける。




