6月27日、MarkTechPostが「DeepSeek Releases DSpark, a Speculative Decoding Framework That Accelerates DeepSeek-V4 Per-User Generation 60–85% Over MTP-1」と題した記事を公開した。DeepSeekが投機的デコード（Speculative Decoding）フレームワーク「DSpark」をオープンソースで公開し、DeepSeek-V4の推論速度をユーザー単位で最大85%向上させた取り組みを詳しく紹介している。
新モデルではなく「推論高速化の仕組み」
まず誤解しやすい点を明確にしておきたい。DSparkは新しいモデルではなく、既存のDeepSeek-V4の重みにドラフトモジュールを付加するサービング最適化技術だ。公開されたチェックポイント DeepSeek-V4-Pro-DSpark と DeepSeek-V4-Flash-DSpark は、いずれも既存のV4重みを再利用する。ターゲットモデルの再学習は不要である。
併せて、投機的デコードのドラフター訓練・評価用コードベース「DeepSpec」もMITライセンスでオープンソース公開された。モデル重みはHugging Faceで入手できる。
投機的デコードとは何か
投機的デコードは、LLMの推論を「ドラフト」と「検証」の2段階に分ける手法だ。小さなドラフトモデルがトークンのブロックを先読みして提案し、フルサイズのターゲットモデルが1回のフォワードパスでまとめて検証する。棄却サンプリングにより最長の有効プレフィックスが採用されるため、出力の品質はターゲットモデルと完全に同一（ロスレス）に保たれる。
速度向上の数式はシンプルだ：
L = (Tdraft + Tverify) / τ
τ（1サイクルで承認されるトークン数）を増やし、TdraftとTverifyを下げる。DSparkはこの3つのレバーを同時に引く。
DSparkの核心：セミ自己回帰生成
既存のドラフターにはトレードオフがある。
- Eagle3（自己回帰型）：各トークンが前のトークンに条件付けされるため承認率は高いが、ブロックサイズが大きくなるとドラフトコストが増大する。
- DFlash（並列型）：1パスでブロック全体を生成するため低コストだが、各位置が隣接トークンを無視するため「マルチモーダル衝突」が起き、ブロック末尾に向かって承認率が急落する。
DSparkはこの2つを組み合わせたセミ自己回帰方式を採用する。重い並列バックボーン（DFlash）が全ポジションのベースロジットを生成し、その後に軽量な逐次ヘッドがプレフィックス依存のバイアスを各トークンのサンプリング前に加算する。
逐次ヘッドのデフォルト実装はマルコフヘッド（直前トークンのみを参照）で、ランク256の低ランク分解によって語彙サイズが大きくても計算コストを抑えている。例えば直前トークンが「of」なら「course」の確率を高め「problem」を抑制する、といった補正を行う。
この構造の恩恵は具体的な数値に表れている。Eagle3比で承認長が26〜31%向上、DFlash比で16〜18%向上。2層のDSparkが5層のDFlashを上回るケースも確認されている。
動的な検証スケジューリング
ドラフトトークンを増やせば常に速くなるわけではない。高負荷時に棄却されるトークンを検証しても、バッチ容量を無駄に消費するだけだ。
DSparkはこれを2つの仕組みで解決する。
信頼スコアヘッド：各ドラフトポジションに対して、そのトークンが検証を通過する確率を出力する。ニューラルネットワークはもともと過信頼になりやすいため、後処理として「逐次温度スケーリング（Sequential Temperature Scaling）」を適用する。これにより期待キャリブレーション誤差を3〜8%から約1%まで低減する。
ハードウェア対応プレフィックススケジューラ：起動時に一度プロファイリングしたスループット曲線
SPS(B)を参照し、GPUが空いているときは多くのトークンを検証、高負荷時は検証トークン数を削減してスループットを保護する。
本番環境での実測値
| ドラフター | ドラフト方式 | ブロックコスト | サフィックス承認率 | 検証長 |
|---|---|---|---|---|
| Eagle3 | 自己回帰 | ブロックサイズに比例 | 高く安定 | 固定 |
| DFlash | 並列 | ほぼ一定 | 急速に低下 | 固定（フルブロック） |
| MTP-1 | 単一トークン | 低 | 単一トークンのため非該当 | 静的2トークン |
| DSpark | 並列＋逐次ヘッド | ほぼ一定 | 高く安定 | 動的・負荷対応 |
DeepSeek-V4の本番トラフィックにおける実測では、従来のMTP-1ベースラインと同等スループットで比較した場合、V4-Flashでユーザー単位の生成速度が60〜85%向上、V4-Proで57〜78%向上した。本番投入構成は「DSpark-5」（マルコフヘッド付き5トークンドラフトブロック）だ。
ワークロード別では、コード生成が最も恩恵を受けやすい（自然に承認率が高く、長いプレフィックスを効率よく検証できる）。チャットは信頼スコアのしきい値調整により承認率が45.7%から95.7%に改善、数学推論は76.9%から92.5%に改善している。
試してみる
DeepSpecはデータ準備・学習・評価の3段階で動作する。
# 依存関係のインストール
python -m pip install -r requirements.txt
# Qwen3-4Bをターゲットにした DSpark ドラフターの学習
bash scripts/train/train.sh
# 9つのベンチマークデータセットで評価
bash scripts/eval/eval.sh
デフォルト設定は8GPU×1ノードを想定している。CUDA_VISIBLE_DEVICESを減らせばGPU数を削減できるが、Qwen3-4B設定ではターゲットキャッシュのサイズが非常に大きくなる点に注意が必要だ（元記事記載の数値は38TBだが、単位については元記事で確認されたい）。
本番チェックポイントを使う場合は、ドラフトモジュールを既存のV4重みにアタッチするだけでよく、Hugging FaceカードのInferenceフォルダに最小限の推論サンプルコードが含まれている。
詳細はDeepSeek Releases DSpark, a Speculative Decoding Framework That Accelerates DeepSeek-V4 Per-User Generation 60–85% Over MTP-1を参照していただきたい。
