powered by TechFeed
表示モード
主要ニュース

DeepSeekが本番AIサービスの推論エンジン「DeepInfer」をOSS公開 — コードは無料、動かすには128枚以上のGPUが必要

11月9日、My Electric Sparksが「DeepSeek Open Sources DeepInfer Engine Behind Its Production AI Service」と題した記事を公開した。DeepSeekが自社の本番AIサービスを動かす推論エンジン「DeepInfer」をオープンソース化したことを詳報している。

11月9日、My Electric Sparksが「DeepSeek Open Sources DeepInfer Engine Behind Its Production AI Service」と題した記事を公開した。DeepSeekが自社の本番AIサービスを動かす推論エンジン「DeepInfer」をオープンソース化したことを詳報している。


本番稼働中の推論エンジンがGitHubに公開

2025年10月20日、DeepSeekは自社の本番APIサービスを支える推論エンジン「DeepInfer」をGitHub上にApache 2.0ライセンスで公開した。公開直後から大きな反響を呼び、リポジトリのスター数は約2万3600に達し、Hacker Newsのスレッドは2353ポイント・892コメントを記録した。

このエンジンが注目される最大の理由は、「フロンティアラボが実際に本番で動かしているエンジンのコードが公開された」という点だ。研究用のデモやファインチューニングツールではなく、大規模サービスの心臓部そのものが外部から読めるようになった。DeepSeekによれば、このエンジンは1クラスターで1日155兆トークンを処理しているという。また、オフピーク時に1GPUあたり38ドル/時の収益を生み出しているとも述べられているが、これはDeepSeek自身が運用するサービス規模(DeepSeek V4.1 Flashモデル、128枚以上のBlackwell GPU構成)における自己申告の数値であり、コスト指標ではなく売上ベースの収益指標とされている。第三者による検証はまだ行われていない。


動かせるのはデータセンターだけ

エンジンの内容に踏み込む前に、ハードウェアの制約を確認しておく必要がある。DeepInferがサポートするGPUは現時点で以下の2種類のみだ:

  • NVIDIA Blackwell SM100(例:GB200)
  • Huawei Ascend 950

さらに、DeepSeekは効率的な運用の最小単位として約128枚のBlackwell GPUを挙げている。ある試算では、最安のBlackwellレートでの1日あたりのコストは約3万2500ドルに上るとされる。ラップトップやゲーミングGPUでは動作しない設計であり、個人開発者や小規模ラボがそのまま使える代物ではない。

対応モデルも現時点ではDeepSeek V4.1 Flash(チェックポイント1017)のみとなっている。


何が「ない」かを把握することが重要

公開コードでオフライン推論は動かせるが、本番サービスを構成する以下の要素は含まれていない:

  • KVキャッシュ(過去のトークンを再利用してコストを削減する仕組み)
  • プリフィルとデコードの分離(2つの処理フェーズを別マシンに分散する構成)
  • レプリカ間のロードバランシング

これらはエンジンを「生きたサービス」に変えるための部品だ。APIレイヤーについては「deepseek-recipe」という別プロジェクト(MITライセンス)が担うとされているが、執筆時点でそのリポジトリの公開状況は確認できておらず、DeepSeek社内の周辺コードは引き続き非公開のままである。


エンジン内部のカーネル群

コードそのものはエンジニアから一定の評価を得ている。リポジトリにはモデルランタイムに加え、DeepSeekが2025年初頭から公開してきたカーネルライブラリ群が含まれる:

DeepSeekは「公開カーネルのエンドツーエンド性能は社内カーネルと5%以内の差に収まる」と主張している。この数字も自己申告であり、外部での再現検証はこれからだ。設計の参考元としてはvLLM、SGLang、TensorRT LLMが明示的にクレジットされており、オープンソースのエコシステムから多くを取り込んでいることが読み取れる。

なお、DeepSeekは2025年初頭に「エンジンのコードはvLLMの初期フォークから大きく乖離したため公開しない」と発言していた。今回の公開はその判断の撤回にあたる。


公開と同日に出た「締め出し命令」

リリースのタイミングにも触れておく必要がある。DeepInferがGitHubに公開された10月20日と同じ日、米国土安全保障省(DHS)によるDeepSeek製品に関する命令が明るみに出た。サプライチェーンセキュリティ法に基づくもので、連邦政府の民間システムからDeepSeek製品を排除する内容だ。公開とこの命令に直接の関係はないが、「コードはオープン、ドアは閉まっている」という構図が一日で可視化された形になった。


「オープンコード」と「オープンアクセス」は別物

今回のリリースが示すのは、フロンティアラボの設計思想や実装を他のエンジン開発者が研究できるようになったという点において意義がある。カーネルの実装、ベンチマーク手法、スケーリングの設計は、直接動かせなくても参照できる。実際、vLLMやSGLangといったオープンソース推論エンジンの開発者がDeepInferの実装を取り込み、より広い環境向けに再実装する動きが今後生まれる可能性は十分にある。ただし、実際に動かすためのコストと制約は現実的でない水準にある。コードは無料だが、動かすためのチケットは高価だ。

詳細はDeepSeek Open Sources DeepInfer Engine Behind Its Production AI Serviceを参照していただきたい。