powered by TechFeed
表示モード
主要ニュース

DeepSeekの推論フレームワーク「DeepInfer」がOSSに — NvidiaとHuawei Ascendの両方をサポートし、輸出規制下でもAI推論を動かす設計

10月24日、Dick Weisingerが「DeepSeek's DeepInfer Supports Huawei」と題した記事を公開した。DeepSeekが自社の大規模モデルサービスを支える推論フレームワーク「DeepInfer」をオープンソースで公開したというニュース自体はシンプルに見えるが、その設計にNvidiaとHuawei Ascend両方へのサポートを組み込んだという事実は、米中AI半導体摩擦が続く現在の文脈では単なる技術リリース以上の意味を持つ。

10月24日、Dick Weisingerが「DeepSeek's DeepInfer Supports Huawei」と題した記事を公開した。DeepSeekが自社の大規模モデルサービスを支える推論フレームワーク「DeepInfer」をオープンソースで公開したというニュース自体はシンプルに見えるが、その設計にNvidiaとHuawei Ascend両方へのサポートを組み込んだという事実は、米中AI半導体摩擦が続く現在の文脈では単なる技術リリース以上の意味を持つ。


NvidiaだけでなくHuawei Ascendにも対応——なぜそれが重要か

2026年10月20日、DeepSeekは推論フレームワーク「DeepInfer」を公開した。これはDeepSeek自身が大規模モデルサービスの本番環境で使用しているフレームワークであり、NvidiaのGPUとHuaweiのAscendプロセッサの両方をサポートしている点が最大のポイントだ。

エンジニアの視点で見ると、Huawei Ascendへの対応は単なる「追加オプション」ではない。米国の輸出規制によってNvidia製GPUの調達が制限されている中国では、Huawei AscendがAI推論の主要な代替ハードウェアとして位置づけられている。重要なのは、DeepInferがこのクロスハードウェア対応をオプション拡張としてではなく、コアの推論スタックに組み込んだ設計として実装している点だ。これは「Ascendでも動く」という後付けの互換対応ではなく、ハードウェア非依存を前提に設計されたアーキテクチャであることを意味する。その設計思想こそが、タイトルにある「輸出規制下でもAI推論を動かす設計」の実体といえる。

DeepInferの主な機能

現時点でDeepInferが提供する機能は以下の通りだ:

  • 分散推論(Distributed Inference):複数ノードへの推論処理の分散実行
  • **スペキュラティブデコーディング(Speculative Decoding)**:小さなドラフトモデルで候補トークンを先読みし、大きなモデルで検証することで生成速度を向上させる手法
  • 構造化出力(Structured Output):JSONなど特定フォーマットでの出力生成
  • deepseek-recipe:APIリクエストや入出力処理を担うコンポーネント

現在サポートされているモデルはDeepSeek-V4.1-Flash-1017だ。このモデル名は一見聞き慣れないが、DeepSeekがこれまで公開してきたDeepSeek-V3系の後継にあたる位置づけとみられ、「Flash」はより高速・軽量な推論向けのバリアントであることを示していると考えられる(※編集部の考察)。今後のモデルバージョンに向けた最適化も予定されているとされる。

不明な点

記事内では以下の点が「現時点では不明」として挙げられている:

  • Huawei Ascendハードウェア上での独立したベンチマーク性能
  • Nvidia以外の構成を使うエンタープライズ顧客における採用状況
  • AscendとNvidia以外のハードウェアの完全な互換性リスト

Ascendでの実測スループットやレイテンシのデータはまだ出ていないため、実運用での性能評価はこれからという状況だ。クロスハードウェア対応の設計思想は明確だが、その実効性を判断できる数字が揃うのはもう少し先になりそうだ。

米中AI半導体競争という文脈

元記事(情報源:TechNode)は、HuaweiのAscendサポートの意義をこう述べている:

「国内中国のAIインフラ開発が、コアのサービングスタックにクロスハードウェア互換性を組み込むことで、輸出規制への適応を続けていることを示している」

Nvidia製チップへのアクセスが制限される中で、推論フレームワーク自体がハードウェア非依存な設計を採用することは、中国のAIスタック全体の方向性を示す動きとして注目される。DeepInferのOSS公開は、DeepSeek単体のリリースにとどまらず、同様の制約下にある他の中国AI企業やコミュニティがこの設計を参照・活用できる素地を作るという意味でも、その射程は広い。


詳細はDeepSeek's DeepInfer Supports Huaweiを参照していただきたい。