8月26日、The Decoderが「OpenAI's first custom chip "Jalapeño" reportedly beats Nvidia's Blackwell and Rubin in inference benchmarks」と題した記事を公開した。OpenAIが初の自社設計AIチップ「Jalapeño」のベンチマーク結果を半導体業界の主要学術カンファレンス「Hot Chips」で公開し、NvidiaのBlackwellおよび最新世代Rubin（Vera Rubin）を推論性能・電力効率の両面で上回ったという内容だ。調査会社SemiAnalysisはこの結果をもとに、NvidiaがAI業界で長年維持してきた「CUDAモート」が崩れつつある可能性を示唆しており、業界への波紋は小さくない。
「Jalapeño」、初代チップでNvidia Blackwell超え
OpenAIが初の自社設計AIチップ「Jalapeño」のベンチマーク結果をHot Chipsで公開した。結果は、スループット/ワット比および推論レイテンシーの両面でNvidiaのBlackwell、さらには最新世代のRubin（Vera Rubin）を上回るというものだ。
このチップはBroadcomと共同設計されており、トレーニングは対象外の推論（inference）専用アクセラレータである。OpenAI独自モデルへのチューニングはなく、汎用のLLM推論アクセラレータとして設計されている点が特徴的だ。
ベンチマーク数値の詳細
ベンチマークにはSemiAnalysisの公開ベンチマーク「InferenceX」が使われた。数値はOpenAIが提供し、SemiAnalysisが一部をラボで実地検証している。テスト対象モデルは以下の3つだ。
- GPT-OSS 120B
- Deepseek R1 670B
- Kimi K2.5 1T
OpenAIが主張する性能は次のとおり。
- ピークスループット時のAI処理量：ワットあたり1.5〜1.9倍（商用システム比）
- エンドツーエンドレイテンシー：1.7〜3.6倍低減
- インタラクティブワークロード：2.1〜4.1倍高性能
- GPT-OSS 120Bでは1ユーザーあたり約毎秒1,400トークン
- Deepseek R1では1同時リクエストで毎秒700トークン超
さらに、同一のデコード速度で比較した場合、Jalapeñoはモデルによってキロワット当たりのトークンスループットで54〜104倍を記録している。この数値は、上記3モデルをテストした際に現時点で最良とされる競合アクセラレータ群（Nvidia Blackwell・Vera Rubin、およびその他の商用システム）との比較によるものだ。
加えて、Jalapeñoはこれらの数値をマルチトークン予測やスペキュラティブデコーディング（推論高速化のための最適化手法）を使わずに達成している。比較対象のシステムの一部はこれらの最適化を適用済みであるため、Jalapeñoにはまだ改善余地がある。
SemiAnalysisが示唆する「CUDAモート終焉」の可能性
SemiAnalysisのレポート本文は、電力効率の比較においてJalapeñoの優位性を次のように表現している。
「パフォーマンス/ワット比の比較において、JalapeñoはあらゆるチップをKO（smokes every other chip）している」— SemiAnalysis レポート本文
SemiAnalysis CEO の Dylan Patel もX上で次のように述べた。
「通常、初代チップは競争力を持てないものだが、OpenAIはNvidiaのBlackwellどころかRubinまで上回っている」
さらにSemiAnalysisのレポートは、NvidiaがAI業界で長年保持してきた競争優位性の源泉とされる「CUDAモート」が崩れつつある可能性を指摘した。
「CUDAモート」とは、NvidiaのGPUプログラミング基盤CUDAが長年にわたり培ってきたソフトウェアエコシステムと開発者の慣性を指す。CUDAは深層学習フレームワークや最適化ライブラリの多くがNvidia GPU上で動作することを前提に構築されており、他社チップがいかに優れたハードウェア性能を持っていても、このエコシステムへの対応コストが参入障壁（堀＝モート）として機能してきた。AMD GPUがしばしばコスト性能比で優位を主張しながらも市場シェアを大きく伸ばせない要因の一つがこれだ。
SemiAnalysisはレポート内で「OpenAIが自社シリコン上で新モデルを立ち上げる速度を考えると、CUDAモートは潜在的に終わった（potentially over）」と記している。断定ではなく留保付きの見解だが、大手AI企業が自社チップで本番運用に踏み込んだ事実は、業界における一つの転換点として注目に値する。
注意すべき留保点
手放しで評価できない点もある。
- NvidiaとAMDはすでにDeepseek V4 ProやKimi K3などより大規模なモデルでの結果を公開済みだが、Jalapeñoではまだ未検証
- Vera Rubinはすでに顧客向け出荷が始まっているのに対し、Jalapeñoはエンジニアリングサンプル段階を出ていない模様
- Vera Rubinとのトークン当たりの総所有コスト（TCO）はほぼ互角
公平な比較対象はBlackwellよりもVera Rubinとする見方もSemiAnalysisは示している。両チップともHBM4メモリを採用しているためだ。その条件でもJalapeñoはVera Rubin（マルチトークン予測を適用済み）を出力トークン/メガワット比で上回っているという。
開発の経緯とOpenAIの戦略
Jalapeñoの設計は2024年半ばに開始し、最終設計が製造に回されたのは2025年11月。全工程で約16カ月、初期設計から製造向け設計完了まではわずか9カ月だという。開発にはOpenAI自身のAIモデルも活用された。旧世代モデルがチップ設計を補助し、新世代モデルがプログラミングと最適化を加速させた。
CFOのSarah Friarは、Jalapeñoをデータセンター・チップ・モデル・開発者プラットフォーム・製品・デバイスを一体的に運用する「垂直統合戦略」の一環と位置づけている。NvidiaやAMD、AWS、Cerebras、CoreWeaveとの既存パートナーシップを「代替するものではなく補完するもの」と説明しているが、Nvidiaを筆頭にこれらの企業はいずれもOpenAIの投資家や計算リソース提供者でもあり、協力と競争が同時に成立する複雑な関係にある。
詳細はOpenAI's first custom chip "Jalapeño" reportedly beats Nvidia's Blackwell and Rubin in inference benchmarksを参照していただきたい。
