10月21日、The Decoderが「Inception's Mercury 3 diffusion model claims to beat GPT-6 Luna and Claude Haiku 5.5 at a fraction of the wait」と題した記事を公開した。InceptionのDiffusion型言語モデル「Mercury 3」が、GPT-6 LunaおよびClaude Haiku 5.5を速度・性能の両面で上回ると主張している。独自アーキテクチャによる毎秒1,068トークンという数字が注目を集めているが、主張の根拠と限界を整理する。
Diffusion型LLMとは何か
従来のGPTやClaudeといったモデルは、トークンを1つずつ逐次生成するアーキテクチャを採用している。次のトークンを生成するには、直前のトークンの処理が完了するまで待つ必要がある。
これに対し、Diffusion型言語モデルは画像生成で知られる拡散モデルの考え方をテキストに応用したものだ。まず回答全体の粗いドラフトを生成し、複数のパスで精緻化することで、多数のトークンを同時に処理できる。Googleが発表したDiffusionGemmaの技術レポートにも同様のアーキテクチャが解説されている。
Inceptionはこのアーキテクチャを追求してきたスタートアップで、NvidiaのNVentures、MicrosoftのM12、Snowflake Venturesなどから5000万ドルを調達している。
速度の主張：1,068トークン/秒
Inceptionが最も強調するのが速度だ。Mercury 3はNvidia GPU上で毎秒1,068トークンを生成するとしている。同社の比較では、Claude Haiku 5.5が約240トークン/秒、GPT-6 Lunaが約130トークン/秒とされており、4〜8倍の速度差を主張している。
ただし、現時点では独立した第三者による検証は存在しない。
パラメータ数は非公開だが、Mercury 1の40倍以上とされ、それでも推論速度はMercury 1と同等を維持しているという。Inceptionはこれを「Diffusion型LLMもスケールに比例して性能が向上する」根拠として位置づけている。
ベンチマーク：8勝4敗、ただし差は一様ではない
Inception自身のベンチマーク表では、12項目中8項目でMercury 3がトップとなっている。
Mercury 3は12のベンチマーク中8項目でリード。| 画像: Inception
差が大きいのは以下の2点だ：
- IFBench（指示追従）：Mercury 3が76.84点、GPT-6 Lunaに15点差をつける
- SWE-Bench Atlas（自律コーディング）：Mercury 3が51.08点、他2モデルは33.33・32.26点
一方、Claude Haiku 5.5は長文コーディングテスト「DeepSWE」と長文中の情報検索で勝り、GPT-6 LunaはArtificial Analysisの2項目で上回る。発表文の概要欄では「同等か、それ以上」という慎重な表現が使われており、圧倒的優位という印象とは温度差がある。
ターゲットはレイテンシが積み重なる用途
Inceptionが想定する主な用途は、AIエージェント、検索、カスタマーサポート、教育だ。特にAIエージェントは多数のステップを順次実行するため、各ステップでのモデル待ち時間が累積しやすい。
アーリーアクセスパートナーの報告によると：
- Octen AI（スマートグラス向け検索）：従来は言語モデルがボトルネックで5秒かかっていたが、Mercury 3で中央値0.9秒、処理全体で2.2秒に短縮
- General Learning（教育）：生徒へのヒント・フィードバック配信を約1秒で実現
- TinyFish AI：実際のWebサイト上で50件のナビゲーションタスクを実行し25件を解決、GPT-6.1-Solを上回ったとしている（ただしOpenAIモデルの具体的な数値は未公開）
価格：速度優位を費用対効果に換算するには
通常価格は入力100万トークンあたり$0.20、出力$0.70。ローンチ時は半額で提供されているが、終了時期は未定だ。
割引終了後の出力価格（$0.70）は、GPT-6 LunaおよびClaude Haiku 5.5（ともに$0.50）より高い。単純なトークン単価では割高になる点は注意が必要だ。ただし、速度が4〜8倍であれば、同じ壁時計時間あたりにこなせるリクエスト数は大幅に増える。スループットが重要なバッチ処理やエージェント用途では、インフラコストやAPIの並列数を抑えながら処理量を稼げるため、実質的なコスト競争力が生まれやすい。
一方、最大100万トークンのコンテキストウィンドウに対応しており、非常に長いプロンプトを扱う場合は競合の価格が大幅に上がるため、長文処理でも競争力が出てくる局面がある。
APIはOpenAIと互換性があり、エンドポイントの切り替えだけで移行できるとInceptionは述べている。利用可能なプラットフォームはInception本体に加え、OpenRouter、Baseten、Vercelだ。
Googleも同じ方向へ
Diffusion型LLMはInceptionの専売特許ではない。GoogleもGemini Diffusionのデモを公開後、6月にオープンモデルDiffusionGemmaをリリースした。標準のGemma 4比で最大4倍速いとしているが、精度はやや劣るとGoogleは認めている。
Inceptionは2月にMercury 2をリリースしており、これはDiffusion型モデルとして初めて中間推論ステップを持つモデルとされていた。Mercury 3はその後継にあたる。
詳細はInception's Mercury 3 diffusion model claims to beat GPT-6 Luna and Claude Haiku 5.5 at a fraction of the waitを参照していただきたい。
