11月14日、Vishal Bulbuleが「Gemini Decisions API: A New Approach to Fast and Scalable AI Decisions」と題した記事を公開した。GoogleがリリースしたAI判定専用モデル「gemini-decision-1」は、テキスト生成を一切行わないという設計思想を持つ異色のモデルだ。出力トークン数は概念として常にゼロ——この制約こそが、同一タスクにおいてLLMの最大12.7倍の速度と、バッチング活用時の18.6倍のコスト削減を実現する根拠になっている。
「文章を書けないモデル」という設計思想
2025年11月11日、GoogleはGemini Decisions APIと、その背後にあるモデルgemini-decision-1をリリースした。このモデルはテキスト生成を一切行わない。入力としてコンテンツと質問セットを渡すと、返ってくるのはyes/no(確率付き)、最大255択の選択肢、またはルーブリックに基づくスコアのみだ。出力トークン数は常にゼロ——割引ではなく、概念として存在しない。
LLMに「これは請求関連のチケットか?」と聞くと、モデルは「はい、これは請求関連です」と文章を生成し、その生成コストを請求する。Decision APIはその文章生成をそもそも行わない。yes/noの確率だけを返す。この制約こそが、レイテンシとコストの両方を根本から変える。
実測:インドから456ms、LLMの6.7〜12.7倍速
著者はインド・プネーの自宅回線(フリーティア)から20回連続で計測を行った。
gemini-decision-1:0.32〜0.59秒gemini-2.0-flash-lite(同一質問):3.93〜5.16秒
比率は6.7〜12.7倍の間で変動した。GoogleはGoogle Cloud上で150〜250msを謳っているが、著者がus-central1のVM上で計測したところ、その数値は実際に再現できている。プネーからの計測が2倍程度になるのは地理的距離と経路の問題であり、クレームを否定するものではないと著者は述べている。なお、「最大12.7倍速」という数値はインド拠点からの計測条件下での結果であり、Google Cloud VM上での計測では倍率は異なる点に留意したい。
以下のコードは元記事から引用したもので、LLMとDecision APIのレイテンシを同一タスクで比較する実装例だ。
import time
from google import genai
client = genai.Client(http_options={"api_version": "v1beta"})
ticket = "I was charged twice for my October invoice. Please refund one of them."
teams = {"billing": "Invoices, refunds, charges",
"technical": "Bugs, outages, errors",
"general": "Questions and feature requests"}
# LLMに回答させる(テキスト生成あり・出力トークン課金発生)
start = time.time()
interaction = client.interactions.create(
model="gemini-2.0-flash-lite",
input=f"Which team should handle this ticket? Answer with one word: "
f"billing, technical or general.\n\n{ticket}",
)
llm_latency = time.time() - start
# Decision APIに判定させる(テキスト生成なし・出力トークンゼロ)
start = time.time()
response = client.decisions.create(
model="gemini-decision-1",
input=ticket,
questions={"team": {"type": "choice",
"instructions": "Which team should handle this ticket?",
"criteria": teams}},
)
decision_latency = time.time() - start
team = response.answers["team"]
print(f"LLM : {interaction.output_text.strip():<10} {llm_latency:.2f} seconds")
print(f"Decision : {team.choice:<10} {decision_latency:.2f} seconds (confidence {team.confidence:.2f})")
print(f"\nThe decision model was {llm_latency / decision_latency:.1f}x faster.")
print(f"Output tokens: LLM wrote one word, decision model wrote {response.usage.total_output_tokens}.")
LLMが「billing」の一単語を返すためだけに出力トークンを消費した一方、Decision APIの出力トークンは計測4回すべてでゼロだった。
音声・動画入力のレイテンシは3〜7倍に跳ね上がる点も実測で確認されている。「リアルタイム動画判定」のアイデアを実装する前に、タイムアウトとフォールバックは必須だ。
コストの本質はバッチング——1リクエスト20問で18.6倍安くなる
価格は入力トークン$0.10/100万、出力トークン$0。シンプルに見えるが、この数字だけではコストの全体像はわからない。著者が突き止めた最重要の知見がこれだ。
同じドキュメントへの質問を1リクエストにまとめると、ドキュメントの入力コストが1回しか請求されない。
- 343トークンのインシデントレポートに20問を個別リクエスト:**$40.90/百万決定**
- 同じ20問を1リクエストにまとめる:**$6.59/百万決定(6.2倍安い**)
さらに大きなドキュメントで試すと差は拡大する:
- 12,272トークンの契約書に20問を個別:245,440入力トークン
- 同じ20問を1リクエスト:13,181入力トークン(18.6倍安い)
各質問が追加するトークンは約47.8トークンのみ。節約率の目安式は「共有入力トークン ÷ 48」だ。
⚠️ 重要な制限:Batch API・コンテキストキャッシュは非対応
コスト最適化を検討する上で見落とせない制約がある。Batch APIは非対応、コンテキストキャッシュも非対応だ。大量データを夜間バッチ処理で安くさばく手段は現時点では存在しない。上述のバッチング効果はあくまで「1リクエスト内で複数質問をまとめる」ことで得られるものであり、非同期バッチジョブとは別概念である点に注意が必要だ。
注意すべき落とし穴
強制選択の罠:選択肢に含まれない入力でも、確率は必ず合計1になるため「それっぽい」選択肢に高確率で振り分けられる。チームランチの予定が「general」サポートチケットとして0.92の確信度で分類された実例が紹介されている。otherのような逃げ場となる選択肢を必ず追加すること。
0.7閾値は設定しただけでは機能しない:Googleのドキュメントサンプルが使う0.7の信頼度ゲートでも、「It's not working.」という情報ゼロのメッセージが0.79でゲートを通過して自動ルーティングされた。閾値は自社トラフィックのラベル付きサンプルから調整する必要がある。
フリーティアの実質制限はリクエスト数ではなくトークン数:表示上は200リクエスト/分だが、実際の上限は50,000入力トークン/分。8kトークンのリクエストなら1分に約6回しか送れない。
競合との位置づけ
テキスト専用での価格帯では、Jev(※Jevaのこと。構造化出力に特化した軽量推論サービス、$0.042/百万)やSarvam Prism(インド語対応の多言語判定モデル)が安価だ。Google($0.10/百万)はその約2.5倍のコストになる。
Googleを選ぶ理由はモダリティだ。画像・音声・動画・PDFを同一リクエストで判定できる点では、現時点でGoogleが唯一の選択肢に近い。OCRや音声認識の別途課金も発生しない。インド語対応やオープンウェイトが必要なら Prism、データをネットワーク外に出せない場合はローカル実行モデルを検討する、というのが著者の整理だ。
詳細はGemini Decisions API: A New Approach to Fast and Scalable AI Decisionsを参照していただきたい。




