10月8日、The Decoderが「OpenAI launches Decisions API that reduces complex evaluations to yes, no, or pick one」と題した記事を公開した。汎用LLMに判定タスクを投げると推論コスト・レイテンシ・出力の不安定さという三重苦が伴うが、OpenAIはその問題を用途を絞ることで解決する「Decisions API」をパブリックベータとして公開した。分類・判定に処理を特化させることでResponses APIと比べて約10倍高速に動作し、出力トークンは無料という料金体系は、大量の分類タスクを抱える企業にとって見逃せない選択肢となりうる。
Responses APIの約10倍速い判定特化API
Decisions APIの最大の特徴は処理速度だ。テキスト・画像・またはその両方を入力として受け取り、Responses APIと比べて約10倍高速に動作する。判定結果は以下の3種類に絞られている：
- Yes/No（確率付きで返す）
- カテゴリ選択（あらかじめ定義した選択肢から一つを選ぶ）
- スケール評価（数値スケールで評価を返す）
複雑な文章生成を必要としない判定・分類タスクに対して、モデルの出力を構造化済みの選択肢に絞ることで高速化を実現している。
OpenAIが挙げる具体的なユースケースは、写真の損傷検知、カスタマー問い合わせの自動ルーティング、ドキュメント分類の3つだ。
料金体系：出力トークンは無料
現在このAPIでサポートされているモデルは専用の判定モデルgpt-6-lunaのみで、料金は入力トークン100万件あたり$0.10。出力トークンは無料となっている。なお、gpt-6-lunaは汎用の会話・生成用途には公開されておらず、Decisions API向けに提供されているモデルとして元記事で紹介されているものだ。
判定結果が短いトークン数で完結するという性質上、出力無料は実質的なコスト削減に直結する。大量の分類タスクをAPIで処理する場合、コスト面でも有利に働く。
プライバシー面では、ゼロデータ保持（入力データをOpenAI側に保存しない）および米国・欧州でのHIPAA準拠をサポートしている。医療・金融など規制の厳しい業界での採用を意識した設計だ。
現在はパブリックベータで、一般提供（GA）は近日中を予定している。
「決定モデル」というトレンドへの対応
The Decoderの記事によれば、このAPIはOpenAIによる「決定モデル（decision models）」ミニトレンドへの対応と見られている。このトレンドは、元OpenAI研究者が9月中旬に立ち上げた取り組み——テキスト生成ではなく選択肢の評価に特化したAIモデルの構築——から火がついたとされる。元記事ではこの人物を「Jev」と表記しているが、フルネームや詳細な経歴については言及がなく、The Decoderの関連記事を参照されたい。
汎用LLMに判定タスクを投げると、推論コスト・レイテンシ・出力の不安定さという三重苦が伴う。Decisions APIはその問題を、用途を絞ることで解決するアプローチだ。
APIティアも5段階から3段階に簡略化
同時に、OpenAIはAPIの有料ティア体系も刷新した。従来の5段階から3段階（Build・Launch・Grow）に削減している。
| ティア | 月間利用上限 |
|---|---|
| Build | $500 |
| Launch | $5,000 |
| Grow | $200,000 |
各ティアへの昇格は、累計クレジット購入額が次の閾値に達した時点で自動的に行われる。申請や審査は不要だ。
詳細はOpenAI launches Decisions API that reduces complex evaluations to yes, no, or pick oneを参照していただきたい。
