powered by TechFeed
表示モード
Amazon

AWSがテキスト生成を排除した2Bモデル「Strands Decider」をOSS公開 — 選択肢を選ぶだけに特化し、150ms以下でエージェントの判断を高速化

10月1日、SiliconAngleが「AWS debuts Strands Decider 2B, a first lightweight decision model for accelerate agentic workflows」と題した記事を公開した。AWSがエージェントワークフロー向けの軽量決定モデル「Strands Decider 2B」をオープンソースとして公開したことについて詳しく紹介されている。

10月1日、SiliconAngleが「AWS debuts Strands Decider 2B, a first lightweight decision model for accelerate agentic workflows」と題した記事を公開した。AWSがエージェントワークフロー向けの軽量決定モデル「Strands Decider 2B」をオープンソースとして公開したことについて詳しく紹介されている。


テキスト生成を排除した「決定モデル」という選択

LLMはテキスト・コード・画像といった出力を生成するが、決定モデル(Decision Model)はそれを一切行わない。あらかじめ定義された選択肢の中からひとつを選び、その確信度スコアを返すだけだ。「System 1モデル」とも呼ばれるこのアーキテクチャは、テキスト生成が不要なぶん、速度と低レイテンシに強みを持つ。

決定モデルはこれまで注目されることが少なかったが、2026年9月にステルスから出てきたスタートアップTypeSafe AIが「Jev」を発表したことで状況が変わった。Jevはソフトウェアやエージェントが直接利用できる高速な構造化決定を実現するモデルとして設計されたが、AWSのStrands LabsチームはJevが並列出力構造に起因するパフォーマンス上の問題を抱えており、複雑な推論を求めると性能が低下するという構造的な欠点があると指摘している。

Strands Decider 2Bはその課題に対するAWS初の回答だ。


アーキテクチャの肝は「ポインターヘッド」

Strands Decider 2BはQwen3.5-2Bのベーストルソをベースに構築されている(※モデル名は元記事の表記に準拠)。ただし、通常のLLMヘッド(テキストを生成する出力層)を取り除き、代わりにわずか100万パラメータのカスタム「ポインターヘッド」を搭載した。

このポインターヘッドは、選択肢の隠れ状態を回答ポジションと直接スコアリングするように設計されており、チューニングには**ランク16のLoRAアダプター**を使用している。LoRAはフルファインチューニングよりもはるかに少ない計算コストでモデルを調整できる手法で、小規模モデルのカスタマイズでよく使われる。

パラメータ規模として20億(2B)を選んだ理由について、AWSは「ローカルマシンで動作するのに十分な軽さと、複雑な決定をこなせるだけの能力のバランスを取れる規模」と説明している。実際、レイテンシは150ミリ秒未満を実現しており、ラップトップでの動作も想定している。

現在公開されているのはv.20で、AWSが繰り返し反復してきた結果だという。


評価指標「JevBench」での位置づけ

ベンチマークにはTypeSafe AIが提唱したJevBenchが用いられている。JevBenchは決定モデルの精度・確信度キャリブレーション(出力スコアの信頼性)・ロバスト性を総合的に評価するために設計された指標で、汎用LLMベンチマークとは異なり「選択タスクに特化した判断能力」を測ることに重きを置いている。

AWSはJevBenchにおける精度・キャリブレーションのスコアで、他のオープンソース2Bモデルと比較して高い水準を達成したと報告している。テキスト生成ヘッドを持たないアーキテクチャが、こうした特化型ベンチマークで有効に機能することを示した形だ。


想定される用途と「ハイブリッドエージェント」

AWSがStrands Decider 2Bに期待するユースケースは以下の通りだ:

  • モデルルーティング:どのモデルに処理を渡すかの振り分け
  • ツール選択:エージェントが次に呼び出すツールの決定
  • コンテキスト管理
  • ガードレール適用
  • ポリシー分類

さらにAWSは「ハイブリッドエージェント」という構成を提唱している。単純・反復的な判断は決定モデルに委ね、複雑な推論はLLMが担うという役割分担だ。LLMをすべての処理に使い続けると、トークン消費とレイテンシの増大がエージェントの実運用コストを押し上げる。決定モデルとLLMを組み合わせることで、この問題を構造的に緩和しようというのがAWSの狙いといえる。

決定モデルという概念自体はシンプルだが、エージェントが複数のツールや下流モデルを呼び出すワークフローが複雑化するほど、「どれを選ぶか」という判断の頻度と重要性は増す。Strands Decider 2Bはその判断を専用モデルとして切り出すことで、エージェント全体の応答性と効率を底上げする位置づけだ。


入手方法

モデルはHugging Face上の専用ページからダウンロード可能で、フルコードベース・トレーニングスクリプト・サンプルはGitHubで公開されている。元記事に具体的なリポジトリURLの記載はないが、Strands Labsの公式ページから参照できる。


詳細はAWS debuts Strands Decider 2B, a first lightweight decision model for accelerate agentic workflowsを参照していただきたい。