powered by TechFeed
表示モード
Microsoft

MicrosoftのEvoLib、モデルの重みを変えずにLLMエージェントを継続学習させる — ファインチューニング不要でGPT-4oも改善できるフレームワーク

7月31日、RuntimeWireが「Microsoft releases EvoLib for LLM agents that learn without weight updates」と題した記事を公開した。この記事では、Microsoftがモデルの重みを更新せずにLLMエージェントを継続学習させるフレームワーク「EvoLib」を公開したことについて詳しく紹介されている。

7月31日、RuntimeWireが「Microsoft releases EvoLib for LLM agents that learn without weight updates」と題した記事を公開した。この記事では、Microsoftがモデルの重みを更新せずにLLMエージェントを継続学習させるフレームワーク「EvoLib」を公開したことについて詳しく紹介されている。


重みを変えずに賢くなる、というアプローチ

LLMを継続的に改善しようとすると、通常はファインチューニングが必要になる。しかしクローズドなAPIモデル(GPT-4oなど)ではモデルのパラメータにアクセスできない。EvoLibはこの制約を前提に設計されており、推論時の軌跡(inference trajectory)から知識を抽出・再利用するという方法で学習を実現する。

Microsoft Researchが2025年7月30日に公開したEvoLibは、論文に基づくフレームワークだ(初版は2025年5月14日にプレプリント投稿、7月14日に改訂済み。本紹介記事は2026年7月31日時点の情報を基にしている)。7名の著者にはMicrosoft Research Redmondのシニアリサーチャー・Weijia Xuや、BingやAzure AI、Microsoft 365、CopilotのAI方針を統括するテクニカルフェロー兼コーポレートバイスプレジデントのJianfeng Gaoが名を連ねる。


EvoLibが解決する「履歴を持っているだけでは意味がない」問題

多くのエージェントシステムは会話履歴や推論ログを保持するが、それが有用な知識として再利用されるかどうかは別問題だ。ログが蓄積されるほど検索が難しくなり、古い・ピンポイントすぎる記録がノイズになる。

EvoLibはこの問題に対して、エージェントの行動履歴を2種類の知識に変換して管理する:

  • Modular Skills(モジュラースキル):コーディング用の関数やサブタスクのワークフローなど、再利用可能な手続き
  • Reflective Insights(内省的インサイト):失敗した試みから蒸留した自然言語のルール

これらは問題インスタンスをまたいで共有されるライブラリとして管理される。あるタスクで得た知識が、後続の別タスクに適用できる仕組みだ。

ライブラリの肥大化を防ぐため、類似エントリは統合される。各エントリにはInformation Gain(現在のタスクへの有用性)とFuture Information Gain(後続の知識生成への貢献度)という2種類のスコアが付与され、価値の高いエントリほどプロンプトに現れやすくなる。


ベンチマーク結果

EvoLibの評価は複数のベンチマークで実施された:

ベンチマーク ベースモデル Best-of-N EvoLib
HMMT(数学) 57.0% 74.2% 77.4%
BigCodeBench Hard 29.7% 37.2% 40.8%
LiveCodeBench v6 Hard **70.0%**(Recursive Self-Aggregationと同率)

LiveCodeBench v6 HardのベースモデルおよびBest-of-N欄が「—」となっているのは、元論文においてこの条件での比較数値が報告されていないためであり、EvoLibの結果はRecursive Self-Aggregationという別手法との比較として示されている。

ベースサンプリングに対して11〜20%の改善を報告しており、最も強力な比較手法であるDynamic Cheatsheetに対しても3ベンチマーク全体で5〜10%上回った。実験にはBigCodeBenchにGPT-4o、それ以外にo4-miniを使用している。

コスト計算には、出力トークンを入力トークンの4倍として換算する加重トークン数を用いた。計算コストを削減した条件でも、EvoLibはコーディングテストにおいて他のtest-time scalingベースラインより大きな精度を維持した。


実用上の注意点

EvoLibにはMITライセンスが付与されており、数学・コード・ScienceWorld・PDDLタスクの評価パスが含まれる。ただしMicrosoftはこれをリサーチコードと位置付けており、商用・実環境・高リスク用途への適用は追加テストなしに行わないよう警告している

その理由は明快だ。EvoLibの自己評価機構はモデル自身の判断に依存している。モデルが自分の出力を誤評価すると、誤った知識がライブラリに蓄積され、後続のタスクでその誤りが再適用・増幅されるリスクがある。著者らは「答えの検証が生成より容易な場合(=コードをテストで実行できる場合など)に最もうまく機能する」と述べており、自由記述形式の回答には別途ベリファイアが必要になる。

また今回の結果は、EvoLibの著者チームが選定・実施した制御済みベンチマークに基づくものであり、長期的な本番デプロイでエージェントが安全に改善されることを保証するものではない。


詳細はMicrosoft releases EvoLib for LLM agents that learn without weight updatesを参照していただきたい。