powered by TechFeed
表示モード
Amazon

AWSのAIエージェント実行基盤が刷新 — コールドスタートがイメージサイズに関わらず約2秒で一定に、メモリも使った分だけ課金へ

9月19日、Amazon Web Services(AWS)が「The new AgentCore runtime: Elastic, optimized, and consistently fast starts」と題した記事を公開した。この記事では、Amazon Bedrock AgentCoreの新ランタイムが持つエラスティックなメモリ管理と高速・安定したコールドスタートの仕組みについて詳しく紹介されている。

9月19日、Amazon Web Services(AWS)が「The new AgentCore runtime: Elastic, optimized, and consistently fast starts」と題した記事を公開した。この記事では、Amazon Bedrock AgentCoreの新ランタイムが持つエラスティックなメモリ管理と高速・安定したコールドスタートの仕組みについて詳しく紹介されている。


エージェントが「実験」から「本番インフラ」へ

AIエージェントは、今やチャットボットの域を超えた。保険請求の処理、コードのレビュー、複数システムをまたいだ調整——そして数時間にわたる無人運転。こうした「常時稼働型エージェント」が増える中、その実行基盤に求められる要件も大きく変わってきた。

Amazon Bedrock AgentCoreのランタイムは、エージェントをサーバーレスで実行するためのマネージドコンピュートレイヤーだ。初代ランタイムはセッション分離・スケールゼロ・従量課金という基盤を提供してきたが、長時間・大規模なエージェントには2つの課題が残っていた。メモリコストの高さコールドスタートの不安定性だ。今回の新ランタイム(V2)はこの両方を正面から解決する。


最大の改善点:コールドスタートが「画像サイズに依存しない」

従来ランタイムの最大の問題のひとつは、コールドスタートのレイテンシがコンテナイメージのサイズに比例して悪化することだった。200MBのイメージなら約5.4秒、2GBになると約30秒まで膨らんでいた。

新ランタイムはこの問題を根本から解消する。仕組みはシンプルだ:

  1. エージェントのコンテナを起動し、ヘルスチェックが通った時点でスナップショットを取得する
  2. 以降の新規インスタンスはゼロから初期化せず、このスナップショットをリストアするだけで起動する
  3. スナップショットはキャッシュや一時メモリを除いた「作業に必要な状態だけ」を保持するよう最適化されており、イメージサイズが増えてもスナップショットサイズはほぼ一定に保たれる

AWSが実施したベンチマーク(us-east-1のエージェントをus-west-2のEC2上のPythonクライアントからboto3で呼び出し、5,000回のコールドインボケーションを計測)では、新ランタイムのP75コールドスタートレイテンシは200MB〜2GBのイメージ全域で約2秒で一定だった。従来ランタイムがイメージサイズとともに急勾配で悪化するのに対し、新ランタイムはイメージサイズにかかわらずフラットな特性を維持する。

インタラクティブなエージェント向けの実用的なTips

記事ではコールドスタートを体感させないための具体的なアドバイスも紹介されている。「ユーザーが入力ボックスを開いた瞬間」にセッションを開始するという手法だ。ユーザーが最初のメッセージを入力・送信するまでの数秒間に環境が温まるため、送信時には既に準備完了状態になる。


もうひとつの改善:メモリは「使った分だけ」課金、トータルコストは下がる

従来ランタイムはセッション開始時に一定のメモリを確保し、セッション終了まで解放しなかった。バースト的なエージェントが一時的にメモリをスパイクさせると、その後アイドルになってもピーク時のメモリ使用量が課金対象であり続けた。

新ランタイムはこれを改める:

  • セッション開始時は小さな初期フットプリントから始め、必要に応じてページイン
  • エージェントがメモリを解放したり、キャッシュが冷えて再アクセスの見込みがなくなったりした段階でプラットフォーム側がメモリを回収する
  • 課金はその変化をリアルタイムで追跡する

なお、メモリの単価(レート)自体は従来より上がる。ただしAWSによれば、実際に消費するGB-hours数が大幅に減るため、多くのエージェントでトータルのコストは下がるという。タイトルにある「使った分だけ課金」とは単価の値下げではなく、「ピーク確保ではなく実消費量への課金」を意味する点に注意したい。


今後のロードマップ

記事では以下の機能が「近日公開予定」として挙げられている:

  • ベースライン価格オプション:メモリの下限を予約し、その上でバーストする。常時稼働エージェント向けに予測可能なコストを提供
  • より大きなコンピュートとストレージ:より多くのRAM、vCPU、セッションストレージ
  • x86サポート:現在はArmベースのmicroVMのみだが、x86 microVMによりコードをそのまま移行可能になる
  • セッションのサスペンド・レジューム:メモリスナップショットによるセッション状態の保存と復元
  • スコープ付きID:セッションごとにスコープを限定したIAM的な権限を付与する仕組み。無人エージェントが複数のAWSリソースやAPIを横断して操作する場面では、セッション単位で権限を絞ることが最小権限原則の実践として重要になる。エージェントの本番運用において、セキュリティと監査可能性を高める中核機能として位置づけられている

始め方

新ランタイムを使うには、ランタイムの作成・更新時にplatformVersionパラメータをV2に指定するだけだ。

{
  "platformVersion": "V2"
}

サンプルコードはAgentCore GitHubサンプルリポジトリで公開されており、コールドスタートのレイテンシを自分のAWSアカウントで検証できるロードテストのサンプルも含まれている。詳細はAgentCore Developer Guideも参照できる。


詳細はThe new AgentCore runtime: Elastic, optimized, and consistently fast startsを参照していただきたい。