powered by TechFeed
表示モード
主要ニュース

AWSがAIエージェントの「記憶」問題をサーバーレスで解決 — 完全な会話履歴の約12分の1のトークンで93%の精度を実現する「Amazon OpenSearch Memory」が一般提供開始

11月19日、AWSが「Introducing Amazon OpenSearch Memory: Persistent memory for AI agents」と題した記事を公開した。AIエージェントにセッションをまたいだ永続メモリを提供する新機能「Amazon OpenSearch Memory」の一般提供開始について詳しく紹介されている。

11月19日、AWSが「Introducing Amazon OpenSearch Memory: Persistent memory for AI agents」と題した記事を公開した。AIエージェントにセッションをまたいだ永続メモリを提供する新機能「Amazon OpenSearch Memory」の一般提供開始について詳しく紹介されている。


AIエージェントの「記憶」問題を解決するサーバーレス機能

AIエージェントが実用的なツールとして使われる場面が増えるにつれ、浮上してきた課題がある。セッションをまたいだ文脈の保持だ。サポートエージェントが顧客の過去ケースを把握していなかったり、コーディングエージェントがリポジトリの規約を毎回確認しなければならなかったりする状況は、実用上の大きな障壁となる。

従来の対応策は「会話履歴をそのままプロンプトに詰め込む」だったが、会話が長くなるにつれてトークン数が膨れ上がり、コストとレイテンシが問題になる。かといって独自のメモリ基盤を構築するには、イベント取得・ファクト抽出・埋め込み生成・インデックス構築・検索・データ分離・保持ポリシー管理と、多くのコンポーネントを自前で組む必要がある。

Amazon OpenSearch Memoryはこれらをサーバーレスな単一機能として提供する。Amazon OpenSearch Serverless上に構築されており、インフラのプロビジョニングなしで利用できる。


仕組み:書き込みと検索の2ステップ

アーキテクチャはシンプルだ。エージェントは会話の各ターン後にイベントを書き込み、応答生成前にメモリを検索する。

データ構造として、OpenSearch Memoryは「スペース(Space)」というAWSリソースを中心に組織される。スペースには以下の2種類のデータが格納される:

  • イベント(Events): アプリケーションが書き込んだ元の会話ターン(逐語的に保存)
  • メモリ(Memories): イベントから非同期に抽出されたファクト・好み・サマリー

書き込みと抽出は独立して動作する。イベントは書き込み直後に読み取り可能になり、数秒以内に検索可能になる。メモリの抽出はバックグラウンドで行われ、新しいメモリは既存のものと照合されて追加・更新・スキップが判断される。

接続方法はAWS SDK、AWS Model Context Protocol(MCP)サーバー、フック、対応フレームワーク統合から選択できる。メモリ抽出にはAmazon Bedrockのモデルが使われ(元記事記載のデフォルトモデルはClaude Haiku系)、埋め込みにはAmazon Titan Text Embeddingsが利用される。抽出と埋め込みのコストはOpenSearch Memoryの料金に含まれる。


ベンチマーク:トークン数を約12分の1に削減しつつ精度93%を維持

LongMemEval-S(500問、約50セッションにまたがる質問群)を使ったベンチマーク結果が公開されている。

提供コンテキスト 回答精度 質問あたりのトークン数
OpenSearch Memory(上位30件) 93.0% 約13,500
BM25(生の会話ターン上位30件) 88.6% 約22,700
完全な会話履歴 95.2% 約167,000

完全な会話履歴と比べて精度差はわずか2.2ポイントに抑えながら、コンテキストトークン数は約12分の1(167,000÷13,500≒12.4)に削減できている。またBM25による単純なキーワード検索と比べて4.4ポイント高い精度を記録した。

なおこの結果は特定の構成(使用モデル、メモリ戦略、検索設定)に基づくものであり、すべての構成を代表するものではないと記事内で明記されている。


コード例:カスタマーサポートエージェントへの組み込み

記事ではPython(Boto3)を使ったウォークスルーが示されている。まずスペースを作成し:

import boto3

osm = boto3.client("opensearchmemory", region_name="us-east-1")

space = osm.create_space(
    name="customer-support-agent",
    memoryStrategies=[
        {"type": "SEMANTIC", "name": "facts-and-preferences"},
        {"type": "SUMMARY", "name": "session-summaries"},
    ],
    eventExpiryDays=90,
    memoryExpiryDays=365,
)
space_id = space["spaceId"]
osm.get_waiter("space_active").wait(spaceId=space_id)

各会話ターン後にイベントを書き込み:

event = osm.create_event(
    spaceId=space_id,
    actorId="user-42",
    sessionId="session-007",
    payload=conversational([
        ("USER", "I'm calling again about Case #78234. It's still not resolved."),
        ("ASSISTANT", "I've escalated Case #78234 to billing..."),
    ]),
)

応答生成前にハイブリッド検索でメモリを取得する:

results = osm.search_memories(
    spaceId=space_id,
    actorId="user-42",
    query={
        "hybrid": {
            "queries": [
                {"match": {"memory_text": "Case #78234 open cases and account status"}},
                {"neural": {"memory_vector": {
                    "query_text": "open cases and account status", "k": 10}}},
            ]
        }
    },
    maxResults=10,
)

キーワード検索(BM25)でケース番号を正確にヒットさせつつ、セマンティック検索で関連する文脈(連絡方法の好みなど)を補完するハイブリッド構成だ。


セキュリティとデータ管理

データ分離はIAMのロールとactorIdで制御される。すべてのデータはAWS KMSで暗号化され、カスタマーマネージドキーも使用可能。API呼び出しはAWS CloudTrailに記録され、メトリクスはAmazon CloudWatchから確認できる。

また既存のCRMシステムからユーザーの好みをインポートするCreateMemoryAPIや、エージェント自身が所見をメモリとして保存する機能も提供されている。エージェントが書き込んだメモリはメタデータで追跡でき、監査・修正が可能だ。

現在対応しているリージョンはUS East(バージニア北部)、US West(オレゴン)、Asia Pacific(東京)、Europe(フランクフルト)の4つ。


詳細はIntroducing Amazon OpenSearch Memory: Persistent memory for AI agentsを参照していただきたい。