powered by TechFeed
表示モード
Deep Dive

AIエージェントが「予約できても使わせてもらえない」時代へ — 記憶を持つと性能が落ちる研究も話題に

11月20日、O'Reillyが「This Week in AI: AI's Next Reality Check」と題した記事を公開した。AIエージェントは技術的にはショッピングも予約も代行できる段階に達しつつあるが、企業側がその利用を意図的にブロックし始めているという逆説的な現実が、今週の最大のテーマだ。さらに、「記憶を持つエージェントは記憶を持たないエージェントより性能が悪化する」という直感に反する研究結果や、NVIDIAのガバナンスをめぐる動向も取り上げられている。

11月20日、O'Reillyが「This Week in AI: AI's Next Reality Check」と題した記事を公開した。AIエージェントは技術的にはショッピングも予約も代行できる段階に達しつつあるが、企業側がその利用を意図的にブロックし始めているという逆説的な現実が、今週の最大のテーマだ。さらに、「記憶を持つエージェントは記憶を持たないエージェントより性能が悪化する」という直感に反する研究結果や、NVIDIAのガバナンスをめぐる動向も取り上げられている。


エージェント型コマースに「壁」が立ちはだかる

AIエージェントがショッピングや予約を代行する未来が技術的には実現しつつある一方で、企業側の抵抗が顕在化している。これが今回の記事で最も注目すべき構図だ。

OpenAIはChatGPTにビジネスプロファイル機能とChatGPT Walletを導入した。エージェントが顧客に代わって商品を推薦・購入できる仕組みで、実際の支払いカード情報にはアクセスせずに決済処理が行える。ただし、決済前にユーザーが承認する手順は残している。検索エンジンやオンラインマーケットプレイスと直接競合するポジションへの移行だ。

AnthropicもClaude MeetingsやClaude Sheets・Whiteboards・Dataといった職場向けプラットフォームを拡張し、自社ホスト型エージェントインフラも提供開始した。認証情報やセッション履歴を自社インフラ上に保持しつつ、モデル自体は外部プロバイダー経由で実行するという構成だ。

しかし、ユナイテッド航空は未認可エージェントによるフライト予約をブロックし、金融機関やAmazon・eBayを含む小売業者も独自の制限を設けている。懸念は、プライバシー、セキュリティ、そして意図しない購入の発生だ。

ここに根本的なジレンマがある。エージェントは技術的にはトランザクションを完了できるが、サービス側に利用を拒否される。開発者はこの制限を前提に設計しなければならず、エージェントによる意図しない購入が発生した際の責任の所在も未整理のままだ。


NVIDIAのガバナンスをめぐる動向

記事では、NVIDIAの創業者であるジェンスン・フアンCEOをめぐるガバナンス上の問題が取り上げられている。個人的な関係をめぐる報道が発端となり、安全保障上の懸念を理由に調査が開始されたという。米当局は、問題とされた中国人実業家が北京の諜報機関と関係を持つ可能性を調査しているとされるが、これらの疑惑はいずれも未証明であり、調査中の段階だ。

NVIDIAの取締役会は独自調査を立ち上げており、長年CFOを務めてきたコレット・クレスが暫定CEOに就任したと報じられている。フアンは33年間にわたってNVIDIAを率い、AIインフラにおける同社の支配的地位を確立した人物だ。

記事では、NVIDIAが他のAI企業への投資を通じて形成している循環的な資本調達の構造にも言及している。NVIDIAはコンピューティングインフラと資本の両面で多くのAI企業を支えており、ガバナンスや投資方針の変化は業界全体に波及しうる。ファウンダー主導の企業における後継者問題として、他のAIスタートアップへの示唆も含む事例だ。


AI信頼性研究の最前線

記憶を持たせると性能が落ちるという直感に反する研究結果が報告されている。AIエージェントに過去タスクの記憶を持たせると、誤った教訓を学習したり過去の経験を文脈外に適用したりして、記憶なしの状態より性能が悪化するケースがあるという(arXiv:2611.14320)。

提案されているWikiTraceは、エージェントの記憶を元のタスクや証拠と明示的にリンクさせることで、エージェントが行動前に自分の学習内容を検証できるようにする仕組みだ。記憶そのものを排除するのではなく、記憶の「出所」を追跡可能にすることで誤用を防ぐアプローチといえる。

また、言語モデルの不確実性を内部シグナルから検出する研究も進んでいる(arXiv:2611.15735)。隠れ状態、トークン確率、同一質問への矛盾した回答などを手がかりに、モデルが「自信満々に間違えている」状態を検出できれば、回答の再確認や不確実性の表明を促せる。モデルの出力だけでなく内部表現を活用する点が特徴だ。

さらにMITの研究者らはウェイト空間プログラミング(weight-space programming)を探索している。これは、言語モデルを使って他のニューラルネットワークの重み(パラメータそのもの)を直接検査・編集するアプローチだ。通常のプロンプトや追加学習ではなく、モデルの「内部構造」を別のモデルが操作するという試みで、シミュレーションされた運転問題の修正や、別モデルの数学性能の改善に成功したとしている。

ベンチマークスコアだけでは、なぜエージェントが記憶を誤用するのか、なぜ自信満々に誤るのかを説明できない。これらの研究は、AIが実業務で責任を担う範囲が広がるにつれて、開発者が診断・修正手段を持つうえで重要になる。


詳細はThis Week in AI: AI's Next Reality Checkを参照していただきたい。