10月2日、Techstrong AIが「FTC Launches Probe of OpenAI, Anthropic Over AI Agent Risks」と題した記事を公開した。米連邦取引委員会（FTC）がOpenAIとAnthropicの両社が開発・提供するAIエージェントに関するリスク調査を正式に開始したという報道であり、AI規制の文脈において注目度の高い動きである。
FTCによるAIエージェント調査とは何か
FTC（Federal Trade Commission）は、米国の消費者保護および競争政策を所管する独立行政機関だ。近年はビッグテック企業の独占行為やプライバシー侵害に対して積極的に調査・制裁を行ってきた実績があり、AI分野においても監視の目を強めている。
今回の調査対象となったのは、OpenAIおよびAnthropicが提供するAIエージェントである。AIエージェントとは、ユーザーの指示を受けてウェブ検索・ファイル操作・外部サービスへのアクセスといった一連のタスクを自律的に実行するAIシステムを指す。ChatGPTに搭載された「GPT-4o with tools」やAnthropicの「Claude」におけるツール使用（Tool Use）機能がその代表例だ。単なる質問応答にとどまらず、外部環境に対して能動的に働きかける点が、従来の生成AIとの大きな違いである。
なぜ今、AIエージェントが規制当局の標的になるのか
AIエージェントが規制当局の関心を引く背景には、その自律性の高さがもたらすリスクの多様性がある。
通常のチャットボットであれば、出力は「テキスト」にとどまる。しかしAIエージェントは、メールの送信・購買処理・コードの実行・外部APIの呼び出しといった実世界への作用を伴う行動を、ユーザーの逐一確認なしに連続して実行できる。このアーキテクチャは利便性を飛躍的に高める一方、以下のようなリスクを内包する。
- 誤操作・誤判断による意図しない被害：エージェントが誤った判断をした場合、その影響が外部システムや第三者に及ぶ可能性がある
- プライバシー侵害：エージェントがアクセスした個人データや業務データの扱いに関する透明性の欠如
- 説明責任の所在の曖昧さ：自律的な判断の結果として生じた被害について、誰が責任を負うのかが不明確
- 競争上の懸念：大規模なAIエージェントが市場や情報流通に与える影響
FTCがこうした点に着目するのは自然な流れといえる。同機関はすでに2023年にOpenAIに対して情報開示命令を出した経緯もあり、今回の調査はその延長線上に位置づけられる。
OpenAIとAnthropicの現状
OpenAIは、ChatGPTのプラグイン機能廃止後、GPTsおよびAssistants APIを通じてエージェント的なワークフローを企業向けに提供している。2024年に入ってからは「GPT-4o」を用いたより高度な自律タスク実行の実証も進んでいる。
Anthropicは、Claude 3シリーズにおいてTool Use機能を正式リリースしており、外部ツールとの連携による自律的なタスク処理を可能にしている。同社はConstitutional AIと呼ばれる安全性重視の開発手法を掲げているが、エージェントとしての利用が広がるにつれて、安全性の担保がより複雑な課題となっている。
両社とも現時点では調査への対応についての公式コメントは限られており、今後の動向が注目される。
規制の行方と業界への影響
FTCの調査が具体的な規制措置や指針の策定につながった場合、AIエージェントの設計・展開方法に対して業界全体が対応を迫られる可能性がある。たとえば、エージェントの行動ログの保持義務、ユーザーへの明示的な同意取得の義務化、あるいは特定タスクにおける人間の確認ステップの必須化といった要件が議論の俎上に載ることも考えられる。
欧州ではEU AI Actがすでに成立しており、高リスクAIシステムへの規制枠組みが整備されつつある。米国においても、FTCの動きはAI規制の具体化に向けた重要な一歩となりうる。
※編集部の考察：AIエージェントは「便利なツール」から「自律的な行為主体」へと性質が変化しつつある。この変化は、既存の製造物責任やサービス提供者責任の枠組みでは捉えきれない新たな法的・倫理的問題を提起している。FTCの調査がどのような結論を導くかは、米国のAI政策の方向性を占う試金石になるだろう。
詳細はFTC Launches Probe of OpenAI, Anthropic Over AI Agent Risksを参照していただきたい。
