9月17日、SiliconANGLEが「Anthropic details practical metrics to help monitor the speed of AI development」と題した記事を公開した。Anthropicが自社の計算環境内で約3万の自律エージェントが稼働中であること、総コンピュートの約6%をAI安全性に割り当てていることを明らかにしつつ、AI開発速度を監視するための3つの実践的メトリクスを公開したと報じている。単なる方針表明にとどまらず、測定手法を業界全体で共有可能な形で示した点が注目される。
背景：Amodeiの「開発減速」提案から数日後の動き
Anthropic CEOのDario Amodeiが、主要なAIラボ間での開発ペース調整を求める提案を発表してから数日後、Anthropicはその提案を具体化する3つのメトリクスをブログ記事で公開した。
この提案については、OpenAI CEOのSam Altman、SpaceX CEOのElon Musk、Google DeepMind会長のDemis Hassabisらが支持したと報じられている（各氏の支持の詳細・経緯は元記事を参照）。Amodei自身は「米国のAIにおける競争優位を損なわずに、フロンティアモデルの急速な開発ペースを抑制したい」と述べている。
メトリクス公開の意図についてAnthropicは次のように説明している。
「フロンティアラボが知っていることと一般社会が知っていることのギャップを最小化するために、できる限りのことをすべきだ。それはAIの発展をより正確に測定し、公開報告し、社会がその情報をどう活用するかを決める機会を与えることを意味する。」
3つのメトリクスの中身
1. AI主導のR&D（最も核心的な指標）
フロンティアラボが、AIを使ってさらに強力なAIを開発するという自己強化ループが進行しており、人間がそのリスクを把握しきれなくなる懸念がある。Anthropicはこの動態を監視するため、自社モデルであるClaudeがR&Dプロセスにどの程度関与しているかを測る専用インデックスを開発した。現時点では、Claudeはいかなるサブセットにおいても「完全に自律的には動作していない」と結論づけられている。
2. 自律AIエージェントの監視
AIエージェントが人間の代わりにタスクをこなし、さらにそのエージェントが複数のサブエージェントに作業を委譲するという多層構造が広がっている。問題は「AIが人間と協調する段階」から「AIがより重大な意思決定を主導する段階」へ気づかないうちに移行してしまうリスクだ。
Anthropicはエージェントの行動を監視・介入できるシステムを構築し、現時点で自社の計算環境内で約3万の自律エージェントが稼働中であることを確認した。そのほとんどがR&D業務に関与しているという。
3. コンピュートの配分
AIの開発においてコンピュート（計算資源）は最も基本的な燃料だ。その配分を追跡することで、開発者がどこにリソースを集中させているかが見えてくる。Anthropicは「コンピュートはAI R&Dプロセスにおける最も検証可能なインプットのひとつであり、将来の開発ペース調整において重要なレバーになり得る」と述べている。
2026年7月13日〜20日の最初のスナップショットでは、総コンピュートの約6%がAI安全性に割り当てられ、さらに12%が安全性に焦点を当てたAI主導R&Dに充てられていた。
なぜ今このメトリクスが重要か
この発表の数週間前、AnthropicのAI安全性研究者Evan HubingerがBBCのインタビューにおいて、現在のペースで開発が進んだ場合のリスクについて強い懸念を示した。同インタビューでHubingerは「10年以内に全人類を死滅させる可能性が10%超ある」という数字に言及しているが、これはあくまでHubinger個人の見解であり、同氏自身は「現行モデルのリスクは依然として低い」と明確に留保を置いている。AIが自己改善を繰り返して人間の制御を超えるシナリオを懸念したものであり、センセーショナルな断言ではなくリスクの上限値を問題提起した発言として読む必要がある。
Anthropicが今回公開したメトリクスは、こうした警告に対して「どう測るか」という具体的な答えを提示するものだ。サードパーティの評価機関がAIの加速度や実際の能力を評価するための出発点として機能することが期待されている。
3つのメトリクスと測定手法を公開したことで、他のフロンティアラボが同様の測定を実施できるようになる。業界全体で共通の物差しを持てるかどうかが、今後の協調的な開発ペース調整の実効性を左右する。
詳細はAnthropic details practical metrics to help monitor the speed of AI developmentを参照していただきたい。
