9月16日、Jon Martindaleが「AI leaders clash over safety fears after Anthropic whistleblower says AI could 'kill us all' by 2030」と題した記事を公開した。AI安全性をめぐるOpenAI・Anthropic・xAIなど主要AI企業幹部の対立構図と、その背景にある思惑について詳しく論じている。
発端：元Anthropic研究者の「2030年代末までに人類は滅亡する」発言
騒動の火付け役は、OpenAI出身でその後Anthropicに在籍していたJacob Coxonだ。Anthropicを退職するにあたり、「現在のAI企業はどこも安全性やアライメント（AIを人間の意図に沿って動かすための技術・手法）を真剣に考えていない」と主張。さらに「今開発されているものは2030年代末までに人類を滅亡させうる」と警告した。
ただし彼は具体的な攻撃手法や社内文書を示したわけではなく、内部告発というよりは未来へのリスク警告に近い。それでもこの発言はバイラルな議論を呼んだ。
これを受け、OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei、そしてElon Muskが揃って「フロンティアAIモデル（最先端の大規模AIモデル）の開発を減速すべき」との声明を出した。本来は競合関係にある3者が足並みをそろえた形だ。
Amodeiは特に、AIが自己改善に関与する度合いが増しているとして——これはAIが自らをより賢く改良し続けるという**再帰的自己改善（RSI）**のリスクを示唆している——独立した外部監査機関の設置を求めた。Altmanはさらに踏み込み、各国政府による規制のグローバルな統一を呼びかけた。
「作り話だ」——NvidiaとChinaの反論
こうした主張に真っ向から反発したのがNvidia CEO Jensen Huangだ。AI絶滅リスクが10%あるという試算について問われると、「そんなものは作り話（made up）だ。これまでの予測はすべて外れてきた」と一蹴した。
NvidiaはAI向けGPU販売で実際に巨大な利益を上げている数少ない企業の一つであり、AI開発の拡大が続くことに直接的な利害を持つ。同社はハードウェア・ソフトウェア企業への出資に加え、ネオクラウド企業への資金提供も積極的に行っている。なお元記事ではNvidiaによるHugging Faceへの多額の投資についても言及されているが、買収の完了・金額の詳細については元記事の記述をそのまま参照されたい。
中国政府も同様に「これは恐怖を煽るものだ」と批判した。中国国営紙「環球時報（Global Times）」は、開発減速の要求は中国のAI発展を「封じ込める」手段だと論じた。トランプ大統領も「自分がいれば十分なAI安全策だ」と独自のスタンスを示した。
本当の動機は「市場の囲い込み」か
記事が最も鋭い指摘を行うのはここだ。元記事はあくまで「推測」と断りながらも、この問いを明示的に提起している。
主要な西側フロンティアAI企業が一斉に規制強化を求める構図には、別の利点がある——それは「許可された」AIモデルの数を絞り込むことだ。
AIモデルのトークン生成量に基づくランキングサービス**OpenRouterの現在のトップ10（元記事執筆時点）を見ると、西側製モデルはわずか3つ（GPT 5.6 Luna、Nvidia Nemotron Ultra 3、Google Gemini 3.8 Flash）しかない。残りはすべて中国製のオープンウェイトモデル**（Z.AIのGLM 5.3、Deepseek V4 Flash、TencentのHy4・Hy3など）であり、Artificial Analysisのコスト指標でも概して西側モデルより安価だと報告されている。これらのモデル名・ランキングはいずれも元記事に記載されているデータに基づく。
つまり、「安全性」の名目で西側主要企業による連合体が形成されれば、それは事実上のクローズドな独占体制につながる可能性がある。安全性への懸念が真摯なものであることと、規制強化が競合排除の効果を持つこととは、必ずしも矛盾しない。この二つの動機が同時に存在しうる点こそ、この議論を単純に「善悪」で整理できない理由だ。
「今さら」という批判も根強い
AIの開発ペースに警鐘を鳴らす声は、今に始まったことではない。こうした訴えが繰り返されてきた経緯を振り返ると、今回の主張がいかに「既視感のある」ものかがわかる。
- 2019年：Dario AmodeiがGPT-2リリース後に国際的な規制協調を求めた
- 2023年：Elon Muskを含む1,000人超の研究者・技術者が開発一時停止を求める公開書簡に署名
- 2026年7月：1,000人超のAI従事者が米政府へAI研究の管理強化を要請
- 現在も：Bernie Sanders上院議員が超知能AI開発者への厳重な刑事罰を求めている
重要なのは、警告を発している当事者の多くが、同時並行でフロンティアモデルの開発を加速させてきたという事実だ。AmodeiのAnthropicもAltmanのOpenAIも、毎年より大規模なモデルをリリースし続けている。CEOたちが「今になって」声を上げ始めたことへの疑問が業界内で根強いのは、この矛盾があるからだ。単なる年表の話ではなく、「言行不一致」という構造的な問題として読む必要がある。
実際に何かが変わるのか
仮に主要AI企業が自発的に開発を減速させるとしても、グローバルな効果を持たせるには各国政府の協力が不可欠だ。「減速」が具体的に何を意味するのかも不明瞭で——計算資源の制限なのか、新モデルの凍結なのか、超知能研究の停止なのか——現時点で国際的な合意が形成される見通しは立っていない。中国・インドをはじめとする非西側諸国が足並みをそろえなければ、西側企業だけの自主規制は競争上の一方的な不利をもたらすだけに終わる可能性が高い。
詳細はAI leaders clash over safety fears after Anthropic whistleblower says AI could 'kill us all' by 2030を参照していただきたい。
