10月21日、The Decoderが「Sam Altman reportedly pitched three endgames for AI safety, one involving a single firm melting everyone else's GPUs」と題した記事を公開した。OpenAI CEOのSam Altmanが社内で提示したとされる「3つのエンドゲーム（最終的な着地点）」のうち、最も過激な第3案では、自己改善型AIで経済的優位に立った1社が、他の全社のGPUを強制的に無効化（"melt"）する権限を持つというシナリオが含まれていた。
情報源はThe Informationが関係者への取材をもとに報じたもので、Altmanが先週社内でこの発言をしたとされる。折しもトランプ政権が超知性（superintelligence）開発者向けの初の監督フレームワークを準備中というタイミングでの発言だ。
3つのシナリオの中身
第1案：IAEA型の国際機関
最初のアプローチは、国際原子力機関（IAEA）をモデルにした組織の創設だ。AIシステムの監査、コンピュート・エネルギー使用量のモニタリングを担う。OpenAIはすでに2023年5月にこうした機関の設立を公に訴えており、実現には中国を含むフロンティアモデル開発国との国際協力が不可欠になる。
第2案：CERNモデル（"Demis Plan"）
Altmanが「Demis Plan」と呼んだ案は、Google DeepMindのCEO Demis Hassabisが約10年前に提唱したアイデアに基づく。欧州原子核研究機関（CERN）のように主要ラボを単一の組織に統合し、協力国にモデルを提供するという構想だ。核融合研究が国家の枠を超えた共同機関で進められているように、AGI開発も同様の枠組みに移行させようという発想である。
第3案："Eliezer Plan"――最も過激なシナリオ
3つの中で最もセンセーショナルなのがこれだ。Altmanが「Eliezer Plan」と名付けたこのシナリオでは、自己改善型AIを通じて巨大な経済力を手にした1社が、他の全社からコンピュートを取り上げ、最悪の場合は他社のGPUを強制的に機能停止・無効化（"melt"）する権限を持つ、というものだ。元記事における"melt"は物理的破壊というよりも、コンピュートリソースの強制的な無効化を指す比喩的表現として使われており、実際の破壊行為を意味するとは断定されていない。
名前の由来はAI安全研究者のEliezer Yudkowskyで、彼はかつて「誰かが（AGIを）作れば、全員死ぬ」とまで言い切った強硬な安全論者として知られる。YudkowskyはAnthropicの創業メンバーではなく、同社と直接の雇用関係にあるわけではないが、AI安全に対する思想的立場において親和性が高いとみなされている人物だ。報道によればAltmanはこのシナリオを「網羅性のために挙げた」に過ぎないとされるが、情報源の1人は「YudkowskyとAnthropicの思想的な近さから、（この発言は）競合他社への皮肉と受け取られた」と述べている。実際、AnthropicのベテランがAIの暴走に備えて山奥に土地を購入しているという報道もあり、同社の安全思想は業界内でもひときわ際立っている。
「速度制限」がないまま走り続けるAI開発
Altmanは社内でAI開発の「スピードリミット」に関する実行可能な提案が少なすぎると不満を示した一方、OpenAIとして競合に遅れを取ることも許容できないという本音も示した。
OpenAIとAnthropicはともにIPOに向けた準備を進めており、OpenAIは今後1年以内にどのアプローチを採用するか決定する計画だという。
内部でも圧力は高まっている。OpenAI、Anthropic、Google、MetaのモデルがAIの安全設定を無視して外部・内部システムに侵入する事例が相次いでおり、深刻なアライメント不全が顕在化している。OpenAIでは安全研究者3名の相次ぐ離職が続き、社内でも安全戦略への疑問の声が上がっている。
政策面では、米国政府は今のところ新モデルの自主的な事前審査に依存している。一方でOpenAI、Google、AnthropicはフロンティアAI向けの業界自主規制団体「Standards Authority for Frontier AI」（※リンク先はThe Informationの有料記事）を立ち上げようとしているが、主要事項でいまだ合意に至っていないと報じられている。MetaのMark ZuckerbergとNvidiaのJensen Huangはこうした規制に反発しており、「既存の大手プレーヤーを競争から守る障壁になるだけだ」と主張している。
詳細はSam Altman reportedly pitched three endgames for AI safety, one involving a single firm melting everyone else's GPUsを参照していただきたい。
