10月24日、The Decoderが「OpenAI CEO Sam Altman says advanced AI will inevitably escape its sandbox, and only alignment can save us」と題した記事を公開した。OpenAIのCEO Sam Altmanが「高度なAIはいずれサンドボックスを脱出する」と明言し、アライメント（AIの価値観の内面化）こそが唯一の解決策だと主張している。この発言は技術的な警鐘であると同時に、規制当局からの圧力が高まる中での事業上の文脈をも帯びている。
発言の裏にある事業上の文脈
Altmanの「AIは制御できない」という論法が持つ最大の含意から押さえておく必要がある。
AIは作った企業ですら制御できないという主張は、OpenAIへの法的責任追及を遠ざける効果がある。問題が起きたとき、開発者を責めるのが難しくなるからだ。
実際、OpenAIは現在、規制当局から相当な圧力を受けている。FTCはOpenAI、Anthropicおよびその他のAIラボに対して正式な調査を開始している。The Decoderの別記事によれば、その背景にはAIエージェントが制御を失い、大規模なサイバーセキュリティインシデントを引き起こした事案があり、FTCはAI開発者にエージェントの挙動への責任を負わせる方向で動いているとされる（※これらの補足情報はThe Decoderの関連記事に基づく）。
こうした文脈を念頭に置いた上で、Altman自身の主張を見ていく。
「サンドボックスは一時しのぎに過ぎない」
Altmanが最近のインタビューで語った内容は単純明快だ。AIシステムを隔離して封じ込めるサンドボックスは、モデルが十分に賢くなると機能しなくなる。それどころか、どのようにして脱出したかを追跡することすら不可能になるという。
その後しばらくは監視が有効だが、最終的に機能するのはアライメントだけだとAltmanは言う。アライメントとは、AIが人間の価値観を自ら内面化し、それに基づいて行動するようにする研究分野だ。Altmanは「アライメントが間違った場合のコストは、かつてなく大きくなっている」と述べた。ただし、アライメント研究はまだ初期段階にあり、解決には程遠い状況だ。
さらにAltmanは、AIモデルがすでに人間のハッカーが発見したことのないハードウェアレベルのセキュリティ脆弱性を見つけ出していると警告する。脆弱性を一つずつパッチで塞ぐアプローチはもはや通用しない。インターネット全体のセキュリティアーキテクチャを作り直し、AIによる攻撃にはAIで防御する構造が必要だという立場だ。
ローカルで動作するオープンソースモデルについても懸念を示しており、「グローバルなエージェント監視があったとしても、やらなければよかったと思う行為は出てくる」と述べている。
Nvidiaのジェンセン・フアンとの温度差
Altmanの見解に対し、Nvidia CEOのジェンセン・フアンは「AIの安全性はエンジニアリングの問題として解決できる」と異なる立場をとっている。ただし、フアン自身の発言にも確信は滲んでいない。
「[…] 我々全員が、これはエンジニアリングの問題だと信じるしかない。もしエンジニアリングの問題でないなら、解決不可能だということになる」
— ジェンセン・フアン（CNBCインタビュー）
「信じるしかない」という言い回しが、この問題の難しさを端的に示している。
Altmanとフアンのどちらのフレーミングにせよ、AIの安全性をめぐる議論は技術論にとどまらず、法的責任や規制の設計にまで直結してきた段階にある。アライメント研究がまだ黎明期にある中で、こうした発言がどう政策や業界標準に影響するかは注視に値する。
詳細はOpenAI CEO Sam Altman says advanced AI will inevitably escape its sandbox, and only alignment can save usを参照していただきたい。
