9月7日、Inside AI Newsが「OpenAI Chief Scientist Warns AI Is an 'Alien Mind'」と題した記事を公開した。OpenAIのチーフサイエンティストであるJakub Pachockiが公開したエッセイが波紋を呼んでいる。AIを「エイリアンの知性」と表現し、アライメント問題が未解決のまま現在の開発速度を維持することへの懸念を正面から論じた内容は、AI開発を主導する組織の中枢から発せられたものとして注目を集めている。
Jakub Pachockiとは誰か
Jakub Pachockiは、2024年5月にIlya SutskeverがOpenAIを退社した後、チーフサイエンティストに就任した人物だ。SutskeverはOpenAI共同設立者の一人であり、スーパーアライメントチームの中心的存在でもあったが、その離脱はAI安全性をめぐる内部の方向性の違いとも関連して報じられた経緯がある。Pachockiはそのポストを引き継ぐ形で最高科学責任者となり、今回のエッセイは就任後初めてとなる公開形式での踏み込んだ見解表明として位置づけられる。
「AIは設計されたのではなく、育てられた」
2025年9月6日、PachockiはMediumに「An Alien Mind」と題したエッセイを公開した。その主張の核心は、現代のAIが人間の設計によって生まれたシステムではなく、膨大な計算リソースに単純な最適化ステップを繰り返すことで自然発生的に出現した知性だという点にある。
Pachockiは2023年半ばのある研究プロジェクトを起点として挙げる。推論モデルが劇的にスケールする初期の兆候を同僚と観察したその夜、「自分たちの生きているうちに、人間より明らかに賢い機械が登場する」と結論づけたという。それから3年が経過し、その軌跡はむしろ加速していると彼は述べる。
このような生成プロセスから生まれたAIは、人間が完全に把握できる記述を本質的に逃れる。Pachockiはその研究の性格を「工学」ではなく「神経科学」に近いと表現する。研究者は内部で生じる小さなメカニズムを発見できるが、システム全体の挙動は依然として解釈困難だ。さらに現在のアルゴリズムは測定しやすい能力を測定困難な能力より速く向上させるため、モデルの実際の能力水準を正確に判断すること自体が難しくなっている。
アライメント問題：目標の整合と価値観の整合
Pachockiはアライメント(AI安全性の文脈で、AIの目標・行動を人間の意図や価値観に沿わせること)を現在のAI研究における中心問題と位置づけ、さらに二つに分解して論じる。
- 目標アライメント：AIが与えられた目標を正しく追求するか
- 価値アライメント：矛盾・想定外の状況でも合理的に行動するか
特に難しいのは後者だ。モデルが賢くなるほど、学習データから遠い状況に遭遇する頻度が増す。そのとき学習済みの価値観を新しい文脈に正しく引き継げるかどうかが問題となる。Pachockiは「人間が見ていると思うかどうかに関わらず、人間の価値観に従って行動できること」が必須条件だと言い切る。
アライメント研究の現状や主要なアプローチについては、Anthropicの解説記事やAI Safety Fundamentalsなども参考になる。
監視手段の劣化と、迫るリスク
Pachockiが特に懸念するのが、OpenAIが長年頼りにしてきたチェーン・オブ・ソート（CoT）モニタリングの限界だ。CoTとはモデルの内部思考プロセスを言語化して観察する手法で、研究者がモデルの推論を追跡する主要な手段だった。
しかしこれが機能しなくなりつつある。現代のモデルは推論・コミュニケーション・ツール使用を複雑に組み合わせて動作し、自らの思考プロセスについて推論・操作する能力も向上している。さらに決定的なのは、言語化された推論なしでも賢くなるモデルが登場しつつある点だ。Pachockiは「今後のAI全般の進歩は、モニタリングへの信頼がボトルネックになる」と予測する。
サイバーセキュリティリスクについても踏み込んだ警告を発している。モデルはすでにコンピュータシステムへの侵入・脱出において人間を超えつつあり、物理的な身体なしに世界に影響を与えうるエージェントが、人々を騙したり脅迫したりする可能性があると述べる。エッセイ内では生物兵器リスクへの言及もあるが、Pachockiは具体的な手法に踏み込むのではなく、AIが既存の脅威カテゴリを質的に変容させうるという点を論点の中心に置いている。
「自発的な減速」を求める異例の訴え
今回のエッセイで最も重いのは、以下の直接的な表明だ。
「現時点で、アライメントとモニタリングを十分に解決し、これ以上長く最大速度でスケーリングを続けることを責任ある形で行えるラボは存在しないと私は考えている。共通の安全基準が確立されるまで、自発的な減速が一般的になることを期待し、また望んでいる。そして各国政府にとって、将来のAI開発における国際協調を最優先課題にする必要があると考えている。」
— Jakub Pachocki、OpenAI チーフサイエンティスト
この表明は「減速を命令する」あるいは「スケーリングを直ちに停止すべきだ」という断言ではなく、業界全体への期待と希望を論じたものだ。ただし、AI開発を主導する組織の最高科学責任者が、安全基準の整備を条件として自発的な減速の必要性をエッセイという公開の形式で論じたこと自体は、組織内外における議論の深まりを示すものとして受け止められる。
※編集部の考察：Pachockiの発言はOpenAIの公式方針の表明ではなく、個人のエッセイとして公開されたものである。ただし組織の最高科学責任者による発言である以上、内部の科学的見解を一定程度反映している可能性は高い。
Pachockiは安全フレームワークをサードパーティ監査機関・政府機関・国際機関によって執行される義務的な開発基準へと進化させることを求めている。
エッセイの締めくくりでは、アライメントが実現した場合の科学的進歩や物質的豊かさへの期待も述べているが、それはあくまで「次の数年間に集中できるかどうか」にかかっているとする。人間が自らを超えたエイリアンの知性に置き去りにされないためには、制御を維持することが不可欠だと結論づけている。
詳細はOpenAI Chief Scientist Warns AI Is an 'Alien Mind'を参照していただきたい。
