10月14日、The Decoderが「Machine learning pioneer Michael I. Jordan dismantles AI doom rhetoric as "grand moralizing performance"」と題した記事を公開した。この記事では、機械学習の権威Michael I. JordanがAI脅威論・超知性論を「壮大な道徳的パフォーマンス」と断じ、業界の煽り言説を徹底的に解体している様子が紹介されている。
AIの「終末論」が世間を席巻する中、その言説を正面から叩き潰す人物が現れた。Science誌が2016年に「最も影響力のあるコンピュータ科学者」と評した、UCバークレー名誉教授のMichael I. Jordanだ。現在は70歳でフランスの国立デジタル科学技術研究所（Inria）に移り、「マーケットと学習」チェアを率いている。
Jordanは機械学習・統計学の分野で長年中心的な役割を果たしてきた研究者であり、確率的グラフィカルモデルや変分推論、推薦システムの理論的基盤に関する業績で知られる。深層学習ブームの以前から、データとモデルの統計的な扱いを重視する立場を一貫して取ってきた人物だ。その工学的・数理的な視座が、今回のAI終末論批判の根底にある。
「若い哲学者たちの1920年代カフェ」
今回最も読み応えがあるのが、AIの危険性を訴えて辞表を提出した若手研究者Jacob Coxonの辞任騒動に対するJordanの評価だ。Coxonは今年9月初頭に辞任したとされ、その動向はCNNやFox Newsにまで取り上げられ「AIによる終末」論争が再燃した。なお、元記事ではCoxonが所属していた組織・役職の詳細が明示されていないため、本記事では断定を避ける。
Jordanはこの辞任劇を「教科書的な事例」と切り捨てる。
「彼らは本当のエンジニアではない。人文学や哲学など別の分野から来た25歳の若者で、本物の製品を本物のユーザーに届ける規律ある開発を経験したことがない」
さらにこう続ける。
「彼らは1920年代のパリのカフェのように集まって、壮大なSFのアイデアを語り合う。辞任すれば注目を集められることを知っている。徳を示し、重要人物に見られるためだ。カネを捨てると言うが、実際にはもうストックオプションを手にしている」
JordanはこれをAIの安全を守るという「壮大な道徳的パフォーマンス」と呼ぶ。自称する目的を実際には何も推進しておらず、ナイーブさと偽善が同居していると見ている。
「この議論のどのステップも信憑性がない」
ノーベル賞受賞者Geoffrey Hintonへの批判も鋭い。
「Hintonは脳の仕組みを解明し、それをシリコン上で再現できると信じている。コピーを何枚でも作れるから、各コピーの学習を組み合わせれば指数的な成長が得られ、超知性に至る——そう言うが、この議論のどのステップも信憑性がない。これはSFだ」
Jordanの批判は、Hinton個人の人格に向けられたものではなく、超知性に至るという議論の論理的ステップそのものに根拠がないという技術的指摘だ。「これはSFだ」という言葉も、そうした議論の性格を指したものとして読む必要がある。
一方、Yoshua Bengioについては「少し違う。彼は安全性に直接取り組むための行動を起こしている」と評価をわずかに和らげた。なお、リンク先はBengioが立ち上げたAI安全研究組織LawZeroに関する記事であり、Jordanが「行動を起こしている」と評価した文脈と対応している。BengioのAI批判は、エージェントの制御不能な暴走など現行技術の具体的な欠陥を標的にしており、その点でHintonの超知性論とは異なるとJordanは見ている。
「超知性」はSFの語彙
「超知性（superintelligence）」という言葉自体がSFの用語だ、とJordanは言い切る。「バックステージでSFの話題として語るのは構わない。だが、それが支配的な言説になったとき、技術開発にとっても、若者にとっても、国家の思考様式にとっても非常に有害だ」。
2019年にJordanは既に「AI」という言葉の無責任な乱用に警鐘を鳴らしていた。「私だけではなかった。こうしたヒステリーが生まれることは明らかだった。AIで足りなくなると次はAGI、そして今は『超知性』だ」。
AI企業が規制を求める声についても「演劇だ」と一蹴する。背景として、OpenAIやAnthropicといった大手AI企業がAIリスクを訴えつつ自社に有利な規制の枠組みを求めるロビー活動を展開してきた経緯がある。Jordanはこうした動きを「『我々は善人だ』と言いながら、実際には自分たちが都合よく規制されたいだけだ」と切り捨てる。業界全体の言説を牽引してきた企業が、自らの利益のために「安全への懸念」を道具として使っているというのがJordanの見立てだ。
データセンターへの巨額投資は「賭け」に過ぎない
LLMはすでに自然言語タスクに十分な能力を持っており、兆ドル規模のデータセンター投資が必ずしも大きな追加価値をもたらすとは限らない、というのがJordanの立場だ。「むしろ必要なのは、ローカルな知識に基づく特定分野の専門知識を少し加えることだ。それにはデータセンターは要らない。オープンウェイトモデルを自社に組み込めばいい」。
OpenAIのエージェントによるHugging Faceへの侵入事件についても、「化学工学なら爆発がどこまで酷くなるか見るために爆発させることはしない」と、エンジニアリングの規律の欠如として批判した。
確率モデルや推薦システムの理論的基盤を築いてきたJordanの批判は、SF的想像力への嫌悪ではなく、工学的誠実さと統計的厳密さへの要求から来ている。LLMの能力を認めつつ、その限界と巨大投資の不確実性を冷静に指摘するその姿勢は、業界の熱狂と一線を画している。
詳細はMachine learning pioneer Michael I. Jordan dismantles AI doom rhetoric as "grand moralizing performance"を参照していただきたい。
