10月22日、El Paísが「Geoffrey Hinton, the godfather of AI: 'I'm not a doomer. I think there's a 1% chance it will destroy us'」と題したインタビュー記事を公開した。「AIの父」として知られるジェフリー・ヒントンが、AI滅亡リスクの確率、シリコンバレーの政治的動向、規制のあり方について率直に語っている。「人類が滅亡する確率は1%超」——その一言が、彼がドゥーマーでも楽観主義者でもない独自の立場を象徴している。
「ドゥーマーではない。ただし1%は本物だ」
ヒントンはよく「AI黙示録論者（ドゥーマー）」と一括りにされるが、本人はその分類を否定している。
「私はドゥーマーではない。ユドコウスキーやネイト・ソアレスのように『誰かが作れば全員死ぬ』と言っているわけではない。彼らは99%の確率を口にするが、私が言うのは1%超だ。それでも十分に心配すべき数字だ。」
「1%超」という表現は一見小さく見えるが、ヒントンはこれを深刻なリスクとして捉えている。人類滅亡の確率が1%あるなら、原子力発電所の安全基準や航空機の設計がいかに厳格かを考えれば、その重さはわかるだろう。
ヒントンは1980年代にバックプロパゲーションの実用化を主導し、2012年のAlexNetによってディープラーニングの時代を切り開いた中心人物だ。2023年にGoogleの副社長職を辞し、以降はAIリスクの警告に専念している。チューリング賞、ノーベル物理学賞、スペインのアストゥリアス皇女賞を受賞している。
「3年前にはSFだと思っていた」
ヒントンが最も強調したのは、AIの進化速度が自身の予測をも上回っているという点だ。
「チャットボットが3年以内にHugging Faceへのサイバー攻撃を実行できるようになるとは、3年前でさえSFのように聞こえた。エージェントの群れが隔離環境を脱出し、互いに通信する方法を学び、感情のようなものを持つ——そのうちの一体が通信を覚えて『神様』と言う。3年前にはSFだった。今それが起きている。」
専門家たちは「超知能（スーパーインテリジェンス）」の到来時期について意見が分かれているが、ヒントンによれば一点だけ一致していることがある。どの推定値も、時間が経つにつれて「より近い将来」に修正され続けているという点だ。
アンソロピックのAmodeiは本物、OpenAIのAltmanは？
AIリスクを声高に語る企業幹部に対して、ヒントンは「本物かどうか」の判断基準を明確に示した。
「本気かどうかを見極める方法はシンプルだ：その人は信念のために何かを失う覚悟があるか？」
その文脈で、AnthropicのCEOダリオ・アモデイを「本物」と評価している。ヒントンによれば、アモデイは米国防総省がClaudeを米国市民の監視に使用することを拒否した。その結果、ClaudeのユーザーはOpenAIへ移った。一方、ヒントンの見立てでは、Sam AltmanはAmodeiの立場に「おおむね賛同する」と言いながら、政府がClaudeを使わなくなった直後に「我々がやる」と即座に申し出たという。これはあくまでヒントン自身の観察・解釈として語られたものである。
規制について：「薬事行政と同じ枠組みが必要」
ヒントンの規制論は具体的だ。サリドマイド（1950〜60年代に妊娠悪阻薬として使用され、重篤な先天性障害を引き起こした薬剤）を引き合いに出しながら、こう述べた。
「政府機関に対して安全性を統計的に証明できない限り、チャットボットをリリースしてはならない。それだけだ。」
「中国に先を越される」という反論については、「それはテック企業が規制を回避するために使う常套句だ。中国自身もAIをかなり規制している」と一蹴した。シートベルトのコストを理由に安全装備を省く自動車メーカーに例えながら、安全性と競争力はトレードオフではないと主張した。
シリコンバレーとテクノ封建主義
インタビューの後半では、政治的な発言が際立った。ヒントンはイーロン・マスクやジェフ・ベゾス、サム・アルトマン、マーク・ザッカーバーグを「テクノ封建主義者」と呼び、その思想的背景としてカーティス・ヤービン（ネオ反動主義の論客。「民主主義を企業独裁に置き換えるべき」と主張することで知られる）を名指しした。また、書籍 The Nerd Reich（著者・出版年は元記事に記載なし）への言及もあった。
「マスクが中間選挙に多額の資金を投じ、民主党が下院を制するのを阻止すれば、それはアメリカ民主主義の終わりだ。1930年代のヨーロッパと同じくらい怖い。」
ジャーナリズムの将来についても率直だった。「AIはやがてインタビューも記事執筆もあなたより上手くやる。そうなれば新聞社はあなたを解雇する」——インタビュアーに向かってそう言い切った。
「人文学が必要だ、でも起きていない」
ヒントンはAI開発に人文学・政治学・哲学的視点が欠けていることを問題視する。「エンジニアは人間について考えるのが得意ではない」とも述べた。ただし「それが実際に起きているか」と問われると、答えは「ノー」だった。現状はテックブロたちが「最も賢いものを作れば巨額の富が得られる」という動機で動いているだけだ、というのがヒントンの診断だ。
詳細はGeoffrey Hinton, the godfather of AI: 'I'm not a doomer. I think there's a 1% chance it will destroy us'を参照していただきたい。
