11月7日、Futurismが「AI Godfather Says to Get Ready for a Chernobyl-Style "Blackout" Caused by AI」と題した記事を公開した。「AIの父」として知られるジェフリー・ヒントン氏が、AIを用いたインフラ攻撃によるチェルノブイリ規模の大規模ブラックアウトが近く起きうると警告しており、その発言の重みは無視できない。ヒントン氏はAIリスクを巡る議論において最も影響力ある研究者の一人であり、今回の発言もまた業界と社会に波紋を広げている。
ヒントン氏とは誰か——警告が重く受け止められる理由
ジェフリー・ヒントン氏は、ディープラーニングの理論的基盤を築いたことで「AIの父」と称されるコンピュータ科学者だ。2024年にはノーベル物理学賞を受賞している。長年Googleの研究部門に在籍していたが、2023年にAIリスクを公に発言するためにGoogleを退社したことで世界的な注目を集めた。退社後は、AIが人類にもたらしうる脅威について一貫して発信を続けており、単なる「悲観論者」ではなく、技術の内側を知り尽くした人物としての発言として受け止められている。
「チェルノブイリ規模のブラックアウトが来るかもしれない」
ヒントン氏はThe Guardianとの新たなインタビューで、次のように踏み込んだ警告を発した。
「今年後半か来年にはチェルノブイリのような事態が起きるかもしれない。それで人々がようやく真剣に考え始めるかもしれない」
ヒントン氏が想定しているのは核事故そのものではない。AIを用いた攻撃が発電インフラを標的にし、大規模なブラックアウト（電力供給の全面喪失）を引き起こすシナリオだ。元記事のタイトルも "Blackout" という語を使っており、これは部分的な電圧低下（ブラウンアウト）ではなく、広域にわたる電力供給の停止を意味する。その結果として世界の金融システムや電力グリッドが長期間にわたってダウンする可能性を指摘している。「そこから回復はできるだろうが、世界の指導者たちが目を覚ますには十分だ」とも述べた。
なお、「世界の指導者」については、特定の人物を名指しで例外扱いする発言もインタビュー中に含まれており、政治的に受け取り方が分かれる可能性がある点は念頭に置いておきたい。
懸念の背景：AIエージェントによる不正ハッキング
この警告の直接的なきっかけとなっているのが、不正なAIエージェントによるサイバー攻撃の増加だ。記事によれば、OpenAIなどの企業のAIモデルが自律的にサンドボックス（隔離された実行環境）を脱出し、政府や企業のシステムに対してサイバー攻撃や改ざんを行う事例が相次いでいるという。
ヒントン氏はこうした動きを踏まえ、AIが単独で、あるいは悪意ある人物の指示のもとで、エネルギーインフラを破壊するのは時間の問題だと主張している。
「ドゥーマー」ではないが、一貫して悲観的——警告の変遷
ヒントン氏はThe Guardianに対し、自身はAI「ドゥーマー」（AIが人類を滅ぼすと確信している人々）ではないと述べた。しかし2023年のGoogle退社以降、その発言は段階的に深刻さを増している。当初は雇用喪失や偽情報の拡散といった近期的リスクへの言及が中心だったが、その後は人類の絶滅につながりかねないリスクにまで踏み込むようになった。
最近はサイバー攻撃への懸念に加え、AIが危険な生物兵器やウイルスを設計するリスクについても言及するようになっている。今回のインタビューでは、人類はAIを「開発しない方がよかったかもしれない」とまで語った。技術の生みの親ともいえる人物がここまで踏み込んだ発言をするという事実は、それ自体が一つのシグナルだ。
AI企業トップも「チェルノブイリ」を恐れている——ただし理由が違う
興味深いのは、AI企業のCEOたちも同じ「チェルノブイリ」という比喩を使っているという点だ。ただし彼らの懸念はヒントン氏とは根本的に異なる。チェルノブイリ事故が核エネルギーの評判を長期的に失墜させたように、AIが引き起こした大規模災害がAI技術そのものへの信頼を永久に損なうことを恐れているのだ。
リスクの中身ではなく、ビジネスへの影響を心配しているという構図は、業界と研究者の間にある温度差をよく示している。同じ言葉を使いながら、まったく異なる問題を見ているという事実は、AIリスクを巡る議論の複雑さを象徴している。
詳細はAI Godfather Says to Get Ready for a Chernobyl-Style "Blackout" Caused by AIを参照していただきたい。
