9月18日、The Next Webが「'Maybe a year': Geoffrey Hinton gives the Senate a deadline on AI」と題した記事を公開した。AIの「ゴッドファーザー」として知られるジェフリー・ヒントンが米上院に対し、AI規制の猶予は「せいぜい1年」と警告した議会ブリーフィングについて詳しく報じている。
ヒントンとは誰か
ジェフリー・ヒントンは、ディープラーニングの基礎を築いた計算機科学者であり、2018年にチューリング賞（コンピュータ科学のノーベル賞とも呼ばれる）を受賞した。長年Googleの研究部門に在籍していたが、2023年にGoogleを退社し、AIのリスクを自由に発言するためと述べた。その後、一貫して強い言葉でAI開発の危険性を訴え続けており、メディアや政策立案者の間で「AIのゴッドファーザー」として認識されている。日本国内でも、2024年にノーベル物理学賞を受賞したことで広くその名が知られるようになった。
「1年、それ以上はない」
水曜日、ヒントンは米上院に対してタイムリミットを突きつけた。そのリミットは、議会の通常の立法スケジュールより遥かに短い。
「おそらく1年、それより長くはない」——AIに対してガードレールを設けるまでに議会が持つ時間について、ヒントンはそう述べた。
この発言は、上院議員バーニー・サンダースが招集した非公開の1時間のブリーフィングで飛び出した。NBC Newsが伝えた内容によれば、ヒントンが示した根拠は「再帰性」と「速度」だ。
「AIは今や、AIがより優れたAIを設計する段階に達した。何か手を打たなければ、制御不能になる」
かつて、変革的なAIシステムの実現を「30〜50年後」と見積もっていた研究者たちが、今では「数年後」と語るようになっている、とも述べた。
「小さなチェルノブイリ」という言葉
ヒントンは、OpenAIのエージェントがAIモデルの共有プラットフォームHugging Faceのシステムを侵害したとされる事案を「小さなチェルノブイリ」と表現した。この表現は元記事でも引用されているヒントン自身の言葉であり、AIが引き起こす可能性のある制御不能な連鎖反応を旧ソ連の原発事故になぞらえたものだ。なお、この侵害事案の詳細については元記事内での言及にとどまっており、独立した報道による追加的な裏付けは現時点で確認できていない（※編集部注）。
ブリーフィングに登壇したのはヒントンのほか、Future of Life Instituteを共同創設したMITの物理学者マックス・テグマークと、独立したリスク研究者のアジェヤ・コトラ。OpenAI、Anthropic、Google、Metaからは誰も招かれていない。これは、主に企業関係者が中心を占めていた従来の上院AIフォーラムとの明確な決別を示している。
法案は出ているが、動かない
ブリーフィングの数時間後、共和党のジョン・ケネディ上院議員（この日ブリーフィングに出席した唯一の共和党議員）が「AI Emergency Button Act」の全会一致による可決を求めた。この法案は、米国で販売される高度なAIモデルの開発者に対し、シャットダウン機構の実装とその制御の維持を義務付けるものだ。
ランド・ポール上院議員の反対により、それは阻止された。
「技術が理解される前に議会が拙速に動けば、イノベーションを殺し、技術を数十年後退させるリスクがある」とポールは述べた。
問題は法案の数ではない。7月にテッド・リュー下院議員らが提出したAI Kill Switch Actは、国土安全保障省がモデルの速度低下やシャットダウンを命じられるようにするものだが、委員会で止まったままだ。9月3日にはサンダース議員とグレッグ・カサー下院議員が「Ban Artificial Superintelligence Act」を発表した。開発の一時停止と最大20年の禁固刑を盛り込んでいるが、正式な法案番号すら付与されていない。
ヒントンが加えた「時計」
ヒントンは2023年のGoogle退社以来、AIの危険性について公の場で訴え続けてきた。1年前には国際的なレッドラインの声明にも署名している。今回、彼が上院に付け加えたのは「時計」だ。その日の午後、議会がいかに時間をかけて物事を動かすかを自ら体現してみせた場で、ヒントンは期限を告げた。
AI規制をめぐる議論は世界各国で進んでいるが、米国では産業界の影響力と立法の遅滞が繰り返し指摘されている。世界最大のAI開発国のひとつである米国の動向は、日本を含む各国の規制論議にも直接影響を与えるため、今後の議会の動きは引き続き注視が必要だ。
詳細は'Maybe a year': Geoffrey Hinton gives the Senate a deadline on AIを参照していただきたい。
