9月23日、Lara Cappellettiが「Sen. Bernie Sanders unveils bill to ban artificial superintelligence and create Department of AI」と題した記事を公開した。バーニー・サンダース上院議員が人工超知能の開発を永久禁止し、連邦政府にAI省を新設することを求める法案を提出した。成立の見通しは低いものの、OpenAIやGoogle DeepMindの現役エンジニアまでが公式に支持を表明したことで、業界内部における安全性への危機感がかつてなく可視化されている。
「スローダウンせよ」——サンダースがAI超知能を永久禁止する法案を提出
バーニー・サンダース上院議員（無所属・バーモント州）とグレッグ・カサル下院議員（民主党・テキサス州）が共同で、人工超知能（Artificial Superintelligence）の永久禁止とAI省（Department of Artificial Intelligence）の新設を柱とする法案を提出した。
法案はAPが独占入手したもので、AI省が安全規則を策定するまでの間、最先端AIシステムの開発を一時停止することも求めている。さらに、高度なAIシステムを実装するには連邦政府の事前承認が必要となり、違反した場合は最大で禁固20年を含む重い罰則が科される。
「天才でなくても分かる。『ペースを落とせ』と」とサンダース議員はAPのインタビューで述べた。「人間より賢くなったとき、人間の制御を離れて独自に行動しうる超知能を、本当に我々は作りたいのか？ 私はそう思わない。」
「超知能」の定義と、AI企業内部からの支持
法案が禁止する「人工超知能」は、人間の認知能力を上回るシステム、または人類の破壊・無力化を計画・実行できる能力を持つシステムと定義されている。
注目すべきは、法案の支持者にAI企業の現役社員が名を連ねていることだ。
「超知能は極めてうまくいくか、極めてまずい結果になるかのどちらかだ。そんなゲームをすべきではない。」
— Juan Felipe Cerón Uribe（OpenAI Safety Systems 研究員）
「現在の開発路線が続けば、最も可能性が高い結果は人類にとっての存亡の危機だ。超知能開発の禁止は、当面の間、前向きな変化になるだろう。」
— Swante Scholz（Google DeepMind ソフトウェアエンジニア、個人の立場での発言）
OpenAIやGoogle DeepMindといった業界最前線にいるエンジニア・研究者が公的に支持を表明したことは、業界内部における安全性への懸念が表面化しつつあることを示している。
AI省の役割と権限——新設される規制機関の概要
法案が新設を求めるAI省は、単なる諮問機関ではなく、実効的な規制権限を持つ独立機関として位置づけられている。具体的には以下の役割を担う。
- 安全基準の策定：AI開発者が遵守すべき技術的・倫理的安全基準を策定し、定期的に更新する
- 開発の一時停止権限：省が安全規則を整備するまでの間、最先端AIシステムの開発を凍結できる
- 事前承認制度の運用：高度なAIシステムの実装前に、開発者は省の審査を経て承認を取得しなければならない
- 違反の摘発と罰則執行：無承認での実装や禁止規定違反に対し、最大禁固20年の刑事罰を含む制裁を科す権限を持つ
現行のAI規制は省庁横断的に分散しており、統一的な監督機関が存在しないことが課題とされてきた。AI省の新設は、こうした規制の「空白地帯」を埋める試みでもある。
法案の成立は険しい。それでも「線を引く」意味
共和党が多数を握る現在の議会では、法案が成立する見通しは低い。これより穏やかなAI規制でさえ合意形成に苦慮している状況だ。
一方でこの法案は、2028年大統領選を視野に入れた民主党進歩派がAI規制でどのような立場をとるかを示す政治的シグナルでもある。カサル議員は議会進歩派コーカスの議長を務めており、足元では有力候補たちも相次いでAI政策を打ち出している。メリーランド州知事ウェス・ムーアはAI規制計画を発表し、カリフォルニア州知事ギャビン・ニューサムはAI企業への独立監視を求める州法の実施促進に向けた大統領令に署名した。
サンダース議員自身も今年6月、大手AI企業の株式への一回限りの課税で財源を賄う政府系ファンド創設法案を提出するなど、AI規制を精力的に推し進めている。
トランプ政権はAI規制に後ろ向き
トランプ大統領はAI規制に消極的だ。その姿勢は、AnthropicのダリオAmodei、OpenAIのサム・アルトマン、xAIのイーロン・マスクといったAI企業トップが規制を求める中でも変わっていない。9月23日には国連総会の演説で、AIの開発を「超知能（super intelligence）開発」と呼び直す表現を用いた。これはAIを経済的・技術的な国家的好機として前向きに位置づける文脈での発言であり、規制強化よりも開発推進を優先するトランプ政権の姿勢を象徴するものだ。
「トランプはこの問題を理解していないと思う。彼が主に気にしているのは、開発が遅くなることによる経済的な影響だ」とサンダース議員は述べた。
米中間のAI主導権争いも規制論議に影を落とす。「米国が開発を止めても中国は続ける」という議論が規制反対派の主な根拠になっており、今週のトランプ・習近平会談でもAI安全保障が議題に上る見通しだ。
これに対しサンダース議員は、冷戦時代の核軍縮条約を引き合いに出した。「レーガンという超保守派の大統領でさえ、共産主義者のゴルバチョフと座って核条約を結んだ。今また同じことができるはずだ」と述べ、米中による国際的な枠組み作りの必要性を訴えた。
こうした政治的膠着が続く中、市民レベルでのAIへの警戒感は着実に高まっている。AP-NORCとシカゴ大学エネルギー政策研究所の最新調査によれば、AIの環境影響を「非常に」または「かなり」懸念しているアメリカ人は**53%**に達しており、前年の41%から増加している。データセンターの地域への影響についても、党派を超えて懸念が広がっているという。この数字は、AI規制をめぐる議論が議会内の党派対立とは別に、有権者の支持基盤として成立しつつあることを示すものであり、サンダース法案が単なる「シグナル法案」にとどまらない政治的重みを持ちうる背景となっている。
詳細はSen. Bernie Sanders unveils bill to ban artificial superintelligence and create Department of AIを参照していただきたい。
