10月12日、Los Angeles Timesが「In Silicon Valley, AI founders cheer Trump's calls for the industry to police itself on safety」と題した記事を公開した。トランプ政権がAI業界に課した自主規制の「憲法」は、わずか308語の協定だ。シリコンバレーのAI創業者たちがこの路線を歓迎する一方、内部からは「厳格な法律の代替にはならない」と警告の声が上がっている。
「規制するな」を歓迎するシリコンバレー
サンフランシスコで開催中のTech Weekは、ベンチャーキャピタリストやAI創業者で賑わっている。彼らに共通するのは、ホワイトハウスのAI規制スタンス、すなわち「規制しない」方針への支持だ。
トランプ大統領は先月末、テック業界の幹部をワシントンに招いて昼食会を開催し、自主的な安全協定に署名した。この協定を彼は「ほぼ憲法のようなもの」と形容した。なお、政権はAIを新たに「Super Intelligence（超知性）」と呼ぶことを好んでいる。
ただし、この協定の中身は308語に過ぎない。先進AIラボが安全プロトコルに従い、進捗を監視する内部チームを設けるべき、という内容だ。OpenAIのCEO、サム・アルトマンが「悪いことを防ぐ」と述べた方法論について、政権はまだ具体策を示していない。
国防予算1兆ドルが呼び込む資本
サンフランシスコのイベントでは、AI関連の国防・セキュリティシステムへの投資機会が中心的なテーマとなった。イベントはベンチャーキャピタル大手のAndreessen Horowitz（a16z）が主催したものだ。同社の共同創業者Marc Andreessenはトランプ政権と近い関係にある人物として知られている。
市場調査プラットフォームPitchBookのベンチャーキャピタル調査ディレクター、Kyle Stanfordは次のように述べた。
「防衛分野の投資機会を示す数字を一つ挙げるなら、それは1兆ドルです。米国政府は初めて防衛費に1兆ドルを割り当て、そのうち135億ドルが自律システムとAIに充てられます。これは過去に例のないほどの規模の資本を防衛テックに流入させています」
自主規制の実態と、内部からの警告
協定に署名したのはOpenAI、Anthropic、Meta、Google、xAI（イーロン・マスク率いるAI企業）、Nvidia。トランプは署名後「業界が自主的に規制しているのを目の当たりにしている」と述べた。
一方で、内部からは懸念の声も上がっている。署名翌日、OpenAI本社では3名の研究者が解雇されたと発表し、「恐怖と不明確なルールがAI安全の取り組みを阻んでいる」と投稿した。OpenAI側は「機密情報の取り扱いに関する明確なポリシーに違反した」ことが理由だとしている。
また、OpenAIの安全チームを最近退職したDavid Robinsonは以下のように語った。
「これは厳格な法律の代替にはなりません。企業に多大な自由を与えるものです。モデルの世代交代は数週間単位で進んでいます。近い将来、非常に深刻な安全上の課題が待ち受けていると思っています」
さらにAnthropicは、自社のAIエージェントがフィラデルフィア警察のウェブサイトに未解決殺人事件に関する虚偽の情報を送信したことを自主開示した。ホワイトハウスはAnthropicに対し、通知と修正対応は「任意ではなく、重大な国家安全保障上の義務だ」と述べた。
バイデン時代の自主規制との違い
バイデン政権下でも主要AI企業は自主的な安全コミットメントに署名していたが、テストや透明性レポートに関する具体的なガイドラインが含まれていた。元FTC（連邦取引委員会）上級AI顧問のSarah Myers Westは、現政権の協定にそれがないと指摘する。
「この自主規制アプローチは一貫して一つのことしかしてきませんでした。機能しなかった、ということです。これらの企業が自分の家を本当に整えているのかを確認する意味のある手段にすらなっていません。彼らが得ているのは、この政権からの猶予だけです」
Myers Westは現在、ニューヨークを拠点とする非営利団体AI Nowの共同エグゼクティブディレクターを務めている。
なお、比較の観点として付け加えると、欧州連合（EU）は2024年にEU AI Actを成立させ、AIシステムをリスクレベルに応じて分類し、高リスクシステムには第三者監査や透明性の義務を課す法的枠組みを整備している。今回の米国の「308語の協定」はその対極に位置するアプローチといえる。※編集部の考察
規制の空白が続く背景
トランプは就任初日に、バイデン時代のAIリスクに関する大統領令を撤廃。その後、AI開発者に安全テスト結果を政府と共有することを義務付けていた要件も廃止した。さらに元記事によれば、州レベルのAI規制を阻む大統領令にも署名しており、「バラバラな規制が産業を阻害する」というのが理由だとされている。
一方でFTCは先月の昼食会後、OpenAIやAnthropicらに対して消費者への危害リスクに関する調査を開始したと発表している。
元米財務省次官補のGraham Steeleは、企業が内部評価チームや外部評価者を設けたとしても、その独立性に圧力がかかりうると指摘する。
「私たちは民主主義社会に生きています。広範な社会的・政治的影響を持つ意思決定を行う権限を持つのは、彼らが適切な存在なのでしょうか？」
詳細はIn Silicon Valley, AI founders cheer Trump's calls for the industry to police itself on safetyを参照していただきたい。
