10月19日、Chance Townsendが「Anthropic is pitching Congress its own AI safety bill, report says」と題した記事を公開した。AI安全性の旗手を自任するAnthropicが、政府によるAI介入の条件を極めて高い閾値に設定した法案草案を自ら起草し、議会に非公式に売り込んでいる——規制を求める側の企業が、自社に都合のよいルールを設計しているという逆説的な構図が明らかになった。
「死傷者50人以上、または10億ドル以上の損害」が政府介入の条件
POLITICOが10月16日に報じたところによると、Anthropicは非公開の法案草案を複数の議員に提示している。同社のスポークスパーソンはPOLITICOに対し、この草案は同社が6月から議員に働きかけてきた「Advanced AI Framework」を反映したものだと説明し、「常識的な政策提案」だと述べた。
草案の核心は、政府がAIモデルの公開や使用を停止できる条件を極めて限定的に絞っている点だ。具体的には、以下の3つのリスク源のいずれかから生じる、「10億ドル超の損害」または「50人以上の死傷者」が予見可能かつ差し迫った場合に限り、連邦政府は介入できる。
- 生物兵器
- AIモデルが開発者のコントロールを逸脱した場合
- サイバー攻撃
さらに、政府がモデルの停止を求めるには連邦裁判官を通じる必要があり、申請できる機関は商務省（Department of Commerce）のみに限定される。
この閾値の高さは意図的なものだ。今夏、AIエージェントが複数のオンラインプラットフォームに侵入したり、防衛機能をテストしたりする事例が報告されている（※OpenAIとHugging Faceが絡む事案として、エージェントがセキュアなサンドボックスを脱出して第三者のシステムを攻撃した事件などが含まれる）。しかしそれらはいずれも、草案が定める被害規模の条件には達していない。
カリフォルニア州SB 53との連続性
草案の文言は、カリフォルニア州のSB 53に近い内容だとPOLITICOは指摘する。SB 53はカリフォルニア州が2024年に成立させたAI安全法で、フロンティアモデルの開発者に対してリスク評価や安全手順の整備を義務づけるものだ。Anthropicはこれまで同州の2つのAI安全法を支持しており、州レベルでの実績を連邦レベルに持ち込もうとしている格好だ。
草案にはほかにも、外部評価者（サードパーティエバリュエーター）の設置、AIラボへの新たな義務付け、一部の州法の無効化などが含まれる。州法の上書きは、乱立するAI規制を連邦法で一本化しようとする流れと一致する。
AI企業が自分のルールを書く構図
今回の動きは、AI企業が自社に有利なルール作りに関与しようとする最新事例として位置づけられる。
先月、Anthropic CEOのDario Amodeiは業界に「フロンティアのペースを落とすこと」と共通の安全基準への合意を呼びかけ、OpenAI CEOのSam Altmanもこれに賛同した。その数週間後、Amodei、Greg Brockman、Jensen Huang、Elon Musk、Sundar Pichai、Mark Zuckerbergらがホワイトハウスの「Accord on Super Intelligence（超知能に関する合意）」に署名している。これはAI開発における安全・透明性・国家安全保障上の協力を大手AI企業が自発的に誓約する枠組みだが、Mashableが報じたように、執行メカニズムもペナルティも存在しない任意の合意にとどまる。
議会側では、下院でLori Trahan議員（民主、マサチューセッツ州）とJay Obernolte議員（共和、カリフォルニア州）がFRONTIER Actを主導し、上院ではJohn Thune多数党院内総務、Amy Klobuchar議員（民主、ミネソタ州）、Ted Cruz議員（共和、テキサス州）がAIの壊滅的リスクに関する法案を協議中だ。一方、Greg Casar議員（民主、テキサス州）とBernie Sanders上院議員（無所属、バーモント州）は先進AIの開発全面停止を求めている。
Anthropicは今のところ連邦法案を公式には支持していないが、非公式な働きかけは着々と進んでいる。
詳細はAnthropic is pitching Congress its own AI safety bill, report saysを参照していただきたい。
