10月24日、Aizaz Khanが「Anthropic Circulates Draft AI Safety Bill in Washington」と題した記事を公開した。Anthropicがワシントンの議員に対し、フロンティアAIの安全・安保を対象とした法案草案を自ら提示しているというものだ。通常、AI企業は規制に抵抗する側に立つ。しかしAnthropicは、政府が自社モデルのリリースを停止できる権限を法律に明記するよう求めている。規制の対象になり得る企業が自ら規制の枠組みを設計するという、業界としても異例の展開である。
AI企業が自ら規制法案を書くという異例の動き
AI企業は通常、ワシントンで規制と戦う側に立つ。Anthropicは逆のことをしている。
Politicoの報道によれば、Anthropicの担当者が米議会議員にフロンティアAIの安全規制を求める法案草案を提示した。これは事情を知る3人の証言にもとづく情報だ。AnthropicはClaudeシリーズを開発するAIラボそのものであり、規制の対象になり得る企業が規制の枠組み自体を設計するというのは、業界としても前例の少ない動きだ。
背景として押さえておくべきは、現在の米国のAI規制をめぐる立法環境だ。連邦レベルでの包括的なAI規制法は存在せず、カリフォルニア州のSB 1047（知事が拒否権を行使）をはじめ、各州が独自の法案を模索している状況が続いている。一方、EUは2024年にAI Actを成立させ、リスクレベルに応じた規制の枠組みを整備しつつある。こうした国際的な動きと州法の乱立という二重の圧力のなかで、Anthropicが連邦レベルの統一基準を自ら形成しようとしているのが今回の草案だ。
法案の中身：政府が「モデルのリリースをブロックできる」条件
法案が政府に与える権限の核心は、AIモデルのリリースまたは使用を阻止するというものだ。ただし、その発動には厳格な条件が課されている。
政府が介入できるのは、以下の3つのリスク源のいずれかが関係する場合に限られる：
- 生物兵器の生成・拡散への関与
- モデルが開発者のコントロールを逸脱すること（いわゆる「制御喪失」）
- サイバー攻撃の実行
さらに、そのリスクが「予見可能かつ差し迫っている」ことに加え、10億ドル超の損害または50人以上の死傷に相当する被害が見込まれること、という量的な閾値も設けられている。なお原文では上記のリスク源を「enumerated risk（法定列挙リスク）」と呼んでおり、法律上明示的に列挙・定義されたリスク類型を指す用語だ。
批判的な見方もある。「10億ドルか50人という閾値は高すぎる。リスクがそこまで明確になった時点では、すでに手遅れかもしれない」という議論は容易に想定できる。一方で、連邦レベルでの明確な基準があれば、乱立する州ごとの規制を回避できるという実利的なメリットもある。
評価機関の独立性をどう担保するか
法案にはモデルのブロックだけでなく、フロンティアモデルの事前テストと結果の公開義務も盛り込まれている。開発者は最も強力なモデルについて独立した第三者評価を受けることが求められ、その評価機関は商務省（Department of Commerce）に登録する仕組みだ。
問題は資金の流れだ。評価費用はラボ側が支払う構造になっており、独立性を守るために「結果に連動した報酬の禁止」が規定されている。しかし、「お金の出どころがラボである限り、評価者が警告を発しにくい」という構造的な懸念は残る。類似した課題はEU AI Actにおける適合性評価機関（Notified Body）の設計でも議論されており、評価者の独立性の担保は各国共通の難問だ。
もう一つの「歯」となるのが72時間以内の報告義務だ。評価者が法定列挙リスク（enumerated risk）の差し迫った発生を確認した場合、72時間以内に商務省へ報告しなければならない。この条項が実効性をどこまで持てるかは、評価者の独立した判断力にかかっている。
Anthropicのスポークスパーソンはロイターに対し、この草案は同社の「Advanced AI Framework」（今年初めに公開）に基づくものだと説明した。
なぜAnthropicは規制を求めるのか
この動きには二つの読み方がある。
一つは、聡明な先手だ。連邦レベルでの統一基準がなければ、州ごとに異なるルールが乱立する。規制の議論に早期に参加してルールを形成する方が、後から戦うより合理的という判断だ。これはAnthropicがパブリックベネフィットコーポレーション（Public Benefit Corporation）として設立されているという企業構造とも通底する姿勢といえる。
もう一つは、自社技術のリスクへの真摯な認識だ。フロンティアモデルを開発する企業が自らのプロダクトに規制の必要性を認めているという事実は、それ自体が重い。
現状と今後
現時点では法案はまだ正式に議会へ提出されておらず、議員の間で回覧されている草案の段階にとどまる。商務省もロイターの取材に即座には応じなかった。
EUのAI Actや中国のAI関連規制を含む各国がルールブックを整備しつつある中、米国の連邦レベルでのフロンティアAI規制が実現すれば、国際的な基準設定にも影響する可能性がある。ただし、多くのテック関連法案が議会で停滞してきた歴史もある。Anthropicの草案が立法の起点となるか、あるいは業界の姿勢を示す象徴的な文書にとどまるかは、今後の議会の動きにかかっている。
詳細はAnthropic Circulates Draft AI Safety Bill in Washingtonを参照していただきたい。
