10月19日、Justin Wagnerが「Leaked AI safety bill from Anthropic only requires government intervention if 50+ injuries or $1 billion are at risk」と題した記事を公開した。Anthropicが秘密裏に米国議員へ提案していたAI安全法案の草案が流出し、その内容が物議を醸している。
「50人以上の死傷者か10億ドルの損害」がなければ政府は動けない
Politicoが報じた流出文書によれば、AnthropicがUS議員に売り込んでいた法案の骨子は次のとおりだ。
政府がAIモデルに対して介入できるのは、「10億ドル超の損害」または「50人以上の死亡・重傷」という予見可能かつ差し迫ったリスクが存在する場合のみ。しかもそのリスクは以下の3条件のいずれかに起因していなければならない。
- 生物兵器の作成・放出
- AIモデルが開発者の制御を回避する
- サイバー攻撃
つまり、これらの条件を満たさない限り、いかなるAIモデルも政府規制の対象外になるという設計だ。
Anthropicの広報担当者は、この法案が「Anthropicの先進AIフレームワーク（Advanced AI Framework）に基づくもの」であり、2024年6月から連邦・州の議員に対してロビー活動を継続してきた内容だと認めた。Advanced AI Frameworkとは、Anthropicが公表しているAI安全・ガバナンスに関する自社方針文書であり、AIリスクの段階的評価や政府との連携方針を定めたものだ。「議会が取り組むべき合理的な政策だと考えている」とも述べている。
AI企業による「自主規制の外観」という構造的問題
この法案が注目される理由は、数字の高さにある。50人・10億ドルというハードルは、現実の多くのAI被害シナリオをカバーしない可能性が高い。記事では、AI大企業が理論上の大規模カタストロフィを警告することで世論の合意を形成しつつ、実際には自社に都合のよい条件でのみ規制を受け入れる構造——いわゆる「自主規制の外観」——を指摘している。
タイミングも見逃せない。今年初め、AnthropicのAI安全責任者が「世界は危機に瀕している」と書き残して退職している。また記事公開の直前には、OpenAIが8つの州の司法長官から「自社の安全警告を利益のために無視した」として訴えられた。AI安全を掲げる企業と、その企業が実際に議員へ働きかけている規制内容との乖離が、改めて浮き彫りになった格好だ。
カリフォルニア州のAI立法との類似性
記事はまた、今回流出した法案の内容がカリフォルニア州のAI関連立法における提案と類似していると指摘している。カリフォルニア州では2024年、大規模AIモデルを対象にした安全義務付け法案「SB 1047」が議会を通過したものの、知事が拒否権を行使して廃案となった経緯がある。SB 1047もAIモデルの開発者に対してリスク評価や安全対策の実施を義務付ける内容であり、政府介入の条件設定をめぐって業界内で激しい議論を呼んだ。今回流出したAnthropicの連邦向け法案が、そうした州レベルの議論と連動して設計されている可能性を示唆するものだ。特定の州の立法動向を踏まえつつ、より企業に有利な形で連邦基準を先に固めようとする戦略とも読める。
Claudeを開発するAnthropicはAI安全の旗手として知られており、その企業が「50人以上が死亡または重傷を負う事態にならなければ政府は動けない」という設計の法案を水面下で推進していた事実は、業界全体のガバナンス議論に一石を投じるものだ。
詳細はLeaked AI safety bill from Anthropic only requires government intervention if 50+ injuries or $1 billion are at riskを参照していただきたい。
