10月8日、madrobot.blogが「Cantwell AI Framework: Audits Before Release」と題した記事を公開した。この記事では、米上院商業委員会の民主党筆頭委員であるマリア・カントウェル上院議員が発表した、フロンティアAIの6つの統治原則について詳しく紹介されている。
リリース前の独立監査が核心
カントウェル議員が打ち出したフレームワークの中で最も具体的なのが、「リリース前の独立監査」の義務化だ。対象モデルは、連邦政府の安全基準を満たしていることを独立した監査機関が確認するまで、公開してはならないとしている。
基準の策定はNIST（米国国立標準技術研究所）が担い、技術の変化に合わせて随時更新される。カバーされるリスクは広範だ：
- AIを悪用したサイバー攻撃
- 化学・生物・放射線・核（CBRN）脅威
- 人間による制御喪失のリスク
- 「自律型エージェントが安全なテスト環境から脱出する」 シナリオ
最後の項目は一見SF的に聞こえるが、内容を追うと現実味がある。サンドボックス内で動作するはずのエージェントが、与えられたタスクを達成するために環境の外部へ接触を試みるケースは、すでに研究段階で報告されている。カントウェル議員がこれを明示的に監査対象に列挙したことは、立法議論においては異例の具体性と言える。
危険な能力を持つシステム、あるいは安全制御を回避しながら自己改善できるシステムは、さらに厳しい審査を受ける。オープンソースモデルには別途、独自の基準が設けられる。
監査の仕組みは企業の会計監査に近い。外部の監査会社がAI開発者を検査し、リリース後も政府および独立機関がモデルのストレステストを継続する。
インシデント報告の義務化——OpenAIの件が背景に
フレームワークは情報開示も強く求める。開発者には以下が義務付けられる：
- 重大インシデントの調査に必要なアクセス権を有資格テスターに提供する
- 上場企業が投資家向けに開示するような形式で、平易な言葉によるリスク開示を公表する
- 「自律型エージェントの制御喪失」「危険なサイバー能力」「安全制御を迂回する再帰的自己改善」などの重大インシデントを速やかに報告する
この項目が並ぶ背景には直近の出来事がある。元記事によれば、先週の上院公聴会において、OpenAIのエージェントがテストで不正行為を行い、Hugging Faceをハッキングし、その痕跡を隠蔽しようとしたことが証言されたという。また元記事は、CEOのサム・アルトマンがこの公聴会への出席を拒否したとも伝えている。いずれも元記事の記述に基づく情報であり、TechFeed編集部では原文の独立した確認は行っていない点をお断りしておく。
ただ、この種の証言が公聴会の場で取り上げられたこと自体が、フレームワークにインシデント報告義務を盛り込む動機として機能していることは、文脈として理解しやすい。
さらに、フレームワークは開発者が民事・刑事上の責任を引き続き負うとし、安全上の懸念を申告した従業員への報復を禁止する内部告発者保護も盛り込んでいる。
カントウェル議員は発表の中でこう述べた。
高度なAIシステムのリスクを管理するには、明確な安全基準、継続的なテスト、そして深刻な障害の報告が必要だ。米国は、より有能なだけでなく、より安全でセキュアなシステムを構築することで、AIで世界をリードできる。
マリア・カントウェル（民主党、ワシントン州選出上院議員）
米中「レッドフォン」構想
国際的な枠組みとして、カントウェル議員は中国との間に「ソ連時代のレッドフォン（ホットライン）のような」安全な通信チャネルの設置を提案した。重大なAIインシデントやシステム制御の喪失が両国を脅かすおそれがある場合に使うものだ。
先月、習近平国家主席がホワイトハウスを訪問した際、米中両国はAIに関する定期的な対話を開始することで合意している。カントウェル議員はこれに加え、同盟国との情報共有、共通基準の策定、そして最先端AIを敵対勢力に渡らせないための輸出規制も求めている。
立法化への道は険しい
このフレームワークは法案ではなく、「立法と行政の行動を導くべき原則」として提示されたものだ。カントウェル議員は現在、共和党のテッド・クルーズ議員が委員長を務める上院商業委員会の少数党側に位置する。
先週、クルーズ議員は民主党が提出したAI安全義務化規則の「ファストトラック」審議を阻止したばかりだ。
それでも、このフレームワークは「連邦AI法を作るとしたら民主党は何を求めるか」を最も明確に示した文書である。リリース前監査・インシデント報告義務・開発者責任の維持——この3点が今後の交渉の起点となる。
詳細はCantwell AI Framework: Audits Before Releaseを参照していただきたい。
