9月9日、California Governor's Officeが「Governor Newsom signs first-in-the-nation AI safeguards to protect Californians, calls on the federal government to do its part」と題した記事を公開した。カリフォルニア州が全米初となるAI独立検証フレームワークを法制化し、AI監査の第三者評価体制を整備したことを伝えている。
全米初のAI第三者監査フレームワーク——2本の法案が柱
カリフォルニア州知事ギャビン・ニューサムは、2本のAI関連法案に署名した。
Senate Bill 813（SB 813、著者：上院議員ジェリー・マクナーニー）は、AIシステムおよびモデルが州法に準拠しているかを評価する「独立検証機関（Independent Verification Organizations、以下IVO）」のフレームワークを全米で初めて法制化するものだ。IVOは州が定める資格要件を満たした上で認定を受ける必要があり、評価プロセスにおいては開発元から独立した立場を維持することが義務付けられる。具体的には、利益相反の防止規定や評価手法の透明性確保が要件として課される見通しだ。
Assembly Bill 1405（AB 1405、著者：州議会議員レベッカ・バウアー=カーン）は、AI監査人の州登録制度を創設し、その独立性・透明性・公正性に関する基準を定める。登録制度の運用はカリフォルニア州政府機関が管轄し、登録された監査人のみがIVOとして正式な評価業務を担える仕組みとなる。監査人には定期的な基準適合の確認も求められる予定で、一度登録すれば終わりではなく継続的なアカウンタビリティが課される点が特徴だ。
この2法案は合わせて、AIの第三者評価・監査の制度的基盤を構築する。AIが医療・インフラ・行政など社会の重要領域に深く組み込まれていく中で、業界の自己申告に依存しない独立した検証の仕組みが必要という判断だ。
「業界が自分で宿題を採点することを期待するわけにはいかない。第三者監査人こそが、AIがコミュニティや重要インフラにとって安全であることを確保する鍵だ。」
— 州議会議員レベッカ・バウアー=カーン
SB 813を推進したマクナーニー上院議員も「ワシントンD.C.が行動できない、あるいは行動しようとしない中、カリフォルニアがAIの安全リスク評価をリードする」と明言した。
AI規制の積み上げ——2023年から2026年までの経緯
今回の署名は単発の施策ではなく、カリフォルニア州が数年かけて積み上げてきたAI規制体系の一環だ。
- 2023年：AIの安全利用を指示する知事令を発令。政府のAI活用に関する最初のガードレールを設定。
- 2024年：ディープフェイク規制、AIウォーターマーク義務化、子どもや労働者保護を含む包括的AI立法パッケージに署名。
- 2025年：SB 53（カリフォルニア・フロンティアAI透明性法）に署名。フロンティアAI開発者に対し、安全フレームワークの公開開示、重大インシデントの州への報告、内部告発者保護を義務化。AIコンパートメントチャットボットに関する子どものオンライン安全保護も全米初として導入。
- 2026年（今年）：調達プロセスにおけるプライバシー・市民権保護強化の知事令を発令。AIを活用したサイバー攻撃に対抗するAIサイバー防衛プログラムをカリフォルニア・サイバーセキュリティ統合センター内に設置。そして今回のSB 813・AB 1405署名へ。
エンジニアリング的な意義——SOC 2との比較と今後の焦点
今回署名された法案のエンジニアリング的な意義は、「AIが安全である」という主張を誰がどう検証するか、という問いに対して法的な枠組みを与えた点にある。モデル評価や監査の独立性を制度として担保しようとする試みは、ソフトウェアの世界でいえばSOC 2やISO 27001の認証体系に近い発想だ。SOC 2では独立した公認会計士法人がセキュリティ管理策を評価し、その結果を報告書として発行する。SB 813のIVOはこれに相当するポジションを担うことになる。
ただし対象がAIシステムである以上、評価指標の標準化がどこまで進むかが今後の焦点となる。SOC 2が「信頼サービス基準（TSC）」という明確な評価軸を持つのに対し、AIシステムの安全性・公正性・信頼性をどの指標で定量化するかはいまだ業界横断的なコンセンサスが形成途上だ。IVOが実際に機能するには、評価基準の具体化と専門人材の育成が並行して必要になる。
ニューサム知事はAIの規制を州レベルで主導しながら、同時に連邦政府による全国的な規制整備を繰り返し求めている。AIの能力拡大スピードと、それに伴うリスクの規模を考えると、州単位の対応では限界があるという立場であり、今回の法案もその文脈で連邦への圧力を高める狙いを持つ。
詳細はGovernor Newsom signs first-in-the-nation AI safeguards to protect Californians, calls on the federal government to do its partを参照していただきたい。
