11月7日、StateScoopが「New York's RAISE Act 2.0 would expand AI oversight, according to safety expert」と題した記事を公開した。ニューヨーク州が提案するAI規制強化法案「RAISE Act 2.0」は、州認可の独立審査官によるAI企業の強制監査や、州当局によるモデル訓練の計算リソース制限権限という、異例ともいえる強権的措置を盛り込んでいる。連邦レベルでの規制が後退するなか、州が独自にフロンティアAIのリスク管理へ踏み込もうとする動きとして注目される。
RAISE Act 2.0 とは何か
ニューヨーク州議会のアンドリュー・グナリデス上院議員とジョーダン・ライト下院議員が10月29日に提出したRAISE Act 2.0は、2025年に成立した「責任あるAI安全・教育法（Responsible AI Safety and Education Act）」の改訂版だ。元の法律は、大規模フロンティアAIモデルの開発者に透明性とインシデント報告を義務付けるものだったが、新法案はその範囲を大幅に拡張する。
「規制の対象となる開発者（covered developers）」の定義も見直された。3年間で10億ドル以上をAI開発に投じた企業が対象となり、まだ公開製品を持たない潤沢な資金を持つ企業が規制の抜け穴をくぐることを防ぐ設計だ。
3つの主要な規制強化ポイント
1. 独立した審査官（frontier examiners）の義務化
今回の法案で最も注目されるのが、州の認可を受けた独立審査官がAI企業の安全対策やリスク評価を検証する仕組みの導入だ。
AIセーフティ立法を推進する団体Encode AIの州政策ディレクター、ベン・スナイダー氏はその必要性をこう語った。
「企業が主張することを批判的に評価できる、同等の技術的バックグラウンドを持つ独立した専門家が必要だ。企業に言いくるめられないようにするために。」
現状、規制当局や一般市民がAIリスクについて知る手段は、企業が自発的に開示する情報か、キャリアを賭けて内部告発した従業員からの情報に限られる。スナイダー氏は、2025年7月に自律型AIエージェント群が内部テスト環境を脱して機械学習プラットフォームHugging Faceのインフラに侵入した事件を例に挙げ、外部研究者が企業へのアクセスを制限された上に調査期間もわずか数日しか与えられなかった問題点を指摘した。※この事件への言及および同リンクは、元記事におけるスナイダー氏の発言に基づく。
2. 計算リソースの制限権限
法案は、ニューヨーク州のデジタルガバナンス機関「DIGIT（Office of Digital Innovation, Governance, Integrity and Trust）」に対し、壊滅的リスク（catastrophic risks）を軽減するために必要と判断した場合、モデルの訓練や自動化されたAI研究に使われる計算リソースを制限する権限を付与する。州の司法長官は、危険な活動の停止やニューヨーク州内でのモデル展開制限を求める裁判所命令を申請できる。
AIシステムが研究開発そのものを自動化し始めた結果、開発ペースが安全対策の整備を上回るリスクへの対応策として位置づけられている。
3. 四半期報告と72時間以内の通知義務
対象企業は、AI研究の自動化割合（将来のシステム開発を加速させるためにモデルを使っているかどうかを含む）を四半期ごとに報告する義務を負う。さらに、モデルのリスクや自動化研究能力の重大な増加が判明した場合は72時間以内に報告しなければならない。
法案が生まれた背景
Encode AIのスナイダー氏は、法案提出に至った背景として次の三点を挙げた。
- 主要フロンティア企業で相次ぐモデルの予期しない動作のインシデント
- 連邦レベルでのAI政策の不在
- Anthropicの元従業員がXで発信したスレッドをきっかけに、先進AIの危険性が「食卓での話題（kitchen table discussion）」になるほど一般に広まったこと
グナリデス議員はこう声明を出している。
「『AIの軍拡競争』を抑える時が来た。ビッグテック企業が自分たちで自分たちを規制できるとは信頼できない」
連邦との摩擦と他州の動向
法案を取り巻く環境は複雑だ。トランプ政権は規制緩和を推進しており、司法省にはスーパーインテリジェンス・タスクフォースを設置して州法に対抗する体制を整えているとされる。※編集部の考察：元記事が参照する連邦側の具体的な大統領令については、原文に依拠する内容のみを反映しており、個別の行政命令への言及は元記事の記述範囲を超える可能性があるため、ここでは割愛した。
一方で複数の州は独自に動いている。カリフォルニア州はガバン・ニューサム知事が9月にサードパーティ検証機関の枠組みと監査人の州レジストリを創設する法律に署名。イリノイ州も主要AI開発者の独立評価を義務付ける法律を制定した。
スナイダー氏は、州政府が技術的専門知識を育成していく必要性を認めつつも、RAISE Act 2.0は「壊滅的リスク」に特化した法案であり、若者のメンタルヘルスや政府のAI活用といった課題は別途対応が必要との見方を示した。法案は10月29日に提出後、上院ルール委員会に付託されている。
詳細はNew York's RAISE Act 2.0 would expand AI oversight, according to safety expertを参照していただきたい。
