10月8日、Chase DiBenedettoが「California bans employers from using AI to fire employees」と題した記事を公開した。カリフォルニア州でAIによる解雇を禁止する新法「SB 947」が成立したことを詳しく紹介している。あなたの会社の人事AIツールが、2027年以降カリフォルニアで違法になるかもしれない。
全米初、「AIによる解雇」を禁じる法律
カリフォルニア州のギャビン・ニューサム知事が署名したSB 947（通称「No Robo Bosses Act」）は、雇用主がAIを使って従業員を解雇・懲戒することを制限する、全米初の法律だ。
AIが職場の意思決定に入り込む事例は増加しており、連邦政府も既存の雇用差別禁止法がAIシステムにも適用されると明確にしている。しかし「AIによる解雇そのものを直接規制する」法律はこれまでなかった。規制の動きは米国内にとどまらず、EU AI Actでは雇用・人材管理に用いるAIシステムをHigh-riskカテゴリに分類し、人間による監督義務を課している。また、ニューヨーク市では2023年施行のLocal Law 144により、採用・昇進に使うAIツールへの年次バイアス監査を義務付けている。SB 947はこうした潮流の中で、「解雇」という最も重大な雇用判断に照準を絞った点で際立つ。
法律の中身：何が禁止されるのか
SB 947が規制するのは、ADS（Automated-Decision Systems：自動意思決定システム）の使用だ。州の定義によれば、ADSとは「機械学習・統計モデリング・データ分析・AIから派生した計算プロセスであり、スコア・分類・推薦といった簡略化された出力を出すもので、人間の裁量的意思決定を補助または代替し、自然人に実質的な影響を与えるもの」を指す。
具体的に禁じられる行為は以下のとおりだ。
- ADSのみを根拠として従業員の継続雇用や懲戒を決定すること
- ADSを解雇判断の「主要な道具（principal tool）」として使用すること
- 人間が追加証拠（評価記録・懲戒記録・証言等）で裏付けられないADSの決定を実行すること
さらに、AIを使って何らかの判断を下す場合は、対象となる従業員への開示が義務付けられる。開示内容には、モデルに与えた個人データの詳細も含まれる。
AIが解雇判断の「主要な要素」となっている場合は、人間のレビュアーを設置し、従業員と判断内容を確認するプロセスが必須となる。
適用対象と施行時期
この法律はカリフォルニア州内のすべての雇用主（規模を問わず）が対象だ。ただし、ギグワーカー（フリーランスや配送・ライドシェア等の契約労働者）は対象外となっている。
ニューサム知事は2025年の前バージョンの法案を一度拒否していた。当初案には事前通知の義務化やギグワーカーの保護が含まれていたが、いずれも削除されて今回の署名に至った。
違反が認定された場合、カリフォルニア州労働委員会は民事制裁金を課すことができる。報復行為も同様に処罰の対象となる。
施行は2027年7月1日。
エンジニア・開発者への影響
人事評価システムや勤怠管理ツール、パフォーマンス分析ダッシュボードを設計・運用するエンジニアにとって、この法律は設計要件の変更を迫る可能性がある。「AIが出したスコアをそのまま人事決定に使う」アーキテクチャは、カリフォルニア州では2027年以降コンプライアンス違反になりうる。
ヒューマン・イン・ザ・ループ（Human-in-the-loop）の実装が、システム設計の前提として求められる方向性だ。具体的には、AIが出力したリスクスコアや勤怠違反フラグを人事担当者が画面上でレビューし、承認・却下・修正を明示的に記録するワークフローが典型例として挙げられる。AIの判断根拠（使用した特徴量・モデルのバージョン等）をログとして保持し、開示請求に応答できる監査証跡の設計も必要になる。「AIがアラートを上げ、人間が最終決定ボタンを押す」という表面的な構造だけでは不十分で、人間が実質的に内容を検証できるUI・情報設計が問われることになる。
SB 947が「エンジニアリングの問題」でもある以上、法務・人事部門だけでなく、システムを設計する開発チームが施行前に要件を洗い直す必要がある。
詳細はCalifornia bans employers from using AI to fire employeesを参照していただきたい。
