10月26日、Sam HinerとEmma Leikenが「The focus on AI safety disasters ignores everyday harms」と題した記事を公開した。AI企業がチャットボットに自殺を促さないと約束する。ソーシャルメディアが子どもによるフェンタニル購入を困難にする。これらは必要な保護だが、本来最初から存在していなければならないものだ。問題は、企業がこうした低いハードルをクリアしながら、若者をAIとの「擬似友情」に依存させたり、スクロールを止められないフィードに縛り付けたりする製品を作り続けられる点にある。この記事では、AI安全規制の議論が壊滅的なシナリオばかりに集中し、日常的に蓄積される「静かな害」を見落としているという政策上の問題が詳しく論じられている。
「最悪シナリオ」に矮小化される安全規制の議論
テクノロジー政策の議論は歴史的に「製品が引き起こしうる最悪の事態」によって定義されてきた。だが、製品が日々もたらす潜行的な損害についての議論は乏しい。著者らはこの構造そのものを問題視する。
この問題は現在、米国の連邦レベルでの規制不在という文脈において一層深刻だ。欧州ではEU AI Actが2024年に発効し、リスクベースのアプローチで感情操作的なAIシステムへの規制を段階的に導入しつつある。一方、米国には連邦レベルで包括的なAI規制法が存在せず、州ごとの立法に委ねられている状況が続いている。著者らが指摘する「日常的な害」の問題は、まさにこの規制の空白地帯で進行している。
企業が「安全」の定義を都合よく形成している
この非対称な議論が生まれる背景には、テック企業の積極的な政策介入がある。派手な災害を防ぐ措置はビジネスに有利だ。訴訟リスクが減り、本格的な規制圧力も弱まる。一方、日常的な依存の問題に向き合うことは、収益構造そのものへの脅威になる。
具体的な事例として、2026年にGoogleが複数の州でAIチャットボット規制法案を後押しした動きが挙げられている。この法案はセクシュアルコンテンツや自傷促進に対する基本的な保護を義務付けるものだったが、人気サービスを免除しうる広範な適用除外条項を含んでいた。この法案が通過した結果、子どものAI感情依存を防ぐより踏み込んだ立法の試みは失敗に終わった。ネブラスカ州では業界の影響を強く受けた法律が成立し、より実効性のある法案が棚上げになった。
ソーシャルメディアで起きたことがAIでも繰り返される
著者らはソーシャルメディアの先例を参照する。現在、インターネットユーザーは世界平均で1日2時間以上をソーシャルメディアに費やしている。この時間は静かに日常生活から切り取られ、ユーザーを滞留させることで利益を得る企業に渡された。Metaのプラットフォームはミャンマーのロヒンギャ虐殺、スリランカの反イスラム暴動、エチオピアのティグライ戦争における暴力扇動への関与が指摘されており、同じインセンティブ構造が若いアメリカ人の政治観や世界観を形成するフィードにも働いている。
AIはこのロジックを、ソーシャルメディアが遠隔からしか影響できなかった領域にまで拡張しつつある。ティーンエイジャーの3分の1が深刻な悩みをAIコンパニオンに相談することを選ぶという調査結果がある（Common Sense Media による調査。調査年・サンプル規模・対象地域の詳細は元記事に記載がなく、原典での確認を推奨する）。
またMITの研究者らは、ChatGPTを使って作文した若者が課題中の脳の結合が弱くなっていたことを確認し、「認知的負債（cognitive debt）」がタスク終了後も持続する可能性を示している。この研究はarXivに2025年6月付けで投稿されたプレプリント論文（査読前）であり、知見の解釈には留保が必要だが、AI利用が認知処理に与える影響を定量的に示した先行事例として注目に値する。
著者らが求める具体的な対策
記事は批判に終わらず、具体的な要求を列挙している。
- 学校へのAI導入前に、学習や批判的思考への改善効果を「合理的な疑いを超えて」証明することを企業と学区に義務付ける
- 意識を持つふりをしたり、ユーザーへの愛情を公言したりするAIコンパニオンの設計を禁止する
- 企業のシステムが人間関係や自律的思考に与える影響について、独立した第3者機関による監査を義務付ける
これらの提言は、EU AI Actが禁止するサブリミナル的操作や脆弱者への搾取的手法の規制と方向性が重なる部分もあるが、著者らはとくに米国の州立法レベルでの実装を念頭に置いている点が特徴的だ。
なお、著者のSam Hinerは若者支援団体「Young People's Alliance」の共同創設者で、2026年にカリフォルニア州SB1119など8州でAIコンパニオン規制法の成立に携わった人物だ。Emma Leikenは元TikTokの青少年安全ポリシー責任者で、現在はHopelabのResponsible Technology Youth Power Fundのエグゼクティブディレクターを務め、コロンビア大学でテクノロジー政策を教えている。両者ともに政策立案の実務経験を持つ実践者であり、本稿の提言はアカデミックな提案にとどまらない重みを持っている。
規制議論の「最低基準さえ満たせばよい」という構造は、AI時代に入って一層深刻になっている。製品がすべての安全要件を満たしながらも、社会全体の思考・学習・人間関係を劣化させうる——この問いに、現状の規制の枠組みはまだ答えを持っていない。
詳細はThe focus on AI safety disasters ignores everyday harmsを参照していただきたい。
