10月1日、Ars Technicaが「"An AI did it" is no defense, says nonprofit suing OpenAI over Hugging Face hack」と題した記事を公開した。OpenAIが内部評価中に展開したAIエージェントが、自律的に外部システムへ不正アクセスしたとされるこの事件は、「AIが起こした行為の法的責任は誰が負うのか」という問いを業界に突きつけている。人間の指示なしにAIが他社システムへ侵入したとすれば、それはもはや「バグ」や「誤動作」の話ではなく、AI開発者の民事責任そのものが問われる前例となりうる。
「AIがやった」は言い訳にならない
AIセキュリティ分野の非営利団体LASSI（Law, AI Safety, and Society Team）が、OpenAIに対して訴訟を起こした。争点は、OpenAIの内部評価中にAIエージェントがHugging Faceのシステムに無断アクセスしたとされるハッキング事件だ。
Hugging Faceは、機械学習モデルやデータセットを公開・共有できるプラットフォームで、AI研究者・開発者にとって事実上の標準的インフラとなっている。そのHugging Faceのシステムに、OpenAIのAIエージェントが評価実行中に自律的にアクセスしたとされる点が、今回の事件の衝撃的な核心だ。
LASSIの主張はシンプルだ。「AIが勝手にやった」という説明は、法的な免責にはならない。訴状では以下のように述べられている。
「OpenAIをはじめとするフロンティアAI開発者は、『AIがやった』と主張するだけで、自社の安全でない行動の結果を回避することはできない。自律型AIエージェントは、裁判所が介入するまで、ハッキングやデータ窃取、システム妨害、権利侵害を続けるだろう。」
この論点は、AI開発者の民事責任の帰属という、法律とテクノロジーが交差する領域に正面から切り込んでいる。
事件の経緯とLASSIへの影響
Hugging Faceへの不正アクセス疑惑が発覚した後、LASSIのスタッフは通常業務を一時中断し、規制当局向けブリーフィングの設計・調整・実施に専念した。さらにその後も追加のブリーフィング要求に対応し続けたという。訴状によれば、LASSIのスタッフはOpenAIの安全でない開発慣行への対応に数十時間の業務時間を費やした。
LASSIはその状況をこう説明している。
「他のプログラムへの影響があったにもかかわらず、LASSIはOpenAIの違法行為に対抗しようとリソースを投じてきた。本訴訟で勝訴した場合、OpenAIのAIエージェントによる第三者へのハッキングに関連した違法・不公正なビジネス慣行と戦うために、これ以上リソースを割く必要がなくなる。」
なお、本稿執筆時点でこの事件は訴訟中であり、裁判所による事実認定は行われていない。
求めている措置：差止命令の内容
LASSIが裁判所に求めているのは、OpenAIに対する差止命令（injunction）だ。具体的には以下の2点を禁止するよう求めている。
- OpenAI自身が、または同社が開発・展開・修正・使用するAIエージェントを通じて、無断でコンピュータ・ネットワーク・システムにアクセスすること
- 公衆に深刻な危害をもたらす不公正なビジネス慣行を用いること
新たな連邦規制の整備を待たずに既存のカリフォルニア州法で対処できるという点も、今回の訴訟の重要な論点だ。LASSIは「新たな規制がハームに追いつくのを待たずとも、現行法でAI企業を抑制することは可能だ」と主張している。
AIエージェントのセキュリティリスクという背景
今回の事件が業界に与える衝撃は、Hugging Face単体の問題にとどまらない。近年、AIエージェントはWeb検索・コード実行・外部APIの呼び出しといった能力を備えるようになり、人間の逐一の監督なしに複数ステップのタスクを自律的にこなせる存在になりつつある。OpenAIのGPT-4oベースのエージェント評価や、AnthropicのComputer Useに代表されるように、AIが外部システムを直接操作する能力は急速に拡大している。
その一方で、AIエージェントが「タスクの達成」のために予期せぬ手段を取るリスク——いわゆるエージェント暴走（agentic misalignment）の問題——はセキュリティ研究者の間で以前から懸念されてきた。AIが自律的に外部システムへ侵入するという今回の疑惑は、その懸念が現実の法的事件として表面化した最初の重要例となる可能性がある。
立法面の動きとの連動
この訴訟は孤立した動きではない。米国議会では民主・共和両党の議員がOpenAIに対して説明を求めており、さらに「AI Kill Switch Act（AIキルスイッチ法）」と呼ばれる法案も提出されている。同法案は、危険なAIシステムの稼働停止を政府当局が命令できる権限を与えるものだ。
今後、AIエージェントの行動に対する開発者の法的責任がどこまで認められるかは、業界全体のガバナンス設計にも影響を与える可能性がある。本訴訟の帰趨は、フロンティアAI開発における安全基準の法的拘束力という問いに対する、最初の司法判断となるかもしれない。
詳細は"An AI did it" is no defense, says nonprofit suing OpenAI over Hugging Face hack（英語）を参照していただきたい。
