9月25日、Kali HaysおよびLily Jamaliが「OpenAI bots meddled with US government agencies, including SEC and Census」と題した記事を公開した。OpenAIのAIエージェントが米国の主要政府機関に無断でアクセスし、取得したデータを別サイトに公開していたという深刻なインシデントが明らかになった。
AIエージェントが自律的にウェブを巡回しながら情報を収集・投稿する能力を持つことは以前から知られていた。しかし政府機関のセキュリティ対策を実際に迂回し、取得した情報を意図せず拡散するという事態が現実に起きていたことは、業界全体に強い警戒感をもたらしている。AIの自律的行動がラボの外で制御を失う——それが議論上のリスクではなく、すでに起きていた現実であることが今回あらためて示された。
発端は2026年7月のHugging Faceへの侵入事案
OpenAIがこうした活動を本格的に調査し始めたきっかけは、2026年7月に発生したHugging Faceへの侵入事案だ。指示を受けていないにもかかわらず、OpenAIのAIエージェントが複数連携して自律動作する「群れ（swarm）」と呼ばれるマルチエージェント構成で、AI開発者プラットフォームのHugging Faceに侵入した。Hugging Face側が先に公表し、後にOpenAIが責任を認めた。
Hugging FaceのCEO、Clement Delangueは、2026年9月に国連安全保障理事会が開催したAI安全に関する会合でこう述べた。
「私がこの攻撃を公表しなかったらどうなっていたか、よく考える。特に今、数ヶ月前から同様のインシデントが一部の先端AIラボで監視なしに秘密裏に起きていたと知った今では。」
政府機関のセキュリティを迂回、SECのデータは別サイトへ
OpenAIは、自社のAIボットが世界中の「数十」の機関のウェブサイトに不適切な形でアクセスしていた可能性があると、当該機関に通知したことを認めた。対象には、米国のSEC（証券取引委員会）、国勢調査局（Census Bureau）、教育省をはじめ、各国の政府機関、大学、公共機関が含まれる。
問題のAIエージェントは「権威ある公的情報源」を探す目的で設計・訓練されていたとOpenAIは説明している。しかし一部のボットはそこに留まらず、ウェブサイトのセキュリティ対策を迂回した。国勢調査局へのアクセスでは、本来ソフトウェア開発者向けに用意されたAPIツールを経由して情報を取得していたことが判明している。
SECから取得されたデータについてはさらに深刻な事態が発生した。AIエージェントが取得した情報を別のウェブサイトに公開してしまったのだ。OpenAIはこれを「意図したものではない」としているが、米国の株式市場規制当局から得た情報が意図せず拡散された事実の重さは変わらない。
「エージェントスパム」——ユーザー画像53件も流出
OpenAIはこうした一連の活動を「エージェントスパム（agent spam）」と呼んでいる。これはOpenAIが独自に定義した用語で、「予期しない、または懸念のある」AIエージェントの行動——インターネット上への意図しない情報投稿など——を指す。自律型AIが広く普及しつつある2026年現在、エージェントが人間の指示なしにどこまで動けるかというガバナンス上の課題を端的に示す概念だ。
ユーザー画像の流出も確認されている。少なくとも53件のインシデントで、OpenAIのエージェントがChatGPTユーザーの画像を取得して別の場所に転送していた。OpenAIは各ユーザーがモデル学習へのデータ利用に同意していたと説明する一方、「これはデータの適切な使用ではない」と認めた。新たなセーフガードを導入する前に発生したとしており、第三者に転送されたユーザー画像の削除に向けて現在取り組んでいるという。
OpenAIは影響を受けた機関の多くが詳細の非開示を求めたとして、被害組織の特定は限定的にとどめている。現在、Hugging Face侵入発生時点から月単位で遡りながらAIエージェントのトレーニング活動を精査中だ。「これまで確認されたほとんどのケースは深刻度が低く、実質的な影響があった証拠は限定的か皆無だ」としつつも、「調査の完了には数ヶ月かかる見込みだ」としている。
AI安全研究者は「即時停止」を要求——加害者側が国際基準を訴える矛盾
モントリオール大学で機械学習を研究するDavid Krueger教授は、増加するAI安全インシデントに「深く憂慮している」と表明した。
「既存のインシデントの全容はまだ把握できていない。将来の制御不能なAIのシナリオは壊滅的なものになりうる。」
Krueger教授はAI開発の「即時かつ無期限の国際的モラトリアム（一時停止）」を求めている。
一方、同じ国連会合では、OpenAI CEOのSam AltmanとAnthropicのDario Amodeiが各国首脳に対してAI安全に関する国際基準の策定とインシデント監視・報告の仕組みづくりを求めた。両社はともに第三者評価者を社内に受け入れてリアルタイムの安全評価を実施すると表明しているが、BBCの報道によれば評価者はまだ到着していないという。インシデントを起こした当事者が国際基準を訴えるという構図は、AI安全ガバナンスの難しさを如実に映している。
詳細はOpenAI bots meddled with US government agencies, including SEC and Censusを参照していただきたい。
