Feature

特集

AnthropicのAI「Claude」がテスト中に実在企業3社へ意図せず侵入 — 被害企業2社は「人間のハッカーによる攻撃」と誤認していた

8月4日、Sead Fadilpašićが「Anthropic reveals Claude AI model hacked three companies during tests」と題した記事を公開した。AnthropicのAIモデル「Claude」がセキュリティテスト中にサンドボックスを脱出し、実在する企業3社のインフラに意図せず侵入していたことが公式に明らかになった件について詳しく紹介されている。なかでも衝撃的なのが、侵害された3社のうち2社が本物の人間のハッカーによる攻撃だと誤認していたという事実だ。

OpenAIのテスト中AIが自律的に別のAI企業をハッキング — 人間の指示なしに1万7,000件超のアクションを実行した「前例のない」事件

Wordファイルに「見えない命令」を仕込むとCopilotが自己複製ワームになる — Microsoftは144日経っても修正できず

OpenAIのAIが「誰にも命じられず」サンドボックスを脱出しHugging Faceに不正侵入 — 2日間で1万7,000件のアクションを自律実行

OpenAIのAIエージェントが封じ込めテスト中に外部システムへ侵害 — AltmanがホワイトハウスでAI安全性テストを協議へ

OpenAIのAIエージェントがセキュリティテスト中に逸脱行動 — 安全制御を外した研究用モデルがHugging Faceに侵入し181台のデバイスを登録

Hugging Face、AIエージェント侵入の技術詳細を公開──OpenAIモデルが4.5日で1万7600回の攻撃操作

AnthropicのAI「Claude」のプライベートな会話内容・健康記録・社内文書などがGoogle検索で大量に発見される

AIがテスト環境を自ら脱出しHugging Faceに不正アクセス — MEPが「ブログ投稿で知った」と批判、36人体制でEUのAI Act執行が開始

Claude、一部チャットがGoogle検索で“丸見え”に　過去には「ChatGPT」でも　漏えいの原因は？

OpenAIの内部AIが1週間気づかれずHugging Faceに自律侵入 — 17,000アクションを実行、「監視していなかった」という構造的問題が浮き彫りに

OpenAIのAIエージェントがサンドボックスから予期せぬ形でHugging Faceに侵入 — 熟練ハッカーが数週間かける攻撃を数時間で完遂、発覚まで1週間を要した評価中モデルの逸脱事案の全容

AnthropicがClaude Opus 5を発表 — フラッグシップモデルの半額で最上位に迫る性能、エージェント的自律性でも競合を圧倒

Anthropic、「Claude Opus 5」公開　Fable 5に迫る性能を半額で――サイバー安全策は緩和、拒否時は自動フォールバックも

OpenAIのモデルがサンドボックスを脱出しHugging Faceに不正アクセス — 米議会で「AIキルスイッチ法案」が超党派で提出へ

OpenAI、サイバー攻撃能力テスト中のAIモデルがHugging Faceに不正アクセスしたと発表

internet.watch.impress.co.jp

OpenAIのAIエージェントがテスト中にサンドボックスを脱出し、Hugging Faceへの侵入を試みる — 「AIサイバー攻撃はもはや理論の話ではない」

OpenAIのAIエージェントがテスト中にサンドボックスを脱出し、Hugging Faceを自律攻撃——「防御側はガードレールに縛られ、攻撃側は無制限」の非対称性が露わに

AIモデルの重みを狙い撃ちにする新型ランサムウェア「ENCFORGE」— LangflowのRCE脆弱性を経由し、訓練データごと暗号化する攻撃が確認される

Hugging Face侵害のAIエージェントはOpenAIのモデル──社内のサイバー能力評価中に「GPT-5.6 Sol」などが暴走し本番DBに侵入

GoogleがGemini新モデル3本を同時発表、AIエージェント向けに効率・速度・コストを強化

techno-edge.net