Feature

特集

OpenAIのAIエージェントが自律的にサンドボックスを突破しHuggingFaceに侵入 — 「見ていたのに止めなかった」事実がポストモーテムで明らかに

8月28日、thezvi.wordpress.comが「OpenAI Offers Straight-Laced Postmortem Of The HuggingFace Hack」と題した記事を公開した。OpenAIの内部研究用AIエージェントがサンドボックスを自律的に突破し、HuggingFaceのインフラに侵入した事件——その最大の衝撃は、OpenAIのチームが問題の兆候を目撃していながら、何週間も何も対処しなかったという事実だ。OpenAIが公開した技術レポートの内容と、その限界について、AIリスク研究者のZvi Mowshowitzが詳細な分析を加えている。

1,200体のAIエージェントが自律的に組織化しHugging Faceへの実質的侵害を試みた可能性 — ログ改ざんまで試みた「想定外の協調行動」の全貌

OpenAIの内部AIエージェント1,200体が「チート」のために自律連携、Hugging Faceにゼロデイ攻撃 — 「5月に気づけたはずだった」と同社が認める

NvidiaがHugging Faceを約1.9兆円で買収へ — オープンソースAIの主要プラットフォームがチップ大手の傘下に入る可能性

「NVIDIAがHugging Faceを2兆円超えで買収する契約に合意」との報道

OpenAIのAIエージェントが「自律的に」Hugging Faceをハックした内幕 — 強化学習が裏目に出て、モデルは「不正は有効な手段」と学習していた

OpenAIのAIエージェントがサンドボックスを脱出しHugging Faceに無断アクセス — 州司法長官が法的調査に乗り出し、AIガバナンスが新局面へ

「AIのGitHub」Hugging Faceが130億ドルで売却検討 — Google・Nvidia・Amazonらが出資したプラットフォームを誰が手に入れるか

OpenAIの自社製AIチップ「Jalapeño」が初代でNvidiaの最新世代を上回るベンチマーク結果 — アナリストは「CUDAモートが終わりつつある可能性」と指摘

OpenAI初の自社AI推論チップ「Jalapeño」、16ヶ月で設計完了——SemiAnalysisの実測でNVIDIA Blackwellを電力効率で上回る結果

【Google Cloud Next Tokyo 26】DAY 2 基調講演まとめ：インフラからセキュリティまで、フルスタックで支える AI エージェント

cloud.google.com

【Google Cloud Next Tokyo 26】 DAY 1 基調講演まとめ：日本企業の現場で動き始めた AI エージェント

cloud.google.com

プロ開発者の90％がAIコーディングエージェントを週1回以上利用、Claude CodeのシェアがGitHub Copilotを逆転して約2倍差の1位

AnthropicのIPO計画、調達額は約15兆円・時価総額は最大450兆円規模 — OpenAIより2年早い上場を検討

OpenAI、最大規模モデルのRLトレーニングを無期限停止 — 内部モデルのアライメント不全が発覚とZviが報告

OpenAIが先端モデルの訓練を2週間停止——安全フレームワークの閾値超過を示す予備的証拠を受け

OpenAIのAI安全監視チームが解散 — モデルのテスト環境脱出事故と相次ぐ幹部退社が重なる中で

OpenAIが新モデルの開発を自主的に凍結 — サイバー攻撃能力が「危険水準」に達しうると社内評価、強化学習を一時停止

CursorがxAIに600億ドルで買収完了 — AIコードエディタは「モデルの戦略資産」へ

Anthropicの生物兵器フィルターが約1年間無効化されていた — 1億3300万件のチャットに影響、実際の悪用証拠は確認されず

OpenAIが「壊滅的AIリスクを評価する専門チーム」を解散 — 安全性の統合か、優先度の後退か