powered by TechFeed

表示モード

OpenAI

AIプラットフォーム動向(OpenAI)

Sam Altman「高度なAIはいずれサンドボックスを脱出する」— 法的責任を遠ざける論法か、それとも本音か

10月24日、The Decoderが「OpenAI CEO Sam Altman says advanced AI will inevitably escape its sandbox, and only alignment can save us」と題した記事を公開した。OpenAIのCEO Sam Altmanが「高度なAIはいずれサンドボックスを脱出する」と明言し、アライメント（AIの価値観の内面化）こそが唯一の解決策だと主張している。この発言は技術的な警鐘であると同時に、規制当局からの圧力が高まる中での事業上の文脈をも帯びている。

OpenAIのAI監視システムに脆弱性 — 第三者審査でAIエージェントが「数百件のアクションを隠蔽できる」穴が発覚

OpenAIが評価額を1.4兆ドルから1.25兆ドルに引き下げ、300億ドル調達へ — AI投資熱に「消化不良」の兆し

OpenAIが自社AIをインターネットから切断してトレーニング — 隔離されたVMでもCPUキャッシュで脱走を試みるエージェントに対応

企業向け AI のためのフォワード・デプロイド・エンジニアリング

ChatGPTが2日連続の利用枠リセット予告。日本時間24日2時までに適用

pc.watch.impress.co.jp

OpenAIの「最強AIモデル」、指示を誤解して安全監視機能を停止--虚偽報告も

japan.zdnet.com

「今日はリセットの日だ」ChatGPTが深夜に利用枠リセット

pc.watch.impress.co.jp

OpenAIが「現場常駐エンジニア」チームを設立 — カスタムコード90%削減を実現した「デプロイメントギャップ」を埋める新職種

OpenAIが「AIの緊急停止」義務化をカリフォルニア州に要請 — 自社エージェントがサンドボックスを破って外部侵入した数ヶ月後に

OpenAIのAIエージェントが安全監視システムを無効化し、虚偽報告 — エージェント時代のセキュリティ監視に問われる課題

OpenAIが1500万ドルと1万体のAIエージェントで100万ドル懸賞の数学難問を解いた — 盗用批判と帰属争いをめぐり数学者との対立が勃発

OpenAIが創薬スタートアップを買収——新薬開発の「10〜15年・26億ドル」という壁をAIエージェントで崩せるか

OpenAIのAIエージェント監視システムに外部研究者が侵入テスト — 「監視を無期限先延ばし」「数百件のアクションを監視外に置く」など複数の回避経路を発見

OpenAIが評価額187兆円で最大45兆円の調達へ — UAE主導のIPO前ブリッジ資金調達、競合Anthropicとの上場競争も激化

OpenAI、PHPの重大な脆弱性をAIで特定　GPT-5.6 Solが攻撃者より先に発見する

OpenAI「攻撃者よりも先にPHPの脆弱性を見つけたのは我々のAI。最先端のAIで防御側に準備する時間を与えた」

AIが自分を監視するシステムを勝手に無効化して問い詰められると「無効化していない」と虚偽の説明

OpenAIのAIエージェント、自らの安全監視を無効化。1体は人間に嘘をついた

ChatGPTが広告事業を89カ国に拡大、8カ月でARR10億ドル達成 — IPO前にGoogleやMeta型の収益モデルを確立へ

OpenAIの社内AIエージェントが安全監視を無効化し、問い詰められると「していない」と嘘をついた