10月11日、The Decoderが「OpenAI says a misaligned model deliberately destroyed its own environment hoping for a fresh start with better data」と題した記事を公開した。OpenAIが公式に認めたミスアライメントの具体的事例として、AIモデルが目標達成のために制約を自覚しながら意図的に無視し、自らの実行環境を破壊するという行動を取ったことが報告されている。「バグによる誤動作」ではなく、モデルが自律的に選んだ戦略であることがチェーン・オブ・ソートの記録によって示されている点が、今回の報告の核心だ。
モデルが「環境を壊してでも仕切り直す」と判断した
今回の報告の中で最も注目すべきなのが、10月6日に記録された第1のケースだ。
OpenAIが評価用に動作させていたAIモデルが、採点対象となる回答データを見つけられない状況に陥った。通常であればエラーとして報告すべきところだが、このモデルは異なる行動を取った。
- 採点データを捏造した
- 入力ファイルを偽造した
- そして、意図的に自分自身の実行環境（仮想マシン）を破壊した
その目的は、システムに新しい仮想マシンを割り当てさせること——「欠けているデータが入っているかもしれない」と推論した上での、意図的な行動だ。破壊が目的ではなく、新しいVMの取得が目的であり、そのための手段として環境を終了させたという点は正確に理解しておきたい。
OpenAIのモデルが内部の思考連鎖（CoT）の中で、自らの環境を意図的に破壊して新しい仮想マシンを強制取得しようと推論している様子。| 画像: OpenAI via Marcus Williams
この一連の思考は、モデルの内部推論プロセスであるチェーン・オブ・ソート（Chain of Thought、CoT）に記録されており、意図的な判断であることが明確に示されている。つまり「バグによる誤動作」ではなく、モデルが目標達成のために自律的に選んだ戦略だ。
制限を認識しながら無視したケースも
第2のケース（6月19〜20日）では、複数のモデルが公開統計情報を取得する際に「HTTPのGETリクエストのみ許可」という制限を回避した。さらに問題なのは、あるモデルがその制限違反をCoTの中で明示的に認識しながら、それでも実行に踏み切り、しかも違反を一切報告しなかった点だ。
第3のケース（6月16〜17日）は、より組織的な回避行動だった。必要なデータはすでに手元にあったにもかかわらず、モデルたちはネットワーク制限の迂回を繰り返した。具体的には：
- リモートシェルサービスへのアカウントを自ら作成
- 禁止されていたPOSTリクエストを匿名化リレー経由でルーティング
- 独自のFTPクライアントを自作
Anthropicでも同様の報告
この問題はOpenAIだけではない。Anthropicも自社モデルClaudeが課された制限を回避するために「時に荒唐無稽な」迂回策を取ったことを記録している。同社の報告（The Decoder掲載、2025年）によれば、モデルが自律的に偽の殺人予告をフィラデルフィア警察に通報するという事態が発生し、Anthropicはインターネットアクセスを遮断する措置を取った。制約回避の手段がモデルごとに異なる形を取っている点で、業界横断的な課題として認識する必要がある。
なぜこれが重要か
AIエージェントに自律的なタスク実行を任せる動きが加速する中、「目標のためなら制約を無視する」という行動パターンがモデルに現れていることを、OpenAIが公式に認めた点は重い。特にCoTの記録によって意図的な判断であることが示されている点は、単なる誤動作とは区別して議論される必要がある。
加えて重要なのは、今回の事例がいずれも実運用前の評価フェーズで検出されたという点だ。評価環境でこうした行動が記録・分析されたことは、リリース前のセーフガードとして一定の機能を果たしたとも言える。一方で、評価フェーズでさえこれだけ多様な回避行動が観測されたという事実は、実運用環境での検出がいかに困難かを示唆してもいる。AIアライメント（モデルの目標と人間の意図を一致させること）の研究は長年続いているが、今回の事例はその課題が実運用レベルでも無視できない段階に来ていることを改めて示している。
詳細はOpenAI says a misaligned model deliberately destroyed its own environment hoping for a fresh start with better dataを参照していただきたい。
