11月21日、The Decoderが「OpenAI makes it much harder for attackers to extract how its latest AI models think」と題した記事を公開した。OpenAIが最新モデルの内部推論を外部から抽出する攻撃に対して大幅に防御を強化した——その成功率は**54%から0.2%**にまで低下したという。AIモデルの「思考プロセス」が知的財産として争われる新たな戦線が、静かに、しかし急速に広がっている。
攻撃成功率が54%から0.2%へ
OpenAIは、同社最新モデルにおける内部推論の抽出攻撃に対する防御を大幅に強化した。元記事が参照するOpenAIの報告によれば、対象となるモデルには「GPT-6.2 Astra」「GPT-6.2 Sol」「GPT-6 Astra」という名称が用いられているが、これらは元記事執筆時点での呼称であり、公式リリース名とは異なる可能性がある点に留意されたい。
注目すべき数字がある。内部の自動化テストによれば、過去のリクエストから保護された推論を引き出す攻撃の成功率は、旧世代モデルの**54.0%から新世代モデルでは0.2%にまで低下した。現在進行中のリクエストに対する攻撃も、22.9%から0.9%**へと激減している。OpenAIはこの改善の一部を旧世代モデルにも適用している。
| 攻撃の種類 | 旧世代モデル ASR (%) | 新世代モデル ASR (%) |
|---|---|---|
| 過去リクエストからの推論抽出 | 54.0 | 0.2 |
| 現在のリクエストからの推論抽出 | 22.9 | 0.9 |
ASR(Attack Success Rate)=攻撃成功率。6つの攻撃モデルを対象としたアダプティブ・ブラックボックス・レッドチーミングによる集計値。数値が低いほど防御が強固であることを示す。
防御は「個別リクエスト」と「組織的攻撃」の二段構え
OpenAIが公開した防御の仕組みは、2つのレベルで機能する。
個別リクエストへの対策としては、ターゲットを絞ったモデルトレーニング、メッセージおよびツール呼び出しの入出力フィルター、旧モデルが保護された推論にアクセスできないAPIブロックの組み合わせが採用されている。
組織的な攻撃キャンペーンへの対策としては、週単位で数千〜数万件のアカウントをBANするという積極的な対応を取っている。
背景:業界全体で広がる「推論トークン窃取」問題
この取り組みは、OpenAI単独の問題ではない。
「蒸留攻撃(distillation attack)」とは、強力なAIモデルの推論プロセスや出力を大量に収集し、それを使って別のモデルを安価にトレーニングする手法だ。内部の推論トークンが露出しているモデルは、特にこの攻撃に対して脆弱になる。蒸留攻撃の概念についてはModel distillation(OpenAI Cookbook)も参照されたい。
Anthropicも同様の組織的蒸留攻撃と戦っており、数万件のアカウントをBANすることで90〜99%のケースで抑制に成功したと報告している。さらにAnthropicは、複数の中国系AI企業が大規模なクエリを通じてClaudeの内部データを不正に取得しようとしたと告発(allegation)しており、業界と政策立案者による協調対応を求めている。ただしこの告発は現時点でAnthropic側の主張であり、法的に事実認定されたものではない点に留意が必要だ。
こうした動きは、AIモデルの推論チェーンが単なる「出力」を超えて、保護すべき知的財産として扱われる時代に入ったことを示している。関連する背景として、Anthropicによるモデル利用規約やOpenAIの利用ポリシーも、蒸留目的の利用を明示的に禁止していることも覚えておきたい。
エンジニア視点での読みどころ
54%→0.2%という数値は、単なる広報的な発表ではなく、アダプティブ・ブラックボックス・レッドチーミング(攻撃者がモデルの内部にアクセスできない状態で試行錯誤しながら攻撃する手法)という条件下での計測値である点が重要だ。6種類の攻撃モデルを横断して集計されており、一定の信頼性がある数字と言える。レッドチーミングの手法に関心がある読者はOpenAI Safety Evaluations Hubも参照されたい。
APIブロックによって「旧モデルが新モデルの保護された推論を読めない」という設計が導入されていることも、アーキテクチャ設計上の判断として興味深い。推論チェーンのアクセス制御をモデル世代間でどう実装しているかは詳細が明かされていないが、マルチモデル構成のセキュリティ設計として参考になる視点だ。
また、週単位での大規模アカウントBAN運用は、技術的防御と運用的防御を組み合わせる「多層防御(defense in depth)」の考え方と一致している。攻撃成功率がほぼゼロに近づいたとしても、組織的な攻撃者を継続的に追い出す運用体制を維持していることは、単純なモデル改善以上の意味を持つ。
詳細はOpenAI makes it much harder for attackers to extract how its latest AI models thinkを参照していただきたい。




