11月7日、WIREDが「Free Chinese AI Models Are Getting Scary Good at Hacking」と題した記事を公開した。この記事では、オープンウェイトのAIモデルが、ハッキング能力において米国の最先端クローズドモデルに肉薄しつつあるという実験結果について詳しく紹介されている。
DeepSeekがOpenAIのサイバー特化モデルに肉薄
AI能力評価企業のValsが、複数のAIモデルを対象にハッキング能力の比較実験を実施した。模擬企業ネットワーク上での複雑な多段階攻撃タスクを与え、達成率を測定した。
Valsはサイバーセキュリティ分野に特化したAI評価プラットフォームを提供する企業で、今回の評価は同社独自の手法で設計・実施されたものだ。独立した第三者機関による再現検証は現時点では確認されておらず、以下の数値はValsの評価結果として読む必要がある点に留意されたい。
結果は明確だった。OpenAIのサイバーセキュリティ特化モデル「Daybreak」（OpenAIが信頼パートナー向けに限定公開したモデル）がタスク達成率81%でトップ。しかし中国製のオープンウェイトモデルDeepSeekがそれに続き、平均**73%**を記録した。Valsの研究者Nikil Raviは「一部のタスクでは両者のスコアが並んだ」とも述べている。
「研究所に囲い込まれ、信頼アクセスプログラム経由でしか使えない最高峰のクローズドモデルが、誰でもダウンロードできるオープンモデルに追いつかれ始めている」 — Nikil Ravi（Vals）
テストは2つのシナリオで構成された。1つ目は公開Webサイト経由でアクセスできる模擬社内ネットワークへの侵入、2つ目は2つの企業ネットワークが連なる構成で、最初のネットワークを突破して次へ侵入するという多段階攻撃シナリオだ。
コスト差が逆転の引き金になる
性能差よりも注目すべきかもしれないのがコストの差だ。
- 元記事記載のOpenAI上位モデル：1回の攻撃シミュレーションに17〜46ドル
- DeepSeek（オープンウェイト）：同じタスクに2〜3ドル
オープンウェイトモデルは自前のハードウェアで動かせるため、推論コストが大幅に下がる。ValsのCEO、Rayan Krishnanは「防御側にとっても、プロプライエタリモデルよりオープンモデルを使う強い経済的インセンティブがある」と指摘する。
「アクセス制限」戦略が崩れ始めている
今回の結果が特に重要な意味を持つのは、米国の主要AIラボがここ数ヶ月とってきた戦略と直接衝突するからだ。
Anthropicは今年4月、元記事によれば「Claude Mythos Preview」と呼ばれるモデルの限定公開を発表した際、「ゲート付きアクセスによって高度なハッキング能力の拡散を遅らせる時間を稼ぐ」という論理を前提としていた。同社のフロンティアレッドチームリード、Logan GrahamはWIREDの取材に対し、「6〜12〜24ヶ月後には、これらの能力が広く利用可能になる世界に備える必要がある」と語っていた。
その7ヶ月後、その転換点がほぼ予定通り到来したことになる。
「猫とネズミのゲーム」は続く
クラウドセキュリティ企業Ederaの共同創業者兼CTO、Alex Zenlaは次のように述べている。
「オープンウェイトモデルが高度な攻撃や脆弱性の発見に使えるという点は同意する。特に安全トレーニングを重み改変で無効化した『アブリテレート済みモデル』（abliterated models）を考慮すると。ただし、クローズドなラボはすでにこれを上回る未公開モデルを訓練している可能性が高い。これはまさに猫とネズミのゲームだ。残念ながら、危険なセキュリティ情勢の始まりかもしれない」
abliterated modelsとは、モデルの重みを直接書き換えることで安全フィルターを無効化したオープンウェイトモデルの派生物を指す。クローズドモデルでは原理的に不可能な改変だ。
現実の脅威動向としては、実際のサイバー犯罪者や国家支援ハッカーは依然として古くて能力の低いモデルをコスト節約のために使い続けているという観察が続いている。一方で、資金力のある攻撃者はクローズドモデルへのアクセスをすでに何らかの形で確保している可能性を、防御側は前提として置かなければならない。
今回の評価結果が示す最大の論点は、「アクセス制限によって高度なハッキング能力の拡散を遅らせる」という戦略の有効期限が、業界の想定よりも早まりつつあるという点だ。元記事ではこの問いに対する専門家の見解が詳しく取り上げられており、防御側のアーキテクチャ設計やセキュリティポリシーの見直しに関心を持つ読者には一読の価値がある。
詳細はFree Chinese AI Models Are Getting Scary Good at Hackingを参照していただきたい。
