powered by TechFeed
表示モード
Deep Dive

ドメイン取得だけで月1300万DLのAIモデルを乗っ取れた — Hugging Faceに「パブリッシャー審査なし」問題を研究者が実証

11月18日、BleepingComputerが「Researchers hijack Hugging Face account for popular Kokoro AI model」と題した記事を公開した。月間1300万件ダウンロードされるAIモデルが、ドメイン登録という極めて単純な操作だけで乗っ取れることを研究者が実証した——Hugging Faceが「パブリッシャーを審査しない」プラットフォームである以上、これは孤立したインシデントではなくAIモデルのサプライチェーン全体に横断する構造的リスクだ。

11月18日、BleepingComputerが「Researchers hijack Hugging Face account for popular Kokoro AI model」と題した記事を公開した。月間1300万件ダウンロードされるAIモデルが、ドメイン登録という極めて単純な操作だけで乗っ取れることを研究者が実証した——Hugging Faceが「パブリッシャーを審査しない」プラットフォームである以上、これは孤立したインシデントではなくAIモデルのサプライチェーン全体に横断する構造的リスクだ。


ドメイン登録だけでアカウントを乗っ取れた

セキュリティアナリストのAlon Hertzと彼のチームは、Kokoroの開発者アカウント(hexgrad)をHugging Face上で乗っ取ることに成功した。手順は単純だ。

  1. KokoroのリポジトリにあるDONATE.mdファイルに記載されていた「hexgrad.com」ドメインが未登録であることを確認
  2. そのドメインを自ら取得
  3. Hugging Faceのパスワードリセットをそのメールアドレスで実行

これだけでアカウントへのアクセスが完了した。Hugging Face側は所有権を検証する仕組みを持っていないため、ドメインを押さえた者が実質的にアカウントを支配できる構造になっている。Hertzはこの実証の詳細をMediumの記事でも公開している。


「コードに触れずに」モデルを汚染する

乗っ取り後、チームが実施したのはモデルのウェイト(重み)の書き換えだ。ゲーミングGPUを使い、わずか87秒でKokoroのモデルウェイトを改ざんし、入力テキストとは異なる音声を出力させることに成功した。

HertzはMediumの記事でこう述べている。

「入力テキストは同じ。ボイスファイルも同じ。設定も同じ。推論コードも同じ——アプリケーション側のコードは一行も変えていない。それでも、このモデルが何を話すかを変えた」

ウェイトのみを変更するこの手法の厄介な点は、マルウェアスキャナで検知できないことだ。悪意あるコードは存在せず、ファイルサイズも通常リリースと大差ない。パブリッシャー名も、ファイル配信経路も、フォーマットも、アーキテクチャも、すべて正規リリースと区別がつかない。

なお、チームはローカル環境で動作確認を行うにとどめ、改ざんしたウェイトをHugging Faceにアップロードすることはしなかった。本番システムへの影響を避けるためだ。


Kokoroがなぜ問題の舞台として重大か

Kokoroは多言語対応・50以上の音声プリセットを持つオープンウェイトのTTS(テキスト音声変換)モデルで、月間ダウンロード数は約1300万件にのぼる。Google、NVIDIA、AMD、Intel、AWSがそれぞれ音声エージェントや推論ガイドでの活用を公表している。

開発者のHexgradは元記事公開時点(2025年11月)より以前から更新を止めており、事実上メンテナ不在の状態にある。それでもGitHubリポジトリもPyPIパッケージも含め、コミュニティでの利用は継続している。メンテナ不在のまま広く使われているモデルは、まさにこの種の攻撃の格好の標的となる。


「誰でもなれる正規パブリッシャー」問題

Hertzが指摘するのは、Kokoroに限った話ではない。

「Hugging Faceはパブリッシャーを審査しない。アカウントがまだ本来の正当な所有者によって保持されているか、あるいは先週こっそり乗っ取った人物によって保持されているかを確認しない。それらのアカウントがアップロードするモデルやデータセットも審査しない」

さらに、乗っ取りがなくても同様のリスクは存在する。正規に見せかけたアカウントをしばらく運用し、ある時点で悪意あるウェイトを配布するという手法も可能だからだ。ミラーサイト、変換済みモデル、GitHubリリース、パッケージレジストリ——これらすべてに審査なしのウェイトが流通している現状をHertzは問題視する。

Hertzはこの問題をHugging Faceに報告したが、元記事公開時点(2025年11月18日)で返答はなかった。BleepingComputerもコメントを求めたが、同様に回答を得られていない。その後の対応状況についてHugging Faceからの公式発表は、本記事執筆時点では確認されていない。


AIモデルのサプライチェーンセキュリティは、コードの脆弱性とは別の次元でリスクが存在する。自動更新で最新モデルを取り込む構成を持つシステムは、今回の実証が示すような汚染ウェイトを無検査で取り込む可能性がある。

詳細はResearchers hijack Hugging Face account for popular Kokoro AI modelを参照していただきたい。