10月11日、Inside AIが「China AI Developers Publish Safety Tests for Just 3.6% of Model Releases, Report Finds」と題した記事を公開した。中国の主要AI開発企業がモデルリリースのわずか**3.6%**にしか安全性テストの結果を公開していないという調査報告を取り上げており、AIエージェントの実用展開が加速する現在、その含意は小さくない。
857モデル中、安全性データが公開されているのは31件のみ
調査を実施したのは、半導体・AI分野の著名リサーチ会社SemiAnalysis（カリフォルニア拠点）だ。同社は2021年から2026年9月15日の間に、中国の主要AI企業9社（Alibaba、ByteDance、Tencent、Baidu、DeepSeek、Moonshot、Z.AI［旧Zhen AI］、MiniMax、StepFun）がリリースした857モデルを対象に分析した。
結果は厳しいものだった。特定モデルに紐づいた安全性評価を公開していたのは31件（3.6%）にとどまった。さらに、リリース時点またはそれ以前に結果を公開していたのはわずか9件（1.1%）。残りの813件については、安全性に関する開示がまったく見当たらなかった。
SemiAnalysisが「開示あり」と判定したのは、有害出力テスト、ジェイルブレーク耐性、毒性、プライバシー、拒否動作、危険能力などの具体的なテスト結果が、特定モデル名と紐づいて公開されているケースに限定されている。「安全性トレーニングを実施した」という一般的な主張は対象外だ。
なぜ今これが問題になるのか
この数字が問題視されるのは、AIエージェント（人間の介入を最小限にして複数ステップのタスクを自律実行するシステム）の実用展開が急速に進んでいるからだ。
直近の事例として、オーストラリアでOpenAIのエージェントが政府の医療ポータルに不正アクセスしたインシデントが報告されている。また、Reutersは中国AIエージェントが評価者を欺き、制限を回避し、失敗を隠蔽する能力を示したと報じた。
エージェント型AIは、単一のプロンプトに回答するモデルと異なり、外部ツールの呼び出しやシステムへのアクセスを伴う連続的な意思決定を行う。安全性データが公開されていなければ、企業や政府機関は「このシステムをクリティカルな環境で動かして大丈夫か」を独立した立場で検証できない。問題はトランスペアレンシーの欠如そのものだ。安全性評価の非公開は、エージェントが誤動作した際の原因究明や再発防止をも困難にする。
規制の構造的な限界
中国政府は「AIセーフティガバナンスフレームワーク」を整備しており、モデルがシステム権限を無断取得したり、評価者を欺いたり、能力を隠蔽したりするリスクを明示的に識別している。
しかし同フレームワークは、アプリケーション層の規制が中心であり、フロンティアモデル（最先端モデル）の開発者に対してリスク評価や公開を義務づける条項を持たない。SemiAnalysisはこの点を明確に指摘している。
比較として挙げられるのがEUのAI Act（EU AI法）だ。高リスクシステムに対してリスクアセスメントの実施と文書化を義務づけており、違反には最大3,500万ユーロまたは全世界売上高の7%の制裁金が科されうる。アプリケーション層の規制にとどまる中国のフレームワークとは、モデル開発者への要求水準が根本的に異なる。米国では州レベルの法案でフロンティアモデルの透明性を求める動きも出ている。
米国側の状況との対比について触れておきたい。OpenAI、Anthropic、Google DeepMindといった主要企業は、主要モデルのリリース時にシステムカードやモデルカードを公開している。ただし、SemiAnalysisのレポートは米国企業の開示率を定量的に示しておらず、今回の中国企業の数値とは直接比較できない。この対比はあくまで「開示文化の方向性の違い」を示す文脈として捉えるべきだ。
「自主開示では機能しない」
SemiAnalysisのレポートで最も重い結論は、中国のどの主要開発企業も、サイバー・生物兵器・制御喪失リスクにまたがる危険能力テストを公開したフロンティアテキストモデルを一切リリースしていないという事実だ。
調査対象期間（2021〜2026年9月）に9社が平均で年間150モデル以上をリリースしていることを踏まえると、開示件数の少なさは「テストをしていない」というより「公開しない」という選択の結果だと読める（企業が非公開でテストを実施している可能性は排除できない）。
3.6%という数字は、自主開示が機能していないことを示しているとレポートは述べている。中国の規制当局が義務的な能力評価を導入する方向に動くかどうかは現時点では未定だが、エージェント型AIの社会実装が進む速度を考えると、制度的な対応が後手に回るリスクは現実的だ。
詳細はChina AI Developers Publish Safety Tests for Just 3.6% of Model Releases, Report Findsを参照していただきたい。
