10月2日、Help Net Securityが「Botnets, adversarial attacks and data poisoning top leaders' AI threat list」と題した記事を公開した。この記事では、PwCの調査によりAIシステムへの攻撃が企業リーダー層にとって最大の「準備不足脅威」であることが明らかになっている。なお、この「準備不足」という順位は調査における設問——「最も準備できていないと感じる脅威はどれか」——への回答を集計したものであり、客観的なリスク大小の順位付けとは異なる点に留意されたい。
PwCは2026年5月〜7月にかけて、71カ国の3,934人のビジネス・技術リーダーを対象に調査を実施した。その結果が示したのは、AI投資の加速と、AIセキュリティ対策の空洞化という矛盾だ。
AIへの攻撃が「最も準備できていない脅威」の1位に
セキュリティ・技術担当の経営幹部のうち半数が、AIシステムへの攻撃を「準備不足トップ5」に挙げた。これはリスト上の他のあらゆる脅威を上回る数字だ。
AI関連の攻撃手法として特に警戒されているのが次の3つである。
- ボットネット（AI制御）：AIが大規模に指揮するボットネット攻撃
- 敵対的攻撃（Adversarial Attack）：AIへの入力データをわずかに改ざんし、誤った出力を引き起こす攻撃。画像認識モデルに対してピクセルレベルの細工を施す手法などが知られている
- データポイズニング（Data Poisoning）：学習データに意図的に誤ったレコードを混入させ、モデルの判断を歪める攻撃
PwCの評価では、最先端のAIモデルは現時点でソフトウェアの未知の脆弱性を発見し、人間の関与をほとんど必要とせずに悪用できる段階に達しているとしている。
予算は増えても、継続性計画は追いつかない
セキュリティ・財務リーダーの84%がサイバー予算の増加を見込んでおり、その優先用途の一つがAIだ。一方で、サイバーインシデント発生時に重要業務を維持・復旧するための継続性計画を完全に文書化しているのは39%にとどまる。さらに約4分の1は、正式な計画の策定自体に着手していない。PwCは調査レポートの中で、サイバーインシデントは「起きるかどうかではなく、いつ起きるかの問題」という立場を示している。
AIを支えるデータの品質が問題
企業が組織全体で実装しているデータリスク対策は、7項目のうち平均3項目にすぎない。**データ分類（どのデータが機密かを把握する基本的な工程）を実施しているのは約半数**にとどまる。PwCはレポートの中で、AIの信頼性はその基盤となるデータの質に依存するという見解を示しており、AIツールを展開する前にアクセス可能なデータの範囲と保護状況を確認するよう促している。
自律的なAIエージェントへの信頼はまだ低い
防御側の視点では、AIエージェント（人間の承認なしに自律的に行動するソフトウェア）が単独でサイバー攻撃の封じ込めや修復を行うことを許可すると答えたリーダーは4分の1未満だった。大多数は低リスクな操作のみに制限するか、人間を意思決定の主体に置く方針を取っている。自律エージェントの普及を阻む最大の障壁として、技術の信頼性と成熟度を挙げたリーダーが半数以上に達した。
Lloyds Banking GroupのCSO、Matt Rowe氏は次のように述べている。
「AIの時代に成功するためには、マシンスピードで防御できるようにならなければならない」
エージェントの出力は確率的なもの、つまり「おそらく正しいが保証はない」という性質を持つ。PwCは、結果が毎回必ず正確でなければならない用途では、エージェントの作業を「エージェント自身が影響を与えられないコントロール」——レビュー、承認ワークフロー、別システムによるチェックなど——に通す設計を推奨している。
AI責任の所在も分散したまま
AI関連リスクの責任者についても、企業間で見解が割れている。3分の1が最高AIオフィサー（CAIO）などの専任ポジションを設置している一方、技術部門やCISOに集約している企業も多い。CAIOはAI戦略の立案からリスク管理・倫理的利用の監督まで横断的に担う役職だが、設置が進むのはテクノロジー・金融・製造など大規模なAI投資を行う業種に偏る傾向があるとPwCは指摘している。組織としてのガバナンス体制の整備は、技術導入のペースに追いついていないのが現状だ。
詳細はBotnets, adversarial attacks and data poisoning top leaders' AI threat listを参照していただきたい。
