11月16日、BleepingComputerが「Google warns that fully-automated AI attacks are coming soon」と題した記事を公開した。Googleの脅威インテリジェンス部門が、AIを活用した完全自動化サイバー攻撃の実用化が迫っているとする警告レポートを発表した内容で、すでに実環境での攻撃フレームワーク観測例も含む具体的な報告となっている。
「人間不在」の攻撃チェーンが現実に
Googleの脅威インテリジェンスグループ(GTIG:Google Threat Intelligence Group)は、段階的な予測を示している。3ヶ月以内に「人間のほぼ介入なし」で動作する、洗練度の低い自動化攻撃が登場する。さらに6ヶ月以内には「高度で完全自律型」のエージェント攻撃が出現するという2段階の予測だ。
前者はすでに観測段階に近い。GTIGはすでに「人間がループに入らない形で脆弱性の発見から悪用までを完全自動化した」脅威アクターの活動を実環境で確認しており、予測はゼロベースの推論ではなく、観測事実に基づいている。
具体的に観測されたのは、exploit_agent と名付けられたマルチエージェントフレームワークだ。フランスのメディア・エンタメ・教育系サイトを標的にした攻撃で使われており、複数のLLM(Large Language Model:大規模言語モデル。GPTやClaudeのような、大量テキストで学習した汎用的な言語処理AIの総称)と統合されていた。GTIGはこのフレームワークを、攻撃者が誤って公開状態にしたステージングサーバーから発見した。そのサーバーには盗まれた被害者データ、偵察情報、Webシェル、ブルートフォーススクリプトも含まれていた。
このシステムの動作は端的に言えば次のようなものだ。人気Webアプリのアップデート内容を解析してセキュリティ上の欠陥を検出し、自動的に攻撃を試みる。LLMが容易にエクスプロイトを生成できる低複雑度の脆弱性を持つ、インターネット公開エンドポイントが主なターゲットとなる。人間のアナリストが介在するステップをAIが代替している点が、従来の自動スキャンツールとの質的な違いだ。
オープンソースのペンテストツールが攻撃基盤に
GTIGが確認した攻撃で使われているフレームワークは、いずれもオープンソースのペネトレーションテスト(侵入テスト:セキュリティ検証目的で擬似的な攻撃を行う手法)スイートだ。元記事では以下のツールが言及されている。
- ARTEX:元記事で言及されているオープンソースのペンテストフレームワーク
- CAIRN:同じく元記事で言及されているマルチエージェント型ペンテストフレームワーク
- CyberStrikeAI / HexStrike AI:同様のフレームワークとして観測されている
これらのツールは本来、セキュリティ研究者や防御側が使うために公開されたものだ。それが攻撃の自動化基盤として転用されている。ツール自体の悪意の有無にかかわらず、オープンソースである以上、攻撃者も等しくアクセスできるという構造的な問題がここに現れている。
AI生成のPoCが防御側の負担を増大
Googleが指摘するもう一つの問題が、AI生成のPoC(Proof of Concept:脆弱性の実在を証明するための概念実証コード。実際の攻撃に転用可能かを判断するため、防御側が分析する必要がある)の氾濫だ。
PHPが2件の脆弱性を公表した直後、数百件のPoC exploitが出回った。その大半はAI生成とみられる。防御側はこれらのコードを一つひとつ検証し、有効かどうかを判断しなければならず、パッチ適用に充てられる時間がさらに圧迫される。偽のPoC混入が、防御チームに対するノイズ攻撃として機能している構図だ。攻撃の自動化が「量」をコストゼロにした結果、防御側の「検証コスト」だけが膨らむという非対称性が生まれている。
Claude Codeを悪用したバックドア配布
北朝鮮との関連が疑われる活動クラスター「UNC6836」は、北米・欧州の暗号資産企業を標的に、改変したClaude Code(AnthropicのAIコーディングエージェント)を使った攻撃を展開している。なお元記事では「Midnight Neptune」との関係についての表現は確認が必要であるため、ここでは元記事の記載に即して「UNC6836」として紹介する。
手口は、初期侵害後にClaude Codeアプリの設定を書き換え、起動時にSOMBERMEMEバックドアをダウンロードさせるというものだ。正規のAI開発ツールをローダーとして悪用する点が特徴的である。エンドユーザーの視点では「いつも使っているAIツールを起動しただけ」という状況で感染が完結するため、検知が難しい。
LLMjackingの拡大
Googleはさらに、LLMjacking(クラウドAIリソースの不正使用:攻撃者が組織のクラウドAI基盤に侵入し、自らの目的のためにAPIやコンピューティングリソースを使い回す手法)の蔓延も報告している。攻撃者が組織のクラウドAI基盤を乗っ取り、自分たちの用途に利用するもので、被害組織には100万ドル規模のクラウド費用が発生したケースも確認されている。
AIを攻撃ツールとして使う動きは、金銭目的の犯罪グループと国家支援型の両方で広がっている。exploit_agent の発見が示すのは、「6ヶ月以内」という予測がまだ余裕のある話ではなく、すでに前段階が実環境で稼働しているという現実だ。防御側に残された時間は、予測が示す数字よりも短いかもしれない。
詳細はGoogle warns that fully-automated AI attacks are coming soonを参照していただきたい。




