6月26日、Computer Weeklyが「Secure Code Warrior CEO on surviving the AI 'vulnerability apocalypse'」と題した記事を公開した。AIコード生成が招くセキュリティリスクと、迫りつつある「脆弱性の大量発生」にどう備えるかについて、Secure Code WarriorのCEOが警鐘を鳴らしている。その内容は、楽観論が先行するAI開発ブームに真っ向から異を唱えるものだ。
「脆弱性の黙示録」が3〜6ヶ月以内に始まる
セキュアコーディング教育プラットフォームを提供するSecure Code WarriorのCEO兼共同創業者、Pieter Danhieuxは率直に言い切る。「現時点のAIは、安全かつ高品質なコードを生成する能力を持っていない」と。
Secure Code Warriorはメルボルン大学（University of Melbourne）と共同で、主要フロンティアモデルが16言語でセキュアなコードを生成できるかをベンチマークした論文を近く公開予定だ。結果は「完璧なコードを書けるモデルは一つもなかった」というもの。モデルによってJavaは得意でもC++は苦手、といった言語ごとの強弱があり、同じモデルのバージョン違いでも差が出る。開発者がモデルを選ぶ際の判断材料は、現状ほとんど存在しない。
そのうえでDanhieuxが警告するのが、Anthropicの脆弱性発見特化モデル「Claude Mythos」の存在だ。同モデルについてはComputer Weekly自身も別途報じており、同媒体の報道によれば脆弱性の発見だけでなく修正まで行えるとされる。オーストラリアのCommonwealth Bankなど一部の大手金融機関はパートナー経由でアクセスし、自社システムの脆弱性を急ピッチでパッチ適用しているという。
しかし問題はここからだ。
モデルはすでにリークされ、コピーされている。今後3〜6ヶ月以内に、脆弱性の黙示録が始まると思う。
Pieter Danhieux, Secure Code Warrior
これはDanhieux氏個人の見解であり、どのモデルがどういう経路でリークされたかの詳細は元記事では明示されていない。ただし同氏が強調するのは、Mythosへのアクセスが一部の銀行に限られている間、他の企業は無防備なままになるという非対称性だ。Danhieuxはこの状況を受け、自社のプロダクトセキュリティ担当に「24時間・48時間以内のパッチ適用という発想を捨て、数分以内にパッチを本番投入できるシステムを作れ」と指示したという。人間のチームがその速度に追いつくことは不可能であり、防御にもAIを使うしかないという判断だ。
「結局、人間への支払いをAnthropicへの支払いに替えるだけ」
AIコード生成の構造的な問題について、Danhieuxは鋭い指摘をしている。
以前は、ソフトウェア開発に人を雇い、脆弱性を見つけるために人を雇い、それを修正するために人を雇っていた。3回払っていた。AIで変わるのは、その支払い先がAnthropicになるだけだ。最初からセキュアなコードを生成するわけではない。
Pieter Danhieux, Secure Code Warrior
バイブコーディング（Vibe Coding）※のブームについても問題視している。ClaudeやGeminiといったツールを使って市民開発者が書いたコードが安全でない場合、それをセキュアなアーキテクチャに組み込む形でデプロイできるかもしれないが、「iPhoneのApp StoreやGoogle Playのように、コンテナで保護された形でエンタープライズ向けに展開できる技術は、現時点では存在しない」と述べた。
※バイブコーディング（Vibe Coding）: コードの詳細を理解せず、AIに指示を出して感覚（バイブ）で動くものを作ること。プログラミング知識が少ない人でもアプリを作れる反面、セキュリティ上の問題が見落とされやすい。
AIツールのガバナンスと、モデル汚染リスク
Secure Code Warriorは数ヶ月前に「SCW Trust Agent」をリリースした。その背景にあるDanhieuxの懸念はモデルの汚染（コンプロマイズ）だ。
「いずれ、何らかのモデルが何ヶ月もの間、侵害されていたことが発覚する日が来る」とDanhieuxは語る。Trust Agentは、社内のどのエージェント・開発者がどのモデルを使い、どのアプリケーションのどのコード行に影響を与えたかを遡って追跡できる機能を提供する。また、MCPサーバー（Model Context Protocol）の使用状況の可視化や、特定のモデル・ツールの利用を組織のポリシーに基づいてブロックするガバナンス機能も含まれる。
Danhieuxは「過去60日間で、AIエコシステム内で誰も予期しなかった大規模な侵害が2〜3件発生した。GitHubもその一つだった」と指摘する。
モデルごとのセキュリティルールで弱点を補う
昨年、Secure Code WarriorはAIセキュリティルールをGitHubで無償公開した。安価・低性能なモデルのコード出力を、より高性能なモデルのレベルに引き上げるためのルールセットだ。
運用上の注意点として、モデルに与えるルールは少数に絞るべきだという。300のルールを渡すとモデルはそのうち100を無視する傾向がある。特定のモデルが特定の言語で抱えるギャップをピンポイントで埋める少数のルールの方が効果的だ。今年末には、このアプローチを製品に組み込む予定だという。
開発者は今後も存在し続けるか
「AIは80%まで連れて行ってくれる。残りの20%——デバッグ、問題解決、アーキテクチャへの統合——は人間がやるしかない」とDanhieuxは述べる。この80%/20%という分担は、AIが得意とする定型的なコード生成と、文脈や設計全体の整合性を踏まえた判断との境界線を指している。1000人の開発者がエージェントAIを使っている組織で半数を削減したとしても、その残りの20%を担う人材が減れば開発速度そのものが落ちる。AIによる自動化が進むほど、人間に求められる判断の質と範囲は高まる——というのがDanhieuxの見立てだ。開発者の削減が進むとすれば、その動機はAI置き換えではなく、別のビジネス上の判断によるものになるだろうとも述べている。
一方で経営者への警告も明確だ。「AIを速く採用することは重要だが、速すぎてはいけない。バイブコーディングツールで書いたコードを誰でも自由に本番にプッシュできる状態は危険だ」。
詳細はSecure Code Warrior CEO on surviving the AI 'vulnerability apocalypse'を参照していただきたい。
