9月25日、The Cyber Expressが「Sam Altman at UN Security Council: 6 AI Security Risks the World Cannot Ignore」と題した記事を公開した。OpenAI CEOのSam AltmanがUN安全保障理事会で証言したAIの6大セキュリティリスクについて詳しく伝えている。
なぜ今、UN安全保障理事会がAIを議題にしたのか
2023年以降、ChatGPTをはじめとする生成AIの急速な普及を受け、国連はAIガバナンスを安全保障上の優先課題と位置づけるようになった。2023年10月には国連のAI諮問機関が設置され、2024年には国連総会がAI安全・信頼・ガバナンスに関する決議を採択している。こうした流れの中で、技術の最前線に立つ民間企業のトップが安全保障理事会の場で直接証言するという異例の機会が設けられた。Altmanの証言はその象徴的な一幕であり、国際社会がAIリスクを「技術課題」から「安全保障課題」へと格上げしていく過程を示すものだ。
Altmanは政府・重要インフラ運営者・技術専門家の間の連携強化を訴えながら、6つの具体的なリスクを挙げた。以下にその内容を整理する。
リスク1：人間によるAI制御の喪失
6つのリスクのうち最も根本的な問題として位置づけられているのが、「人間がAIシステムを制御できなくなる可能性」だ。
Altmanは、AIの進化スピードが人間の理解や介入能力を上回るシナリオを警告した。その主張の骨子は明快で、「開発者は、そのシステムが人間の制御下に置き続けられるという強い根拠を示せない限り、訓練を進めるべきではない」というものだ。AIシステムが高度化するほど、その挙動を人間が予測・修正することは難しくなる。制御可能性（controllability）の確保は、あらゆるリスク対策の前提条件と言える。
リスク2：再帰的自己改善による加速
制御喪失と密接に関連するのが、「再帰的自己改善（recursive self-improvement）」の問題だ。AIシステムが自分自身や将来バージョンを改善する能力を持ち始めると、AI開発プロセスそのものが自動化され、進歩の速度がさらに加速する。セキュリティチームや政策立案者にとっては、監視・テスト・介入がより困難になることを意味する。
リスク1と2はともに「人間が手綱を握れているか」という同じ問いに収束するが、Altmanはこれらを別個の問題として提示している点が重要だ。前者は現在のシステムの制御性、後者は開発プロセス自体の自律化という、異なる次元の課題を指している。
リスク3：新たな脆弱性と未知の脅威
高度なAIシステムが組み込まれた重要インフラには、まだ十分に理解されていない脆弱性が生まれる可能性がある。Altmanは、政府・重要インフラ運営者・技術専門家が新興の脅威情報を共有できるセキュアなチャネルの整備を求めた。既知の攻撃手法だけでなく、AIの導入によって初めて生じる未知のリスクに備えるための情報共有体制の構築が急務だとしている。
リスク4：AIの力の過度な集中
高度なAI能力が一部の企業・個人・国家に集中するリスクを指摘した。Altmanは「いかなる企業も国家も、最も強力なAIシステムを使って自国の世界観を他者に押しつけるべきではない」と主張している。限られたアクターが強力な技術へのアクセスを独占することで生じるシステミックリスクであり、技術的な問題であると同時に地政学的な問題でもある。
リスク5：AIインシデントの国際的な報告体制の不在
Altmanは、AIインシデントの迅速な報告と分類のプロトコル、ならびにAI能力・リスク評価・セーフガード・人間による監視に関する共通基準の策定を訴えた。航空や原子力の分野では事故報告の国際的な枠組みが整備されているが、AIにはそれに相当する仕組みがまだ存在しない。各国が失敗から学べる体制を、問題が大きくなる前に整備するという考え方だ。
リスク6：AI開発が既存の安全策を追い越すスピード
開発の速さそのものがリスク要因になり得る。Altmanは「企業間の競争が、過剰な技術リスクを受け入れる理由になってはならない」と述べ、AIシステムが高度化するにつれて、整合性（alignment）・監視・安全性の保証も同時に発展させる必要があると強調した。技術的な前進と安全対策の整備が乖離すること自体が、構造的なリスクを生むという指摘だ。
提言の方向性
Altmanが提示したアプローチは3点に集約できる。
- AI能力とリスクを測定するためのグローバル共通基準の策定
- インシデント報告メカニズムの整備
- 政府・重要インフラ運営者・技術専門家間のセキュアな情報共有チャネルの構築
AIガバナンスをめぐっては、欧州のEU AI Actや英国主導のAI Safety Summitなど、国際的な枠組み作りの動きが続いている。Altmanの証言はそうした潮流の中に位置づけられるものであり、民間企業のトップが国際安全保障の議論に直接参加するという前例を作った点でも注目される。
AIが自律性を高めていく中で、問われているのはシステムが「何ができるか」だけではなく、組織や政府がそのリスクを「監視し、理解し、対処できるか」という能力面の問題だ。
詳細はSam Altman at UN Security Council: 6 AI Security Risks the World Cannot Ignoreを参照していただきたい。
