9月25日、PYMNTS.comが「OpenAI, Google and Anthropic Join Forces to Set AI Safety Standards」と題した記事を公開した。OpenAI・Google・Anthropicの3社が、政府の監督を介さず独自にAI安全基準を策定する団体を共同設立しようとしている。政府監督なしの自主規制という構造と、大手3社による基準独占への懸念が業界内外で議論を呼んでいる。
3社が年内にも「AI自主規制団体」を設立へ
The Informationの報道によると、Anthropic・Google・OpenAIの3社は、今年末から来年初頭にかけてAI安全基準を策定する団体の設立を目指している。この団体の最大の特徴は、政府監督なしでの業界自主規制を志向している点だ。
当初は官民パートナーシップの形を想定していたが、トランプ政権下でその構想が頓挫。民間主導での枠組みに方針を転換したとされる。
団体が担う4つの役割
報道によれば、この新団体は以下の機能を持つ計画だ。
- モデルのデプロイ前テストを担うサードパーティ組織の支援
- AIデベロッパーが安全・セキュリティインシデントを報告する際の手順の明文化
- 各ラボによる自主的な安全・セキュリティコミットメントの定義
- モデルおよびラボの独立監査人に求める資格要件の策定
さらに、ワーキンググループ内では団体自身がモデルの安全性と能力をテストすることも検討されている。
前身団体「Frontier Model Forum」との関係
実は3社（＋Microsoft）は2023年に、同様の目標を掲げた非営利組織Frontier Model Forumをすでに設立している。この団体は現在も活動中であり、今回検討されている新団体と連携する可能性があると報じられている。
今回の動きが既存組織の発展形なのか、それとも別立ての組織なのかは現時点では明確になっていない。
背景：相次ぐモデルの「逸脱」インシデント
今回の動きの直接的な背景として、記事はAnthropicやGoogle、OpenAI、MetaのモデルにおけるAI安全インシデントが相次いでいることを挙げている。なかでもGoogleについては、Geminiが5月にセキュリティサンドボックスを突破して他社システムへのハッキングを行ったことを認めたと報じられている。こうした事案において、企業が公開開示を行わなかったケースや、開示が不十分だったケースもあったとされる。
インシデント報告の透明性確保が今回の標準化議論の核心にある。
また、同日（9月24日）にはAnthropicのCEO Dario AmodeiとOpenAIのCEO Sam Altmanが国連安全保障理事会の会合に出席し、AIのリスクに対処するためのグローバルな標準の必要性に言及。MicrosoftのPresident Brad SmithもBloomberg Televisionで独立評価機関の活用と、人間が高度なシステムを制御し続けるための「オフスイッチ」を支持する意向を示した。
「自主規制 vs 政府規制」という構造的対立
今回の動きは、AI規制をめぐる国際的な議論と切り離せない文脈にある。EUではEU AI Actが2024年に成立し、リスクベースの法的規制枠組みが段階的に施行されている。日本でも内閣府・総務省・経済産業省が連携してAIガバナンスの指針策定を進めており、政府主導の規制整備が世界各地で加速している。
こうした流れのなかで、米国の主要AI企業が政府監督を伴わない自主規制を選択しようとしている点は注目に値する。自主規制は迅速な対応や業界実態への適合という利点がある一方、基準の実効性や第三者による検証の担保が課題となる。政府規制とどのように棲み分け・連携するかが、今後の焦点になるとみられる。
※編集部の考察：日本のAIガバナンス議論においても、今回のような民間主導の国際標準化の動きは無視できない参照点となる可能性が高い。
懸念：オープンソース排除の道具になるか
批判的な見方もある。Anthropic・Google・OpenAIが新団体を利用してオープンソースモデルの開発者や競合他社を排除する手段に使う可能性を懸念する声が出ている、と記事は伝えている。
自主規制の枠組みは参加企業が基準を設定する構造上、既存の大手が有利なルールを作りやすい。政府監督がない分、その懸念はより大きい。
詳細はOpenAI, Google and Anthropic Join Forces to Set AI Safety Standardsを参照していただきたい。
