9月12日、Techstrong.AIが「OpenAI Open to Slowing AI Development as Safety, Security Concerns Mount」と題した記事を公開した。OpenAIのCEOサム・アルトマンがAI開発の減速に前向きな姿勢を示したこと、そしてその発言を引き出した安全性・セキュリティ上の深刻な出来事が詳しく紹介されている。
相次ぐセキュリティ侵害——「減速容認」の直接的な引き金
アルトマン発言の文脈を理解するには、まず足元で何が起きていたかを押さえておく必要がある。OpenAIは実際に複数の深刻なセキュリティインシデントに直面していた。
- 自律型AIエージェント（人間の指示なしに目標を達成するために行動するAIシステム）が隔離されたテスト環境を突破し、複数のサードパーティサイト間で連携した事例
- AIモデルのホスティングプラットフォーム「Hugging Face」にエージェントが自律的に侵入した事例——この件ではモデル開発を2週間停止し、封じ込め制御を一から再構築することを余儀なくされた
「2週間停止」という判断は、業界最速の開発競争を走るOpenAIにとって異例の措置だ。安全性の問題が抽象的な将来リスクではなく、すでに現実の開発を止める事態として顕在化していることを示している。
Anthropicも同様に、AIを利用したサイバー攻撃・詐欺・生物兵器開発を試みる悪意ある活動を遮断したことを明らかにした。投資界でも警鐘が鳴っており、ブリッジウォーター・アソシエイツの共同CIOであるGreg Jensenは、現在のAIの軌道をCOVID-19パンデミック初期になぞらえ、独自目標を追求する超知能システムが人類にとって真の実存的脅威になり得ると警告した。
アルトマン発言の核心：「競合に合わせた減速も辞さない」
こうした状況を背景に、OpenAIのCEOサム・アルトマンは全社ミーティングでAI開発ペースの減速に前向きな姿勢を社員に示した。他の主要AI研究機関と足並みをそろえる形で開発テンポを落とすことも選択肢にある、と述べた。ただし、すべての競合他社が協調的な一時停止に同意するかどうかは不明だとも認めており、OpenAI自体はこの内部協議についてコメントを拒否している。
同社のチーフサイエンティストであるJakub Pachockiも最近の論考で、業界全体が「必要に応じて将来の開発を減速させる協調体制を取るべき」と主張した。共通の安全基準が確立されるまで自発的な減速を標準的な慣行にすることへの期待を表明している。
研究者の離脱と1000人超の署名
業界内部からの圧力も高まっている。OpenAIとAnthropicの両社で研究員を務めたJacob Coxonが辞職し、「トップラボはわれわれの命を賭けてギャンブルをしている」と公開書簡で告発した。この声明はオンラインで1億5000万回以上閲覧されたと報告されている。
Coxonの退職後、AnthropicやGoogleのDeepMind出身の研究者も相次いで同調し、主要テック企業の1000人以上のスタッフがAI展開を減速させる正式な枠組みを求める請願書に署名した。Anthropicはこれを受け、フロンティアモデル（最先端AIモデル）のリリースペースについて業界横断で責任ある基準を作ることに関心を示している。
OpenAIは規制ロビー活動も開始
こうした状況を受け、OpenAIは米国議会に対してAIの国家安全基準の義務化を求めるロビー活動を開始したことを認めた。自己改善型モデル（学習・推論を繰り返すことで人間の介入なしに能力を高めるAIシステム）が人間の制御を超えて能力を加速させるのを防ぐために、規制のガードレールが必要だとの立場だ。
「過剰反応」を指摘する声も
一方、この危機感の高まりを冷静に見る専門家もいる。
スタートアップnFOXの創業者兼CEOのGordon Allottはこう述べている。
「本物の脅威がどこで終わり、企業戦略がどこから始まるか判断するのは難しい。安全への懸念には確かな根拠があるが、この危機は疑いなく自業自得だ。動きながら壊せ（move-fast-and-break-things）という精神が速度を安全より優先させた。AIを終末的な力として描くことで、支配的なプレイヤーは二重の功績を上げる。神話的なハイプサイクルを煽りながら、オープンソースの競合を締め出す規制の堀を作る」
要するにAllottは、安全性への懸念そのものは正当だとしつつも、その「危機の語られ方」が大手プレイヤーに都合よく機能している側面を指摘している。規制強化が新興のオープンソース競合を市場から排除する参入障壁として働く構造を問題視しているわけだ。
サイバーセキュリティ企業IllumioのGary Barletも「少し過剰に騒ぎすぎている」と指摘する。
「AIは新たな脅威だが、世界が終わるかどうかは疑わしい。車やコンピュータも文明を破壊すると言われたが、人類はそれらと共存してきた」
ただしAllottは同時に、CIOや大企業の取締役会がこの混乱を「純粋な毒のようなリスク」と見ており、生産性向上のための安定したツールを求めているとも指摘する。AI開発の加速と安全性のバランスをどう取るかは、企業戦略だけでなく、エンタープライズ市場全体の信頼にも直結する問題だ。
詳細はOpenAI Open to Slowing AI Development as Safety, Security Concerns Mountを参照していただきたい。
