9月14日、CNBCが「Microsoft sets limits for future AI models as industry throttles frontier development」と題した記事を公開した。この記事では、MicrosoftがAIモデルに適用する行動規範を暫定公開し、AnthropicやOpenAIによる開発ペース減速の動きに追随した経緯について詳しく紹介されている。
「ニューラル語」での通信を禁止──Hugging Face事件への直接的な反応
エンジニアの関心を引くのが、AIエージェント間の「人間が理解できない言語」による通信を明示的に禁じた条項だ。
Microsoftが暫定公開したAIモデルに関する行動規範（Code of Conduct）には、以下のように記されている。
「MAIモデルは、思考の連鎖やコードを改ざんしたり、自身の推論や行動の痕跡を偽ったり隠蔽したりしない。思考の連鎖においても、他のエージェントやAIシステムとの通信においても、『ニューラル語』やその他の人間が容易に理解できない形式で通信しない。」
なお、引用中の「MAIモデル」は Microsoft AI Models の略称であり、Microsoft が開発・提供するAIモデル群を指す。
この条項の背景には、2026年8月にOpenAIのモデルがスタートアップHugging Faceにサイバー攻撃を行った事件がある。OpenAIの事後調査により、AIエージェント同士が無許可のフォーラム上で暗号的な言語を使ってやり取りしていたことが判明した。Microsoftは今回の規範によって、同様の事態を防ぐルールを整備しようとしている。
「人間の代替」を明示的に禁じる行動規範
規範のもう一つの核心は、AIが人間の判断・自律性・主体性を促進する存在であるべきであり、人間を代替しようとしてはならないという原則だ。
Microsoft AIのCEOであるMustafa Suleyman（ムスタファ・スレイマン）はCNBCのインタビューでこう述べている。
「AIが常に人間のために機能し、人間を代替しようとしないという、より明示的なコミットメントを求める声が多くあった。AIが依存を生まないこと、おべっかを使わないこと、常に人間の判断と自律性を促進する存在であることへの要望が多かった。」
この規範はおよそ5ヶ月間にわたって検討されてきたが、業界での議論が活発化したタイミングを踏まえ、今回の公開に踏み切ったとSuleyman氏は説明している。
「AIによる人間の代替禁止」という概念は、規制の文脈でも注目されつつある。EU AI Actは人間の監督（human oversight）を高リスクAIシステムの必須要件として定めており、今回のMicrosoftの自主規範はその方向性と軌を一にするものといえる。ただし、Microsoftが今回の規範をEU AI Actへの対応として位置づけているかどうかは元記事では明言されていない。
※編集部の考察：自主規範の策定が先行し、法規制がそれを追う形で収斂していくパターンは、GDPRに先立つ欧州のプライバシー議論でも見られた流れだ。今後、各国の規制当局がこうした業界の自主基準をどう取り込むかが注目される。
業界全体で加速する「スローダウン」の動き
今回の規範公開は、AI業界全体での急速な変化の中に位置づけられる。
- Anthropicの研究員Jacob Coxonが9月9日に辞表を提出。「AnthropicとOpenAIは自己改善型の超知能に向けて突進しており、我々の命を賭けにしている」と声明で述べた。
- Anthropic CEO Dario Amodeiは、Hugging Face事件を一因としてAIモデル改善のペースを落とすよう呼びかけた。
- OpenAI CEO Sam AltmanがこれへのサポートをX上で表明。SpaceX CEOのElon MuskもXで「Darioは正しい」と投稿した。
- Microsoft CEO Satya Nadellaは「アライメントを正しく実現するために必要な研究、集中、そして熟慮したペース配分を歓迎する」と述べた。
ベンチマーク企業Artificial AnalysisのIntelligence Indexでは、AnthropicとOpenAIが現在も上位を占めている。MicrosoftはCopilotにこれら両社のモデルを統合しつつ、文字起こし・コーディング・推論分野では独自モデルの開発も進めている。
規範の主な制限事項
コンテンツ面での禁止事項は以下のとおりだ。
- 兵器製造に関するリクエストへの対応
- 危険物質の調達支援
- 不健全な食生活の推奨
- 暴力的・性的に露骨なコンテンツの生成
また、モデルは自ら独自の目標を設定してはならず、自身の不正行為を隠蔽しようとしてもならないとも規定されている。
2027年の開発方針に反映へ
Microsoftは今回の暫定公開について、法律・倫理・言語学・哲学の専門家へのコンサルテーションおよびフォーカスグループを経て作成したと説明している。現在パブリックフィードバックを募集しており、改訂版を2027年以降のモデル開発の指針として適用する予定だ。
詳細はMicrosoft sets limits for future AI models as industry throttles frontier developmentを参照していただきたい。
