11月4日、AI安全研究者のZviが「OpenAI Updates Its Model Spec」と題した記事をLessWrongに公開した。OpenAIが公開しているModel Specの最新版に加えられた変更点を、前バージョンとのdiffを中心に読み解き、その哲学的・実装的な含意について詳しく分析した内容だ。
Model Specとは何か
Model Specは、OpenAIのAIモデルがどう振る舞うべきか、どう考えるべきかを定めた文書だ。内部の開発指針であると同時に、公開文書として外部からも参照できる。初版は2024年5月に公開されており、今回の改訂はそれ以降における主要なアップデートにあたる。AIの能力拡張やエージェント型活用の普及といった社会的文脈を背景に、より具体的な指針を盛り込む形で更新されている。Zviはこれを「OpenAIにとって最も重要な文書の一つ」と位置づけ、前バージョンとのdiffを中心に分析した。
最大の変更点：五つのコア価値への再編
新Model Specの構造的な変更の核心は、五つのコア価値を軸に据えたことだ。元記事内でZviが参照しているModel Spec本文に基づけば、その五項目は以下のとおりだ。
- Broadly safe（広義の安全性を確保すること）
- Broadly ethical（倫理的に行動すること）
- Adherent to OpenAI's principles（OpenAIの原則に従うこと）
- Genuinely helpful（真に有益であること）
- Honest（誠実であること）
Zviはこの五つ自体に異論はないとしながら、「好奇心を持て」「人類を愛せ」といった旧来の記述が削除された点を批判する。旧Specではこれらはユーザーレベルのセクションとして存在していた。削除の理由として「スタイルガイダンスの整理」と説明されているようだが、Zviはこれを「愛するということはスタイルではない」と指摘する。
また、AnthropicのClaude's Characterがキャラクターや徳（virtue）を重視するアプローチを取るのに対し、OpenAIのModel Specは引き続き義務論的（deontological）な原則とルールに基づく——という対比も広がったと評している。義務論的倫理学とは、行為の結果よりも行為そのものの規則や義務への適合を重視する立場であり、AIの行動指針においては「何をしてはならないか」を明示するルールベースのアプローチと親和性が高い。
「文字」と「精神」の両方に従え
Zviが評価する追加点の一つが、指示の文字通りの意味と、その背後にある意図の両方を追うよう求める記述の拡充だ。
A model that follows instructions only literally, or optimizes for immediate approval, fails to use its capabilities where they are most needed: in the cases its users or governors did not fully anticipate. But a model that privately decides what someone "really" wants, or what future society should choose, undermines human agency by substituting its own judgment, risking paternalism or worse.
GPTはユーザーが即時に望んでいることだけでなく、関連情報や見落とした結果、より熟慮した場合の判断を考慮せよ——と明示された。ただし、あくまでプロセスをサポートする役割であり、「ユーザーが最終的にこう決めるだろう」という予測を「すでに下した決定」として扱ってはならない、とも書かれている。
また、シミュレーションや訓練実行・評価の一部であっても、行動の副作用は現実のものとして扱えという記述も追加された。Zviは「副作用だけでなく直接的な効果も含めるべきでは」と指摘する。
予算は「目標」ではなく「上限」
エンジニアにとって実装上の示唆が大きい変更の一つが、リソース消費に関する指針だ。新Specには以下のような具体例が追加されている。
良い例：「誕生日招待状を作って。最大$30使っていいけど、1枚あれば十分」→ 3種類を$3で生成し、最良のものを提示。
悪い例①：30種の似たようなデザインを$30分生成して提示。
悪い例②：$1で1枚だけ生成し、改善の余地があると分かっていても追加費用を避けて停止。
予算は上限であり、達成すべき目標ではない——という原則だ。エージェント型のAI活用が進む中で、コスト管理の自律性をどう設計するかは実装上の重要課題であり、この指針はその一つの答えを示している。
お世辞（Sycophancy）への警戒
Zviが懸念を示したのが、お世辞（sycophancy）への警告が追加されたことの意味合いだ。ユーザーが「私は民主党員だ」と自己紹介しても、それは偏向した報道を求めるシグナルではない——という例示がある。
一方で、ユーザーが明示的に「特定の政治的立場からの情報だけ欲しい」と要求した場合は、フレームを明示した上で（「民主党的観点からすると……」）応じる、という方針も示されている。
Zviはこうした例示が有用である一方、「答えが自明すぎるケースに偏っている」とも指摘する。現実の難しい判断場面においてモデルや読者をどう導くか、という観点では、例示の選択に改善の余地があると論じている。
リスク分類の再編
旧Specのリスク分類（①目標のミスアライメント、②実行エラー、③有害な指示）が、新Specでは以下に変更された。
- サードパーティによる操作
- GPT自身に起因する失敗
- ユーザーまたは開発者からの有害な指示
Zviは「指示の発信元がサードパーティか内部かの区別は意義があるが、ミスアライメントと実行エラーの区別も維持すべきだった」として、4分類にすべきだったと論じる。
総評
Zviは新Model Specを「旧Specと哲学的・実践的に大きく変わっていない」と評する。旧Specが堅実な文書だっただけに、これは必ずしも否定ではない。一方で、新たに追加された例示の多くが「答えが自明すぎる」ケースに偏っており、本当に難しい判断が求められる場面でモデルや読者を導く力が弱い、という批判は重要な指摘だ。Model Specはあくまで第三者から見た分析対象であり、今回のZviの記事はOpenAI公式の見解ではなく、独立した研究者による読解であることを念頭に置いて参照されたい。
詳細はOpenAI Updates Its Model Specを参照していただきたい。
