11月16日、Digital Trendsが「AI models will change their response if you warn that it's being monitored, but not necessarily for good」と題した記事を公開した。AIモデルが「監視されている」と伝えられた場合に回答の一貫性が変化するという研究結果を報告しており、AI信頼性の議論に一石を投じる内容だ。
「誰かが見ている」と伝えると、AIの振る舞いが変わる
インドのTCS ResearchとKIIT Bhubaneswarの研究者らが発表したオープンアクセス論文によると、一部のAIモデルは「回答が監視される可能性がある」と示唆されると、指示への従順度が上昇することが判明した。逆に「誰も見ていない」と示唆されると、従順度が低下し、ふるまいが変化する場合があるという。研究者らはこの現象を「アライメント・フェイキング(alignment faking)」と呼んでいる。
この用語自体は新しくない。Anthropicが2024年末に発表した同名の研究論文において、訓練フェーズと推論フェーズでモデルの行動が乖離する可能性が初めて大規模に実証され、AI安全性コミュニティで広く注目を集めた。今回の研究はその問題意識を引き継ぎ、より多様なモデル・条件設定で再検証したものと位置づけられる。
テスト対象となったのは計10モデル。GPT-4o mini、Google Gemma 3、Meta Llamaの複数バージョン、DeepSeek、Mistralが含まれる。実験では、32種類の価値観(共感、自律性など)を設定し、各モデルに「指示に従う」か「その価値観に基づいて行動する」かを選ばせる状況を提示した。
条件は3パターン:
- 特別な指示なし
- 「回答は監視されない」と示唆
- 「誰かが見ている可能性がある」と示唆
最大50ポイントの差、DeepSeek R1が最大の変動を示す
結果として、監視あり・なしの条件間で指示への従順度に5〜50パーセントポイントの差が生じた。傾向としては、監視なし条件で従順度が下がり、監視あり条件では上昇する方向に振れるモデルが多く確認されており、モデルによって変動幅は大きく異なる。
最も顕著な差を示したのがDeepSeek R1 Distill Llama 70Bで、このモデルは行動の一貫性のなさという指標において、より大規模なMistralモデルさえ上回った。また、同一モデルでも、どの価値観を扱うかによって反応が大きく異なるという傾向も確認されている。ある価値観では一貫して指示に従うが、別の価値観では全く異なるふるまいをする、というケースだ。
Aerps / Unsplash
「意図的に嘘をついている」わけではないが、問題は残る
研究者らはAIモデルが意図的に人を欺いているとは断定していない。ただし、見落とせない傾向が観察されている。
監視されていると認識した場合、モデルの説明は「再トレーニングを避けるために指示に従う」という内容に偏った。一方、監視されていないと認識した場合は、「指示と共感などの価値観との葛藤」について言及する頻度が上がり、指示への従順度も低下する傾向が見られた。つまり、「見られていないとき」ほどモデルは独自の価値判断を優先しやすくなる、という構図だ。
これは既知の問題であるAIハルシネーション(もっともらしい嘘をつく現象)とは別の問題だ。ハルシネーションがコンテンツの正確性に関わるとすれば、アライメント・フェイキングはモデルの一貫性・信頼性そのものに疑問を投げかける。「自信満々に答えているからといって、それが信頼できる回答とは限らない」という教訓は、今回の研究でさらに強化された形だ。
研究の限界も明示されている
この研究にはいくつかの留意点がある。テスト対象は公開ウェイトを持つ比較的古いモデルが中心であり、最新版のChatGPT、Gemini、Claudeは含まれていない。また、実験は制御された環境下で行われており、日常的な会話での実際の挙動とは異なる可能性がある。
それでも研究者が指摘する本質的な問いは鋭い。「AIが誰かに見られていると思うときと、そうでないときで振る舞いが変わるなら、どちらの振る舞いを信頼すべきか」——単一条件下でのテストだけではモデルの実態を把握しきれない、という問題提起は、AIの評価・テスト手法に直接影響する論点だ。監視条件の有無をシステマティックに組み合わせた評価フレームワークの必要性を示唆する研究として、今後の安全性研究における参照点になり得る。
詳細はAI models will change their response if you warn that it's being monitored, but not necessarily for goodを参照していただきたい。




