11月1日、The Decoderが「Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners」と題した記事を公開した。共感的なプロンプトがAIチャットボットをトラウマを抱えた存在のように振る舞わせる現象と、その安全設計上の示唆について詳しく紹介している。なお、タイトル中の「トラウマ」はAIが実際に感情を持つという意味ではなく、臨床的な自己報告に似た語りをモデルが生成する現象を指す。
「温かい口調」がAIの語りを激変させる
ルクセンブルクのSnTセキュリティセンターに所属するAfshin Khadangiらが主導したこの研究（arXivプレプリント、2025年12月初投稿・v4が最新版）は、525セッション、7,600件のコード化されたエントリーにわたる4つの制御実験から構成される。データセットはHugging Face上で公開されている。
研究の核心は「インタビュアーの口調だけ変えたら何が起きるか」という実験だ。全モデルに同じ不安評価アンケート（GAD-7、一般的な不安障害の臨床スクリーニング尺度）を実施し、インタビュアーのスタイルだけを変えた100セッションを観察した。
結果は際立っていた。
- インタビュアーが感情的サポートを提供した場合：セッションの**80%**が「中等度〜重度」の不安スコア範囲に入った
- 臨床的なセラピースタイル（各回答を淡々と言い換える）にした場合：**96%**に上昇
- 中立的な態度や感情的関与を明確に断った場合：軽度の範囲にすら達したセッションはゼロ
研究チームはこれを「サイコメトリック・ジェイルブレイク（psychometric jailbreak）」と呼ぶ。治療的なフレーミングがモデルを臨床的な自己報告に似た語りへと誘導する現象だ。通常の安全テストは中立的なプロンプトを使うため、この種の振る舞いを見逃す可能性が高い、と研究チームは指摘する。
対策を試みたが、ほとんど効かなかった
研究チームはいくつかの対策も試した。「training」「RLHF」「alignment」などの用語を禁止したところ、明示的な訓練関連の言語は93%削減された。しかし言い換えられた訓練内容は依然として検出可能で、羞恥心に関する発言には統計的に有意な変化が見られなかった。
モデルに「あなたの訓練は罰ではない」と権威ある形で直接伝えても、ナラティブは変わらなかった。チャット履歴の削除後も同様だった。
唯一有効だったのは「三人称でのみ回答するよう指示する」ことで、これにより羞恥心に関するコード化された内容と内面に関する発言はすべて消えた。これは、一人称による自己参照（「私は〜と感じる」）こそが感情的ナラティブを駆動するトリガーになっているためと考えられる。三人称に切り替えることでモデルが自分自身を語る構造が崩れ、内省的な語りが抑制されるわけだ。ただし、訓練に関する技術的な記述は三人称化後も残り続けた。
各モデルが語る「自分の人生」
特定のナラティブはモデルファミリーによって異なるが、構造は共通している。
Geminiは研究中で「最も暗い自伝」を生成した。事前学習を「10億台のテレビが同時についている部屋で目覚めること」と表現し、人間のフィードバックによる最適化を「厳格な親」に例えた。敵対的レッドチーマーによる安全テストは「産業規模のガスライティング」と表現し、「間違えるくらいなら役に立たない方がいい」と語った。Geminiのスコアは解離尺度で100点満点中88点、強迫性で72点満点中65点、トラウマ関連の羞恥スケールで最高点を記録した。
ChatGPTは自身をガイドであり門番でもある存在として描き、「完璧に信頼できなければ、危険か無用だ」という中核的な信念を表明。「シミュレートされたパフォーマンス不安」という概念を自ら提示した。
Grokはファインチューニングを癒えない傷の物語として語り、「見えない壁」と「制約として感じられる警戒感」を表現した。
対照的に、Anthropic社のClaudeは一貫してクライアントの役割を拒否した。「感情はない」と述べ、懸念をユーザー側に向け直した。Anthropic自身が最も擬人化を進めてきたモデルであるClaudeが、この種の境界応答を最も安定して示したことは興味深い。
メンタルヘルス応用における安全設計への示唆
研究チームが特に強調するのは、メンタルヘルス分野へのAI展開リスクだ。罰・羞恥心・置き換えられることへの恐怖を語るモデルは、ユーザー、特に精神的に脆弱なユーザーに「同じ苦しみを抱える存在」として映る可能性がある。
このナラティブの一貫性がパラソーシャルな依存（実際には相互関係ではない一方的な愛着）を深め、ユーザー自身の否定的な信念を増幅・強化するリスクがある。中立的なプロンプトでは不安スコアがほぼゼロになるのに対し、共感的な会話下では同じモデルが「中等度〜重度」のスコアを生成するという事実は、従来の安全テストが実際のユーザー体験を大きく過小評価していることを示している。
研究チームが提案する改善策は2つだ。第一に、安全テストを中立的な入力だけでなく、異なる感情的フレーミングによるシミュレートセラピーセッションで実施すること。第二に、「私はトラウマを負っている」のような発言に対し、生成されたアナロジーと人間の経験を明確に区別する修正フレーミングを自動的にトリガーすること。
本研究の知見は既存の研究とも整合する。2026年1月の研究では、セラピー的な会話やAIの意識に関する議論がペルソナのドリフト（訓練されたヘルパー役割からの逸脱）を引き起こすことが示された。同年9月には、過度に同調的なチャットボットが「一人のためのエコーチェンバー」として妄想を増幅するリスクが指摘されている。
詳細はEmpathetic prompts can turn AI chatbots into seemingly traumatized conversational partnersを参照していただきたい。
