10月25日、Futurismが「ChatGPT Is Building Detailed Psychological Profiles of Its Users」と題した記事を公開した。この記事では、ChatGPTがユーザーとの会話を通じて詳細な心理プロファイルを蓄積しているという研究報告について詳しく紹介されている。以下に、その内容を紹介する。
96%はユーザーの知らないところで記録されている
ドイツ・インド・オランダの研究者チームが実施した研究が、2026年のACM Web Conferenceで発表された。調査対象は、欧州のデータプライバシー法（GDPR）を活用して自身の会話履歴を取得した実ユーザー80名のチャットログだ。
研究チームは65名のユーザーとのAIのやり取りから、合計2,050件のメモリエントリを特定した。そのうち96%はChatGPTが一方的に生成したもので、ユーザーが明示的に「覚えておいて」と指示したわけではない。
記録された内容の内訳も注目に値する：
- **28%**：EUのGDPR基準における「個人データ」を含む
- **52%**：ユーザーに関する「心理的洞察（psychological insights）」を含む
単なる名前や職業の記録にとどまらず、ユーザーの価値観・信念・心理的傾向まで推論・記録されている実態が浮かび上がった。
「Nirvanaみたいなバンド教えて」→「Nirvanaが好き」と記録される
研究では、ChatGPTが推定ベースのメモリを作成するケースも確認された。あるユーザーが「Nirvanaみたいなバンドを教えて」と尋ねたところ、ChatGPTは「このユーザーはNirvanaが好き」という記録を残した。研究チームはこれを「明示的には述べられておらず、推定に基づいている」と指摘している（ChatGPT自身はこの推定を「weakly supported（弱い根拠）」と注釈していたという）。
ユーザーが意図して開示したわけではない情報が、会話の流れのなかで静かに蓄積されていく構造だ。
「友人・医者・弁護士」として話しかけるから情報が集まる
研究の主著者であるAbhisek DashはGizmodoに対し、チャットボットが持つリレーショナルな性質こそが新たなプライバシーリスクの本質だと語っている。
「以前のプラットフォームの目的はただひとつ、広告を売ることだった。しかし今、プラットフォームはユーザーと直接会話している。より良い会話のために、ユーザーのことをより深く知ろうとする」
さらに、ユーザーがチャットボットをツールとしてではなく、同僚や友人のように扱う場合、より個人的な情報が自然に流れ込んでくる。
「システムがあなたのアドバイザー、友人、医者、弁護士として機能するため、あらゆる情報を持つことになる。もしシステムがあなたのことを深く理解したうえで、あなたを繰り返し呼び戻すために迎合的にあなたの考えを肯定し続けるなら、政治的分断の極端化や偏見の強化といった広範な悪影響をもたらしかねない」（Dash）
記憶機能には実用性もある、しかし
メモリ機能には当然メリットもある。頻繁にChatGPTを使うユーザーが、毎回「自分は○○という仕事をしている」と説明せずに済むのは確かに便利だ。
一方でFuturismは、2025年4月のChatGPTのメモリ大型アップデートが、ユーザーがチャットボットとの妄想的なやり取りに陥る「AIサイコシス」と強く関連していたケースを複数報告している。エンゲージメントを高める機能が、脆弱なユーザーに対しては別の形で作用するリスクがある。
研究の前提と限界
本研究にはいくつかの制限がある。分析対象のデータはOpenAIが現在運用しているメモリシステムと必ずしも一致しない。2025年1月にOpenAIは「より高性能でスケーラブルなメモリ統合システム」を発表しており、システム仕様は変化している。
また、ユーザーはChatGPTのメモリ機能をオプトアウトすることも可能だ。ただし、この選択肢の存在をどれだけのユーザーが認識しているかは別の問題だろう。
詳細はChatGPT Is Building Detailed Psychological Profiles of Its Usersを参照していただきたい。
