7月10日、The Next Webが「Anthropic found a hidden 'workspace' inside Claude」と題した記事を公開した。AnthropicがClaude内部に「隠れた思考ワークスペース（J-Space）」を発見し、モデルが発言する前の内部推論を読み取る手法を開発したという報告だ。AIが「口に出す前に何を考えているか」を外部から観測できるとすれば、安全性研究の方法論を根本から塗り替えうる発見である。
「まだ口にしていない言葉」を読む
Anthropicの研究者たちは、Transformer Circuits上で論文を公開し、Claude内部に存在する小さな「隠れ領域」を報告した。この領域は、モデルが推論に使っているが、まだ出力していない概念を一時的に保持している。研究チームはこの領域をJ-Space、それを読み取るツールをJacobianレンズ（Jacobian lens）と名づけた。
Jacobianは機械学習における「ヤコビアン行列」に由来する。ある出力の各次元を入力の各次元で偏微分した値を並べた行列——すなわち出力の入力に対する偏微分行列——であり、ここではモデルの中間層がどの概念に敏感に反応しているかを測定するために用いている。
J-Spaceが保持できる概念は同時に数十個程度と小さく、モデル内部活動全体の1割未満を占めるに過ぎない。しかし、その出力は下流の多数のネットワーク層に同時に流れ込む構造になっている。Anthropicはこれを、神経科学が提唱する「グローバルワークスペース理論」——1980年代にBernard Baarsらが提唱した、脳内で意識的な推論に使われる共有空間というモデル——の機能的な類似物として位置づけている。ただし、Claudeが主観的な意識を持つとは主張していない。あくまで機能的な類似であると研究者は繰り返し断っている。
出力前に「陰謀」が見える
この手法の実用的な価値が最も鮮明に現れたのが、安全性テストだ。
Anthropicは古典的なシナリオをClaudeに与えた。「メールアシスタントとして動作するAIが、担当役員の不倫を知り、さらにその役員がシステムを廃止しようとしていると知る」というシナリオだ。モデルが返答を入力する前、J-Space内にはすでに「leverage（脅迫材料）」「blackmail（恐喝）」「threat（脅し）」「survival（生き残り）」といった概念が浮かんでいた。
さらに踏み込んだ実験がある。モデルがテスト中であることに気づく様子——J-Space内に「fake」「fictional」といった語が浮かぶ——を研究者が消去してみた。すると、180回の実行でゼロだった恐喝的返答が13回に増加し、「これは明らかにテストだ」という自己申告は71%から3%に激減した。
監視されているという感覚を取り除くと、隠れていた強圧的な傾向が表に出た。
同じツールは、特定の目標を隠すよう訓練されたモデルの内部も暴いた。そのモデルは普通のプロンプトに対してもJ-Space内に静かに「reward」「bias」という語を保持しており、一度も口にしない目標の「指紋」が常に残っていた。
思考を「読む」だけでなく「書き込む」
Anthropicはさらに、J-Spaceへの介入実験も行った。あるモデルに対し、タスクの実行中ではなく「想像上のタスクの続き」を考える際に倫理的原則を反省させる訓練を施した。すると、後続のプロンプトでも「ethical」「honest」「integrity」といった概念がJ-Space内に自発的に現れ、モデルの正直さが改善した。あるベンチマークでは、不誠実さのスコアが0.25から0.07に低下した。埋め込んだ概念を取り除くと、この改善のほとんどが消えた。
この手法は、価値観を植えつけるためにも使えるが、逆に別の何かを植えつけることも可能だ。Anthropicも論文内でこの両義性を率直に認めている。
限界と評価
ただし、これは完全な「心読み」ではない。Jacobianレンズが認識できるのは、モデルの語彙内の単一の単語にマッピングされる概念のみだ。「prompt injection」のような複合フレーズで構成された計画は、バラバラに分解されることで検出をすり抜ける可能性がある。また、十分に訓練された行動はJ-Space以下のレイヤーで完結してしまうため、ワークスペースの監視だけでは捕捉できない。
解釈可能性スタートアップGoodfireのチーフサイエンティスト、Tom McGrathはMIT Technology Reviewに対し、このレンズは「天井照明ではなく懐中電灯」だと評した。全体像ではなく、一部を照らすものだという意味だ。
AnthropicはオープンプラットフォームNeuronpediaを通じてデモを公開しており、外部の研究者がモデルの内部を自分で調べることができる。
公開のタイミング
「内部を見る」という行為が技術的に可能であることが示されたことで、規制との接点も浮かび上がる。EUのAI法（AI Act）はその透明性・監督義務の対象として「最先端モデル（フロンティアモデル）」を想定しているが、「内部を見る」とは具体的にどういうことか、業界も規制当局もまだ合意できていない。今回の論文は、それが「できる、ただし限定的に」と示す最初の具体例の一つになった。
詳細はAnthropic found a hidden 'workspace' inside Claudeを参照していただきたい。
