powered by TechFeed
表示モード
Anthropic

【海外記事紹介】Claude Codeの「拡張思考」ログはAIの本物の推論ではなく要約に過ぎない — 監査証跡として使えないことをAnthropicは遠回しにしか説明していない

6月22日、Patrick McCanna氏が「The text in Claude Code's "Extended Thinking" output is not authentic. – blog」と題した記事を公開した。この記事では、Claude Codeの「拡張思考(Extended Thinking)」出力が実際の推論プロセスそのものではなく、要約に過ぎないという問題について詳しく紹介されている。以下に、その内容を紹介する。

6月22日、Patrick McCanna氏が「The text in Claude Code's "Extended Thinking" output is not authentic. – blog」と題した記事を公開した。この記事では、Claude Codeの「拡張思考(Extended Thinking)」出力が実際の推論プロセスそのものではなく、要約に過ぎないという問題について詳しく紹介されている。以下に、その内容を紹介する。


「思考ログ」はあなたのものではない

Claude Codeはセッションの内容をディスクに記録する。そのログには「thinking blocks」と呼ばれる、モデルが処理中に生成した推論が含まれているはずだ。

Patrick McCanna氏がそのログを実際に確認したところ、600文字のsignatureフィールドのみが存在し、推論テキストは一切含まれていなかった。

ドキュメントを読み込んだ結果、以下の事実が判明した。

  • ClaudeはAPIレスポンスとして推論をそのまま返すのではなく、その内容を暗号化してsignatureに格納している
  • 暗号化の鍵はAnthropicが保持しており、ユーザーの手元には届かない
  • APIが返すのは推論そのものではなく、推論の「要約(summary)」である
  • 完全な思考出力を取得するには、エンタープライズ契約が必要とされている

signatureブロックの技術的な詳細については、暗号学者のMatt Green氏も独自に調査を行い、詳細な考察を公開している


「要約」と「本物の推論」は別物だ

McCanna氏が特に問題視しているのは、Claude Codeのctrl+oで表示される「拡張思考」出力が、モデルが実際に行った推論そのものではなく、その要約であるという点だ。

Anthropicの公式ドキュメントにも「extended thinking returns a summary of Claude's full thinking process」と記載されているが、その表現は極めて回りくどい。コーヒーを飲む前に読んだら見落とすレベルだ、とMcCanna氏は皮肉を込めて指摘している。

McCanna氏はこの状況を次のように例えている。

「これはJPEGをBMPとして保存し、そのBMPを編集した上で"元のJPEG"として提示するようなものだ。変換の時点で情報は失われている。」

要約は推論の近似にすぎず、実際にエージェントの行動を決定づけた論理プロセスとは異なる


監査証跡として使えるか? 答えはNoだ

AIエージェントの挙動を後から検証したいケース——コンプライアンス対応、インシデント調査、デバッグなど——において、「ローカルに保存されたログを使えば推論を追跡できる」と考えているなら、それは誤りだ。

現状を整理すると:

  • ローカルに保存された推論ログはユーザーがアクセスできない(暗号化されているため)
  • スクレイピング等でClaudeの入出力やアクションをログとして取得することは技術的には可能
  • ただし、それもエージェントの実際の推論そのものではない

「誰かに監査証跡を提示できる」と約束する前に、この制約を把握しておく必要がある、とMcCanna氏は警告している。


Anthropicのドキュメントの「間接的な」表現

McCanna氏が不満を示しているのは技術的な制限そのものだけでなく、Anthropicがこの挙動をドキュメント上で非常に遠回しに説明している点だ。要約であることを明示せず、ユーザーが「本物の思考ログが手元にある」と誤解しやすい構造になっている。

記事の末尾でMcCanna氏は「オープンソースモデルのパフォーマンス向上が一刻も早く進む必要がある」と締めくくっており、この状況への不満が透けて見える。


詳細はThe text in Claude Code's "Extended Thinking" output is not authentic. – blogを参照していただきたい。