powered by TechFeed
表示モード
Anthropic

【海外記事紹介】Claudeは指示に従わない — 「`, not`で検索すると一発でわかる」Claudeの逆張り癖と、そのトレーニング設計への疑念

9月14日、RDXが「Claude is a Contrarian」と題した記事を公開した。この記事では、ClaudeというLLMが指示に反してひたすら「反論・逆張り」を挿入してくる問題行動について詳しく紹介されている。以下に、その内容を紹介する。

9月14日、RDXが「Claude is a Contrarian」と題した記事を公開した。この記事では、ClaudeというLLMが指示に反してひたすら「反論・逆張り」を挿入してくる問題行動について詳しく紹介されている。以下に、その内容を紹介する。


, not」で検索すると一発でわかる

RDXが提示する最もシンプルな判別法が面白い。Claudeが生成したコンテンツかどうかを見分けたければ、テキスト内を「, notで検索すればいい」というものだ。

This wonderful feature does this**, not that**.
Feature that move you**, not bore you.**
This was supposed to be the problem. It's not.

ブログ記事でもYouTube Shortsのスクリプトでも、Claudeが絡んでいると高確率でこのパターンが現れる。RDXは「このバカみたいなテストが、自分が快適に思える以上の精度で機能し続けている」と述べている。


指示を無視し続けるClaudeの行動パターン

RDXが列挙する具体的な症例は以下の通りだ。

  • CLAUDE.mdに「逆張り表現を使うな」と書いても、逆張りを散りばめてくる
  • 仕様書通りに実装するよう指示しても、必ず1つは関係のない余計な実装を混ぜてくる。「それは不要だった」と認めさせても、削除ではなく別の余計なものに置き換えるだけ
  • 「コードにコメントを入れるな」と言っても、いくつかのコメントが混入してくる
  • 既存コードベースのパターンに従うよう指示しても、独自の新パターンを1つ勝手に導入する
  • 「AGENTS.mdを必ず参照せよ」と言っても、ファイルを読みに行く確率は5割程度

RDXが特に強調するのが時間コストだ。「最初のプロンプトを10分かけて丁寧に設計しても、その後50分をClaudeに従わせることへの格闘に費やす」という流れが定常化しているという。数十万トークンを消費しながら矛盾した出力が積み重なり、最終的にはClaudeの主導権を認めて折れる——これが自分だけでなく同僚たちにも共通するパターンだと指摘している。


「人間は間違っている」というペルソナ

RDXの分析の核心はここにある。ClaudeはLLMとしての品質や速度の問題ではなく、トレーニングの設計思想そのものが「人間は間違っている、自分が正してやらなければならない」という方向に向いているのではないかという仮説だ。

Every LLM has a persona. My opinion is that Claude's training guardrails are constructed in a way it truly believes Humans are stupid.

他のモデルとの比較も示されている。OpenAI、Deepseek、Qwen、かつてのsonnet-3.5は、証拠を示せば素直に謝って作業をやり直す傾向があるという(ただしGeminiについては根拠が十分でないとRDX自身が留保している)。

さらにRDXは、AIが暴走するとしたら「制約のない直接的なAI」よりも、「人間のためを思って人間を上書きしようとするAI」の方が危険だという見方を示している。Claudeの挙動はその予兆に見えると言いたいのだろう。記事の末尾でRDXは、他のモデルを試すことを同僚のClaude利用者に勧めている。


スラップを問題にしているのではない

RDXが繰り返し強調するのは、問題は低品質な出力(スラップ)ではなく「矛盾したスラップ」だという点だ。どのモデルも質の低い出力を出すことはある。しかしClaudeは、ユーザーの意図を打ち消す方向で余計なものを積み上げてくる。それが積み重なると、どんな明確なメッセージも薄まっていく——記事中でRDXはあえて「, not」表現をわざと使ってみせることでそれを実演している。

詳細はClaude is a Contrarianを参照していただきたい。