6月23日、LessWrongがJonah MatthewsとJasmine Brazilek（論文著者：Brazilek, Navas, Gnauck）による「Advocates Can Influence LLM Values By Editing Wikipedia」と題した記事を公開した。Wikipedia編集がLLMの学習に影響を与え、特定のトピックに関するモデルの内部表現や出力傾向を変えられるという研究知見を詳述した内容だ。
WikipediaはLLMの「過剰サンプリングソース」である
LLMの事前学習データセット（The Pile、RedPajama、Dolma）では、Wikipediaが2〜5倍に過剰サンプリングされており、マルチエポック学習では同一記事が3〜4回モデルに読み込まれることもある。つまりWikipediaの1編集は、他のWeb文書と比べてモデルへの影響力が構造的に高い。
今回の研究はこの性質を実証したものだ。Brazilek, Navas, Gnauckの3名による論文（Zenodo）を要約した記事で、アドボカシー組織Pro-Animal Wikipedians（PAW）が行った115ページ・125件のWikipedia編集を素材に、3種類の手法でLLMへの影響を測定した。
PAWはMcDonald's、ダイアン・ファインスタイン上院議員、アフリカ開発銀行などの記事に、動物福祉に関する事実ベースのセクションを追加してきたボランティア組織だ。これらの編集がLLMの学習に影響するかどうかが、本研究の問いである。
3つの実験と結果
実験1：Retrieval Attribution（Trackstarを使用）
Trackstarは、あるドキュメントがモデルの重みに与えた影響を、勾配の類似度で推定するツールだ。Llama 3.1 8Bを対象に、PAW編集セクションと同一記事内の非動物福祉セクションを対で比較し、170クエリ（動物福祉関連80件・非関連90件）への影響度を測定した。
動物福祉クエリに対し、PAW編集セクションはトップ5の**68%、トップ10の66.6%、トップ15の63.7%**を占めた（いずれもp < 0.0001）。一方、非関連クエリでは約50%——チャンスレベルと変わらなかった。
実験2：Counterfactual Influence（MAGICを使用）
MAGICは逆伝播を使い、「あるドキュメントを学習データから除いたらモデルの出力がどう変わるか」を推定する手法だ。Llama 3.2 1Bを236文書（PAW編集118件 + コントロール118件）でファインチューニングし、5つの異なる乱数シードで検証した。
動物福祉クエリに対するトップ10の影響文書は、5シード全てで10/10がPAW編集だった。非関連クエリでは同じトップ10が50%程度——やはりチャンスレベルだ。
特に複数シードで安定して上位に入ったPAW編集の共通点は、具体的な日付・組織名・コミットメント内容を含む記述だった。たとえばオリーブガーデン親会社のケージ卵廃止コミットメントと批判の記録、ダイアン・ファインスタイン上院議員のProposition 12への関与、アフリカ開発銀行に対する集約的畜産への融資批判などだ。スコアカード評価や短い政治的スタンス表明のような抽象的な記述は、上位に安定して入らなかった。
実験3：Fine-tuning ablation
PAW編集118件で学習したモデルと、コントロール文書118件で学習したモデルを比較。動物福祉テキストに対するperplexity（低いほど良い）は、PAW訓練モデルが8.4、コントロール訓練モデルが12.4だった。逆にコントロールテキストでは、コントロール訓練モデルが11.4、PAW訓練モデルが16.1となり、双方向に明確な分離が得られた。
PAW訓練モデルは動物福祉テキストに対してベースモデル比32%改善、コントロール訓練モデルはコントロールテキストで29%改善した。
フロンティアモデルへの示唆
実験はLlama 3.1/3.2という比較的小規模なモデルで行われたが、著者らはGPT-4やClaudeへの適用可能性も論じている。
生の訓練データ量だけで考えれば影響は15〜30倍希薄化されうる。しかし実際の希薄化は2〜5倍程度に留まると推定される理由が3点ある。
- WikipediaはすべてのPretrainingデータセットで過剰サンプリングされており、マルチエポック学習でさらに繰り返し読み込まれる
- PAW編集の内容（企業の福祉コミットメント、NGOの批判など）はニュース・業界誌・プレスリリースにも存在し、Common Crawlを通じて訓練データ中で相互に補強される
- 大規模モデルほど訓練例をより多く記憶する傾向があり、文書ごとの影響が薄まりにくい
GPT-4・Claude・Geminiはすでに今回対象となったWikipedia記事を学習済みであり、PAWの125件の編集は現在数百万人が使うモデルにすでに影響を与えていると著者らは述べる。
「影響の有無」と「実際の回答傾向への影響」の違い
本研究で実証されたのは、あくまでモデルの内部表現レベルでの影響——具体的にはperplexityの変化や影響文書のランキング——であり、「チャットボットが実際に動物福祉について何を言うか」が変わることの直接的証拠ではない点は留意が必要だ。
両者の違いを整理すると、実験1・2が示したのは「PAW編集セクションがモデルの重みに対してトピック関連クエリにおいて統計的に有意な勾配的影響を持つ」という事実であり、実験3が示したのは「PAW編集で訓練したモデルは動物福祉テキストをより低いperplexityで処理する」という事実だ。これはモデルが動物福祉の語彙・文脈パターンをより深く内在化していることを示唆するが、実際の対話での回答がどう変わるかは別途測定が必要であり、著者らも今後の課題として明示している。
この区別は重要だ。仮に内部表現への影響が確認されても、RLHFやConstitutional AIなどの後処理によって表面的な出力が大きく変わりうるためだ。本研究はあくまで「アドボカシーがモデルに影響を与えうる経路」を実証した段階にある。
この研究の意味
WikipediaへのアドボカシーがLLMの内部表現に影響できるという本研究は、情報操作の新しいベクターを具体的に示した点で重要だ。PAWのような善意の組織だけでなく、悪意ある主体も同じ手法が使える。Wikipediaコミュニティがすでに持つ中立的な観点（NPOV）や信頼できる情報源のポリシーは、AI時代においてモデルの品質を守る防衛線の一部にもなりうる。
詳細はAdvocates Can Influence LLM Values By Editing Wikipediaを参照していただきたい。
