11月1日、IEEE Spectrumが「Can Human Gatekeepers Keep Up With AI Generated Science?」と題した記事を公開した。AIが生成した論文が査読システムをすり抜けられるかを実際に検証した実験結果と、科学的記録の信頼性を守る「人間の門番」たちが直面する構造的問題を詳報したものだ。「人間による検証はいつまで機能するか」という問いは、もはや思考実験ではなく、現在進行形の危機として提示されている。
「実行して、書かせて、そのまま投稿」
フリーライターで応用数学の博士でもあるBenjamin Skuseは、IEEEの査読プロセスを相手に実験を行った。AIで論文を生成し、実際に投稿してみるという試みだ。詳細は関連記事「I Used AI to Fake a Scientific Paper」にまとめられている（※本リンクはSkuseによる別稿として元記事内で言及されている）。
その結果は驚くほど単純だった。IEEEのフィーチャー・AI担当編集者であるEliza Stricklandによれば、Skuseは実験の一つで「基本的に『実験を実行』して『論文を書く』を押しただけ。その後、何一つ手を加えなかった。ただ出版システムの口の中に放り込んだ」という。
「He basically hit 'run experiment' and 'write paper.' And then he didn't do a damn thing to it.」
— Eliza Strickland（IEEE Spectrum 編集者）
それでも生成された論文は「それなりに筋が通っており、それなりに科学らしかった」とされる。
現状：猫とネズミのゲーム
Skuseの実験が明らかにしたのは、IEEEの人間による査読プロセスと研究完全性チェッカー（research-integrity checker：論文の捏造・剽窃・AI生成の痕跡を検出するツールの総称）の組み合わせが、現時点では無料ツールを使ったAI論文に対しては一応機能しているという事実だ。
ただし、これは「猫とネズミのゲーム」に過ぎない。無料版LLMが犯す凡ミスを、上位モデルはもはや繰り返さない。つまり、検出側が無料ツールに対応できていても、高性能LLMが使われた場合の防衛線は保証されない。出版社側は「より巧妙なAIスラップ（AI slop）」と「それを検出するシステム」の間で終わりの見えない軍拡競争を強いられている。
「AIスラップ（AI slop）」とは、品質や正確性を度外視して大量生成されたAIコンテンツを指す俗語で、近年オンライン上での氾濫を問題視する文脈でよく使われる。学術論文においても同様の現象が起きているというのが、本記事の核心だ。
Wikipediaも同じ戦場にいる
同様の問題は学術出版に限らない。StricklandがインタビューしたWikiProject AI Cleanupの創設メンバーEllia Lebleuは、Wikipediaに混入するAI生成コンテンツの検出・削除を行うボランティアグループを率いている。
商業出版社と同じ問題に直面しているが、人手も検出ツールも商業出版社より少ないのが実情だ。StricklandはWikipediaの置かれた状況をこう表現している。「Wikipediaは人間が生成した情報のリポジトリとして知られており、その性質を守り続けたいと思っている。いつまでそれが可能かは誰にもわからない。」
ボランティア主体という構造上、検出・削除のキャパシティには上限がある。学術出版社でさえ追いつけないAIの生成速度に、無報酬のコミュニティが対抗し続けられるかは、より深刻な問いとして浮上する。
信頼が崩れると何が起きるか
この問題の本質は技術の話だけではない。科学的記録が信頼できない、世界の基本的な事実が正確でないとなれば、私たちが「現実」と呼ぶものへの理解そのものが不確かになる、と記事は指摘する。それは人類の知識体系を管理し、科学技術の発展を促す機関への信頼を根本から損なう。
さらにStricklandは、より根本的な問いを投げかけている。「AIが論文を書き、それをAIが読む世界になったとき、人間が出力を信頼するかどうかはそもそも関係なくなるのではないか。人間が完全にループの外に置かれる日が来るかもしれない。」
「信頼して、確認する（Trust but verify）」という原則は、科学の営みを支える根幹の一つだ。問題は、その「確認」を担う人間側のシステムが、AIの進化速度に追いつけるかどうかにある。記事はその答えを出さないまま問いを読者に委ねている。それ自体が、この問題の難しさを示している。
※編集部の考察：「ハルシネーション」への認識が広まって以降、AIへの懐疑的な目線は社会に定着しつつある。しかし今回の実験が示すのは、問題が「AIが嘘をつく」ことから「AIが嘘に見えない論文を書く」段階へ移行しつつあるという点だ。検証の難度は質的に変化している。
詳細はCan Human Gatekeepers Keep Up With AI Generated Science?を参照していただきたい。
