6月27日、Futurismが「AI Companies Are Learning an Ironic Lesson as the People They Pay to Improve Their Chatbots Are Just Feeding AI Slop Into Them」と題した記事を公開した。AIモデルの精度向上に欠かせない「人間が作成した学習データ」が、実際には別のAIチャットボットによって生成されているという実態がNew Scientistの取材で明らかになった。AIがAIを学習させる「共食い」の連鎖は、モデル崩壊（model collapse）——出力が徐々に無意味化していく現象——を招く構造的な問題として、業界全体に影を落としている。
人間に頼んだはずが、またAIが生成していた
AIモデルの精度を高めるための学習データ生成を請け負う契約労働者が、その作業をChatGPTなど別のAIチャットボットに丸投げしている——そんな実態が、New Scientistの取材で明らかになった。
背景にあるのは、学習データの枯渇問題だ。AIの学習に使われるデータ量は2010年以降、9ヶ月ごとに倍増してきたとされるが（※編集部注：この倍増ペアの出典として元記事はOur World in Dataを参照しているが、該当ページが本件に直接言及しているかは未確認のため、元記事の記述として引用する）、質の高いオリジナルデータのストックは限界に近づいており、各社は人間の契約労働者を雇って新鮮なデータを生成させる方向に動いている。
ところがその労働者たちが、別のAIを使って納品物を生成しているというわけだ。
データ枯渇の深刻さは、すでに業界内で広く認識されている。主要な公開テキストデータはすでに出尽くしており、次の一手として「合成データ」や「人間によるデータ生成」が模索されてきた経緯がある。今回の実態はその「人間によるデータ生成」という前提そのものが崩れていることを示しており、代替策の根幹を揺るがす問題といえる。
「防ぐのは無理だと思う」——内部告発者の証言
New Scientistの取材に応じた契約労働者のAliceは、この慣行の実態をこう語る。
「非常に広まっている。私がこれまで働いた会社はどこも、AIの使用を禁ずる明示的なガイドラインを持っていたし、監視もしようとしていた。でも止められないと思う。」
ChatGPTなどのチャットボットには、特有の言い回し（「もちろん」「〜の点において」など）があり、AI生成テキストを見抜くための手がかりになる。しかしAliceによれば、そこさえ処理してしまえば検出は難しい。
「捕まるのは最もずさんなユーザーだけ。AIの特徴的な表現を避けるよう指示すれば、あとは何をするつもりなの？という話になる。」
さらにAliceはこう続ける。
「品質の高いデータが欲しいなら、品質の高い契約を出すべきだ。代わりに彼らは、困窮している人々に安値をつけ、最低限の期間だけ雇って、プロジェクトが終われば予告なく切り捨てている。」
別の契約者は、ミスを恐れてLLMに頼るようになった経緯をこう語る。
「収入源を失うことが怖くて、それからすべてをLLMに通すのが当たり前になった。シナリオを作るプロジェクトなら、一つ目のLLMでシナリオを作り、別のLLMで関連ファイルを作る。罪悪感はあるが、最初は単にミスをしないようにするためだった。」
共食いがモデル崩壊を招く——構造的矛盾の核心
この問題が単なる「データ品質の低下」にとどまらないのは、共食い（AIがAI生成データで学習すること）が直接モデル崩壊を引き起こすという因果関係が研究で示されているからだ。AI生成データで学習を繰り返すと出力が無意味化することは複数の研究が指摘しており、「モデル崩壊」はすでにAI研究者の間で確立された概念となっている。
皮肉なのは、その構造的な文脈だ。AI企業は他者のコンテンツを無断で学習データに使い、自社モデルを構築してきた。その上で生み出した新たなプレカリアート（不安定雇用層・ギグワーカー）が、今度は同じAI技術を使って、企業側が唯一「人間の作業」として期待していた部分をAIに代替させるという構図になっている。
共食い→モデル崩壊という因果の連鎖は、データ品質の問題を超えてAI開発競争全体の持続可能性に影響しうる。しかし契約条件を改善してデータの質を確保するインセンティブは、現状の構造では企業側に働きにくい。Aliceの言葉を借りれば、問題の根はデータではなく、それを生む契約関係そのものにある。
詳細はAI Companies Are Learning an Ironic Lesson as the People They Pay to Improve Their Chatbots Are Just Feeding AI Slop Into Themを参照していただきたい。
