6月22日、New Scientistが「People training new AI models admit they just get chatbots to do it」と題した記事を公開した。AIモデルの訓練データを人手で作成する仕事に就いた労働者たちが、ChatGPTなどのチャットボットを使って作業を代替させている実態について詳しく報じている。
「高品質な人間データ」のはずが、AIが作っていた
現代の大規模言語モデル（LLM）の多くは、インターネットからスクレイピングしたテキストで訓練されている。しかしモデルが大型化するにつれ、データ量の不足が課題となってきた。Common Crawlなど既存のウェブコーパスは事実上使い尽くされつつあるという指摘は以前からあり、AI企業は新たなデータソースを求め続けてきた。
その解決策として台頭したのが、人間の労働者に会話やテストを実施させて「高品質な訓練データ」を生成する手法だ。RLHF（人間のフィードバックによる強化学習）に代表されるこのアプローチは、モデルの出力を人間の価値観や指示に沿わせるうえで重要な役割を果たしてきた。OpenAI、Google、Metaなど主要なAI企業が広くこの手法を採用している。
ところがNew Scientistに証言した複数の労働者によれば、この「人間が作るデータ」の中身は、実際には別のAIが生成したものである場合が多い。
低賃金・短期契約が生む構造的な抜け穴
証言者のひとり（本記事では仮名アリスとする）は、自身がChatGPTを使って訓練タスクをこなしていることに「まったく罪悪感はない」と述べる。理由は明快だ。
「もし高品質なデータが欲しいなら、高品質な契約を提示すべきだ。それをせず、苦境にいる人を最低限の期間だけ雇って、プロジェクトが終わったら何の通知もなく切り捨てる」とアリスは語る。
AI訓練の労働者は多くの場合、AI企業の直接雇用ではなくサードパーティ経由の低賃金・短期契約という形態をとる。このコスト構造が、作業を短縮したいという動機を生み出し、ポリシー違反と知りながらチャットボットを使う行為を広げている。
発覚を避ける手口も洗練されている。アリスによれば、AIらしい文体の特徴——たとえばem-dashの多用——を排除するよう指示するだけで、検出をすり抜けられる。「捕まるのは最も粗雑なユーザーだけ。AIの特徴を少し把握していれば、出力にそれを含めないよう指示できる」とアリスは言う。
監視ツールで発覚する例も
別の証言者（仮名ボブ）は、Scale AI傘下のプラットフォーム「Outlier」での経験を明かす。最初は自身もAIを不正利用していたが、その後リーダー職に昇進し、今度は他の労働者を監視する側に回った。
Outlierでは「Hubstaff」というツールがデスクトップのスクリーンショットをランダムに撮影し、作業状況を確認する。ボブはそのスクリーンショットからAI利用の痕跡を探した。「ChatGPTを別タブで開いていたり、タスクバーに最小化されていたりするのが見えた。デスクトップのフォルダ名が証拠になることもあった」と彼は言う。
管理側の対応は一貫せず、「軽い容認から全面禁止まで揺れ動いていた」とボブは証言する。OutlierおよびScale AIはNew Scientistの取材に回答していない。
「モデル崩壊」リスクと現実的な影響
AIが自分自身の訓練データを生成するこの構造は、研究者が「モデル崩壊（model collapse）」と呼ぶ現象を引き起こすリスクをはらんでいる。AIが再帰的にAI生成コンテンツで訓練されると、モデルの能力が急激に低下するという現象で、「AIカニバリズム」や「AIインブリーディング」とも呼ばれる。この問題は2023年にNatureに掲載されたShumailovらの論文「The curse of recursion: Training on generated data makes models forget」によって広く注目されるようになった。同論文は、AI生成データのみで訓練を繰り返すと統計的な多様性が失われ、モデルの出力が劣化することを実証している。
バーミンガム大学のマーク・リー氏は、現時点では完全な崩壊には至っていないと見る。「人間のデータが10%程度あれば、崩壊は回避できる」とリー氏は述べる。
ただし、影響がゼロではないことも強調する。「壊滅的というより、AIが人間らしいタスクをこなす能力が徐々に低下していく。モデルが本来の能力を発揮できなくなるという点で、これは問題だ」。
当事者も気づいている矛盾
もう一人の証言者（仮名キャロル）は、当初は長大なガイドラインへの違反をチェックするためにLLMを使い始め、気づけば作業全体をAIに依存するようになったと語る。訓練タスクとしてシナリオを作成する際は「別のLLMでシナリオを作り、さらに別のLLMで添付ファイルを作る」という手順を踏んでいるという。
「自分がAIを悪化させているのではないかと心配している。モデルが自分自身を訓練するために使われるなら、その価値が失われると思った」とキャロルは認める。
訓練データの品質管理という課題は、モデルのアーキテクチャや計算資源とは別次元の問題として、AI開発の根幹を揺さぶっている。低賃金・短期契約という労働構造が、AI企業が最も避けたいはずのモデル崩壊リスクを自ら招いているという皮肉な構図が、今回の報道で浮き彫りになった。
詳細はPeople training new AI models admit they just get chatbots to do itを参照していただきたい。
