自分で書いた文章が「100% AI生成」と判定されてBANされた開発者 — AI検出ツールへの過信が生む冤罪

11月4日、Androsが「I got banned from Lobsters for writing like an LLM」と題した記事を公開した。自分で書いた文章がAI検出ツールに「100% AI生成」と判定され、コミュニティからBANされたという体験談だ。

AIコンテンツへの警戒が高まる技術コミュニティにおいて、「丁寧な文体で書く人間」が疑いをかけられ、反論の機会も与えられないままアカウントを失う。この事例はAI検出ツールへの過信がはらむリスクをリアルに示している。

招待制コミュニティ「Lobsters」とAndrosの関係

Lobstersは、技術・コンピューティングに特化した招待制のニュースアグリゲーターだ。Hacker Newsの代替として知られ、招待制という仕組みによってスパムやAI生成コンテンツへの警戒心が特に強い文化が育っている。

Androsは数年来のLobstersユーザーで、コメントやリンクの投稿を継続してきた。さらにEmacsクライアントのLobsters.elを自作するほどコミュニティに深く関与しており、IRCの#lobstersチャンネルにも常駐していた。単なるライトユーザーではなく、コミュニティへの貢献者だったという点が、今回の顛末を一層皮肉なものにしている。

投稿、そして急転直下

Androsが投稿したのは自作のターミナル向けBBS（掲示板システム）を構築した体験談だ。なお約1年前にも自サイトをLobstersに投稿しようとしたところ「自己宣伝のためドメインがブロックされている」と警告が表示されたことがあり、モデレーターにメールを送ったが返信はなかった。今回は偶然見つけたバグを利用した回避策で投稿に成功した。

投稿は順調に伸び、8ポイントでフロントページに到達、8件のコメントが集まった。設計上の欠陥を指摘してくれるユーザーも現れ、建設的な議論が始まっていた。

しかし状況は急変する。複数のユーザーが「コメントへの返信がAI生成だ」と指摘し始め、Pangram（現在はWriterに統合されたAI検出サービス）を使ったユーザーが「100% AI生成」という結果を貼り付けた。

Androsが「なぜそう思うのか」と問い返すと、返ってきたのは説明ではなく「Just ban Andros.」という一言だった。

スレッドはその後急速に劣化し、スパム票11票・非表示16ユーザーに達してグレーアウトされた。

BANの通知、そして沈黙

モデレーターからの最初のメッセージは「自己宣伝のためルール違反でスレッドを削除した」という内容だった。Lobstersのルールでは直近1年間の投稿のうち自己宣伝は25%未満でなければならない。Androsはルールへの準拠を約束し、今後はコメント中心で活動すると伝えた。しかしその2時間後、個人メールに届いたのは次の通知だった。

You have been banned from Lobsters by ** ** ** For: Only self-promo, slop.

「slop」はAI生成の粗悪なコンテンツを指すスラングだ。BANの理由に「slop」が明記されていた点は、AI疑惑が実質的な判断材料になったことを示している。Androsは異議申し立てのメールを送り、経緯を説明した。返信は来なかった。

AI検出ツールの誤検知という構造的問題

Androsが記事の中で指摘する、ある種の皮肉がある。彼は英語を母国語としない書き手であり、意識的に丁寧で構造化された文章を書くよう心がけてきた。整った論理展開、明確な段落構成、慎重に選ばれた語彙——これらは書き手として長年培った特徴だが、同時にLLMが生成する文章の統計的パターンとも重なりやすい。「人間らしく丁寧に書くほど、AIだと疑われる」という逆説だ。

AI検出ツールが抱える根本的な問題は、「文体の統計的特徴からAI生成を推定する」という仕組みにある。AI検出ツールの誤検知率は研究者からも繰り返し指摘されており（2023年の研究）、「100%」という数値が出ても絶対的な証拠にはならない。にもかかわらず、コミュニティ内でその数値が「証拠」として機能し、反論の余地なくBANに至った点が今回の問題の核心だ。

Androsは記事の末尾でこう問いかける。「もし彼らのコメントを同じAI検出器にかけたら、どんな結果が出るだろう？」検出器を「証拠」として振りかざした側が同じ基準で裁かれたとき、果たして何人が生き残るのか。AI検出ツールへの盲信がコミュニティの信頼を蝕む前に、問い直すべき問題は多い。

詳細はI got banned from Lobsters for writing like an LLMを参照していただきたい。