11月18日、Jason Koeblerが「The Department of Justice Is Using AI Detector Pangram Against Defense Attorneys」と題した記事を公開した。「AIスロップ」という言葉が連邦裁判所の公式書面に登場した——AI生成の粗悪なコンテンツを指すこの俗語が、今や司法省の検察官が弁護側を攻撃する武器として機能している。AIが幻覚で実在しない判例を引用した弁護士が叱責される事件が注目を集めてきたが、今回はさらに一歩踏み込んで、AI検出ツールそのものが訴訟戦術として持ち込まれた。
DOJが「AI検出ツール」を法廷戦術として使用
テキサス州北部地区連邦裁判所で審理中の選挙詐欺事件において、DOJの検察官が弁護側の準備書面をAI文章検出サービス「Pangram」にかけ、その結果を証拠として提出した。検察官は書面の中で「この事件はDefense by ChatGPTと化した」「AIが弁護士業を行おうとするロボットが生成した文書への回答を強いられている」と記し、弁護側の書面を「AIスロップ」と断じた。
「スロップ(slop)」とは、2024年ごろからAI生成コンテンツ批判の文脈で広く使われるようになったインターネットスラングで、粗製濫造されたAI出力物を指す。その言葉が連邦裁判所の公式書面に登場した事実自体、司法現場のAI問題がいかに急速に深刻化しているかを示している。
事件の被告はKhalwinder Bhengura(70歳)。2022年に移民ビザで渡米したインド人で、2024年に運転免許証の申請時に米国市民と誤記し、テキサス州で有権者登録をした。英語がほとんど話せず、弁護側は「本人は違法行為だと認識していなかった」と主張している。10月に3つの訴因のうち2つで有罪評決が出ており、現在も収監中で強制送還を待つ身だ。トランプ政権はこの事件を選挙不正の象徴的事例として大々的にアピールしている。
Pangramの検出結果は「混合」だったが、DOJは意に介さず
DOJが証拠として提出したPangramの検出結果は、書面が100%AI生成であることを示すものではなかった。Pangramをはじめとする現行のAI検出ツールは、テキストの統計的パターンや語彙の確率分布を分析して「AI生成らしさ」をスコアリングするアプローチを採るが、その性質上、人間の書いた文章を誤検知したり、AIと人間の混在した書面を明確に分離できないケースが多い。AI検出ツール全般の信頼性は研究者の間でも一貫して疑問視されており、決定的な証拠として扱うには根拠が薄い。それでも検察側は「弁護側の書面において人間が実質的に執筆した部分は証拠や判例の引用だけであり、弁護チームが独自に書いた部分はほぼ皆無に見える」と主張し、「根拠のない申立てに対して全力で応答する義務はない」とまで言い切った。
Pangram CEOのMax Speroは404 Mediaに対し、「法律事務所での主な利用ケースは、自社のジュニア弁護士やパラリーガルが書面作成にAIを使っていないかチェックする社内利用だ」と語った。DOJのような形で相手方への攻撃材料として使われるケースは想定外だったことがうかがえる。
判事も弁護側を叱責、しかし事情は複雑
担当のMark Pittman判事は弁護側に対し、「本法廷は、表面上は説得力があるが根本的に根拠のないAI生成の主張を繰り返し提出したことに憂慮している。被告には3名の弁護士がおり合計で数十年の経験がある。AIの登場がこれほど早く弁護士の代理能力を損なうとは」と批判した。
一方、弁護人のMario Herreraはその背景を404 Mediaに説明した。共同弁護人のNicole Knoxが検察との協議中に医療緊急事態に陥り、Herreraは急遽4日間で連邦陪審裁判を単독で準備することになったという。「あの1週間はAIを使ったからこそ、4日間で膨大な作業を並行してこなせた」と述べている。
Herreraはまた、Pangramの限界も指摘した。「AI検出ソフトはライティングスタイルのパターンを識別するだけで、誰が書いたか、どのように書かれたか、適用された法律が正しいかどうかは判定できない」。さらに、「検察は虚偽の判例引用を一件も指摘していない」とも語った。
Knoxは「AIは私たちの主張を考えつかなかった。AIを1文でも使えば開示義務が生じる新ルール下で、私たちは何も隠していない」と述べた。
AI開示ルールが「対立の火種」に
テキサス州北部地区連邦裁判所は、生成AIの利用を書面に開示することを義務づけるルールを最近導入した。弁護側はこれに従い一部書面に「生成AIツールの支援を受けて作成した部分がある」と明記していた。この開示義務がかえって、相手方への攻撃材料を提供する形になった。
過去数年、AIが幻覚を起こして実在しない判例を引用した弁護士が判事に叱責される事件が相次いできた。代表的なものとして、2023年のMata v. Avianca事件がある。この事件ではChatGPTが生成した架空の判例を弁護士が申立書に引用し、連邦判事から制裁を受けた。司法現場のAIリスクとして広く知られるようになったこの種の「幻覚引用」問題が、今度は「AI検出ツールによる相手方攻撃」という新たな局面を生み出しつつある。
Bhengura事件は、AIを使った法廷戦術が「誰がAIを使ったか」という泥仕合に発展した初期の事例として記録されることになる。開示ルールの整備が進むほど、その開示情報自体が攻撃材料になる——この逆説は、司法制度がAIとどう向き合うべきかという問いをより根深いものにしている。
詳細はThe Department of Justice Is Using AI Detector Pangram Against Defense Attorneysを参照していただきたい。




