9月28日、MIT Technology Reviewが「When can we say AI made a scientific discovery?」と題した記事を公開した。この記事では、AIが「科学的発見をした」と言えるかどうかの基準をめぐる論争について詳しく紹介されている。
AnthropicのAI分子生物学ラボと「発見」の主張
今年初め、Anthropicは分子生物学ラボを立ち上げた。Claudeのエージェント群が難解な生物学的問題を読み解いて仮説を立て、人間の科学者がその出力をもとに実験を行うという体制だ。そして先週、Anthropicはこのラボが「初の発見」を成し遂げたと発表した。
具体的には、950のエージェントが21時間稼働し、既知の酵素を取り囲む繰り返しパターンを特定したというものだ。Anthropicはこのパターンについて「まだカタログ化されていない」とし、遺伝子編集技術CRISPRの発見につながった知見に「似ている」と表現した。CRISPRは現代の医学・農業・基礎研究に広く用いられている遺伝子編集技術で、2020年のノーベル化学賞の対象にもなっている。
「発見ではない」という生物学者の反論
この発表はすぐに複数の研究者からの異議を招いた。
あるCRISPR研究者がX（旧Twitter）に投稿した批判は急速に拡散し、製薬大手Eli LillyのCEOも支持を表明した。その投稿では、
「奇妙な遺伝子クラスターやリピートを見つけることは、しばしば簡単な部分だ。本当の発見は、そのシステムが実際に何をするのかを解明することから生まれる」
と指摘されている。つまりエージェント群がやったのは、実験室の下働き（grunt work）の一部にすぎないという評価だ。
さらに問題を複雑にしたのが、コペンハーゲン大学の生物学者Mario Rodríguez Mestreのコメントだ。New York Timesの報道によれば、Rodríguez Mestre氏は「自分のチームがすでにこのパターンを発見していた」と述べた。また、彼は日常的にClaudeを研究で使っていたため、Anthropicのチームが自身の会話から学習した可能性を疑っているという。Anthropicはこれを否定しているが、Rodríguez Mestre氏はClaudeの使用を全面停止すると表明した。
「ツール」か「発見者」か——問題の本質
この論争の根底にある問題は、AIをどう位置づけるかにある。
顕微鏡やスーパーコンピュータはツールであり、それを使って「顕微鏡が発見した」とは言わない。しかし今のAI企業は、自社システムが発見そのものを行っていると主張する。この枠組みが、本来は正当な成果であるものを毀損している。
記事では、20万の候補を数件に絞り込むという作業を例に挙げている。それ自体は決して些細な仕事ではなく、汎用チャットボットがそれをこなせるという事実は意義がある——人間が実験を主導し、結果を解釈するとしても。しかし「Claudeが発見した」という基準で評価するようになると、あらゆる成果が「breakthrough or bust（突破口か失敗か）」の二択論争に引き込まれてしまう。
OpenAIの数学問題でも同じ構図が
同様の事態は、直近のOpenAIをめぐる議論でも起きた。OpenAIは今月初め、自社のエージェントが100万ドル懸賞の数学問題を解いたと発表した。この問題はナビエ＝ストークス方程式に関するもので、流体の運動を記述する偏微分方程式の解の存在と滑らかさを問う問いだ。クレイ数学研究所が定めたミレニアム問題の一つとして100万ドルの懸賞が設定されており、未解決のまま数十年が経過している数学上の難問として知られている。
ところが数週間後、Scientific Americanが「OpenAIは本当に重要な問題を解いたのか？」と問う記事を公開し、AIに批判的な論者の間で拡散した。同記事は解答が「間違い」だとは主張していない。ただ、その解が数学者にとって最も重要な問いに答えるものではないかもしれない、と論じた。加えて、あるMITの数学者が「モデルが自分の研究を無断で使用した可能性がある」と指摘したことで、「不正か、さもなくば重要でない」という印象だけが残る結果となった。
基準を高く設定すべきという提言
批判の投稿を書いたCRISPR研究者のLucas Harrington氏（記事中で発言の経緯が紹介されている生物学者）は、記事の末尾でこう提案している。
「AIが本当に根本的に新しい生物学的メカニズムを発見したとき、誰もがそれがいかに大きな意味を持つかを理解できるよう、今のうちに基準を高く設定すべきだ」
しかし、OpenAIのSam AltmanとAnthropicのDario Amodeiが互いに成果を競い合う現状では、科学的発見の基準を引き上げることは二の次になっているかもしれない、と記事は指摘する。
詳細はWhen can we say AI made a scientific discovery?を参照していただきたい。
