9月18日、Matthias Bastianが「42 leading mathematicians warn that AI existential risk is real and urgent」と題した記事を公開した。この記事では、フィールズ賞受賞者を含む42名の著名数学者が、AIの実存的リスクを「現実かつ緊急」と警告する公開書簡を発表したことが詳しく紹介されている。
AIが「ミレニアム懸賞問題」を解いた、その先にある警告
数学界の重鎮42名が、英国王立協会（Royal Society）の会長宛に公開書簡を送った。署名者にはフィールズ賞受賞者のMartin Hairer、Peter Scholze、Wendelin Wernerが名を連ねる。全員がAI企業と無関係という点が、この書簡の独立性を裏付けている。
※ フィールズ賞：4年に1度授与される数学界最高峰の賞。ノーベル賞の数学版とも呼ばれる。
※ ミレニアム懸賞問題：クレイ数学研究所が2000年に提示した7つの未解決問題。各問題の解決に100万ドルの賞金が懸けられている。
書簡が出された背景には、直近3ヶ月間のAIの急激な能力向上がある。OpenAIとAnthropicの最新モデルは、数学界の「ミレニアム懸賞問題」のうち少なくとも1問（ナビエ＝ストークス方程式）を解いており、2問目（ホッジ予想）も解決に近づいているとされる。書簡はこれらのモデルが「数学の多くの分野でトップクラスの人間と同等のレベルに達している」と認定した上で、「同様の短期間で超人的能力を獲得する可能性が相当ある」と述べている。
「数学が解けた」ことが問題ではない
書簡が強調するのは、AIの数学的能力そのものへの懸念ではない。数学を解けるモデルと同じ能力向上のペースが、他の分野でも起きると想定しなければならない、という点だ。
具体的に挙げられているのは以下の領域だ：
- サイバーセキュリティ
- 自律型兵器の制御
- 生物・化学兵器の開発支援
- ターゲット型の偽情報拡散
これらはいずれも、人間社会の安全保障に直結する領域である。
さらに書簡は、AIラボ自身が示してきた「実存リスクが10%超」という推計値を「誇張として切り捨ててはならない」と明記している。そして「状況が一般市民に明らかになる頃には、手を打つには手遅れかもしれない」と締めくくっている。
数学者たちが王立協会に求めること
書簡の宛先が政府でも国連でもなく、英国王立協会（The Royal Society）であることは意図的だ。王立協会は1660年創設の英国最古の科学アカデミーであり、自然科学分野で世界最高水準の権威を持つ独立機関として知られる。科学コミュニティ自身が政府とメディアに対して警鐘を鳴らす役割を担うべきだ、という主張であり、署名した数学者たちは、王立協会がその声明を公的に発信する立場にあると判断している。
なお、AI界隈でも本書簡への反応は賛否が分かれている。数学者の間では以前から「AIの普及が数学的思考を浅くしている」という懸念も存在しており、the-decoderはその議論を別記事で取り上げている。こうした文脈を踏まえると、今回の書簡は単なるAI脅威論ではなく、「AIの能力向上を最も冷静に評価できる立場の人々」による警告として受け取るべきだろう。一方で「数学の能力が他領域に直接転用できるとは限らない」という懐疑論も根強く、議論は続いている。
詳細は42 leading mathematicians warn that AI existential risk is real and urgentを参照していただきたい。
