10月27日、The Decoderが「Former Deepmind researcher thinks AlphaGo's playbook can cure AI hallucinations」と題した記事を公開した。2016年、AlphaGoがイ・セドルに放った「Move 37」——人間が打つ確率1万分の1とされたあの一手は、予測ネットワーク単体ではなく、それと組み合わされた体系的な探索によって生まれた。元DeepMind研究者のTore Graepel氏は、この構造こそが今日のLLMに欠けているものだと主張し、新スタートアップMetis Reasoningを立ち上げた。
AlphaGoの「Move 37」を生み出した仕組みをLLMへ
Graepel氏がNvidiaのGTC Berlin会議で発表した内容によれば、現在の言語モデルはAlphaGoの予測ネットワーク部分だけに相当し、探索のメカニズムが存在しない。Move 37は予測ネットワークが単独で導き出した手ではなく、碁盤という明示的な状態空間の上で体系的に探索を行ったからこそ発見できた。Metisはこの「探索の欠如」こそがLLMのハルシネーションの構造的な原因だと論じる。
「知識台帳」という設計思想
Metisのアプローチの核心は、明示的な知識台帳（knowledge ledger）の導入だ。これはAlphaGoにおける碁盤の役割——すなわち探索の状態を明示的に保持する基盤——を担う。
知識台帳は、何が既知か・その確信度はどの程度か・どの問いがまだ未解決かを継続的に記録する。推論の各ステップでは、独立した検証モジュールが新たな結論を計算・形式証明・実証的根拠と照合し、十分な根拠があると判断した場合のみ知識状態を更新する。ある前提が崩れた場合、それに依存するすべての結論が自動的に再評価される。これにより、誤った推論の連鎖が静かに積み重なる従来のLLMの振る舞いとは根本的に異なる透明性が生まれる。
「一手」（move）は、問い・実験・既存の前提への異議申し立てのいずれかで、元の問いに対する不確実性を最も減らすものが選ばれる。最終的な出力は「回答」か「根拠ある棄権（justified abstention）」だ。
AlphaGoと同様に、2つのニューラルネットワークが手の候補提案と評価を担うが、検証ルールを上書きする権限は持たない。
類似するアプローチとして、MicrosoftのGraphRAGがモデルの重みの外に知識グラフを構築し、GoogleのAlphaGeometry2が言語モデルと数学的証明を検証するシンボリックエンジンを組み合わせている。Metisはそれらを汎用的な現実世界の問題へ拡張しようとしている。
なぜスケーリングでは解決しないか
Metisの論文は、ハルシネーションがスケーリングで解決しない構造的な問題だと主張する。モデルは「正しいテキスト」ではなく「それらしいテキスト」を生成するよう学習されており、これは訓練プロセスそのものに起因する。さらに、現在の推論モデルが出力する思考の連鎖（chain of thought）は、実際の導出過程を正確に反映していないことがAnthropicの研究でも示されている。
この信頼性の欠如が、AIの経済的インパクトが限定的にとどまっている理由だとMetisは論じる。コードは実行して検証できるためソフトウェアエンジニアリングではAI活用が進んだが、医療・金融・チップ設計・ロボティクスでは誤りのトレースと知識の削除が困難だ。
このアーキテクチャは推論を細かいステップに分解するため、エッジデバイスやロボット上で動作する小規模モデルに向いている可能性もあるとされる。
現時点での限界
ホワイトペーパーが記述するのは研究プログラムの段階であり、動作するシステム・ベンチマーク・既存の推論モデルとの比較はまだ存在しない。
論文自身も課題を認めている。現実世界は囲碁と異なり部分的な情報しか得られない、証拠取得にはコストがかかる、そもそも答えのない問いも存在する。また、知識台帳の構築が現実の雑然としたドメインでどう機能するかは未解決だ。かつてのシンボリックAIが、知識をすべて手作業で入力しなければならなかった点で失敗した歴史を踏まえると、この点は最大の問いでもある。
DeepMindの「頭脳流出」が続く
Graepel氏はベルリンで機械学習の博士号を取得（2001年）。MicrosoftリサーチでXbox LiveのマッチメイキングシステムTrueSkillを開発後、DeepMindでAlphaGo・AlphaZero・MuZeroに携わった。その後Google DeepMindのpost-AGIチームを今夏退職し、University College Londonで機械学習の教授職も務める。Bloombergの報道によれば、Metisは数千万ドル規模のラウンドを調達中で、さらに高いバリュエーションでの数億ドル規模のフォローオンも準備中だという。
DeepMind出身者の独立は続いており、David SilverがIneffable Intelligenceを設立してヨーロッパ最大のシードラウンドを調達、Tim RocktäschelはAIスタートアップRecursiveを共同創業し評価額は45億ドルに達した。AlphaFoldチームはDeepMind内で解散し、ノーベル賞受賞者のJohn Jumperは同僚2名とともにAnthropicに移籍している。
詳細はFormer Deepmind researcher thinks AlphaGo's playbook can cure AI hallucinationsを参照していただきたい。
