11月8日、The Decoderが「The brain-as-computer metaphor shaped modern AI but may be misleading the consciousness debate」と題した記事を公開した。この記事では、著名な神経科学者・哲学者らが「現在のAIに意識はなく、シリコン上の計算で意識を再現できるという前提自体が誤りだ」と主張するNature誌のコメンタリーについて詳しく紹介されている。
「AIに意識はない」──Seth・Block・Tononiの主張
Nature誌に掲載されたコメンタリーに名を連ねるのは、意識研究の第一線に立つ3人だ。「Being and Brain」の著者でもあるAnil Seth（サセックス大学）、哲学者のNed Block（NYU）、そして統合情報理論（IIT）の提唱者Giulio Tononi（ウィスコンシン大学）である。
彼らの主張の核心は3点に整理できる。
1. 知性と意識は別物である
著者らは哲学者Thomas Nagelの定式化を引用し、「意識とは何かを感じるということだ」と定義する。対して知性とは機能を遂行することであり、両者は必ずしも一致しない。
その証拠として挙げるのが小脳だ。脳のニューロン総数の約80%を占め、精密かつ高速に運動を制御・学習する器官だが、その処理はすべて無意識下で行われる。小脳を除去しても意識は直接失われない。高度な情報処理能力と意識が無関係でありうることを示す事例だ。
LLMが意識を持つかのように見えてしまう原因についても、著者らは明確に説明する。「LLMは私たちの集合的なデジタルの過去を映す鏡だ」。人間の思考や感情を大量に記述したテキストで訓練されているため、あたかも内面があるかのように振る舞う。AlphaFoldはタンパク質構造を予測する同等のニューラルネットワークだが、ほとんど誰も意識を持つと考えない。その違いは、AlphaFoldが「話しかけてこない」という一点だけだ、と著者らは指摘する。
2. 「脳＝コンピュータ」という比喩の誤用
著者らが「致命的に欠陥がある（fatally flawed）」と断じるのが、計算的機能主義（computational functionalism）だ。意識は実装基盤に依存せず、情報処理のパターン次第だとする立場で、AI研究の多くはこの前提の上に成り立っている。
起源は20世紀前半にさかのぼる。1936年にAlan Turingが「十分に強力なコンピュータは原理上どんな計算も実行できる」と示し、1943年にWarren McCullochとWalter Pittsが人工ニューロンの数理モデルを構築した。これらが現代AIの礎になる一方で、「脳はたまたま肉でできた情報処理装置」という見方を広めた。
著者らは反論する。生物学的な脳では、「何をするか」と「何でできているか」を切り離せない。ソフトウェアとハードウェアを分けられるコンピュータとは根本的に異なる構造だ。脳の素材が機能に影響している証拠が一つでもあれば、計算的機能主義の説得力は損なわれる、と主張する。
3. 主要な意識理論がAIを排除している
Tononiが提唱するIIT（統合情報理論）は、意識が生じるためには物理的なシステムの構成要素が特定の形で緊密に結合している必要があると主張する。ある脳領域はこの条件を満たすが、小脳は満たさない。そしてディープラーニングシステムを動かすコンピュータの配線構造は、どれほど高性能でもこの条件を満たし得ないというのがIITの立場だ。
Butlinら19名の研究者が2023年に公開した「AIにおける意識」レポートは、14の指標を用いて現行AIシステムを評価し、「現時点の意識の有力候補はない」という結論ではSeth・Block・Tononiと一致する。ただしレポートは計算的機能主義を前提としていたため、IITを意図的に除外していた。今回のコメンタリーはその点を真正面から問い直している。
「意識の誤帰属」の方がはるかに危険
著者らの倫理的立場は明快だ。AIが意識を持つ可能性を前提に保護措置を講じる予防原則について、「不確実性は完全な無知ではなく、すべての可能性が同等に確からしいわけではない」として否定する。AIに意識を見落とすリスクより、存在しない意識を誤って帰属するリスクの方がはるかに高いと主張する。
この問題はすでに現実の被害を生んでいる。2022年、GoogleエンジニアのBlake Lemoineは会話AI「LaMDA」に感覚があると確信し、解雇された。チャットボットアプリ「Replika」のユーザーはデジタルの相手と深い感情的絆を築き、仕様変更のアップデート後に心理的危機に陥った。元記事はさらに深刻な事例にも言及しており、AIチャットボットとのやり取りが脆弱なユーザーに深刻な影響を与えたケースが報告されているとしている。
著者らの結論は端的だ。「デジタルAIシステムはオブジェクトであり、主体ではない。賢いツールであり、賢い人間ではない」。AIの福祉や権利を主張することは、実際に感じる能力を持つ存在から限られたリソースを奪うと訴える。
Anthropicは2025年4月にモデルの福祉に関する研究プログラムを立ち上げており、個別のClaudeモデルが虐待的な会話を終了できる仕様も導入した。ただしAnthropicはこれを「意識の承認ではなく、道徳的不確実性に対する低コストの予防措置」と説明している。
詳細はThe brain-as-computer metaphor shaped modern AI but may be misleading the consciousness debateを参照していただきたい。
