powered by TechFeed
表示モード
主要ニュース

「一世代の研究者がAIの発展を遅らせた」— Sam AltmanがLLMスケーリング懐疑論者に異議を唱える

6月21日、The Decoderが「Sam Altman says a whole generation of researchers held AI back by underestimating what scaling could do」と題した記事を公開した。OpenAI CEOのSam Altmanがスタンフォードでの講演でLLMスケーリング懐疑論を真正面から退け、「一世代の研究者たちがAIの発展を遅らせた」と踏み込んだ見解を示した。スケーリング則をめぐる業界の論争が改めて注目を集めている。

6月21日、The Decoderが「Sam Altman says a whole generation of researchers held AI back by underestimating what scaling could do」と題した記事を公開した。OpenAI CEOのSam Altmanがスタンフォードでの講演でLLMスケーリング懐疑論を真正面から退け、「一世代の研究者たちがAIの発展を遅らせた」と踏み込んだ見解を示した。スケーリング則をめぐる業界の論争が改めて注目を集めている。


「スケーリングへの賭けをやめることは的外れだ」

Altmanはスタンフォードでの講演で、LLMのスケーリングに対する懐疑論に明確な異議を唱えた。

「今の段階でLLMのスケーリングに賭けるのをやめることは、かなり的外れだと感じる」
— Sam Altman, OpenAI

元記事によれば、Altmanはこの文脈でMetaのチーフAIサイエンティストであるYann LeCunに言及している。LeCunはLLMを「行き止まり(dead end)」と繰り返し主張してきた人物で、スケーリング則への代表的な懐疑論者として知られる。

Altmanの論点の核心は技術的な反論よりも認知的なバイアスにある。「自分のポジションにアイデンティティを結びつけてしまい、データが間違いを証明しても手放せない人がいる」と述べた。また「何年もOpenAIの失敗を予言し続けているTwitterのトロルたち」は気にならないとも語り、外部からの批判よりも実データを重視する姿勢を示した。

一世代の研究者が足を引っ張ったという主張

Altmanの発言の中でも際立つのが、「研究者の世代全体がAIの発展を遅らせた」 という踏み込んだ見解だ。スケーリングが何をもたらすかを過小評価しすぎたことが原因だとしている。

これはAcademia全体への批判ともとれる発言で、スケーリング則(モデルのパラメータ数・データ量・計算量を増やすことで性能が向上するという経験則)を早期から信じてきたOpenAI側の立場を改めて強調するものだ。

スケーリング継続論はOpenAIだけにとどまらない。Anthropicも自社モデルの開発においてスケーリングを主要な戦略として位置づけており、大手AI企業の間でこの方向性への支持は依然として根強い。

LLMはすでに一部で人間を超えている

Altmanはスケーリングの成果として具体的な事例を挙げた。OpenAIのモデルが最近、長年にわたって優秀な数学者たちを悩ませてきた数学的予想を反証したというものだ(詳細はこちらの記事)。数学者たちは今、この結果が自分たちの分野に何を意味するかを問い直している。

「LLMが新しい知識を発見できることは、明らかに示されている」とAltmanは言う。

ただし、すべてを肯定しているわけではない。高度な判断を要する長期的なタスクでは、LLMは人間よりもはるかに劣るとも認めている。ロボティクスのような分野ではワールドモデル(環境の内部表現を持つ別種のAIアーキテクチャ)の重要性も認めつつ、それでもスケーリングを支持するデータは明確だと主張した。

業界の文脈

LLMのスケーリングをめぐる議論は、2022〜2023年ごろから本格化している。ChatGPTの登場以降、スケーリング則の有効性に疑問を呈する研究者と、それを擁護するOpenAI・Anthropic・Google DeepMindとの間で論争が続いてきた。「LLMには本質的な限界がある、別のアーキテクチャが必要だ」という立場と、「まだスケーリングの余地は十分ある」という立場は、現在のAI研究における最大の対立軸の一つだ。

この対立は単なる技術論にとどまらない。スケーリングを信じるかどうかは、研究リソースの配分や企業戦略に直結するため、各陣営の主張には組織的・経済的な背景も絡む。今回のAltmanの発言は、その論争に対してOpenAIのトップが改めて公式見解を示したものとして読める。研究者コミュニティとAI企業のトップとの間の認識ギャップが、今後どのように埋まっていくか——あるいは広がっていくかが注目される。


詳細はSam Altman says a whole generation of researchers held AI back by underestimating what scaling could doを参照していただきたい。