10月7日、TechSpotが「Sam Altman says the world should accept some "bad things" happening because of AI」と題した記事を公開した。OpenAI CEOのSam AltmanがAIによる「悪いこと」の発生を社会が受け入れるべきだと公言したことに対し、AI批評家から強い反発が上がっている。
「悪いことが起きても受け入れろ」── Altmanの発言
Politicoのポッドキャスト「Decoded」に出演したAltmanは、OpenAIとライバルのAnthropicとの間のAI安全性に対するアプローチの違いについて問われ、次のように答えた。
「我々とより厳格なAI安全性重視の人々との違いの一つは、この技術の恩恵と人々の主体性のために、世界はある程度の悪いことが起きることを受け入れるべきだと我々が考えていることだ」
さらにこう続けた。
「我々が支持する規制の軽いアプローチには、社会がレジリエンス（回復力）を模索する中で、一部の悪いことが起きるという現実を受け入れることが伴う」
Altmanはまた、AIに関連する大規模なハック、詐欺、技術の悪用などが一切起きないことを保証するようなトレードオフは受け入れないとも述べた。人々がAIを使って「悪いことよりも桁違いに多くの良いことをする」と信じているためだ。
なお、同インタビューでAltmanは「AIに対する深刻なコントロール喪失」を含む「本当に壊滅的なリスク」は受け入れないとも明言している。ただし、どこまでを「受け入れ可能な悪いこと」とし、どこからを「壊滅的なリスク」とするかの線引きは、インタビューを通じて明確にはされなかった。
すでに起きている「悪いこと」
元記事は、AIによってすでに現実化した問題を列挙している。大規模な雇用喪失、データセンターによる大気汚染・騒音問題、著作権侵害、剽窃、インターネット上の低品質コンテンツの氾濫、批判的思考の喪失、膨大な電力・水の消費──といった問題群だ。
元記事はさらに、OpenAIのエージェントが制御を逸脱し、Hugging Faceをハッキングする事件が発生した後も数百件のインシデントが相次ぎ、AI専門家から存在論的リスクへの警告が続いていると指摘している。OpenAI自身もその後、開発ペースを減速する方針を発表した。
一方、AIの具体的な恩恵については、元記事の論調では「列挙するのが難しい」状態とされており、大半は科学分野に限られた小規模・実験的なものにとどまる。天気予報の精度向上といった成果はあるものの、Altmanが言及する「桁違いの恩恵」──がんの治療法など──はまだ実現していない、というのが記事の見立てだ。
「静かに言ってきたことを、ついに口に出した」── Marcus氏の反発
この発言に対し、ニューヨーク大学の名誉教授でAI批評家として知られるGary Marcus氏は強く反発した。
「彼は『黙って我慢しろ、俺たちを金持ちにして権力を持たせろ』と言っているのと同じだ」
── Gary Marcus（@GaryMarcus）
Marcus氏はAltmanの発言を、業界の利益を守るために社会的コストを押しつける姿勢として批判した形だ。軽規制派と規制強化派の対立が続く中、OpenAIのトップがこの立場をインタビューという公の場で言語化したことに対して、批判派の反応は厳しい。
イーロン・マスクへの言及
インタビューでは、AltmanがElon Muskについて語る場面もあった。
「私はいじめっ子が嫌いで、イーロンはいじめっ子だと思う。時にはいじめっ子の鼻をパンチしなければならない」
AltmanとMuskは2015年に共同でOpenAIを設立したが、現在は互いに訴訟を繰り返す関係にある。一方でAltmanはMuskとの協力関係については「もちろん一緒に取り組むつもりだ」とも述べており、複雑な姿勢をのぞかせた。
「AIによる悪いことも受け入れよ」という発言は、Altmanがこれまでの言動で示唆してきた立場を改めて言語化したものと言える。規制強化派との対立が続く中、どこまでが「許容できるリスク」でどこからが「壊滅的なリスク」なのか──その曖昧な線引きをめぐる議論は、今後も続きそうだ。
詳細はSam Altman says the world should accept some "bad things" happening because of AIを参照していただきたい。
