AIブームの裏側：「突破口」と「恐怖」はただの誇大宣伝かもしれない

編集者注：すべての人がAIの「突破口」と「脅威」を語る時代に、その語りそのものを冷静に疑う能力こそが、むしろ希少なものとなっている。

毎朝目が覚めると、新たなAI見出しが飛び込んでくる。あるモデルがベンチマークテストで「人間を超えた」、ある企業が「汎用人工知能はすぐそこだ」と宣言する、ある専門家が「AIは人類絶滅レベルのリスクをもたらす可能性がある」と警告する。MIT Technology Reviewの日刊ニュースレター「The Download」は今号において、あまり歓迎されないある判断を示している――この夏のAI熱狂は、現実よりも誇大宣伝である部分が大きいのではないか、と。

過剰に包装された夏

記事は、分散型AI研究所（DAIR）のエグゼクティブディレクターであるティムニット・ゲブル（Timnit Gebru）と、ワシントン大学言語学教授のエミリー・M・ベンダー（Emily M. Bender）の見解を引用している。この二人はAI業界の外部批評家ではない。ゲブルはかつてGoogleの倫理的AIチームの共同責任者であり、ベンダーは自然言語処理分野で最も多く引用される研究者の一人である。両者が2021年に共同執筆した論文『確率的オウムの危険性（Stochastic Parrots）』は、今なっても最も議論されるAI批判的テキストの一つだ。

この夏、彼女たちの核心的な主張は特に耳障りに響く。大規模言語モデルは本質的に、大量のテキストに基づく統計的パターンマッチングシステムであり、流暢な文章を生成できるからといって、世界を理解しているわけではない。業界がこの能力を「推論」「理解」さらには「意識」として包み込むとき、人々の期待は組織的に引き上げられていく。

恐怖と熱狂は、同じコインの裏表

注目すべきは、AIをめぐる二つの極端な語り――「AIがすべてを解決する」と「AIがすべてを破滅させる」――が、しばしば同じ人々、同じロジックから生まれていることだ。企業がモデル能力の飛躍を喧伝しながら、同時に「責任あるAI」と「安全な規制」の必要性を強調するとき、その効果は双方向に働く。能力を誇張することは資金調達と評価額に貢献し、リスクを誇張することは競合他社を規制の壁の外に追いやることに貢献する。

「AI能力の誇大宣伝と、AIリスクの神話化は、通常は同じ物語の二つの語り方に過ぎない。」

これこそゲブルとベンダーが繰り返し強調することだ。技術を神話化すること――楽観からであれ恐怖からであれ――は、真の権力と責任の問題を覆い隠してしまう。誰が学習データによって利益を得るのか？誰が自動化された意思決定によって損害を受けるのか？どのような人々にシステムを展開するかを決める権限は誰にあるのか？

業界の背景：資本、計算資源、そして語りの共謀

ここ数年、AI言説と資本サイクルは高度に同期している。データセンターへの投資は動もすれば数千億ドル規模に達し、半導体供給は地政学的な問題となり、モデルのパラメータ規模が競争指標として扱われるようになった。ある産業が投資を維持するために「世界を変えつつある」と絶えず証明し続けなければならないとき、語りそのものが生産要素となる。

一方で、真の進歩が存在しないわけではない。ただしそれは、宣伝文句よりもずっと地味であることが多い。推論コストの低下、マルチモーダル認識能力の向上、プログラミングやカスタマーサービスといった特定領域での実用性の改善――これらは測定可能な工学的進歩だが、「汎用知能がまもなく到来する」という壮大な物語を支えるには程遠い。語りが能力を先走るとき、バブルと誤解が同時に生まれる。

真の突破口と偽りの繁栄を見分ける方法

実務者や一般読者にとって、いくつかの実用的な判断基準がある。

第一に、再現性を確認する。真の能力向上は、独立したチームが同様の条件下で再現できるものであるべきだ。ある企業のデモ動画にだけ現れるものであってはならない。

第二に、具体的なタスクを見る。閉じたベンチマークでスコアを上げることは容易だが、未知の環境やノイズの多いデータ、エッジケースが溢れる実際の場面で安定したパフォーマンスを発揮することこそが難題だ。

第三に、コストを見る。あるシステムが何をできるかよりも、それがどれだけの計算資源、どれだけのアノテーションデータ、どれだけの人間によるバックアップを必要とするかの方が、しばしばより重要だ。

第四に、誰が語っているかを見る。「突破口」を宣言する人の利害と、「絶滅リスク」を宣言する人の利害は、等しく精査に値する。

結語：懐疑することは反対することではない

AIの誇大宣伝に警戒することは、技術の進歩を否定することを意味しない。ゲブルとベンダーの主張は、研究をやめろということではなく、技術を技術として捉え直すことを求めるものだ。それは人間によって構築され、人間によって展開され、人間によってその用途が決定される。真に問われるべきは「AIは人類に取って代わるか」ではなく、「ある人々がシステムに取って代わられるとき、私たちは何をするつもりなのか」だ。

この夏に最も希少なのは、より強力なモデルではなく、語りに引きずられない判断力なのかもしれない。

本稿はMIT Technology Reviewより編訳