AIによる科学研究には推論が必要——データだけでは不十分、審査産業への懸念も高まる

人工知能が科学研究の領域へ急速に浸透する中、ある重要なボトルネックが浮かび上がっている。データはもはや唯一の推進力ではなく、推論能力こそが科学的発見への扉を開く鍵だというのだ。MITテクノロジーレビューの最新ニュースレター「The Download」において、元Google最高経営責任者でシュミット科学財団の共同創設者であるエリック・シュミット（Eric Schmidt）と、同財団のAI for Scienceプログラム責任者スハス・マヘシュ（Suhas Mahesh）は明確にこう主張した。科学分野のAIに必要なのはデータだけでなく、推論だ、と。

"AI for science needs reasoning, not just data."

AlphaFoldによるタンパク質構造予測から、深層学習モデルを活用した新材料のスクリーニングまで、AIは科学分野で数々のマイルストーンとなる成果を上げてきた。しかしこれらの成果の多くは、大規模データを用いたパターン認識に基づいており、「データ駆動型の経験的帰納」に過ぎず、科学者が依拠する因果推論とは異なる。シュミットとマヘシュの主張はこの弱点を直撃する。真の科学的発見には、問いを立て、仮説を構築し、実験を設計し、理論を修正する能力が必要であり、これらは現在の大規模言語モデルによる「逐語的な次トークン予測」では到底カバーできない、というのだ。

なぜ科学には「推論優先」が必要なのか？

推論能力とは、モデルがデータから相関を見出すだけでなく、因果メカニズムを理解し、情報が不完全な状況でも合理的な推論を行えることを意味する。例えば創薬においては、AIは分子の性質を予測するだけでなく、その分子が体内でどのように代謝され、標的とどのように結合するかを推論しなければならない。こうした能力は、構造化された知識、物理シミュレーション、論理的制約を組み合わせることで実現する必要がある。シュミットとマヘシュが所属するシュミット科学財団は、こうした「推論型AI」の基礎研究に投資し、科学研究のための新たなインフラ構築を目指している。

しかし、「推論優先」への移行は一筋縄ではいかない。科学データはノイズが多く、アノテーションが乏しい上に、複雑系の高度な非線形性により、AIモデルは過学習に陥りやすい。専門家の間では、今後のブレークスルーは混合的なアプローチから生まれる可能性が高いという見方が広がっている。深層学習と記号推論・ベイズ推論を組み合わせ、データとルールの間でモデルを反復的に修正させるという手法だ。こうしたアプローチはAIの説明可能性と頑健性に対するより高い要求をもたらすことになる。

今号の「The Download」のもう一つの注目記事は、AIが公共の言論空間にもたらす影の側面、すなわち「審査-産業複合体（censorship-industrial complex）」に焦点を当てている。この概念は急速に拡大する産業チェーンの実態を明らかにしている。政府、テクノロジープラットフォーム、コンテンツモデレーションのアウトソーシング企業、そしてAIコンテンツ審査ツールが協調するシステムが、どのコンテンツが表示・拡散されるかを決定しているというのだ。

このチェーンの中でAIはコンテンツフィルタリングの大部分を担い、違反コンテンツを自動的にフラグ付けまたは削除する。一方、人間の審査員はAIが判定できない境界事例を処理する。表面上、これはプラットフォームが有害情報を管理するための必要な手段に見えるが、批評家は仕組み全体の「工業化」が進むにつれ、過剰な検閲へと向かいかねないと懸念する。アルゴリズムは責任を問われるよりも誤って削除する方を選ぶからだ。言論権力の集中、透明性の欠如、そして異議申し立て手段の不足は、「審査産業」を警戒すべき科技社会的課題として浮かび上がらせている。

実際、AIによるコンテンツモデレーションの規模と影響力は、一般の想像をはるかに超えている。ソーシャルメディアからニュースのコメント欄、動画プラットフォームからオンライン教育に至るまで、AIは静かに「ゲートキーパー」となりつつある。一部の研究では、特定のコミュニティにおけるシステムの誤削除率が二桁台に達することが指摘されており、こうした誤りは多くの場合、有効に是正されない。これは根本的な問いを突きつける。技術的効率が唯一の基準となったとき、多元的な表現と公衆の知る権利は本当に保障されるのだろうか？

編集後記：科学分野のAIは「データによる飼育」から「思考の増強」へと向かう必要がある。これは技術的な難題であるだけでなく、AIの本質に対する認識の刷新でもある。同様に、コンテンツ審査産業の拡大は、いかなる技術的ガバナンスも効率と権利のバランスを追求すべきであることを改めて示している。シュミットとマヘシュは科学研究の最前線から声を上げており、「審査-産業複合体」をめぐる議論は、技術の社会実装が持つ両刃の剣としての効果を浮き彫りにしている。

本記事はMITテクノロジーレビューをもとに編訳しました。