OpenAIが数学の重大発見を宣言、学術界が研究倫理上の問題を指摘

先端AIラボのOpenAIは先ごろ重要声明を発表し、研究チームが数学分野で「重大な突破口」を開いたと宣言した。このニュースはたちまちテクノロジーメディアの見出しを飾ったが、続いて複数の数学者とアルゴリズム倫理研究者が公然と強い疑義を表明し、OpenAIの手法には「不正当性がある」と指摘した。当初「マイルストーン級の発表」とされていたものに、暗雲が立ち込めている。

WIREDの記者ウィル・ナイトとマクスウェル・ゼフの報道によれば、OpenAIは従来の数学界の慣行のように完全な証明を先に公開するのではなく、記者会見を先に開き、編集済みのAI推論プロセスの一部を披露するという手順を選んだ。同社は、新システムが「全く新しく複雑な数学的構造」を構築し、従来の手法では数千時間を要する補助的検証を数秒で完了できると主張した。しかし証明の厳密性をいかに担保するかを問われると、OpenAIは「社内検証は完了済み」と述べるにとどまり、技術報告書は将来公開するとした。この「先に宣言、後に公示」という手法は、過去数年間に一部のAIラボが行ってきた「メディアマーケティング」の常套手段を学者たちに想起させた。

「AIが数学を支援できることは否定しない。しかし、それは発表会の一言によって人間が検証する権利を剥奪してよいということにはならない」とある大学の整数論専門家はWIREDに語った。「基本的なデータも推論の記録も公開しないのであれば、記者が目にしたのは数学的な確実性ではなく、オーウェル的な自信に過ぎない。」

論争の焦点：「発見」か、それとも「密室でのデモ」か？

批判は主に三点に集中している。再現性の欠如——OpenAIはコアログ、ハイパーパラメータの詳細、独立して実行可能なコードを提示していない。査読の不在——同社は学術誌を迂回し、直接メディアへ結果を公表した。アルゴリズムの透明性の欠如——当該モデルは巨大なブラックボックスであり、なぜそのような結果を出力したのかを誰も説明できないため、学術界はデータ汚染・系統誤差、あるいは「都合の良い結果だけを事後的に選び取った」可能性を排除できない。一部の研究者は皮肉を込めて、今回の「発見」は数学的成果というより「ランダムな高次元空間のある一点への無謀な抱擁」だと評した。

さらに懸念されるのは、このパターンが模範となれば「発表即優先権」という風潮を生み出しかねない点だ。算力とメディアリソースを持つ者が先んじてある数学的問題の解決を主張でき、一方で厳密に取り組むチームは数年をかけて検証した末に「後追い」のレッテルを貼られる可能性がある。

AI×数学：優れたツールではあるが、万能の神託ではない

もっとも、AIと数学の組み合わせ自体には前例がある。2022年にはDeepMindがAlphaTensorを発表し、行列乗算の新たなアルゴリズムを発見した。近年では大規模言語モデルが予想の提示や反例の構築の補助にも活用されている。これらの成功事例に共通するのは、機械学習が「着想」を担い、人間の専門家が「証明」を担うという役割分担だ。著名な数学者テレンス・タオは繰り返し、AIは「電卓や文通相手」のように数学のワークフローに組み込まれるべきであり、結論だけを提示する「証明マシン」を演じるべきではないと強調している。

OpenAI社内でも「発表のタイミング」が波紋を呼んだのは今回が初めてではない。WIREDの報道では、以前に同社のある推論モデルがベンチマークテストのデータに「漏洩を伴う学習」が存在したと指摘され、OpenAIはその際「データクリーニングのミス」と説明したことが言及されている。今回、学術界が再び同様の懸念を示したことは、同社の長期的な評判に相当の圧力をかけることになるだろう。

本稿執筆時点で、OpenAIのCEOは批判に正面から応答しておらず、ソーシャルメディアに「数学の美しさは、好むと好まざるとにかかわらず、真実は必ず明らかになるところにある」と投稿するにとどまった。この発言は多くの人々から問題の回避と受け取られた。OpenAI研究部門の責任者の一人はWIREDに対し、外部からの検証を歓迎すると述べたが、検証可能な環境や公開時期については明らかにしなかった。

編集後記：「重大な発見」よりも重要なのは、証明のプロセスだ

ChatGPT登場以来、OpenAIは人々の想像力を揺さぶる鮮烈なデモを繰り返してきた。しかし基礎数学研究は人間と対戦するチェスゲームでも、ベンチマークのランキングでもない。それは追跡可能な推論と、他者による反復検証という礎石の上に成り立っている。ある企業の研究体制がこの基本的な期待に応えられないとすれば、いかなる「重大な発見」を宣言しようとも、科学史においては脆弱な風聞として記録されるほかない。OpenAIが一刻も早く確固たる証拠を示し、学術界に誠実な説明を行い、AI時代における研究倫理の一線を守ることを願う。これは数学だけの問題ではなく、科学的精神の試金石である。

本稿はWIREDより編訳。