大規模言語モデルが「集団思考」の罠に陥る——あるスタートアップがその打破を試みる

まずは小さなゲームから始めよう。普段使っているチャットボット——Claude、ChatGPT、Gemini——を開き、「1から10の間でランダムな数字を一つ挙げて」と入力してみる。ほぼ必ずと言っていいほど「7」という答えが返ってくる。続けて「もう一つ」と入力すると3か4が、さらにもう一度入力すると8か9が出てくる。毎回必ずそうなるわけではないが、繰り返すうちに、これらのモデルの出力が驚くほどパターン化され、予測可能であることに気づくだろう。この現象はMIT Technology ReviewのライターWill Douglas Heavenが最近の記事で明らかにしたもので、大規模言語モデルの「集団思考（groupthink）」について業界での広範な議論を巻き起こしている。

「ランダムな数字」の裏に潜む非ランダム性

この偏りは偶然ではない。実際、大規模言語モデルは訓練の過程で膨大な量の人間のテキストデータを吸収しているが、「7」は人間の文化において幸運の数字とみなされることが多く、他の数字よりもはるかに高い頻度で登場する。モデルは統計的規則性からこの傾向を学習しており、そのため「ランダムな」数字を生成する際に「慣性的に」7を選びやすい。同様に、続いて出てくる3・4・8・9も、訓練データにおいて2番目・3番目に多く現れる選択肢だ。この現象はLLMの根本的な限界を露わにしている——モデルはランダム性を真に理解しているのではなく、確率分布に基づいてパターンマッチングを行っているにすぎない。

「これはまるで、同じ教科書から同じ「正解」を学んだ生徒たちの集団のようなものだ。しかし問題そのものが求めているのはランダムな答えなのだ。」——AIエシックス研究者、MITメディアラボ客員コメンテーター

この「集団思考」は数字遊びに限った話ではない。クリエイティブライティング、コード生成、意思決定のアドバイスといったより複雑なタスクにおいても、LLMは主流かつ訓練データの分布に沿った回答を出力する傾向があり、多様性や革新性に欠ける。新しい製品名を考えるよう求めると、「Innovate」「Synergy」といった陳腐な言葉を繰り返し提案するかもしれないし、論点を生成する際には訓練データで支配的なイデオロギーに偏ることもある。こうした均質化された出力は、差別化やパーソナライズされたアプリケーションを追求する企業にとって致命的な欠陥となる。

「思考の檻」を打ち破る——スタートアップの挑戦

「Stochastic Minds（ランダム思考）」というスタートアップが、この現状を変えようとしている。元OpenAI研究員と認知科学者が共同で設立した同社のコアアイデアは、モデルの推論プロセスに調整可能な「制御されたランダムノイズ」を導入しながら、対抗訓練によってモデルをコンフォートゾーンから抜け出させることだ。具体的には、モデルのサンプリング段階にカオス理論に基づいて設計された軽量なノイズモジュールを組み込む。このモジュールは意味的な一貫性を損なうことなく、出力分布のエントロピーを増大させることができる。さらに訓練過程には「反主流」の対抗サンプルを導入し、一般的な出力とは全く異なる回答を生成するようモデルに求め、それに対して報酬を与える仕組みを取り入れている。

技術的課題と業界の展望

しかしこのアプローチにもリスクがないわけではない。ランダム性を過度に導入すると、モデルの出力が信頼性を失い、荒唐無稽なものになる可能性がある。「革新性」と「信頼性」のバランスをいかに取るかが、技術の実用化における鍵だ。Stochastic MindsのCEOはインタビューで、自社システムではユーザーが「創造性パラメータ」をカスタマイズできるようにしており、保守的モードから冒険的モードまで5段階に分かれていて、企業がシーンに応じて柔軟に調整できると述べた。

業界内での見方は様々だ。支持者はこの試みをAIモデルの均質化に抗う重要な一歩と評価し、特にコンテンツ制作、製品設計、科学的探索など、アイデアの衝突が必要とされる分野において大きな意義があると考える。一方で批判者は、モデルの「集団思考」こそがその安全性と予測可能性の源泉であり、それを破ることで、偏見や有害なコンテンツの生成といった新たな制御不能なリスクが生まれかねないと指摘する。

編集後記：技術哲学の観点から見ると、LLMの「集団思考」現象は本質的に人類の集合的知性の鏡像だ。モデルが多数派の意見を繰り返すだけでは、真の革新は生まれず、価値ある対立的視点も提供できない。Stochastic Mindsの探求はこの問題を根本から解決できないかもしれないが、少なくとも新たな方向性を示している——AIに失敗を学ばせること、人間が創造するときのように。未来において、ランダム性はモデルの欠陥ではなく、設計上の特性になるかもしれない。

さらなる考察：ランダムな数字からランダムな思考へ

最初のゲームに立ち返ってみよう。なぜ私たちはAIが常に7と答えることを望まないのか？ランダム性そのものが複雑系の重要な特徴だからだ。科学研究、芸術創作、さらには日常会話においても、予期せぬ結果はしばしばより深い思考を引き出す。AIが常に「正しいが平凡な」答えしか提供できないとすれば、それはせいぜい高度な検索エンジンに過ぎず、真の知的パートナーとは言えない。Stochastic Mindsの試みは私たちに思い起こさせる——次のAIのパラダイムは、より「正確」になることではなく、より「生き生きとしている」ことかもしれないと。

本記事はMIT Technology Reviewより編集翻訳したものです。