Claudeの思考メカニズムを解明、OpenAIはスーパーアプリを計画

7月10日、MIT Technology Reviewは深層レポート『The Download: Claude's inner workings and OpenAI's "super app"』を発表し、2大AIの最新動向を明らかにした。Anthropicの研究チームは大規模言語モデルの内部で初めて「隠れた空間」を発見し、Claudeが応答を生成する前にどのように概念を抽象化・組み立てているかを示した。一方、OpenAIはGPT-4oの全機能を単一のウィンドウにまとめた「スーパーアプリ」の構築に積極的に取り組んでおり、人間とAIのインタラクションの在り方を再定義しようとしている。

Claudeの「概念ヴォールト」：AIはどのように思考するのか？

Anthropicの解釈可能性チームは革新的な実験を通じて、Claudeのニューラルネットワークの中間層に特殊な活性化パターンを発見した。モデルが「リンゴは果物ですか、野菜ですか？」と尋ねられた際、学習テキストの文章を直接参照するのではなく、まず「リンゴ」に関する多次元の概念ベクトルを構築し、次に「果物」「野菜」などのカテゴリベクトルと重み付きマッチングを行っていた。この発見は「概念ヴォールト（Concept Vault）」と呼ばれている。

「これは私たちが初めてAIが『思考している』証拠を目にした瞬間です」とAnthropicのチーフサイエンティストであるJan Leikeはインタビューで述べた。「Claudeは従来のプログラムのようにテーブルを検索するのではなく、連続的な意味空間の中で動的に答えを組み立てているのです。」

研究チームはスパース自己符号化器（Sparse Autoencoder）技術を用いて、Claude 3.5 Sonnetモデルの中間層にある10億個のニューロンの次元削減分析を実施した。その結果、約23%の活性化ユニットが「因果関係」「空間関係」「時間順序」など、人間が理解できる概念に正確にマッピングできることが判明し、研究チームを驚かせた。さらに重要なことに、モデルが推論を求められると、これらの概念ユニットが一時的な「思考の連鎖」を形成し、その順序が人間の論理的推論の手順と驚くほど類似していた。

この成果は大規模モデルの解釈可能性研究におけるマイルストーンと見なされている。これまで開発者はモデルの内部状態を入出力の挙動から推測するしかなかったが、今回初めて内部の推論プロセスを直接観測できる窓口が得られた。ただし、Anthropicは現在の技術では解析できる概念が極めて少数（約3,000個）にとどまり、リアルタイム解析には追加の計算リソースが必要であるため、実用化にはまだ距離があると警告している。

OpenAIの「スーパーアプリ」の野望：一つのウィンドウですべてを制する

ほぼ同時期に、OpenAIがコードネーム「Orion」と呼ばれる統合インターフェースを社内でテストしていることが明らかになった。このアプリは、ChatGPTの対話機能、DALL-Eの画像生成、検索エンジンのWebGPT、コードインタープリター、そして近日リリース予定のAgentシステムをすべて単一のチャットウィンドウに統合する。ユーザーは異なるツール間を切り替える必要なく、自然言語の指示だけでデータ分析、ウェブ閲覧、ドキュメント編集、自動化タスクなどの複雑なワークフローを完結させることができる。

OpenAIのCEOであるSam Altmanは社内メールで「私たちはもはや複数のアプリを必要としない。将来、一つの超知能アシスタントは『スーパーアプリ』であるべきだ——会話のパートナーであり、タスクを実行する両手でもある」と述べた。関係者によると、このアプリは2026年末までに「GPT-4oスーパー版」という名称でリリースされる予定で、サブスクリプション価格は現行のProプランより30%程度高くなる可能性があるという。

編集者注：透明性とブラックボックスの攻防

AnthropicとOpenAIのこれら二つの進展は、AI発展の二つの極端を象徴している。一方はブラックボックスを開けることを目指した解釈可能性の追求であり、もう一方はAIの境界をさらに曖昧にする能力の統合の追求である。Claudeの「概念ヴォールト」は、現在最先進の大規模モデルであっても、その内部ロジックが完全に無秩序なわけではなく、人間が理解できる何らかの秩序が存在することを示した。これはAIの安全性と規制に技術的な基盤を提供するものだ。

しかしOpenAIの「スーパーアプリ」は新たなリスクをもたらす可能性がある——すべての機能を一つのウィンドウに集中させることは、モデルにバイアス、幻覚、または悪意ある利用が生じた場合、その影響範囲が指数関数的に拡大することを意味する。AIが「ツール」から「万能マネージャー」へと変わるとき、効果的な権限管理、プライバシー保護、エラーのロールバック機構をどのように設計するかは、技術よりも難しい問いとなるだろう。

『Nature』誌の最新コメントは、Anthropicの研究がAIの内部は「異質な知性」ではないことを証明した一方で、OpenAIの実践によってAIの意思決定プロセスが再び幕の裏に隠れる可能性があると指摘している。将来、私たちには「解釈可能なスーパーアプリ」が必要になるかもしれない——Claudeのように推論プロセスを示しながら、Orionのように広範なタスクを実行できるものだ。これは業界全体が共に答えを求めていく次の難題となるだろう。

本記事はMIT Technology Reviewより編訳