このAIスタートアップ創業者が開発するのは、不測の事態を予測できるエージェント

サンフランシスコのSoMA地区は、世界を変えた数多くのテック企業を生み出してきた。しかし、AI研究者Danijar Hafnerのオフィスは、まるで空っぽの滑走路のように見える。ほとんどの机や椅子は使われておらず、ドアには社名もなく、スタートアップはいまだ「ステルスモード」にある。取材当日、オフィスにいたのは同僚が一人だけで、家具もわずかしかなかった。それでも、Hafnerが静かに張り巡らせているプロジェクトは、次のヒットモデルではなく、次世代エージェントの思考エンジンになるかもしれない。

「会話」から「行動」へ——欠けているのは計画というステップ

現在の大規模言語モデルの多くは、依然として「呼ばれたら応じる」システムだ。ユーザーが指示を出せばテキストや画像を生成し、リクエストを送れば答えを返す。これらのシステムは連想が得意である一方、複数の将来シナリオを能動的に設計することはしない。Hafnerが考える真のAIエージェントは、行動する前に「心的リハーサル」を行うべきだという。この道を進んだら何が起きるか？ある工程で予期せぬ問題が発生したらどう調整するか？これこそが「不測の事態を計画できる」という命題の核心である。

大規模言語モデルがAIに流暢な話術を与えたとすれば、「未来を演じられる内なるサンドボックス」こそが、AIを現実世界へと本当に踏み出させる鍵となる。

世界モデルで頭の中の未来をシミュレートする

世界モデル研究の中心的な研究者として、HafnerはDreamerシリーズのアルゴリズム開発に携わってきた。この手法では、エージェントが高次元の感覚入力からコンパクトな潜在空間表現を抽出し、その「想像上のトレーニング場」で様々な行動戦略を素早く探索する。Atariゲームをプレイする際、エージェントはすべての軌跡をリアル環境のフィードバックに頼る必要がなくなる。物体を把持するロボットも、物理世界で何度も転倒を繰り返す代わりに、デジタルサンドボックスの中で失敗を反復練習できる。

真の意味での不測の事態の予測は、世界の法則を内部でモデル化することに依存する。雨の夜、強風で倒された故障標識に自動運転車が遭遇したとしよう。通常のモデルはこのような場面を見たことがないかもしれない。しかし世界モデルを持つシステムは、「迂回できるか？後方に車はいるか？このまま進んだらどんなリスクが生じるか？」といった多分岐シミュレーションをリアルタイムで生成できる。行動の前に結果を見通すこと——これが「想定外に備える」ための第一の教訓だ。

不測の事態こそ、知性の試金石

AI分野でよく見られる誤解がある。言語モデルが賢く見えるのは、統計的パターンから流暢な答えを見つけ出せるからだ。しかし現実の世界はノイズ、摩擦、突発的な出来事に満ちている。AIエージェントがスケジュール管理、研究補助、物流機器の操作に投入されると、コンテキストが突然中断され、ユーザーの意図が急変し、物理世界では見たことのない新しい状態が出現することを受け入れなければならない。従来のモデルは「エラー後に再質問する」しかないが、不測の事態を計画できるエージェントは、意思決定の際に突発的な状況を計画の一部として織り込む——「Xが起きたら、プランBを実行する」というように。

ステルス創業——課題は公然のもの

Hafnerのスタートアップは、AIエージェントの中でも最も難しい問題——自律的な計画立案——に挑んでいる。しばらくステルス状態を保つことで、チームは対外的なマーケティングではなく研究に集中できる。しかし課題は依然として明白だ。学習データの中で「不測の事態」をどのように記録するか。世界モデルの構築において抽象と詳細のバランスをどうとるか。AIが本当に先を読んで計算できるようになったとき、その意思決定の根拠を何によって監査するのか。市場が求めているのは、より大きなモデルではなく、より信頼できる行動主体だ。

業界ではすでに複数のチームが「世界モデル」を次世代エージェントの基盤インフラとして活用しようと試みている。Hafnerの強みは、モデルに「次のステップを夢見させる」だけでなく、長期タスクにおける目標と緊急時の戦略を維持させる点にある。このロジックがクローズドなタスクからオープンな環境へと広がったとき、AIは「提案者」から「行動者」へと進化できる。

次の一文を予測することから、次の一手を先読みすることへ

がらんとしたオフィスは、その野心を隠すものではない。今後数年のうちに、「想像の中の失敗」によって訓練されたエージェントが生活に入り込む場面が増えるかもしれない。物流ロボットが渋滞を事前に回避し、家庭用アシスタントが動作する前に結果を推論し、自動運用システムが事故が実際に発生する前に潜在リスクを修復する。AIに「想像の目」を与えることで初めて、AIは人間の長期的な安全のために本当に考えることを学べる。

本稿はMIT Technology Reviewからの編訳である。