BoxがNVIDIAと連携：AIエージェントによるコンテンツ検索が4倍高速化

企業AIの競争において最も過小評価されやすい要素は、「正しいページを見つけること」だ。11月5日、企業向けコンテンツ管理プラットフォームのBoxは、全く新しいコンテンツ検索システムの提供開始を発表した。その設計思想は、従来の「検索→生成」パイプラインから「エージェントファースト（agent-first）」アーキテクチャへの転換にある。このシステムの基盤モデルには、NVIDIAが今年注力するNemotronシリーズが採用されている。

Boxが公表したデータによると、新システムは社内評価においてクエリの応答速度を従来の4倍に向上させ、エラー率を約20%低減、同時にトークン消費量を90%削減できるという。全社数万人規模の従業員の推論コストを負担しなければならない企業顧客にとっては、最後の数字が前の二つよりも魅力的に映るかもしれない。

なぜ従来のRAGでは「不十分」になってきたのか

過去2年間、企業が大規模言語モデルを導入する際の標準的な手法はRAG（検索拡張生成）だった。ユーザーの質問をベクトル化し、ドキュメントライブラリから関連する断片を取得して、それらをプロンプトに組み込んでモデルが回答するという流れだ。このプロセスはシンプルで説明しやすく、導入も容易だが、実際の企業環境では早々に限界が露呈した。

問題は、企業における質問がほとんど「シングルホップ」ではない点にある。従業員が尋ねるのは「前四半期にヨーロッパ地域の更新率が低下した原因は何か」といった内容であり、答えはCRMのエクスポートデータ、3件の会議議事録、1通の法務メール、2バージョンの営業マニュアルなどに散在している可能性がある。従来のRAGは一度しか検索を行わず、取得品質は質問の字義的な表現に大きく依存する。最初の検索で正しい資料が見つからなければ、モデルは不完全なコンテキストをもとに、一見もっともらしいが実際には誤った回答を生成してしまう。これこそが企業が最も許容できないタイプのエラーだ。

「エージェントファースト」の発想は、検索そのものを計画と反復が必要なタスクに変えることにある。モデルはまず質問を分解し、どのデータソースを検索するか、どのキーワードを使うか、どの順序で検索するかを決定する。中間結果を得た後、十分かどうかを判断し、不十分であれば別の経路で再検索する。最終的に初めて回答をまとめる。言い換えれば、モデルはコンテキストを受動的に受け取る「回答者」ではなく、自ら資料を探しに行く「リサーチアシスタント」となる。

「私たちはもはや『どの文章がこの質問に最も似ているか』を問うのではなく、『この質問に答えるために、どの手順を順番に踏む必要があるか』を問うている」――これこそがエージェント型検索と従来のRAGの分岐点だ。

Nemotronが果たす役割

NVIDIAのNemotronは、開発者向けに公開されたモデルファミリーで、言語理解、推論、マルチモーダルなどの領域をカバーし、カスタマイズ性と推論効率を重視している。Boxのようなプラットフォームにとって、オープンウェイトモデルを選択する実務的な動機は明確だ。企業コンテンツには契約書、財務報告書、人事記録などが含まれており、顧客はこれらのデータをクローズドソースAPIのブラックボックスに送り込むことも、トークン単位の予測不能なコストを負担することも望まない。プライベートデプロイが可能で、垂直領域へのファインチューニングができるモデルの方が、コンプライアンス審査を通過しやすい。

トークン消費量が90%減少したという指標は、エージェントアーキテクチャが必ずしも「より高コスト」を意味しないことを示している。直感的には、マルチステップの推論はより多くのモデル呼び出しとトークンを必要とするように思えるが、各ステップのコンテキストがより精確で短く、従来の手法のように大量の無関係なドキュメント断片をプロンプトに詰め込む必要がなければ、トータルコストはむしろ大幅に削減できる。これは検索精度とコンテキスト長のトレードオフの再調整であり、より賢い計画によってよりクリーンな入力を実現するということだ。

応答速度が4倍に向上した理由も同様に説明できる。従来のRAGのボトルネックはベクトル検索と長いコンテキストの推論にあることが多いが、エージェント型検索は階層的フィルタリングとオンデマンド読み取りによって、コストの高い長コンテキスト推論を本当に必要な少数の場面に限定している。

企業向け検索の競争構図が再編されつつある

Boxのこの動きは孤立した出来事ではない。MicrosoftはCopilotをMicrosoft 365に深く統合し、Gleanはクロスアプリケーションの企業検索を出発点として成長し、NotionやAtlassianなどのコラボレーションツールも相次いでAI Q&A機能を内蔵している。Boxにとってコンテンツライブラリは競争上の堀だが、検索体験が遅れれば、その堀は「ファイルを保存するだけの場所」に成り下がってしまう。

注目すべきトレンドとして、企業AIの競争の焦点が「モデルの性能がどれほど優れているか」から「エンジニアリングのパイプラインがどれほどスムーズか」へと移行しつつある。同じオープンソースモデルでも、異なる検索戦略、権限管理システム、評価手法を組み合わせれば、最終的なプロダクト体験は大きく異なる。Boxがベンチマークランキングではなく、速度・エラー率・トークンという3つのエンジニアリング指標を公開して強調していること自体が、このことを物語っている。

もちろん、ベンダーが公表する社内評価データは慎重に受け止める必要がある。テストセットの構築方法、エラーの定義、4倍の高速化がどの規模のコンテンツライブラリで測定されたか――これらの詳細は結論に大きく影響する。真の試練は、顧客が数百万件の過去のドキュメント、複雑な権限の継承、混乱したフォルダ構造をすべて投入した後も、システムが同じパフォーマンスを維持できるかどうかだ。

編集部注：エージェント型検索は万能薬ではない。マルチステップの推論能力が向上する一方で、新たな可観測性の課題も生じる。モデルが自律的に何を検索するか、何回検索するかを決定する場合、エラーが発生したときにどのステップで問題が生じたかを特定することがより困難になる。企業にとって次の段階の重要な能力は「どのモデルを接続するか」ではなく、監査可能でロールバック可能な検索評価体系を構築できるかどうかかもしれない。エージェントの「ブラックボックス的な意思決定」を説明可能な呼び出しチェーンに変換できる者こそが、最も慎重な大口顧客を獲得できる可能性が高い。

本稿はTechCrunchより編訳