Probablyが900万ドルの資金調達を実施、幻覚ゼロのAI構築へ

AIの幻覚——モデルがもっともらしく見えるが実際には誤った内容を生成する現象——は、大規模言語モデルの商業化における主要な障壁となりつつある。最近、スタートアップのProbablyが900万ドルのシードラウンド資金調達を発表し、この根深い問題を根本から解消しようとしている。同社の創業者によると、そのテクノロジースタックはAIが出力するすべての事実を厳格に検証し、従来の確定的システム（データベースクエリや数学的計算など）と同等の精度を実現できるという。

資金調達の背景とチーム

今回の資金調達はSequoia Capital（セコイア・キャピタル）がリードし、ベテランAI研究者や複数のテック企業CEOが追加出資した。Probablyは元DeepMind研究員のSarah Chenと連続起業家のMark Riveraが2025年に共同創業し、チームの中核メンバーはGoogle BrainやOpenAIなどの出身者で、形式化検証と機械学習を組み合わせた経験を持つ。同社は、調達資金は主にエンジニアリングチームの拡大と、エンタープライズ顧客向けシナリオへの「無幻覚」AIプラットフォームの展開に充てると述べている。

コア技術：確率から確定へ

現在の主流の大規模言語モデルが回答を生成するプロセスは確率的なものであり——各単語は統計的可能性に基づいて生成され、事実の保証が欠如している。Probablyはハイブリッドアーキテクチャを提案している。標準的なTransformerの上に「事実検証エンジン」の層を重ねる構造だ。このエンジンは、各主張を構造化された知識ベース（知識グラフやリアルタイムデータベースなど）にマッピングし、証明可能な論理ルールセットを実行することで、出力前に誤りを自動修正する。同社CTOはインタビューで次のように例えた。「これはAIに自動校正者を取り付けるようなものです。文法をチェックするだけでなく、各文が外部の事実と一致しているかどうかも確認します。」

「モデルにすべての事実を『記憶』させる必要はありません。どこを調べればよいかを知り、調べた結果が正確で再現可能であることを保証するだけでよいのです。」—— Probably共同創業者 Sarah Chen

業界の背景：なぜ信頼性がボトルネックなのか

2025年以降、複数の大手AI企業でモデルの幻覚が原因となり、企業顧客のデータ漏洩や法的文書の誤りといった事故が発生している。Forresterのレポートによると、70%以上の企業の意思決定者が信頼性への懸念から生成AIの導入を先送りにしている。従来の解決策である検索拡張生成（RAG）は幻覚を減らすことができるものの、完全に排除することはできない。サンプリングのランダム性、コンテキストハイジャック、知識ベースの陳腐化といった問題は依然として存在する。Probablyは形式化手法でこのギャップを埋めようとしており、ソフトウェアエンジニアリングにおける「おそらく正しい」から「絶対に正しい」へのパラダイムシフトに類似している。

編集者注：AI信頼性における3つの未解決課題

Probablyのアプローチは確かに期待が持てるが、直視すべき課題も残っている。第一に、形式化検証と大規模言語モデルの統合により推論速度が大幅に低下する可能性があるが、リアルタイム性はどのように確保されるのか。第二に、構造化知識ベースの維持コストは高く、中小企業はそのコストを負担できるのか。第三に、事実そのものが争われる場合（法的解釈や医学的判断など）、システムはどのようにして正しいバージョンを判定するのか。これらの問題は技術的な課題であるだけでなく、製品の位置づけとビジネスモデルにも関わる。とはいえ、900万ドルという資金調達額自体がひとつの積極的なシグナルを発している。資本はAIが「面白いもの」から「役に立つもの」へと進化する最後の一マイルに賭け始めているのだ。

現時点で、Probablyはすでに3つの金融機関と2つの医療機関とパイロット協力を締結しており、2027年初頭にパブリックAPIを公開する予定だ。業界アナリストは、高価値・高リスクなタスクの処理において99.99%以上の精度を達成できれば、エンタープライズソフトウェア市場を塗り替えるだろうと見ている。

本記事はTechCrunchより編訳