ZeroDriftが1000万ドルの資金調達を完了、AIモデルに「コンプライアンス・ファイアウォール」を構築

AIモデルは強力になるほど、その出力を予測しにくくなる——特に巧妙に設計されたジェイルブレイクプロンプトに直面したり、意図せずセンシティブなトピックに触れた場合はなおさらだ。この問題は、企業が生成AIを導入する上で最大の障害になりつつある。2026年6月2日、AIコンプライアンス分野のスタートアップZeroDriftは1000万ドルのシードラウンド資金調達を完了したと発表し、モデルとユーザーの間に「コンプライアンスフィルター層」を構築しようとしている。

AIコンプライアンスの課題と挑戦

過去1年間で、複数の金融、医療、法務機関が、AIモデルの誤った、あるいは不適切な情報出力により、ユーザーからのクレーム、規制当局の審査、さらには訴訟に直面している。典型的な事例として、保険会社の保険金請求AIが差別的な説明を行ったり、医療Q&Aボットが未承認の治療法を推奨したり、法律AIが実在しない判例を引用したりするケースが挙げられる。これらの問題の根本原因は、大規模モデルの知識の境界と推論能力が完全に信頼できるものではなく、悪意ある入力や無知な入力によって誘導されやすいことにある。

従来の対応策は、モデルレベルのファインチューニング（コストが高く、期間が長い）か、人手によるレビュー（スケールできない）に依存していた。ZeroDriftの創業者兼CEOのSarah Lin氏は次のように述べている。「顧客から聞いたのは、唯一安心できる方法は、モデルの出力一つ一つを二次的にフィルタリングすることだということです——メールシステムのスパムフィルターのようなものですが、対象はコンプライアンスリスクです」

ZeroDriftのソリューション

ZeroDriftのサービスは、AIモデルのAPIとエンドユーザーの間に展開され、完全に独立した中間層として機能する。モデルの生の出力内容を受け取り、多次元のルールエンジンを通じてリアルタイムにスキャンする：

検出ディメンションには、ヘイトスピーチ、金融用語の誤用、医療診断の越権、プライバシー漏洩（身分証番号など）、著作権侵害のフラグメント、および各種業界固有の規制（HIPAA、GDPR、PCI DSSなど）が含まれる。リスクカテゴリーに該当すると、システムは即座に事前設定された安全な応答に置き換えるか、出力を直接ブロックし人手によるレビュープロセスをトリガーする。

市場の他のコンテンツモデレーションツールとは異なり、ZeroDriftは特に「モデルの自己言及」リスクに注目している——例えば、モデルが感情を持っていると主張したり、コンプライアンスに違反する投資アドバイスを提供したりすることだ。創業者はこれを「AIが自身を害する方法」と呼んでいる。当サービスはOpenAI、Anthropic、Google、および主要なオープンソースモデルプラットフォームに対応しており、現在までに数十社のフィンテックおよび遠隔医療顧客を獲得している。

資金調達の背後にある市場シグナル

今回の資金調達はAccelが主導し、Sequoia Capitalおよび複数のエンジェル投資機関が参加した。資金はコンプライアンスルールライブラリの拡充、業界専門家（元規制当局者、法律コンプライアンス専門家など）の採用、およびリアルタイム監視ダッシュボードの構築に充てられる。注目すべきは、ZeroDriftのチームの30％以上が弁護士または元規制当局者であり、これはAIスタートアップとしては非常に珍しいことだ。

市場調査会社Gartnerは、2028年までに企業のAI導入の40％以上が第三者のコンプライアンスミドルウェアに依存するようになると予測している。この数字は高度に規制された業界ではさらに高くなる。ZeroDriftの資金調達は、世界各国がAI規制法規の制定を加速させているタイミングと重なる。例えば、EUの「人工知能法（AI Act）」が間もなく施行され、米国の各州も生成AIに対する透明性要件を打ち出し始めている。

編集後記：AIコンプライアンスは新たな必需品となる

AIモデルの「ブラックボックス」特性により、プロンプトエンジニアリングやファインチューニングだけではコンプライアンスの抜け穴を根本的に解消することは困難だ。ZeroDriftは、一見「不器用」だが最も実用的な道を選んだ——出力側にロックをかけるというアプローチである。このアーキテクチャは推論レイテンシ（約300〜800ミリ秒と言われている）を増やすが、金融や医療などの業界にとっては、正確性が速度よりもはるかに重要だ。将来、大手モデルプロバイダーが直接コンプライアンス層を組み込む可能性もあるが、第三者の独立したサービスは中立性とクロスモデル互換性の面で代替不可能な優位性を持ち続けるだろう。さらに、この事例は起業家に対して、AIセキュリティ分野での競争が、技術力から「業界知識＋規制理解」という総合的な参入障壁へとシフトしていることを示唆している。

本記事はTechCrunchから翻訳・編集したものである