AIセキュリティスタートアップHiddenLayer、1億ドルのシリーズB資金調達を完了

AIアプリケーションの導入が加速する現代において、モデルを「信頼できるもの」にすることは、企業のデジタル化プロセスにおいて避けては通れない新たな課題となっている。9月2日、AIモデルセキュリティに特化したスタートアップHiddenLayerが1億ドルのシリーズB資金調達完了を発表した。出資者にはDelta-v Capital、Ten Eleven Ventures、Morgan Stanleyが名を連ね、マイクロソフト傘下のベンチャーキャピタルM12およびBooz Allen Hamiltonも参加している。「HiddenLayer」というやや控えめな社名は、そのミッションを的確に表している――大規模モデルの内部に潜み、従来のツールでは検知しにくいセキュリティの盲点を防御することだ。

HiddenLayerはAIセキュリティ分野における新興企業であり、そのコアとなる考え方はシンプルだ。企業がモデルを中核資産と位置づけている以上、モデル自体に専用のセキュリティ保護が必要だというものだ。従来のサイバーセキュリティ製品がネットワークトラフィックやエンドポイントプロセスに着目するのに対し、HiddenLayerが狙うのは、機械学習モデルのトレーニング・デプロイ・呼び出しのプロセスで発生する各種攻撃である。今回の資金調達は、製品開発、チームの拡充、および法人顧客の開拓に充てられる予定だ。

大規模モデルがもたらす新たな「脆弱性」

ChatGPTをはじめとする生成AIが急速に普及する中、企業は効率化の恩恵を享受しながら、ますます多くのコアデータをモデルに委ねるようになっている。しかし、多くのセキュリティチームはいまだにAIモデルに対して「無防備」な状態にある。従来のセキュリティインフラは、プロンプト内の悪意ある意図を解釈することも、モデル出力の異常な逸脱を識別することもできない。攻撃者は巧みに構築したプロンプトによってモデルにトレーニングデータを漏洩させたり、不適切なコンテンツを生成させたりすることができる。また、敵対的サンプルを用いて、特定の条件下で画像認識システムやリスク管理システムを機能不全に陥らせることも可能だ。

この種の攻撃は従来の意味における脆弱性悪用ではなく、意味論的・統計的レベルでの「欺瞞」に基づくものだ。悪意ある行為者はオープンソースモデルのサプライチェーンにバックドアを仕込み、特定の入力に対してモデルが誤った結果を出力するようにすることさえできる。金融・医療・国防などの分野では、こうした攻撃が壊滅的な結果をもたらす可能性がある。AIのライフサイクル全体をカバーするセキュリティ監視体制の構築は、企業が「AIを試す」段階から「AIを信頼する」段階へと移行するための不可欠なステップとなっている。

AIモデルに「免疫システム」を構築する

HiddenLayerのアプローチは、モデルの周囲にリアルタイムの検知機構を追加することだ。非侵入型の設計を採用しており、モデルの重みを読み取る必要がなく、通常の推論結果を妨げることもない。プラットフォームはすべてのAPIリクエストを記録・分析することで、攻撃の意図を含む可能性のある行動パターンを識別する。たとえば、リクエストに特定のキーワードが含まれている場合、アクセス頻度が突然異常になった場合、または入力内容が既知の攻撃フィンガープリントと高い類似性を持つ場合などだ。悪意ある行為と判定された場合、システムはリアルタイムでブロックおよびアラートを発し、脅威をできる限りモデルの入口で食い止める。

あるセキュリティ業界アナリストはこう評している。「AIセキュリティは従来のセキュリティの単純な延長ではなく、まったく新しい攻防の戦いだ。モデルは防御の対象であると同時に、攻撃者の踏み台にもなりうる。HiddenLayerが捉えているのは、まさにこうした状況における構造的な空白だ。」

こうした考え方は市場で認められつつある。過去1年間、AIセキュリティ分野への投資熱は明らかに高まっている。単純に「大規模モデルの能力」を追求するよりも、投資機関は「モデルの信頼性と実用性」の問題を解決できるスタートアップをより重視するようになっている。HiddenLayerがこれほど大規模な資金調達を実現したことは、AIセキュリティがサイバーセキュリティの一サブセットから、独立した戦略的分野へと進化していることを示している。

なぜ投資家が一斉に賭けるのか

今回の出資者リストを整理すると、Ten Eleven Venturesはサイバーセキュリティ投資に長く注力しており、明確な産業シナジーを求めていることがわかる。Morgan Stanleyは伝統的な金融機関として参加しており、AIリスクが主流の投融資評価フレームワークに組み込まれつつあることを示唆している。マイクロソフトM12の参加は、クラウド大手がAIセキュリティ能力を自社エコシステムに統合しようとしていることを示唆する。Booz Allen Hamiltonは政府・国防顧客にサービスを提供しており、その参加は公共部門がAIシステムのセキュリティ調達基準を整備し始めていることを反映している。背景がまったく異なる4種類の機関が同じプロジェクトに同時に注目していることは、AIセキュリティがテック業界のニッチなテーマではなく、業界横断的な普遍的ニーズとなったことを意味している。

EUの「AI法」などの規制フレームワークが相次いで施行される中、AIモデルの説明可能性・耐攻撃性・データプライバシーに対する企業の要求は高まり続けている。コンプライアンス圧力と後を絶たない攻撃事例が重なり、意思決定者はAIセキュリティを「任意のコスト」ではなく、AI導入の前提条件と見なすようになっている。HiddenLayerの今回の資金調達の成功は、同社の製品価値の表れであると同時に、業界全体の潮流変化を示す証左でもある。

編集後記：セキュリティはAIのスピードに追いつかなければならない

AIの発展速度は、既存のセキュリティインフラの整備スピードをはるかに上回っている。これはリスクであると同時に、機会でもある。HiddenLayerは「セキュリティ担当者がAIモデルを理解する」ための難易度を下げているが、依然として多くの課題に直面している。マルチモーダルモデルやAIエージェントといった新しい形態への対応、検知能力をモデルのトレーニング段階に前倒しすること、そしてビジネスに明らかな遅延をもたらさないようにすること、といった問題だ。これらの問いに現時点で標準的な答えはないが、AIセキュリティ市場の今後の行方を左右するものだ。AIに多額を投資しているすべての企業にとって、HiddenLayerのような企業とともに成長することが、未知のリスクへの最善の対応策となるかもしれない。

本稿はTechCrunchより編訳。