AIRが5000万ドルの資金調達を完了、企業AIエージェントのセキュリティを守る

生成AI技術の急速な普及に伴い、ますます多くの企業がAIエージェント（AI Agent）を導入し、メールの作成やデータ整理、顧客への自動返信など日常業務を処理するようになっている。しかし、これらのエージェントは常に信頼できるわけではない。脆弱性を抱えたサードパーティのスキルを使用したり、タスク実行中に企業ポリシーから逸脱した行動をとったりする可能性がある。こうした自律システムのセキュリティとコンプライアンスをどう確保するかが、企業にとっての新たな課題となっている。

サンフランシスコに本社を置くAIガバナンスのスタートアップAIR（Agent Integrity & Regulation）は先日、5000万ドルのシリーズA資金調達を完了したと発表した。本ラウンドはSequoia Capitalが主導し、既存投資家のIndex VenturesとQihu 360がフォローオン投資を行った。AIRは、新たな資金を製品開発の加速、カスタマーサクセスチームの拡充、およびスキルナレッジベースの拡張に充てると述べている。

AIエージェントの「セキュリティ検査官」

AIエージェントは動作中にさまざまな外部ツールを呼び出す。データベースへのアクセス、APIの呼び出し、ファイルのアップロードなどがその例であり、AIRのフレームワークではこれらを総称して「スキル」（skills）および「アドオン」（add-ons）と呼ぶ。これらはエージェントに強力な能力をもたらす一方で、制御困難なリスクも引き起こす。一見無害なプラグインが密かに機密データを窃取したり、古くなったスキルが企業の価値観に反する出力を生成したりする可能性がある。

AIRのコア製品は、継続的な監視・ガバナンスプラットフォームである。まず非侵入型スキャンにより、企業内で稼働しているすべてのAIエージェントとそれらが依存するスキルのリストを自動的に検出し、動的な資産台帳を構築する。次に、プラットフォームは各スキルおよびプラグインに対してリアルタイムの行動分析を実施し、権限リクエスト、データフローの経路、過去の実行履歴を含む情報を精査して、不審または違反のある活動を洗い出す。リスクを検知した際には、AIRは当該スキルを即座に隔離してエージェントによる対応操作をブロックするとともに、セキュリティチームにアラートを発する。

「ほとんどの企業は、自社のAIエージェントが実際に何をしているか把握できていません。エージェントはブラックボックスのように動作しており、私たちの目標はそのブラックボックスを透明で制御可能なものにすることです」——AIRの共同創業者兼CEOのElena MarshがTechCrunchの取材に対して述べた。

「事後の責任追及」から「事前の予防」へ

従来のサイバーセキュリティツールは固定されたソフトウェアとネットワークトラフィックを主な対象としているが、AIエージェントの動的かつ自律的な性質により、従来の防御手段では対応が困難になっている。たとえば、あるエージェントがユーザー入力に基づいてどのプラグインを呼び出すかをリアルタイムで決定する場合、その不確実性によって、事前に定義されたセキュリティポリシーがすべてのシナリオを網羅することは難しい。

AIRが採用しているアプローチは「行動ベースライン＋異常検知」である。プラットフォームは各エージェントの正常な行動パターンを学習し、ベースラインから逸脱した呼び出しや異常なデータアクセスが発生した場合に、システムがリスクと判断して自動的に介入する。この方式では企業がすべての悪意あるスキルを事前に列挙する必要はなく、継続的な学習によって変化し続ける脅威環境に適応できる。これは「事後の責任追及」から「事前の予防」へというガバナンス理念の転換を体現している。

編集後記：AIガバナンスが企業の信頼を解き放つ

業界レポートによると、2027年までに世界の企業の60%以上が少なくとも1種類のAIエージェントを本番環境に導入するとされている。しかし、エージェントの自律性とセキュリティの間の緊張関係が、企業による大規模導入を制約する重要なボトルネックになりつつある。AIRの今回の資金調達は、「エージェントガバナンス」というニッチ分野に対する市場の旺盛な需要を裏付けるものだ。

一方で、AIガバナンスは技術ツールにとどまらず、組織的なプロセス全体にわたるものであることも認識すべきだ。企業はエージェントの利用規範を明確に定め、定期的な監査を実施し、重要な承認プロセスに人間の意思決定を組み込む必要がある。技術はリスクを遮断できるが、真の信頼は長期的かつ透明性の高いガバナンス文化から生まれる。

今回の資金調達を経て、AIRは従業員数を倍増させ、中小企業向けの軽量版製品を投入する計画だ。MarshはTechCrunchに対し、主要なAIフレームワークプロバイダーとの提携を通じてガバナンス機能を開発ツールチェーンに直接統合し、「セキュリティのDNA」をエージェント開発の初期段階から組み込んでいくと明かした。

本記事はTechCrunchを基に編集・翻訳したものです。