AIの導入がガバナンスを上回る時代：企業はいかにしてAIエコシステムの可視性を取り戻すか

編集者注：過去2年間、企業がAIについて最もよく問うていたのは「これで何ができるか」だった。しかし今、セキュリティ責任者が問うのは「私たちは実際にどのAIを使っているのか」だ。この問いの転換こそが、ガバナンスの遅れが招いた代償——可視性の危機——を浮き彫りにしている。

AI Newsに掲載された業界考察によれば、企業環境におけるAIの導入速度はAIガバナンス能力を全面的に上回っており、それが根本的なセキュリティ問題を生み出している。組織は自分たちに見えないものを守ることができない、という問題だ。チャットボット、コーディングアシスタント、カスタマーサービスエージェント、文書要約ツールが従業員や事業部門によって独自に接続される中、セキュリティチームが直面するのは明確な技術的境界線ではなく、曖昧なグレーゾーンだ。可視性は「あれば望ましい機能」から、あらゆるAIセキュリティ対策の前提条件へと変わった。

見えないものは守れない

従来のセキュリティ体系は、比較的安定した資産台帳の上に成り立っていた。サーバーの台数、データベースの数、データフローの数を把握しているという前提だ。しかしAIはその前提を崩した。ある事業チームが数週間のうちに、APIを通じて3つの大規模モデルサービスに接続し、社内文書をアップロードしてファインチューニングを行い、その一連のプロセスを日常業務フローに組み込む——こうした一切が、従来のIT資産台帳には現れない。

その結果は二重のリスクだ。一つはデータリスク：プロンプトに顧客情報、ソースコード、財務データ、未公開の製品計画が紛れ込む可能性があり、それらが企業の境界を越えてしまえば回収は困難だ。もう一つは行為リスク：モデルの出力にバイアス、ハルシネーション、コンプライアンス上の問題が含まれていても、どのモデルが、どのようなコンテキストで、誰によって呼び出されたのかを遡ることができない。セキュリティチームが失うのは個々のコントロールポイントではなく、チェーン全体のオブザーバビリティだ。

なぜ従来の監視ツールは機能しないのか

多くの企業は既存のセキュリティツールの組み合わせ——DLP、CASB、SIEM、エンドポイントエージェントなど——でAIを「ついでに」カバーしようとする。これらのツールが無意味というわけではないが、その検知ロジックとAI活動の間には構造的なずれがある。

第一に、AIトラフィックは暗号化されたAPI呼び出しを通じることが多く、送信先は正規のクラウドサービスプロバイダーであるため、ドメインとポートに基づく従来のポリシーでは「通常業務」と「データ漏洩」を区別しにくい。第二に、AI活動はセッション形式で存在することが多く、短時間で断片的、かつクロスデバイスであるため、ログ収集の際に重要なコンテキストが抜け落ちやすい。第三に、最も厄介なのが「シャドーAI」だ。従業員が個人アカウント、ブラウザプラグイン、未申告のサードパーティツールを使用するケースは、企業ネットワークポリシーの完全に外側に存在する。

可視性は一つの機能ではなく、一つの能力だ。どのAIが稼働しているか、それらがどのデータに接触しているか、誰が承認しているか、そしてどのような影響をもたらしているかを把握する能力だ。

可視性を構築する4つの層

コントロールを取り戻すために、セキュリティチームには単一の購買行動ではなく、階層的な戦略が必要だ。

第1層：資産棚卸しと発見。モデル、エージェント、アプリケーション、プラグイン、API統合を網羅する企業AIの資産台帳を構築する。発見手段にはネットワークトラフィック分析、クラウドサービスの請求書とAPIキーの監査、SaaSアプリケーション発見ツール、エンドポイントのAIプラグインのスキャンを含める必要がある。台帳は一度きりのプロジェクトではなく、継続的に更新されなければならない。

第2層：データフローのマッピング。各AIチェーンにおいて、どのようなデータが入力されているか、どのくらいの期間保存されるか、学習に使用されるか、国境を越えて転送されるかを明確にする。このステップでは法務、プライバシー、データガバナンスチームと連携し、技術的な可視性をコンプライアンス上の証拠として活用できる形に変換する必要がある。

第3層：行動とプロンプトの観測。誰がいつどのモデルを呼び出したか、プロンプトに機密情報が含まれているか、出力がポリシーアラートを発生させているかを記録する。AI Security Posture Management（AI-SPM）やAIゲートウェイ型ツールがこの空白を埋めつつあり、業務を阻害することなく監査証跡を提供できる。

第4層：集中ガバナンスと対応。上記の情報を統合プラットフォームに集約し、ID管理システム、DLP、インシデントレスポンスプロセスと連携させ、異常な行動が自動的に隔離、権限降格、または人的レビューのトリガーとなるようにする。

可視性からガバナンスの閉ループへ

可視性そのものはゴールではない。その価値は、後続のガバナンスアクションに根拠を与えることにある。誰がどのモデルを使えるか、どのデータをプロンプトに入れることを禁じるか、出力にどのような審査が必要か、問題が発生した場合にどう責任を追及するか。EUの「AI法」が段階的に施行され、米国のNIST AIリスク管理フレームワークが広く参照されるにつれ、「説明可能、追跡可能、説明責任」に対する規制要件は勧告から義務へと変わりつつあり、その前提もまた可視性だ。

注目すべき点として、可視性の構築は業務の封じ込めになってはならない。過度な制限はかえって利用をより見えにくい場所へ追いやるだけだ。より効果的なアプローチは「承認済みの経路」を提供することだ——企業向けAIゲートウェイ、統合アカウント体系、評価済みモデルカタログ——を通じて、コンプライアンスに沿った利用を迂回路より使いやすくする。セキュリティチームのKPIも「遮断件数」から「ガバナンスが適用されているAIのカバレッジ率」へと転換すべきだ。

AIの導入とAIガバナンスの間のタイムラグは自然には縮まらない。企業にとって最初のステップは、より複雑な防護策を導入することではなく、まずシンプルな問いに答えることだ。私たちは今、一体どのようなAIを使っているのか？その答えが明確になって初めて、コントロールが語れる。

本稿はAI Newsより編訳