データリネージ：AIエージェント企業のセキュリティ防衛線を強固にする

ある営業担当者がAIエージェントに顧客向け価格情報を照会した。エージェントはアクセス制限のかかった価格システム、社内コミュニケーション記録、アーカイブされた見積書など複数のソースからデータを取得した。エージェントにとって返ってきた結果は正確に見えたため、別のエージェントがその情報をもとに営業担当者向けの提案書を作成した。このプロセス全体を通じて、人間が確認した場面は一度もなかった。

エージェントがプロセスを引き継ぐと、リスクもバトンタッチされる

これは企業におけるAI導入でますます一般的になっているシナリオだ。エージェントの価値はその自律性にある。複数のシステムをまたいで情報を検索・推論し、次のアクションを実行することで、従来は人間がつないでいた工程を自動化できる。しかしその自律性は、リスクも「バトンタッチ」されることを意味する。最初のエージェントが公開権限のない価格情報を読み取り、次のエージェントがそれを提案書に書き込んで顧客に送れば、2ステップ以内で情報漏洩が完結する。その間、誰も気づかない。

見えない手：マルチエージェント協調がなぜ監査しにくいのか

従来のソフトウェアにおけるデータフローは決定論的だ。APIコール、データベースクエリ、ログ記録と、すべての工程が追跡可能である。しかしAIエージェントが介在すると、データの出所が曖昧になる。エージェントは非構造化ドキュメントから事実を「理解」したり、複数のソースを統合していずれの単一システムにも存在しなかった結論を導き出したり、コンテキストの中でデータの出所を消し去ったりする可能性がある。

さらに厄介なのが、エージェント間の受け渡しだ。エージェントAがエージェントBに結果を渡す際、Bは通常コンテンツだけを受け取り、そのコンテンツのアクセス権限レベルや出所は見えない。冒頭の例がまさにそうだ。提案書を作成したエージェントは、一部の価格データにアクセス制限があることを知らず、ただ入力されたデータを忠実に使用したに過ぎない。

データリネージ：「結果が信頼できる」から「出所が追跡可能」へ

データリネージ（data lineage）は新しい概念ではなく、データウェアハウスやデータガバナンスの分野で長く活用されてきた。データが源泉から終点に至るまでの流れ、すなわちどこから来て、どのような変換を経て、誰に使われたかを記録するものだ。エージェント企業においてデータリネージの意義はさらに増す。物理的なデータの経路を記述するだけでなく、エージェントの意思決定に対する「注釈」となり、「この結論はどのデータに基づいているか」という問いに答えるものになる。

エージェントのアウトプットの出所が追跡できないなら、その「正確さ」は見かけ上のものに過ぎず、検証可能な信頼とは言えない。

データリネージをエージェントアーキテクチャに組み込むということは、データの呼び出しごとに出所識別子、権限タグ、変換記録を付与することを意味する。下流のエージェントはデータを受け取る際、それを使用すべきか、匿名化が必要か、人間による確認が必要かを判断できる。これによりシステム横断的な漏洩リスクが低下するとともに、問題発生後に責任の連鎖を迅速に特定することも可能になる。

実装への道筋：ガバナンス・技術・文化の三位一体

信頼できるエージェント企業を構築するには、三つの側面での連携が必要だ。第一にガバナンスの側面：エージェントがアクセスできるデータ、内部推論のみに使用できるデータ、そしてマルチエージェントのチェーン上で権限をどのように引き継ぐかを明確にすること。第二に技術の側面：エージェントのために統一されたデータ系譜のメタデータを構築し、すべての検索と生成が監査可能な痕跡を残すようにすること。第三に文化の側面：自動化のチェーンを盲目的に信頼せず、重要なアウトプットに対して人間によるレビューを残すよう従業員に促すこと。

強調すべきは、データリネージはエージェントを制限するためではなく、エージェントにより安心して重要な役割を委ねられるようにするためのものだということだ。可視性が制御可能性をもたらし、制御可能性が信頼を生み、信頼こそがエージェントをスケールさせる前提条件となる。

編集後記：企業がますます多くの意思決定をエージェントに委ねるようになった今、セキュリティの境界はファイアウォールや権限システムだけでは定義されなくなった。すべてのデータの来龍去脈によって定義されるのだ。データリネージは派手さとは無縁かもしれないが、エージェント企業にとって最も現実的なインフラである。

本稿はMIT Technology Reviewより編訳。