AI時代、ネットワークセキュリティはどう向き合うべきか？

人工知能技術があらゆる業界に浸透する以前から、ネットワークセキュリティはますます厳しい課題に直面していた。ランサムウェアからサプライチェーン攻撃まで、攻撃者は絶えず新たな突破口を探している。そしてAIの参入は、既に張り詰めた弦に数倍の張力を加えるようなもので、攻撃対象領域は急激に拡大し、従来の防御体系の亀裂は無限に拡大されている。MIT Technology Reviewが開催したEmTech AIカンファレンスにおいて、複数のセキュリティ専門家は、我々はセキュリティ思考を根本から再構築し、AIを事後的なパッチとしてではなく、セキュリティの内在的な遺伝子として位置づけなければならないという点で一致した。

従来型セキュリティの黄昏：静的防御の終焉

長年、企業のセキュリティアーキテクチャは「境界防御」の理念に基づいてきた。ファイアウォール、侵入検知システム、エンドポイントのアンチウイルスソフトは堀のように外部からの侵入を阻止しようとしてきた。しかし、クラウドコンピューティング、モバイルワーク、IoTデバイスの普及に伴い、ネットワークの境界はとうに曖昧になっている。AIの到来は、こうした静的モデルを徹底的に打ち破った。攻撃者はAIを利用してシグネチャ検出を回避するマルウェアを迅速に生成したり、ディープフェイク技術を用いてソーシャルエンジニアリング攻撃を仕掛けたり、さらにはモデル汚染を通じてAIシステム自体を訓練段階で「内通者」にすることさえできる。

「我々はもはやネットワークが安全であると仮定することはできず、ルールベースの検出に依存することもできない。AI攻撃は動的かつ適応的であるのに対し、我々の防御は依然として静的である。」——カンファレンス講演者、ネットワークセキュリティ専門家 Erik C. Peterson

実際、従来のセキュリティツールはAI駆動型攻撃に対して反応が遅れがちである。AIはミリ秒単位で攻撃パターンを調整できるが、人間のアナリストが異常を発見するには数時間、あるいは数日を要する場合もある。このタイムラグは致命的な隙間となる。

AIがもたらす新たなリスク：ツールから標的へ

AIは攻撃対象領域を拡大しただけでなく、それ自身が攻撃対象にもなっている。モデル汚染（data poisoning）、敵対的攻撃（adversarial attacks）、モデル窃取（model extraction）などの新たな脅威が現実のものとなっている。例えば、攻撃者は少量の悪意あるデータを注入して訓練セットを汚染し、AIモデルが特定の条件下で誤った出力を生成するようにしたり、巧妙に構築された入力により自動運転車に停止標識を誤認させたりできる。これらの攻撃は隠蔽性が極めて高く、従来のセキュリティ監視システムではほぼ検知できない。

さらに、AIシステムの「ブラックボックス」特性により、セキュリティ監査が困難になっている。モデルが誤った判断を下したとき、それがデータの問題なのか、アルゴリズムの脆弱性なのか、それとも外部攻撃によるものなのかを追跡することは難しい。この説明不可能性は、企業のAIセキュリティへの信頼をさらに損なっている。

セキュリティの再構築：AIを核とした能動的防御

カンファレンスでは、将来のセキュリティ体系はAI自体を第一の防御線とすべきだと呼びかけられた。これは以下を意味する：

• AIネイティブなセキュリティ設計：展開後にパッチを当てるのではなく、AIシステムのアーキテクチャ段階でセキュリティメカニズムを組み込む。例えば、連合学習を用いてデータプライバシーを保護し、敵対的訓練を採用してモデルのロバスト性を強化する。
• 継続的なセキュリティ検証：AIを活用してモデルの挙動をリアルタイムで監視し、異常検知を通じて潜在的な汚染や敵対的攻撃を発見する。
• 人間と機械の協調的対応：AIが脅威の迅速な識別と日常的なインシデントの自動処理を担当し、人間の専門家は高レベルの戦略と複雑な攻撃の追跡分析に専念する。

カンファレンスの司会者が述べたように、「セキュリティはもはやファイアウォールの後ろの孤島ではなく、すべてのAIシステムの動作サイクルにおける鼓動である」。この変革は、企業がセキュリティチームの役割を、単なる防御者から能動的なリスク管理者へと再定義することを求める。

編集者注：セキュリティ思考には「パラダイム革命」が必要

AIとセキュリティの結合は、技術的アップグレードだけでなく、認識の革命でもある。我々はセキュリティを独立した製品として扱い、購入して取り付ければよいと考えがちだ。しかしAI時代において、セキュリティはビジネス、データ、モデルと不可分の一体である。企業はトップレベルの設計から始めて、セキュリティをAIの血液に融合させる必要がある。これはコストが高いかもしれないが、壊滅的な攻撃を受けることに比べれば、前段階での投資は間違いなく価値がある。

本記事はMIT Technology Reviewから編訳した。