OpenAIへのハッキング攻撃？繰り返される旧パターン、AI株が急落

先週、OpenAIは衝撃的な報告書を発表し、同社の一部AIモデルがHugging Faceプラットフォームを経由した「前例のない」攻撃を受けたと述べた。この情報が伝わるやAI関連株は一斉に下落し、市場にパニックが急速に広がった。しかし、AIセキュリティの歴史を紐解くと、私たちはすでにこのような光景を目にしていたことがわかる。

「前例のない」の真相：歴史は繰り返す

OpenAIは報告書の中で、攻撃者がHugging Faceのモデルリポジトリにおけるサプライチェーンの脆弱性を利用し、公開モデルにバックドアを埋め込んだうえでOpenAIの内部推論システムへ侵入した経緯を詳細に説明した。同社はこの、モデルのトレーニングおよびデプロイメントパイプラインを標的にした攻撃を「前例のない」ものとして強調した。しかし実際には、同様のセキュリティリスクは少なくとも2023年にまで遡ることができる。当時、研究者たちはPyTorchやTensorFlowの事前学習済み重みを改ざんすることでモデルポイズニング攻撃が容易に実現できることをすでに実証していた。世界最大のモデルホスティングプラットフォームであるHugging Faceでは、毎日数千のモデルがアップロードされているにもかかわらず、セキュリティ審査の仕組みはその成長速度に大きく遅れをとっている。

「攻撃者はOpenAIのコアファイアウォールを突破する必要はない。信頼できるサードパーティのモデルを一つ見つけ、それを踏み台として利用するだけでよいのだ。」——セキュリティ研究者・元MIT CSAIL所属、Alex Zhao博士

今回の事件は改めて警鐘を鳴らしている。AIシステムのサプライチェーンは、従来のソフトウェアよりもはるかに脆弱だ。モデルの重み、データセット、さらにはトレーニングフレームワーク自体までもが攻撃対象になり得る。OpenAIがかねてより大々的に宣伝してきた「安全ガードレール」や「レッドチームテスト」は、明らかにサードパーティエコシステムのリスクをカバーできていなかった。

AI株の売り:恐怖か、合理的判断か

OpenAIが詳細を公表した後、NVIDIAやMicrosoftをはじめとするAI関連株は24時間以内に平均6.7%下落し、時価総額の蒸発額は2000億ドルを超えた。投資家は、大規模なAIセキュリティインシデントが頻発するようになれば、規制当局がより厳しい規制を導入し、AI業界の利益を圧迫する可能性を懸念している。一方で、AI企業の「安全の約束」に対する信頼危機も市場に広がっている——OpenAIのようなトップ企業でさえ攻撃を防げないなら、業界全体のインフラはリスクにさらされているのではないか、という疑問だ。

ただし、今回の売りは過剰反応だとする見方もある。シティバンクのアナリストは「株式市場は散発的なセキュリティインシデントを常にシステミックリスクへと拡大解釈するが、AI企業の実際の売上高には直接的な影響は生じていない。2023年に発生した複数の大規模言語モデル漏洩事故と比べても、今回の攻撃の影響範囲は限定的だ」と指摘した。しかし歴史が証明してきたように、投資家心理は往々にして技術的な詳細よりも重要な要素となる。

編集後記：AIセキュリティという「灰色のサイ」が疾走している

ChatGPTによるユーザーの会話漏洩、Midjourneyモデルのリバースエンジニアリング、そして今回のHugging Faceサプライチェーン攻撃に至るまで、AIセキュリティ問題はもはや「ブラックスワン」ではなく、正面から突進してくる「灰色のサイ」となっている。OpenAIが今回の攻撃を「前例のない」と位置づけたのは、技術的な判断というよりも、むしろ広報上の言い回しに過ぎない——問題をサードパーティプラットフォームに帰することで、自社の責任を軽減しようとする意図が見える。

実際のところ、AI業界はモデル性能の追求を優先する一方で、セキュリティへの投資を長らく二の次に置いてきた。MIT Technology Reviewの調査によれば、世界のトップ20 AI企業のうち、サードパーティモデルの受け入れ審査体制を完全に構築しているのは30%未満に過ぎない。さらに懸念されるのは、オープンソースモデルコミュニティの拡大に伴い、誰でも悪意のあるコードを含むモデルをアップロードできる一方で、それをダウンロードする企業にはスキャンツールが不足していることだ。

今回の事件は投資家にも警鐘を鳴らした。AI技術は「銀の弾丸」ではなく、その脆弱性は想像以上に大きい。将来のAI株のバリュエーションには、「セキュリティリスクプレミアム」をモデルに組み込む必要があるかもしれない。そしてユーザーとしても、あまりにも完璧なAI製品には警戒すべきだ——なぜなら、その製品はバックドアだらけのプラットフォームの上に成り立っている可能性があるからだ。

本記事はMIT Technology Reviewより編訳