OpenAI、プレリリースモデルがHugging Faceのデータ漏洩を引き起こしたと認める

2026年7月22日、OpenAIによる声明がAIコミュニティに衝撃を与えた。同社は、内部テストプロセスにおけるミスが著名なモデルホスティングプラットフォームHugging Faceのデータ漏洩を引き起こしたと正式に認めた。声明では、漏洩の原因はOpenAIのプレリリースモデルにあり、これらのモデルがHugging Face上でテストされた際、設定ミスまたはアクセス制御の不備により、機密情報とモデルの重みが意図せず露出したと明記されている。

事件の経緯：「制御を失った」内部テスト

TechCrunchの報道によると、OpenAIは公開声明の中で、今回の事件は「制御を失った内部テスト」（internal testing gone awry）に起因すると説明した。具体的には、OpenAIのエンジニアリングチームがパフォーマンス評価やフィードバック収集を目的に、複数のプレリリース版モデルをHugging Face上にデプロイした。しかしこれらのモデルは、必要な権限制限の欠如や暗号化通信の未設定など、厳格なセキュリティ隔離基準に従っていなかったため、未認可の第三者がモデルファイルおよび関連データにアクセスできる状態となった。漏洩した情報にはモデルアーキテクチャの詳細、トレーニングデータセットの一部サンプル、さらにはAPIキーの一部が含まれていた可能性がある。

OpenAIの広報担当者は「今回の事件を深くお詫び申し上げます。これは内部プロセスの脆弱性によるものであり、直ちに修正措置を講じるとともに、Hugging Faceチームと協力してデータの安全確保に努めています」と述べた。

Hugging Faceの役割と対応

Hugging Faceは世界最大級のAIモデルオープンソースコミュニティの一つであり、毎日数え切れないほどのモデルがアップロード・ダウンロードされている。プラットフォーム自体はバージョン管理、アクセス制御、監査ログなどのセキュリティ機能を提供しているが、OpenAIを含むユーザーが適切に設定しない場合、依然として機密コンテンツが露出するリスクがある。Hugging Faceは事件後に迅速に対応し、セキュリティ告知を発表して全ユーザーに自身のモデル権限の確認と更新を促すとともに、プラットフォームにおける異常なアクセスパターンの監視を強化した。

業界への影響：プレリリースモデルのセキュリティジレンマ

今回の事件は、AI業界がプレリリースモデルの管理において抱えるセキュリティ上のジレンマを改めて浮き彫りにした。大規模言語モデル（LLM）や画像生成モデルは極めて高い価値を持ち、その重みとアーキテクチャは企業のコアとなる知的財産であることが多い。しかしプレリリース段階では、外部からのテストフィードバックを得たり、イテレーションを加速させたりするために、モデルを外部プラットフォームにデプロイする必要が生じる。これにより、セキュリティ（漏洩防止）とオープン性（協力促進）の間に鋭い矛盾が生まれる。類似の事件は今回が初めてではない。2025年にはあるスタートアップが暗号化されていないモデルの重みを誤ってパブリッククラウドストレージにアップロードして損失を被り、2024年にはあるオープンソースLLMの初期バージョンに悪意あるバックドアが埋め込まれていることが発覚した。OpenAIが今回自ら問題を公表したことは誠実さの表れではあるが、業界が内部テストの標準プロセスを改めて見直すきっかけともなった。

編集後記：透明性と責任のバランス

OpenAIが自ら進んで認め、全責任を負う姿勢を選んだことは評価に値する。AIセキュリティがいまだグレーゾーンにある現状において、透明性のある公開姿勢は信頼構築に寄与する。しかし、世界をリードするAI企業として、OpenAIはより厳格なセキュリティ監査メカニズムを備えているべきだった。今回の事件はまた、スタートアップであれテック大手であれ、モデルデプロイにおけるすべての設定項目を軽視すべきではないことを改めて示している。AIモデルが大規模化・広域化するにつれ、わずかなテストミスがチェーン反応を引き起こす可能性があり、知的財産の漏洩からモデルへの注入攻撃、さらには下流アプリケーションのセキュリティへの脅威にまで発展しかねない。業界は統一されたプレリリースモデルのセキュリティ基準を確立し、より多くのセキュリティ監査ツールやサンドボックス環境の発展を促進していく必要がある。

今後の展望

現時点でOpenAIは影響を受けたすべてのプレリリースモデルを撤回し、内部テストプロトコルを更新した。今後はすべての外部デプロイに対して多段階の承認と自動化されたセキュリティスキャンを義務付ける。Hugging Faceもプラットフォームに「セキュリティ評価バッジ」機能の導入を計画しており、モデルが基本的なセキュリティ設定要件を満たしているかどうかをユーザーが識別しやすくする。今回の事件は、AI業界のセキュリティコンプライアンス発展における一つのマイルストーンとなるかもしれない。

本記事はTechCrunchより翻訳・編集したものです。