OpenAI、AIスーパーハッカー「GPT-Red」を構築——攻撃によって防御を促進しモデルの安全性を向上

人工知能安全の分野で、静かな軍拡競争が繰り広げられている。OpenAIは先日、「GPT-Red」と名付けられたLLMスーパーハッカーを構築したことを明らかにした。このモデルは自社の他のAIモデルを攻撃することに特化しており、それらの防御能力を検証・向上させることを目的としている。この革新的なアプローチは、従来のレッドチームテスト（Red Teaming）を新たな高みへと引き上げ、攻撃の完全な自動化とインテリジェント化を実現した。

GPT-Red：AI界の「最高のスパーリングパートナー」

MIT Technology Reviewの報道によると、GPT-RedはOpenAI社内で開発された専用モデルであり、その核心的な任務は他のAIモデルの弱点を発見し利用することにある。OpenAIはGPT-Redを「スパーリングパートナー」と表現しており、継続的な対抗訓練を通じてターゲットモデルに脆弱性の修正を迫り、堅牢性を強化する。先週リリースされたGPT-5.6は、この訓練手法の最新成果だ。OpenAIはGPT-5.6を同社史上最も安全なモデルと宣言しており、これはGPT-Redによる「過酷な訓練」に大きく起因するとしている。

「私たちが目指しているのは、本物のハッカーを作ることではなく、最悪のシナリオをシミュレートできる対戦相手を作ることです。それによって、私たちのモデルがあらゆる環境で自らを守る方法を学べるようにします。」——OpenAIセキュリティチームリード

レッドチームテストのインテリジェント化という進化

従来のレッドチームテストは人間の専門家が手動でシステムへの攻撃を試みるものであり、時間と労力を要するうえにカバー範囲にも限界があった。GPT-Redの登場はこの状況を一変させた。GPT-Redはプロンプトインジェクション、ジェイルブレイクの試み、データ窃取など多様な攻撃ベクターを含む攻撃戦略を自律的に生成し、極めて短時間で大量のテストを実施できる。さらに重要なのは、GPT-Redが各攻撃から学習し、攻撃手法を継続的に最適化することで、「攻撃→防御→再攻撃」というクローズドループを形成している点だ。

この「AIでAIを攻撃する」というコンセプトはOpenAIが初めて提唱したわけではないが、GPT-Redの規模とインテリジェント化の程度は前例がない。GPT-RedはGPTアーキテクチャをベースに、セキュリティ評価タスクに特化した専用ファインチューニングが施されているとされる。既知の脆弱性を発見するだけでなく、人間の専門家が見落とす可能性のある潜在的な弱点も掘り起こすことができる。

GPT-5.6：安全性とパフォーマンスのバランス

GPT-5.6のリリース自体も広く注目を集めた。ベンチマークテストにおいて優れた結果を示す一方で、OpenAIはこのイテレーションの核心的なハイライトは安全性の向上にあると強調している。GPT-Redによる対抗訓練を通じて、悪意のあるプロンプトに対するモデルの拒否率が大幅に向上し、ハルシネーションや誤解を招く出力も著しく減少した。ただし、一部のセキュリティ専門家は、対抗訓練に過度に注力することで、通常の使用シナリオにおいてモデルが過度に保守的になり、ユーザー体験に影響を及ぼす可能性があると指摘している。OpenAIは、安全性と実用性の最適なバランス点を見つけるべく努力していると述べている。

編集後記：AI安全の未来は対抗にある

GPT-Redの登場は、AIセキュリティ分野における新たなパラダイムの到来を告げている。それは、脆弱性を受動的に修正するのではなく、能動的に攻撃者を生み出すことで防御の進化を駆動するというアプローチだ。この手法は、病原体に継続的にさらされることで自己を強化する生体免疫系に似ている。しかしこれは同時に、哲学的な問いも提起する——AIハッカーが十分に強力になったとき、それは逆に新たな脅威にならないだろうか？規制と倫理的枠組みが、技術発展のペースに同步して追いついていく必要がある。

いずれにせよ、GPT-Redは対抗的訓練の有効性を証明した。将来的には、同様のレッドチームAIがさらに多く登場し、AIどうしの「攻防エコシステム」が形成される可能性すらある。AI開発者にとって、常時稼働する「スーパーハッカー」という対戦相手を持つことは、安全なAIを構築するための最善の道かもしれない。

本記事はMIT Technology Reviewより編訳