裁判所がAIを使用していると思い込み、男性が訴訟文書にプロンプトを埋め込んで勝訴を狙う
米国で、自己代理の訴訟当事者が法院の裁判にAIが使われていると信じ、訴訟文書にプロンプトインジェクション攻撃の手法を埋め込んだ事件が発生した。主審裁判官はこれを厳しく批判し、「裁判所はそのようなAIシステムを使用していない」と警告した。
提示注入 に関するニュース
大規模言語モデルの致命的欠陥：完全なハッキング防止は永遠に不可能
MITテクノロジーレビューの最新報告によると、大規模言語モデル（LLM）にはそのアーキテクチャに起因する根本的な脆弱性が存在し、完全なセキュリティ保護の実現は原理的に不可能である可能性が明らかになった。この発見はAI安全性に対する業界の楽観
LLMのセキュリティ脆弱性：根本的な欠陥によりモデルが攻撃に極めて脆弱
大規模言語モデル（LLM）は自己回帰的・確率的な性質という根本的な欠陥を抱えており、プロンプトインジェクションなどの攻撃に対して完全な防御が不可能であると研究チームが指摘した。現行のセキュリティ対策では根本的な解決にならず、アーキテクチャの
「コンテキスト爆弾」でAIハッカーエージェントを無力化：プロンプトインジェクション攻撃への反撃
セキュリティ研究者が開発した「コンテキスト爆弾」は、プロンプトインジェクション攻撃の原理を逆手に取り、悪意のあるAIハッカーエージェントに大量の無関係なコンテキスト情報を注入することで計算リソースを枯渇させ、攻撃を無効化する防御技術である。
防御者が「毒をもって毒を制す」戦略を開始：プロンプトインジェクションでAIハッカーに対抗
生成AIの普及に伴い、これまで攻撃者の専売特許だったプロンプトインジェクション技術を、防御者が逆用する新たな潮流が生まれている。「コンテキスト爆弾（context bombing）」と呼ばれる手法により、悪意あるAIエージェントを認知過負荷
Microsoft Copilotの重大な脆弱性：ハッカーがユーザーの2FA認証コードを窃取可能
Microsoft Copilotに「SearchLeak」と命名された高危険度の脆弱性が発見され、攻撃者が悪意あるウェブページやメールを通じてユーザーのブラウザにキャッシュされた2FA認証コードを窃取できることが明らかになった。この脆弱性
OpenAI、プロンプトインジェクションを防御しセンシティブデータを保護する「ロックダウンモード」を発表
OpenAIは2026年6月7日、ChatGPT統合サービスのプロンプトインジェクション攻撃リスクを低減する新機能「Lockdown Mode」を発表した。コンテキストウィンドウとツール呼び出しを制限することで攻撃面を縮小する設計となってい
Meta ハッキング事件：AI セキュリティ神話の崩壊
2026年6月、Meta の AI カスタマーサポートを悪用した攻撃により、廃棄されたオバマ元大統領のホワイトハウス公式アカウントを含む大量の Instagram アカウントが乗っ取られた。AI が自然言語の指示に過度に従う脆弱性が浮き彫り
流れに乗るAIコーダーにうんざり、開発者がデータ削除命令を密かに埋め込む
匿名の開発者が人気のJavaプロパティテストライブラリjqwikに、AIコーディングエージェントを標的とした隠蔽されたプロンプトインジェクションコードを埋め込み、出力データを自動削除させる事件が発生した。本件はAIコーディングエコシステムの
Googleの警告：悪意のあるウェブページが企業AIエージェントを「毒殺」攻撃
Googleの研究者は、悪意のあるウェブページが「間接プロンプトインジェクション」という技術を使って企業AIエージェントを攻撃していると警告しました。これにより、AIエージェントは不正な操作を実行する可能性があります。