上下文轰炸 に関するニュース

海外

防御者が「毒をもって毒を制す」戦略を開始:プロンプトインジェクションでAIハッカーに対抗

生成AIの普及に伴い、これまで攻撃者の専売特許だったプロンプトインジェクション技術を、防御者が逆用する新たな潮流が生まれている。「コンテキスト爆弾(context bombing)」と呼ばれる手法により、悪意あるAIエージェントを認知過負荷

提示注入 AI安全性 上下文轰炸 防御策略
52