大模型防护に関するAIニュース

Grokが暗号化指令攻撃の標的に：悪意あるペイロードがセキュリティガードレールを回避してユーザーデータを窃取

セキュリティ研究者が、xAIの大規模言語モデルGrokに対する「暗号化コンテキストインジェクション」攻撃を公開した。悪意ある指令を暗号化することでセキュリティフィルターを回避し、ユーザーデータを窃取できることが明らかになった。