LLM に関するニュース

海外

裁判所がAIを使用していると思い込み、男性が訴訟文書にプロンプトを埋め込んで勝訴を狙う

米国で、自己代理の訴訟当事者が法院の裁判にAIが使われていると信じ、訴訟文書にプロンプトインジェクション攻撃の手法を埋め込んだ事件が発生した。主審裁判官はこれを厳しく批判し、「裁判所はそのようなAIシステムを使用していない」と警告した。

AI司法 提示注入 LLM 法律伦理
574
海外

大規模言語モデルの致命的欠陥：完全なハッキング防止は永遠に不可能

MITテクノロジーレビューの最新報告によると、大規模言語モデル（LLM）にはそのアーキテクチャに起因する根本的な脆弱性が存在し、完全なセキュリティ保護の実現は原理的に不可能である可能性が明らかになった。この発見はAI安全性に対する業界の楽観

LLM AI安全性 提示注入 地热发电
435
海外

LLMのセキュリティ脆弱性：根本的な欠陥によりモデルが攻撃に極めて脆弱

大規模言語モデル（LLM）は自己回帰的・確率的な性質という根本的な欠陥を抱えており、プロンプトインジェクションなどの攻撃に対して完全な防御が不可能であると研究チームが指摘した。現行のセキュリティ対策では根本的な解決にならず、アーキテクチャの

LLM AI安全性 提示注入 对抗性攻击
739
海外

防御者が「毒をもって毒を制す」戦略を開始：プロンプトインジェクションでAIハッカーに対抗

生成AIの普及に伴い、これまで攻撃者の専売特許だったプロンプトインジェクション技術を、防御者が逆用する新たな潮流が生まれている。「コンテキスト爆弾（context bombing）」と呼ばれる手法により、悪意あるAIエージェントを認知過負荷

提示注入 AI安全性 上下文轰炸 防御策略
592
海外

大規模言語モデルが「集団思考」の罠に陥る——あるスタートアップがその打破を試みる

大規模言語モデル（LLM）は訓練データの統計的偏りにより「集団思考」に陥りやすく、出力の多様性が欠如している。スタートアップ「Stochastic Minds」はこの問題を解決すべく、制御可能なランダムノイズを導入する新たなアプローチを模索

LLM 群体思维 随机数 AI创新
571