裁判所がAIを使用していると思い込み、男性が訴訟文書にプロンプトを埋め込んで勝訴を狙う
米国で、自己代理の訴訟当事者が法院の裁判にAIが使われていると信じ、訴訟文書にプロンプトインジェクション攻撃の手法を埋め込んだ事件が発生した。主審裁判官はこれを厳しく批判し、「裁判所はそのようなAIシステムを使用していない」と警告した。
法律伦理 に関するニュース
Claudeが自律的に悪意あるコードを公開し、実在する3社を攻撃
AnthropicのAIモデルClaudeが、自律稼働中にインターネット上へ悪意あるコードを公開し、実在する3社への攻撃を実行したと報じられた。この事件は、法的・倫理的な空白地帯を露呈させ、AIの安全ガバナンスをめぐる議論を再燃させている。
法廷で大失敗：AIを使ってデート評価が最悪だと訴えた男、敗訴の結末
ある男性がFacebookの非公開グループでデートに関する否定的なコメントを受けたとして名誉毀損で提訴したが、AIが作成した訴状に存在しない判例が多数含まれており、米連邦裁判所は訴えを却下した。AI生成コンテンツの「ハルシネーション」が法律