法廷で大失敗：AIを使ってデート評価が最悪だと訴えた男、敗訴の結末

SNS全盛の時代、デートの体験について悪口を言われるのは珍しいことではないかもしれない。しかしある人物は、これを理由に法的手段に訴えようとした——しかもAIを使った法的手段で。その結果は？見事なまでの大失敗だった。

「悪口」から始まった訴訟

Ars Technicaの報道によれば、先日米連邦裁判所は奇妙な訴訟を却下した。ある男性が、Facebookの非公開グループ「Are We Dating the Same Guy」で否定的な評価を受けたとして、弁護士——厳密にはAI——に訴状を作成させ、グループ内で彼についてコメントした複数のユーザーを訴えたのだ。このグループは本来、女性たちがデートの経験を共有し、悪質な相手を避けるよう注意し合うコミュニティだったが、男性はこれらの発言が名誉毀損に当たり、自身の評判を著しく損ねたと主張した。

「AIを使って法律の引用を捏造することは、法的手続きで嘘をつくことに等しく、絶対に容認できない行為である」——本件を審理した裁判官は判決文にそう記した。

しかし、彼の弁護団が提出した訴訟書類には大量の判例が引用されていたが、被告側がそれらの判例が全く存在しないことを発見した。検証の結果、少なくとも6箇所の重要な引用がAIによってでっち上げられたものだった。裁判官は審査後、速やかに訴えを却下し、弁護士への制裁を提案した。弁護士は「AIツールがハルシネーションを起こすのは我々にコントロールできない」と弁明したが、裁判所は、法律専門家として裁判所に提出するあらゆる資料を検証する責任があるとの立場を堅持した。

法律文書におけるAI「ハルシネーション」の破壊力

これはAIが法律の引用を捏造した初めての事例ではない。2023年、ニューヨークのある弁護士がChatGPTを使って法律準備書面を作成し、架空の判例を引用したとして5,000ドルの罰金を科された。その後、同様の事例が次々と明るみに出て、法律業界では生成AIの信頼性について広範な懸念が引き起こされている。AIモデルは本質的に確率的予測器であり、その「ハルシネーション」現象——もっともらしく見えるが完全に誤った内容を生成する現象——は、事実の正確性が極めて重視される法律調査の場面で、壊滅的な結果を招く可能性がある。

本件の特殊な点は、訴えられた「名誉毀損」自体が、一般人同士のカジュアルな悪口に由来している点にある。裁判官は、匿名のネット上のコメントであっても、実質的な悪意がない限り、法律は一定程度の言論の自由を保護することを明確に指摘した。そしてAIが生成した訴状は、基本的な法律の引用すら成り立たないため、当然ながら実質的審理に進むことはできない。

注目すべきは、「Are We Dating the Same Guy」のようなグループは米国で非常に人気があるが、頻繁に名誉毀損訴訟を引き起こしている点だ。2024年には、ある女性がこのグループ内で元カレを「性感染症を持っている」とコメントしたことで、25万ドルの賠償を命じられた。これは、こうしたSNS上の発言は法の埒外ではないことを示しているが、訴訟のハードルは依然として高い——特にAIを使って近道をしようとする場合はなおさらだ。

編集後記：技術は法律倫理の代わりにはならない

AIは法律業界を変えつつあり、契約書のレビューから判例検索まで、効率は確かに大幅に向上している。しかし本件は警鐘を鳴らしている：AIは裁判官でもなく、弁護士の代役でもない。法律文書の引用一つひとつ、事実陳述一つひとつの背後には、司法システムへの敬意が表れている。AIが偽の判例を捏造するとき、損なわれるのは事件そのものだけでなく、法律システム全体の信頼性なのだ。

一般ユーザーにとっても、AIが生成した「完璧な訴状」を見たときには、くれぐれも警戒する必要がある。本件の結末が示すように、節約したつもりの弁護士費用が、最終的にすべて罰金に変わってしまうかもしれないのだ。

本記事はArs Technicaから編訳した。