裁判所はAI生成訴訟の洪水にどう対応するか

AI生成訴訟：司法システムの新たな課題

コロラド州連邦地方裁判所のあるオフィスでは、治安判事のMaritza Braswellが毎日山積みの法的文書と向き合っている。これらの文書は、弁護士を雇う余裕のない当事者——経済的に困窮しているか、案件があまりに些細で弁護士の関心を引けない人々——から寄せられたものだ。Braswell判事は一字一句これらの文書を読み込み、その背後にある一人の人間の正義への最後の望みを理解している。しかし近年、彼女は不穏な傾向に気づいた。こうした文書のうち、人工知能によって生成されたものが増加しているのだ。

「ChatGPTで書かれた訴状を見たことがあります。そこには全く存在しない判例が引用されていました」とBraswellはインタビューで語った。「私はすべての引用を確認するために余計な時間を費やさざるを得ませんでした」。この現象は単発的なものではない。2024年には、ある連邦判事がAI生成の虚偽の法的論点を提出した弁護士を公に叱責した。2026年に至り、生成AIの普及に伴い、弁護士のいない当事者がAIツールを直接使って法的文書を起草するようになり、裁判所はかつてない「デジタル雑草」問題に直面している。

「AIが生成する訴状は諸刃の剣のようなものです。法律サービスのハードルを下げる一方で、誤りやゴミ情報の氾濫も招きます」——ノースカロライナ大学ロースクール教授 Sarah H. Lowe

AIの幻覚と法的な抜け穴

AI生成の法的文書で最もよくある欠陥は「幻覚」だ——モデルが架空の法律条文、判例名、さらには裁判所名までも捏造してしまう。例えばあるケースでは、被告が合衆国法典第42編第1983条（公民権訴訟）違反で告発されたが、AIは第42編第1985条の「公民権侵害の共謀」を引用しており、その条文の実際の内容は事件とは全く関係がなかった。別の文書では、AIが10ページにわたる「類似判例リスト」を生成したが、そのうち60％は実在しない判例だった。

さらに厄介なのは、AIには法的手続きへの理解が欠けていることだ。多くのAI生成の訴状は形式が乱雑で、『連邦民事訴訟規則』に従って事実に番号を付けておらず、中には異なる訴因が混在しているものもある。Braswell判事によれば、彼女はこうした文書を差し戻し、当事者に形式要件に適合した版の再提出を求めざるを得ないが、これによって審理期間がさらに長引いてしまう。「公正でありたいのですが、業務量が30％も増えました」と彼女は語る。

裁判所の対応策

この洪水に直面し、米国の裁判所システムは様々な対応策の模索を始めている。一部の裁判所は、反復的な文型や異常な法律用語の比率など、AI生成コンテンツの特徴を検出する自動文書スクリーニングツールを導入した。コロラド州連邦地方裁判所では、「Legal AI Detector」と呼ばれるシステムが試験運用されており、提出時に疑わしい文書をマークし、裁判官に手動審査を促す機能を備えている。

また、一部の裁判所は当事者に「AI不使用宣言」または「AI使用宣言」への署名を求めており、AIツールを使用した場合は、その具体的な使用方法と支援の程度を詳細に説明することを義務付けている。ニューヨーク州のある裁判所では、AI生成の訴状には「正確性認証」を添付することを義務付けており、当事者が引用一つひとつの実在性を手作業で確認しなければならない。「これは当事者の負担を増しますが、少なくとも完全な捏造を減らすことはできます」と裁判所の広報担当者は述べた。

源流から規制すべきだとの声もある。米国法曹協会（ABA）は『職業行為模範規則』の改正を検討しており、弁護士がAI支援で起草した文書を提出する際により厳格な責任を負うことを求める方向だ。しかし弁護士のいない当事者にはこれらの規則は適用されない。「法律を学んだことのない人にAIの幻覚を見分けることを求めるのは無理です」と法律テクノロジー評論家のJohn Watkinsは指摘する。「私たちに必要なのはより優れたAIツールであって、利用者への処罰ではありません」。

編集後記：AI時代の法的公平性

AI生成訴訟の氾濫は、より深い問題を浮き彫りにする。法律テクノロジーの発展は不平等を拡大しているのではないか？一方では、AIは弁護士サービスを受けられない人々に「発言権」を与え、理論的には司法へのアクセス機会を高めている。他方では、低品質なAI文書が裁判所の注意を分散させ、本当に妥当な訴えが埋もれてしまう恐れがある。さらに懸念されるのは、被告側がAI文書の欠陥を利用して案件を覆し、かえって無知な原告を傷つける可能性があることだ。

いずれにせよ、裁判所はこの変化に適応しようと努めている。Braswell判事のオフィスでは、補助スクリーニングシステムが時折「ピン」と音を鳴らし、新たな文書をマークする。彼女は目をこすり、その文書を手に取る。「これはAIが書いたものかもしれませんし、そうでないかもしれません」と彼女は言う。「でも、いずれにせよ、私は注意深く読み続けます。それが私の職務ですから」。

本記事はMIT Technology Reviewより翻訳・編集した。