AIが偽造した引用が書籍に混入、著者はなぜ使用を続けるのか？

2026年5月22日、テクノロジーメディアArs Technicaは考えさせられる報道を発表した：作家Steven Rosenbaumは新著『真理の未来』を執筆する際、AIツールを使用して引用文を生成補助したところ、書籍内には権威的に見えるが完全にAIが捏造した「合成引用」が複数出現した。さらに驚くべきことに、Rosenbaumはこれらの引用が不正確であることを知った後も、AIを使った執筆を継続すると表明した。この事件は出版界とテクノロジー業界で急速に話題となった。

「合成引用」はどのように書稿に紛れ込んだのか？

Rosenbaum自身の説明によると、彼は資料整理の際に人気のAI執筆アシスタントを使用した。このツールは関連分野の専門家の見解を自動的に検索し引用できると謳っていた。しかし、AIは実際にはデータベースから本物の文献を検索したのではなく、文脈に基づいて合理的に見える引用——著者名、著作名、さらにはページ番号まで——を「生成」した。これらの引用の一部は実在するものだったが、大半はAIの「幻覚」の産物だった。例えば、書中のある著名なコミュニケーション学教授の論述とされる文章は、実際にはその教授が発言したことが一度もなかった。

「いくつかの引用が虚偽であることに気づきましたが、それでもAIは私の時間を大幅に節約してくれると考えています。著者として検証する責任はありますが、AIはますます良くなると信じています。」——Steven Rosenbaumがインタビューで述べた

Rosenbaumの態度は孤立した事例ではない。学術執筆、ニュース報道、商業出版の分野では、類似事例がすでに数多く見られる。2023年、弁護士がChatGPTを使って提出した法廷文書にAIが捏造した判例が含まれており、裁判官から厳しい批判を受けた；2024年には、複数の自己啓発本がAI生成のコンテンツを使用し、重大な事実誤認が発覚した。AIの「捏造傾向」（ハルシネーション）は、コンテンツ制作業界における最も厄介な課題の一つになりつつある。

AI支援執筆：効率と真実性のジレンマ

技術的観点から見ると、大規模言語モデルの動作原理は「事実」と「合理的な虚構」を区別できないことを決定づけている。モデルが次の単語を予測する際、優先するのは文法的な流暢さと意味的な一貫性であり、外部世界との整合性ではない。これは、訓練コーパスで某専門家が複数回言及されていれば、モデルが自動的にその専門家の発言を「創作」する可能性があることを意味する——たとえそれらの言葉が一度も存在しなかったとしても。

業界統計によると、現在の主流AIモデルの引用生成タスクにおける正確率は概ね60%未満で、エラーパターンは高度にランダムである。さらに悪いことに、多くのユーザーは引用を検証する専門知識や動機を欠いており、AIの出力内容を直接採用している。出版界の対応策はまちまちで、ある出版社は著者に「AIによる直接生成なし宣言」への署名を要求し、別の出版社は専門の事実確認ツールの使用を推奨している。しかしRosenbaumの事例は、たとえ著者本人がAIが誤る可能性を知っていても、効率の誘惑に抗うのは難しいことを示している。

編者注：責任はAIにあるのか、人にあるのか？

『真理の未来』というタイトルから見ると、皮肉な響きがある。「真理」を論じる書籍が、その執筆過程は一部虚偽情報の上に成り立っているのだ。Rosenbaumの見解——AIツールの未来は自己修正していくと考える——は技術楽観主義を反映しているが、この楽観はコンテンツ制作者の最低限の責任を見落としている可能性がある。AIが「合成引用」の源となったとき、人間の著者は検証者の役割を担うべきであり、創造の権利を手放してはならない。

議論に値するのは、AIの「幻覚」は本質的にその学習メカニズムの副産物だということだ：人間の創造的思考を模倣しようとしているが、「正確な引用」が外部検証を必要とする行為であることを認識できない。将来は、検証可能な引用を生成できる大規模モデルを専門的に訓練するか、AIを「事実の源」ではなく「インスピレーションのアシスタント」として位置付ける必要があるかもしれない。しかしそれまでは、AIを使用するすべての著者は繰り返し自問すべきである：私はAIの誤りに対して責任を負う覚悟があるか？

業界の観点から見ると、Rosenbaumの固執も理にかなっている部分がある。AIは確かに資料検索や見解の統合の効率を大幅に向上させることができ、完全に放棄することは因小失大となる。より合理的な方法は「人間+AI」の分業モデルを確立することである：AIが初稿生成とアイデア提示を担当し、人間が交差検証と事実確認を担当する。出版プラットフォームとテクノロジー企業も協力して、より信頼性の高い引用検証プラグインを開発すべきである。例えば、AI生成のコンテンツを信頼できるデータベースに自動的にリンクするなどだ。

結語：技術進歩の代償とトレードオフ

Steven Rosenbaumの物語は個別事例ではなく、生成AIの波における典型的な一断面である。ツールが強力になればなるほど、使用者の責任は重大になる。『真理の未来』は数本の偽の引用によってその価値の全てを失うわけではないかもしれないが、それは私たちに気づかせる：効率を追求する一方で、情報の真実性という最低ラインを守ることは決して時代遅れにならない。

本記事はArs Technicaから編訳