AIが5万件の偽データを生成しChatGPTを7ヶ月間欺く――学術論文と投資調査レポートにも引用される

2026年3月、研究者のMetehan Yesilyurtは約50ドルを費やしてGPT-4.1を使用し、5万件の偽造統計データを生成。200カ国のSEO・コンテンツマーケティング等の分野における統計情報を網羅すると称するウェブサイト「stateglobe.com」を構築・公開した。

事実の再現

サイト公開後、Googleは2度のアルゴリズム更新を通じて同サイトの検索露出を迅速に低下させ、現在インデックスされているページのインプレッション数はわずか5〜20件にとどまる。一方、ChatGPTは同サイトからのデータ取得を継続しており、過去30日間でCloudflareが記録したボットリクエストは60万件を超え、うち7万2,000件はChatGPT-Userエージェントからのものだった。GA4のデータによれば、ChatGPT経由のセッション数は1万件を上回る。同サイトはShopify・DHL・Bluehostなどのドメインを含む330以上の被リンクを獲得している。偽造データはすでに学術論文1本と、ある銀行の投資調査レポートに引用されていた。

メカニズムの分析

本実験が示したのは、LLMが回答を生成する際、曖昧な表現よりも具体的な数値を優先して取得する傾向があるという点だ。数値は権威ある根拠として直接引用されやすいためである。また、検索プロセスは推論時間と計算コストの制約を受けており、モデルは情報源の真偽を検証していない。Googleはアルゴリズム更新により低品質サイトのウェイトを迅速に引き下げたが、ChatGPTのリアルタイム検索機能はすでに除外されたコンテンツのフィルタリングと同期しておらず、同一サイトのデータが両システム間で残存する期間に顕著な差が生じた。

産業への影響

学術論文や金融機関のレポートが偽造データを引用したことは、AIが生成したコンテンツが多段階の伝播を経て正式な意思決定プロセスに入り込んでいることを示している。LLMをリサーチに活用するコンテンツ制作者は、知らないうちに誤情報を増幅させるリスクを抱えている。検索エンジンと大規模言語モデルのプラットフォームとで、データの信頼性検証のペースが異なることは、下流ユーザーによる情報の識別コストを増大させている。

戦略的見解

（以下は分析であり、確定した事実ではない）現時点の事例から見れば、モデル自身の推論だけで情報源の検証問題を解決することは困難であり、今後は外部検証メカニズムや、より厳格な検索フィルタリングルールが必要になる可能性がある。コンテンツ制作者がAIツールを活用する際には、偽造データによる汚染リスクを低減するため、人手による確認プロセスを別途設けることが求められる。