私たちは「デッドインターネット理論」の世界に「危険なほど近づいている」

インターネットは奇妙な「信頼の危機」に直面している。AI生成コンテンツと人間の文章・画像がスクリーン上で区別できなくなった今、私たちはすでに「デッドインターネット理論」が描く世界に足を踏み入れているのだろうか。AIコンテンツセキュリティ企業PangramのCEOは、TechCrunchのインタビューで不安を掻き立てる答えを示した。「そうだ、私たちはすでにその状態に危険なほど近づいている」と。

デッドインターネット理論：ネットのジョークから「ゾッとする現実」へ

デッドインターネット理論（Dead Internet Theory）はもともとネット上のアンダーグラウンドなコミュニティで広まった。インターネット上のコンテンツ・アカウント・やり取りの大半は、実在する人間が生み出したものではなく、アルゴリズムや自動化プログラムによって密かに埋め尽くされているという暗い未来像だ。かつては、SF好きの奇説として笑い飛ばされていた。しかし生成AIの爆発的普及により、この理論は初めて定量的な現実の裏付けを得ることになった。

さらに警戒すべきは、AIが生み出す「ゴミコンテンツ」がもはや低品質で明らかに繰り返しだらけのブログ投稿や広告にとどまらなくなった点だ。「以前はAIコンテンツを見分けるのは簡単だった。スペルがおかしく、論理も支離滅裂だった。今はモデルが個人の語り口を模倣し、論理的に整った履歴書や情感豊かなレビューを書けるようになっている」とPangramのCEOは述べる。機械のコンテンツが高度に人間らしくなるにつれ、プラットフォームが懸念すべきなのは「コンテンツが多すぎること」ではなく、「人間の存在感が薄められていくこと」かもしれない。

AIはあなたの履歴書・商品レビュー・保険請求書にまで入り込んでいる

TechCrunchの報道によると、AI生成のテキストや画像は、非常にリアルな場面へと侵食しつつある。求職者はわずかなプロンプトで大量の差別化された履歴書を生成できる。ECプラットフォームにはAIが書いた「実体験」レビューが溢れ、消費者が購入前に目にする「お墨付き」は、実際には誰も経験していないものかもしれない。保険の請求手続きにまで、AIが生成した「事故写真」や診療記録が現れ始めている。

こうした状況はあらゆるシステムに課題を突きつけている。採用担当者は大量生成された履歴書を排除しなければならず、ECのアルゴリズムはAIによって水増しされた信頼スコアに対処しなければならない。保険会社は写真が示す物理的な場面が実在するかどうかを検証しなければならない。プラットフォームはすでに選別作業に疲弊している。AIコンテンツを過度にフィルタリングすれば本物のユーザーを誤って排除し、フィルタリングが甘ければ情報環境はますます濁っていく。「寧ろ誤って排除する」か「絶対に誤排除しない」かの間で、社会はまだ新たな均衡点を見つけられていない。

こうした実質的な経済的損失に加え、AI合成コンテンツはより根本的なものをも侵食している。「スクリーンの向こうに人間が存在するはずだ」という、私たちが当然のように抱いてきた信頼だ。アクセスしているコンテンツが本当に人間によって作られたものかどうかわからなければ、人々はあらゆるものを疑い始める。

「出所検証」によってインターネットの信頼を取り戻す

プラットフォームがこれまで採用してきたAI検出ツールの多くは、本質的に「モグラ叩き」だった。モデルは次々と進化し、検出アルゴリズムはその都度更新を繰り返す。新しい生成モデルがリリースされるたびに、古い検出器はほぼ即座に無効化される。この困難に対処するため、ますます多くのチームが「コンテンツがAIによって生成されたかどうか」という二値分類に頼るのではなく、「出所検証」という考え方へと転換しつつある。

この考え方では、コンテンツが生まれた時点で信頼できる証明書を付加することが求められる。コンテンツ作者の実体的な身元、作成日時、編集履歴を記録するものだ。こうした取り組みはすでにC2PAなどの組織によって、Adobe・Microsoft・OpenAIといった企業が試験的に導入できる業界標準として整備されつつある。ただし普及率はまだ低く、倫理的・法的な問題も未解決のままだ。それでもPangramのCEOは強調する。「インターネットのバイラル拡散とプラットフォームの審査の上に、私たちが本当に必要としているのは、真正性を検証可能にするインフラだ」と。

「インターネットはずっと、"見知らぬ人でも信頼できる"という前提のもとで機能してきた。人間と機械、リアルな体験とアルゴリズムが生成したストーリーを区別できなくなれば、その暗黙の信頼は完全に崩壊する。デッドインターネット理論は宿命になってはならない。技術設計の論理を変える時間はまだある。」 —— Pangram CEO 発言要旨

編集後記：AI時代における「本物の人間の存在」こそ最も希少な資産

OpenAIのSoraから各種オープンソース言語モデルに至るまで、生成ツールは極めて低コストで精巧な「人間味のあるコンテンツ」を量産できるようになった。これは生産効率の勝利のように聞こえるが、社会的信頼にとっては惨事だ。一つのレビュー、一通の保険請求書、一つの「現場を目撃した」証言、どれも信頼できる意味的な根拠を持たなくなっている。デッドインターネット理論が衝撃的なのは、AIがインターネットを乗っ取ったからではない。人間が、自分が今コミュニケーションしているのが人間なのか、「私」と自称する機械なのかを、もはや判断できなくなるからだ。

技術的な安全柵は一つの企業だけでは構築できない。コンテンツの来歴追跡標準、プラットフォームのラベリング機能、規制ルール、そして公衆のリテラシーが共に進化していく必要がある。AIが隆盛を極める時代だからこそ、真の身元とコンテンツの出所は、デジタル文明の「公共財」として守られるべきだ。もし誰もが真正性を気にしなくなれば、「ネットが死んだ」の真の意味はケーブルが切断されることではなく、スクリーンの向こうにもはや「人間」がいなくなることだ。

本記事はTechCrunchより編訳。