ChatGPTとReddit、EUの最も厳しいオンライン安全規制の対象に

EU委員会はこのほど、ChatGPTとRedditを正式に「超大型オンラインプラットフォーム（Very Large Online Platforms、VLOP）」に認定することを発表した。これにより、両者は一定期間内にEUのデジタルサービス法（DSA）における最も厳格な安全・透明性義務に従わなければならない。この決定は、生成AIサービスが初めてプラットフォームを中心とした規制体系に組み込まれたことを示すものであり、爆発的に成長するインターネットサービスには必然的により重い規制負担が伴うという傾向を改めて裏付けるものとなった。

世界でも有数の活発なAIチャットボットと長い歴史を持つフォーラムコミュニティとして、ChatGPTとRedditはいずれも欧州でのユーザー数が爆発的に増加している。試算によれば、両者の欧州における月間アクティブユーザーはすでに4500万人を超え、DSAの最高規制水準の発動要件を満たした。これ以前には、Meta、Google、TikTokといったテック大手がすでに対象リストに加えられていたが、今回新たに加わったリストにAIネイティブ製品が登場したことは、多くの観察者にとって意外であり、EUが規制の触手を人工知能分野へと伸ばす明確なシグナルとして受け止められている。

「最も厳しい」規制とは具体的に何を意味するのか

デジタルサービス法によれば、超大型オンラインプラットフォームに指定された企業は、数カ月以内に体系的なリスク審査を完了しなければならない。違法コンテンツの拡散、市民の言論や選挙プロセスへの干渉、公衆衛生や未成年者への潜在的な悪影響など、プラットフォームが引き起こしうる「システミックリスク」を識別・評価することが求められる。これに伴う一連の義務には、コンテンツモデレーションプロセスの強化、有害情報の潜伏防止、規制当局へのアルゴリズムに関する透明性の高い説明の提供、半年ごとのリスク評価報告書の発行、外部独立機関による年次監査の受け入れ、重大公衆衛生イベントや選挙などの危機発生時における特別対応メカニズムの実施（必要に応じた一部レコメンデーション機能の停止またはアルゴリズムの調整を含む）が含まれる。

違反行為に対して、EUは企業のグローバル年間売上高の最大6%に相当する罰金を科すことができる。MetaやGoogleなどの事例においては、こうした制裁は十分な抑止力となりうる。しかしChatGPTのようなAIサービス事業者にとって、コンプライアンス上の課題はさらに複雑だ。第三者コンテンツを監視するだけでなく、モデルの出力自体に偏見、ハルシネーション、誤解を招く情報が含まれていないかどうかも審査しなければならないからだ。

AI時代における「プラットフォーム責任」の拡張

RedditとChatGPTは、まったく異なる二つのコンテンツ形態に対応している。Redditは典型的な高密度ユーザーコミュニティであり、無数のサブレディットが公共議論の「排水溝」と「広場」を形成している。一方、ChatGPTは対話的な応答を生成することを機能とし、その一つひとつの回答が公共情報の一部となりうる。この両者を同一の規制フレームワークに組み込んだことは、EUが「プラットフォーム」の従来の定義にこだわらず、「影響力」を基準として採用するようになったことを示している。

同時に、EUの人工知能法（AI Act）における高リスクAIシステムのルールも、ChatGPTなどの汎用AIモデルに対して追加的な要求を課している。つまり、同一企業がDSAのプラットフォーム義務を遵守するだけでなく、モデルの学習データ、人的監督、追跡可能性などの面でAI Actの基準も満たさなければならないことを意味する。この「二重規制」モデルは、一部の関係者から世界で最も厳格なコンプライアンス環境と評されている。Redditにとっては、APIデータライセンス事業にも不確実性が生じている。AIモデルの学習のために提供されたデータは透明性報告で開示する必要があるのか、コミュニティコンテンツが削除された後も、すでに許諾されたデータパッケージが流通し続けることを防ぐ義務があるのか、といった詳細はいまだ明確になっていない。

業界の反応と課題

新たな指定は間違いなく運営コストを押し上げる。Redditを例に挙げると、DSAの要件を満たすためにコンテンツモデレーションチームを拡充し、コミュニティルールの施行ツールを最適化する必要が生じる可能性がある。またChatGPTは、専門のリスク軽減チームを設立するとともに、モデルの挙動とプラットフォームの安全性との間の緊張関係を調整する必要がある。一部のスタートアップ企業は、これによりAI業界に「コンプライアンスの分水嶺」が生まれることを懸念している。資金力のある大企業はリソースを投入して対応できるが、小規模なプレイヤーはこれほど重いコンプライアンス負担に耐えられず、最終的に市場がさらに集中する結果になりかねないとの見方だ。

一方で、この動きに積極的な側面を見出すアナリストもいる。強制的な透明性報告と外部監査は、AI技術に対する公衆の信頼を回復するうえで有益だ。特に、フェイク情報やディープフェイクが急増する中、責任主体を明確にしてアルゴリズムのロジックを公開することは、システミックリスクを予防するために必要なコストかもしれない。

「技術がいかに革新されようとも、オンライン安全の基本原則は妥協できない。」——EU委員会の域内市場担当委員は、この決定について言及する際にこのように述べた。

編集部注：ソーシャルメディアから検索大手に至るまで、EUのDSAはデジタル空間に対する規制の網を着実に張り巡らせてきた。今回、AIチャットボットとコミュニティフォーラムが加わったことは、規制当局が「プラットフォーム」という鍵で「知能」という存在を縛ろうとしていることを意味する。これは単なる法律上の延長にとどまらず、AI時代における責任の境界の再定義でもある。過度な規制はイノベーションを抑制しかねないが、野放しにすればリスクが増幅される。その両者のバランスをいかに見つけるかが、世界の政策立案者の知恵を試すことになるだろう。

本稿はArs Technicaより編訳。