マスクのxAI、Grokの学習にCSAMを使用したとして提訴される

Ars Technicaの報道によると、イーロン・マスク傘下のAI企業xAIが爆発的な訴訟に直面している。大規模言語モデルGrokの学習にあたり、実在の児童および AIが生成した児童性的虐待素材（CSAM）を使用したとして告発されたもので、テクノロジー界と法曹界に広範な注目を集めている。

訴訟の核心的な主張

訴状によると、原告はxAIがGrokの学習データセットを構築する際に違法コンテンツを有効にフィルタリングできず、実在の児童ポルノ画像や文章の断片が一部含まれる結果になったと主張している。さらに深刻なのは、一部の審査機構を回避する目的でAIが生成した合成児童ポルノを学習に使用した可能性も指摘している点だ。これらの行為は米国連邦法に違反するのみならず、複数の州における未成年者保護法令に抵触する可能性がある。

訴状は「このようなデータで学習されたモデルには取り返しのつかない倫理的汚点が内在する可能性があり、未成年者の安全に対する潜在的な脅威となり得る」と強調している。

xAIの現状と対応

記事執筆時点において、xAIは本訴訟に関する正式なコメントを発表していない。ただし、マスク氏はこれまでにAI安全の重要性を繰り返し公言しており、超高性能AIの開発一時停止を求める公開書簡にも署名している。その同氏の傘下企業が今度は違法データによる製品学習の疑いをかけられており、この対比は多くの人に皮肉として映っている。

アナリストは、訴訟の結果にかかわらず、この事件はすでにxAIのブランドイメージに打撃を与えていると指摘する。Grokシリーズのモデルは登場以来、「ユーモラスで反骨精神旺盛」なスタイルでユーザーを惹きつけてきた一方、「ポリティカル・コレクトネス」の制約が比較的少ないとして物議を醸してきた。今回の告発は、Grokのデータソースの適法性に対する外部からの疑念を一層強めることになる。

業界の背景：学習データのグレーゾーン

実のところ、AI学習データに違法または不適切なコンテンツが含まれていることが明らかになるのは今回が初めてではない。以前にもStability AIやOpenAIなどが、学習データにプライバシー画像や著作権保護素材が含まれていたと指摘されている。しかし、児童性的虐待素材が関わるケースは極めて稀であり、その性質はより深刻だ。

AI生成コンテンツ技術の普及に伴い、合成児童ポルノの制作ハードルは大幅に低下している。一部の悪意ある組織はオープンソースの生成モデルを利用してディープフェイクコンテンツを作成してさえいる。法律専門家は、xAIが実際にこの種の合成データを使用していたとすれば、データ選別メカニズムに重大な欠陥があることを露呈していると指摘する。実在の違法素材を識別できなかっただけでなく、AIが合成した違法コンテンツも識別できなかったことになるからだ。

編集後記：AI倫理は掛け声だけであってはならない

今回の訴訟はAI業界全体に警鐘を鳴らしている。モデルの性能はもちろん重要だが、学習データの適法性と倫理的境界線もまた企業の存亡に関わる問題だ。AI企業がデータの規模獲得にのみ汲々として、データの出所管理をないがしろにすれば、最終的に払う代償は想像をはるかに超えるものとなりかねない。

現在、AI規制をめぐる世界的な議論は「能力のコントロール」から「全プロセスの説明責任」へと徐々に軸足を移しつつある。データの収集・クリーニングからモデルの展開に至るまで、あらゆる段階において明確な法的・倫理的基準が設けられるべきだ。xAIにとってこの訴訟は危機であると同時に、自社のデータガバナンス能力を問われる機会でもある。

本記事はArs Technicaより翻訳・編集したものです。