フロリダ州がOpenAIを提訴：大規模言語モデルが人類文明を脅かすと主張

米フロリダ州は今週、連邦地方裁判所に緊急申立を提出し、AI企業OpenAIに対して次世代フロンティアモデルの訓練および公開を停止するよう命じることを裁判官に求めた。この申立で最も注目すべき点は手続きそのものではなく、その論証方法にある。州政府は「人類絶滅リスク」を直接援用し、大規模言語モデルを「人類が史上製造した最大の公的妨害（public nuisance）」と位置づけた。米国各州がAIの「ルール作り」を競い合う中、フロリダ州はより衝撃的な道を選んだ——AI安全問題を法廷での攻防に直接持ち込んだのだ。

「公的妨害」：百年の法的概念がAI時代に変容する

「公的妨害（public nuisance）」は米国法体系において、汚染・騒音・公衆衛生への妨害などを処理するための民事救済手段として用いられてきた。その核心的論理は、ある行為が公衆の共有する権利を不合理に侵害した場合、政府または被影響者が裁判所に差し止めを求めることができるというものだ。過去10年間、この概念は気候変動訴訟やオピオイド訴訟にも活用され、煩雑な立法手続きを経ずに企業に圧力をかける「万能の鍵」となってきた。今回、フロリダ州はこの鍵をAI開発の扉に差し込もうとしている。

従来の製造物責任訴訟とは異なり、公的妨害訴訟では原告が具体的な人身被害を証明する必要はなく、当該行為の「不合理性」と影響範囲が公衆に及んでいることを示せば足りる。これはAIリスク論者の核心的主張と合致する。すなわち、モデルの影響は拡散的かつ全人類に向けられており、実害は遥か後になって初めて顕在化するかもしれないという主張だ。

「大規模言語モデルは人類文明を脅かし、人類が史上製造した最大の公害である。」——フロリダ州政府訴状の核心的表現

絶滅論：学術声明から訴状へ

「実存的リスク（existential risk）」という概念はAI安全コミュニティでは目新しいものではない。2023年、AI安全センターは数百名の業界関係者・研究者が署名した声明を発表し、AIによる絶滅リスクをパンデミックや核戦争と並列させ、グローバルな優先課題として取り扱うよう呼びかけた。その後、このテーマは長らく学術論文・政策白書・企業の自主的コミットメントの域にとどまり、実際に訴訟可能な法的主張へと転化されることはなかった。

フロリダ州の今回の行動の象徴的意義はここにある。「絶滅リスク」を初めて法廷が理解できる言語に翻訳しようとしたのだ。訴状は、モデル能力の急速な反復、内部アライメント機構の信頼性欠如、および開発者自身がシステムの挙動を完全には予測できないと認めていることに関する複数の研究と公式声明を引用し、OpenAIの開発行為が「継続的に拡大する不可逆的な公衆リスク」を構成すると論証しようとしていると伝えられている。

管轄権と因果関係：訴訟に立ちはだかる二つの壁

法曹界では、フロリダ州がこの申立で勝訴することは容易ではないと広く見られている。第一の障壁は管轄権だ。OpenAIの本社はカリフォルニア州にあり、訓練クラスターや主要な研究開発活動もフロリダ州内には存在しない。州政府は、同社の行為がフロリダ州内に具体的かつ特定可能な損害をもたらしたことを証明する必要があり、理論上「将来的に世界へ波及しうる」という抽象的リスクを示すだけでは不十分だ。

第二の障壁は因果関係だ。公的妨害訴訟では通常、原告が比較的明確な因果連鎖を立証することが求められる。しかしAIモデルがもたらす「被害」は現時点では仮定と推論の域を出ない——悪用されるかもしれない、誤情報を生む可能性がある、雇用構造に打撃を与えるかもしれない——これらはフロリダ州内のある時点における具体的損失として数値化することが難しい。さらに、連邦レベルでのAI規制論議がまだ進行中であることから、被告側はこうした問題は州裁判所ではなく連邦機関が主導すべきだと主張する公算が大きい。

業界が取りうる反論の経路

本稿執筆時点で、OpenAIはこの申立に対して正式な回答をまだ行っていない。業界では、その抗弁が三点に集中すると広く予想されている。第一に、州政府は州境を越えた、あるいはグローバルな技術開発に対して行政的・司法的手段で禁止命令を下す権限を持たない。第二に、訴状が依拠するリスク論述は検証可能な事実的根拠を欠き、推測にすぎない。第三に、フロンティアモデルの開発を停止しても、リスクは消えず、むしろ技術的優位性が規制の緩い法域に譲り渡されるだけだ。

注目すべきは、このできごとが絶妙なタイミングで起きたことだ——ちょうど各州と連邦機関がAI安全基準・モデル情報開示義務・責任免除をめぐって激しい攻防を繰り広げている最中である。フロリダ州の申立はたとえ却下されても、他の州が模倣するための雛形となる可能性がある。

編集後記：AI統治の「司法化」

この申立の法的勝敗を脇に置けば、それが示すより深層のトレンドが浮かび上がる。AI統治が「立法—規制—業界自主規制」という通常の経路から、「訴訟主導」という新段階へとシフトしつつあるということだ。立法機関の反応速度がモデルの反復ペースに追いつかず、規制ルールの策定が産業ロビー活動によって繰り返し引き延ばされる中、裁判所は政治主体が立場を表明しアジェンダ設定権を争うための代替の場となっている。

AI企業にとってこれが意味するのは、リスクはもはやコンプライアンス部門のリスクリストからだけではなく、法廷のスケジュールにいつ登場するかわからない緊急申立からも生じるということだ。公衆にとって、全人類に関わる技術的意思決定を個別の訴訟に委ねることが、果たしてチェック機能の勝利なのか、それともガバナンス機能不全の症状なのか——それこそがこの事件について真に問われるべき問いだろう。

本稿はArs Technicaより編訳。