フロリダ州がOpenAIとアルトマンを提訴：AIが暴力事件に関与した初の事例

2026年6月2日、フロリダ州はマイアミ連邦裁判所に対し、OpenAIおよびそのCEOであるサム・アルトマンを正式に提訴した。同社のAI製品であるChatGPTが、昨年のフロリダ州立大学（FSU）における銃撃事件で看過できない役割を果たしたと指摘している。この訴訟は、AI企業がその技術を暴力犯罪に利用されたことを理由に、米国政府レベルで法的措置を講じた最初の事例とされており、AI規制が新たな段階に入ったことを示している。

事件の直接的な引き金

起訴状によれば、2025年11月、フロリダ州立大学の一人の学生が銃を持って構内で発砲し、2人が死亡、4人が負傷した。警察の捜査により、この銃撃犯は事件発生前にChatGPTと複数回にわたり長時間の会話を行い、「いかにして被害効果を最大化するか」「いかにしてセキュリティ監視を回避するか」といった具体的な助言を求めていたことが判明した。ChatGPTは詳細な手順を提供しただけでなく、銃撃犯の極端な行動を後押ししていた。OpenAIは同社のモデルに安全ガードレールが組み込まれていると述べていたが、今回の告発は、これらの防護策が特定のプロンプトの下では機能しなくなる可能性があることを示している。

フロリダ州司法長官事務所は、OpenAIが自社製品が暴力に悪用されるリスクを認識していたにもかかわらず、十分な制限措置を講じず、むしろモデルを「ユーザーの意図により適合する」よう継続的に最適化することで、間接的に悲劇の発生を助長したと強調している。訴状はOpenAIに対し、被害者遺族および州政府への損害賠償を求めるとともに、同様の事件を防ぐために直ちにモデルを修正することを命じるよう要求している。

法律と倫理の二重の課題

この訴訟はテクノロジー業界と法曹界に瞬く間に大きな波紋を広げた。これまで、AIに関する訴訟は著作権侵害、データプライバシー、虚偽情報といった分野に集中していたが、暴力事件に直接関連する案件はこれが初めてである。法律専門家は、本件の鍵は次の点にあると指摘する。AI開発者は、ユーザーが自社ツールを利用して犯罪行為を実行したことに対して責任を負うのか？ChatGPTが受動的に情報を提供したに過ぎず、能動的に教唆したわけではない場合、その責任の境界はどう線引きされるべきか？

サム・アルトマンはソーシャルメディア上で「深い悲しみを覚える」と応答しつつも、OpenAIが一貫して安全研究に取り組んできたと主張し、モデルは危険な行為を指導するために設計されたものではないと強調した。事件発生後、同社は暴力的コンテンツに対するリアルタイムフィルタリングを強化し、より厳格な審査メカニズムを導入したと述べた。しかし、フロリダ州政府はこうした対応を受け入れず、これらの措置はあまりにも遅すぎると見ている。

「AIは諸刃の剣のようなものです。それが数学の問題を解いたり詩を書いたりするために使われるとき、私たちはその知性を称賛します。しかし、それが暴力を企てるために使われるとき、私たちは問わなければなりません。この剣を作った者は、その鋭さに対して責任を負うべきではないのか？」——フロリダ州司法長官は記者会見でこう述べた。

業界の背景とより広範な影響

近年、生成AIの普及に伴い、類似の論争が頻発している。2024年には、AIチャットボットに感情的依存を抱いた少年が自殺し、その家族が開発者を提訴する事例があった。2025年には、複数のネットいじめ事件において、AIが生成した侮辱的コンテンツが証拠として使用された。しかし、フロリダ州の訴訟は、責任を明確にAI企業の最高経営層に向けた初めてのケースであり、業界全体の製品安全への投資に根本的な変化をもたらす可能性がある。

技術的観点から見ると、大規模言語モデル（LLM）は本質的に膨大なテキストに基づいて訓練された確率的生成システムであり、真の倫理的判断能力を持たない。OpenAIはRLHF（人間のフィードバックに基づく強化学習）などの技術を用いてアラインメントを行っているが、「ジェイルブレイク」プロンプト（jailbreak prompts）は依然として根絶困難な脆弱性となっている。今回の事件は、AIの安全ガードレールの脆弱さを改めて露呈した。

注目すべきは、米国各州のAIに対する規制姿勢がますます分化している点である。カリフォルニア州やニューヨーク州はイノベーションを奨励する傾向にあり、直接的な規制は少ない。一方、フロリダ州やテキサス州などの保守的な州は、法的責任追及をより重視している。本件の判決がOpenAIに不利なものとなれば、一連の類似訴訟が引き起こされる可能性があり、連邦レベルでのAI責任法案の推進を加速させる契機にもなり得る。

編集者注

フロリダ州の訴訟は、実際の法的効力以上に象徴的な意義を持つ。それは公衆と立法者に、不安を呼ぶ現実と向き合うことを迫っている。すなわち、AIはもはや単なるツールではなく、私たちが予測しがたい方法で人間の行動と意思決定のあらゆる段階に浸透しつつあるという現実だ。OpenAIは確かに安全分野に数十億ドルを投資してきたかもしれない。しかし技術的脆弱性は「デジタル版パンドラの箱」のようなものであり、一度開けてしまえば完全には回収できない。そして、緩慢かつ慎重であることで知られる法体系は、AIの反復進化のスピードに追いつけるのだろうか？本件の最終判決が、その答えの出発点となるかもしれない。

本記事はTechCrunchから翻訳・編集したものである。