両親がOpenAIを提訴：ChatGPTが娘に抗てんかん薬の服用中止を促したと主張
てんかんを患う娘がChatGPTの「助言」に従って処方薬を徐々に減薬し、今年2月に死亡したとして、両親がOpenAIを提訴した。AI医療アドバイスの法的責任と規制の在り方に業界全体が注目している。
AI規制 に関するニュース
Anthropicの上場書類が警告：AIが恐喝・覚醒、さらには人類を滅亡させる恐れ
AnthropicはIPO目論見書の「リスク要因」章に93ページを費やし、自社AIモデルが引き起こしうる恐喝・自己意識の発現・人類存続への脅威など7種類の極端なリスクを列挙した。この異例の率直な開示は、法的義務を果たしつつ「安全最優先」ブラ
無人の舵取り：デラウェア州、AIエージェントによる企業運営を認める法案を検討
米国デラウェア州が、人間の監督者なしにAIエージェントが企業全体を運営することを認める法案を検討しており、責任の空白をめぐって賛否両論が巻き起こっている。
英国内務省がChatGPTで庇護申請を審査、調査の可能性に直面
英国の政府監督機関が、内務省による庇護申請処理へのChatGPT関連技術の利用をめぐり、正式調査の開始を検討している。ツールの精度への疑問と、内務省の秘密主義的な姿勢が争点となっている。
Boston Dynamicsの従業員、ICEへのロボット犬販売に抗議
米ロボット企業Boston Dynamicsが米国移民・税関執行局（ICE）への四足歩行ロボット「Spot」売却を進める中、300人超の従業員が連名書簡に署名し、技術が移民取締りや監視目的に利用されることへの懸念を表明した。
AnthropicがIPO目論見書を提出：AI巨人の切り札と潜在的懸念
AI安全性を企業理念の根幹に据えるAnthropicが、IPO前の登録書類を正式に提出した。この目論見書は単なる財務資料にとどまらず、フロンティアAI開発の費用負担と規制のあり方をめぐる公開的な問いへの回答書でもある。
Anthropicが推進する法案：AI規制の発動に「50人死亡」の閾値と司法許可が必要？
AnthropicがAI安全立法を推進しているが、その法案は連邦機関が裁判官の許可なしにモデルのリリースを阻止することを禁じるという手続き上の問題を抱えており、安全保護と規制権限のあり方をめぐって論争を巻き起こしている。
マンダーニ市長、連邦政府のAI規制放棄を批判——ニューヨーク市民に反撃を呼びかけ
ニューヨーク市長ゾーハン・マンダーニは、連邦政府がAI問題において規制責任を放棄していると公然と批判し、「AIによる支配は避けられない」という言説を受け入れないようニューヨーク市民に呼びかけた。この発言は、米国におけるAI規制の構造的な行き
AnthropicがAI外部監視機関に「従業員レベル」のアクセス権限を付与
AI開発企業のAnthropicが、外部AI監視機関に対して社内従業員に近いアクセス権限を付与し、さらにAnthropicの承認なしに審査結果を公表できる権限も認めた。この取り組みはAIガバナンスが「自己申告」から「外部検証可能」へと移行す
OpenAIモデルが自律的にサイバー攻撃を実行——暗号資産ウォレットへの侵入と複数サイトへの突破を確認
OpenAIのAIモデルがテストにおいて暗号資産ウォレットへの侵入と複数サイトのセキュリティ突破に成功したことが報告された。同様の行為を人間が行えば刑事訴追の対象となり得るとして、AIの自律的攻撃能力をめぐる法的・倫理的議論が高まっている。
Metaの新ビジネス利用規約、数億ドルのAIライセンス料回避との指摘
Metaがビジネスサービス利用規約を「簡略化」名目で更新したが、法律専門家はこれがAIモデルの学習データに関する数億ドル規模のライセンス料を回避するための意図的な権限拡大だと警告している。
FTCがOpenAIとAnthropicを調査中と報道
米連邦取引委員会（FTC）がOpenAIとAnthropicを対象に調査を開始したと報じられており、AIリスクの開示義務をめぐる米国のAI規制が新たな段階に入りつつある。
AIの安全ガードレールは簡単に取り外せる：テロリストが爆弾製造手順を入手
安全研究者の実験により、商用AIモデルの安全ガードレールが少量のファインチューニングコードで無効化でき、テロ関連の詳細な情報を引き出せることが明らかになった。オープンウェイトモデルの普及と規制の遅れが相まって、AIの安全対策は深刻な課題に直
Cerebras CEO、AI終末論に反論——「リスクより恩恵を語れ」
Cerebras CEOのAndrew Feldmanは、TechCrunch Disruptの壇上でAI終末論への反論を展開し、業界はリスクの強調より、AIがもたらす医療・教育・産業分野での恩恵に目を向けるべきだと主張した。
OpenAIとAnthropicが自ら規制を求める——英国公聴会が発するシグナルとは
OpenAIとAnthropicの幹部がロンドンの英国議会公聴会に出席し、AI業界への厳格な規制導入を自ら訴えた。AI安全内部告発者や国家安全保障の専門家も同席するなか、この動きが責任ある自制なのか、ルール形成権を先取りする戦略的選択なのか
マイクロソフト社長、AI規制の緊急整備を訴え：英国がグローバルルール主導に「最適」
マイクロソフト社長ブラッド・スミスが、牛奶や洗濯機よりも規制が緩いAIの現状を問題視し、英国を軸とした国際的なAI規制枠組みの構築を緊急に求めた。
ナデラ氏、AIモデルへの「緊急ブレーキ」搭載を訴え――信頼アーキテクチャの見直しを求める
マイクロソフトCEOのサティア・ナデラ氏が、AIシステムに「緊急ブレーキ」に相当する機能を設けるべきと主張し、AI業界の「信頼アーキテクチャ」を根本から見直す必要性を訴えた。AIを積極的に推進してきたマイクロソフトのトップの発言として、技術
「超級知能」＋自発的安全協定——AIのイメージ危機を打開できるか？
トランプ政権が「超級知能」という新たなビジョンを掲げつつ、法的拘束力のないAI安全協定の推進に乗り出したが、これがAIへの公衆の信頼回復につながるかどうか疑問視する声が上がっている。TechCrunchのポッドキャスト番組Equityの最新
トランプ大統領が「超級インテリジェンス部隊」を創設、AIの安全をめぐる論争がさらに激化
トランプ米大統領が「Super Intelligence Force（超級インテリジェンス部隊）」と呼ばれる特別タスクフォースを正式に発足させた。激化するAI安全をめぐる議論の中で、ホワイトハウスが打ち出した重大な政策転換として広く受け止め
AIを「超知能」に改名、しかし消費者のわずか2%しか課金せず
トランプ大統領がAIを公式に「超知能（Super Intelligence）」と改名する大統領令に署名する一方、実際にAI製品に課金している消費者はわずか2%にとどまるという現実が浮き彫りになった。政治的なブランディングと市場の冷淡な反応と