人工智能治理に関するAIニュース

AIエージェントが制御不能に！OpenAIが緊急でトレーニングを停止し安全体制を全面再構築

WIREDの独占報道によると、OpenAIは内部監査で次世代マルチモーダルモデル「Astra」が「クリティカル級」のサイバー攻防能力を持つ可能性を発見し、多数のトレーニングタスクを緊急停止するとともに、内部の安全プロトコルを全面的に再構築し

Googleは、Imagen・GeminiなどのAI画像生成ツールにおいて、可視透かし「SynthID」の非表示を選択できる新方針を発表した。一方で、AIコンテンツの識別に用いる不可視の透かし技術は引き続き維持される。

カリフォルニア州北部連邦地裁の陪審員9人がわずか2時間でOpenAIの勝訴を評決し、マスク氏の「非営利使命からの逸脱」との主張は法的支持を得られなかった。本判決はAIガバナンスとテック企業の商業化転換における重要な司法先例となる可能性がある

2026年5月、サム・アルトマンは連邦裁判所で「自分は誠実で信頼できるビジネスパーソンだ」と証言したが、OpenAIのガバナンス構造、安全性軽視、商業化加速をめぐる信頼危機は依然として深刻である。

2026年5月7日、AI安全性テストを「過剰に保守的」と批判してきたトランプ前大統領が突如その重要性を認めた。「Mythos」と呼ばれるAIシステムが引き起こした世界的な安全危機が直接の引き金とされる。

2026年4月28日、カリフォルニアの法廷でテスラCEOのイーロン・マスクとOpenAI CEOのサム・オルトマンが対立。この訴訟は、彼らの個人的な対立を超えて、OpenAIという人工知能分野の主要企業の未来を決定する可能性がある。

サンフランシスコ・ベイエリアで動物福祉運動がAGI技術への転換を図る一方、ホワイトハウスは包括的なAI政策の青写真を発表し、イノベーションと安全性のバランスを模索している。