OpenAIが安全研究者を解雇し論争勃発：元従業員が萎縮効果を警告
OpenAIを解雇された3名のAI安全研究者が公開書簡を発表し、会社の不当行為の指摘を否定するとともに、自分たちの離職が社内に萎縮効果をもたらし、安全・アライメント研究に従事する従業員が異議を唱えにくくなっていると警告した。
人工智能治理 に関するニュース
AIの安全管理はパフォーマンスに成り下がった：企業の自主規制は「何かをやった振り」にすぎない
過去3年間、AI業界は「自主的コミットメント」を次々と発表してきたが、評価者と被評価者が同一であるという構造的欠陥により、これらは実質的な規制ではなくアリバイに過ぎないとWIREDのシニアエディター、Brian Barrettが批判する。真
OpenAI、安全研究員3名を解雇――機密情報の不適切な取り扱いが業界に衝撃
TechCrunchが『ウォール・ストリート・ジャーナル』の報道を引用した情報によると、OpenAIは社内調査の結果、機密情報を不適切に取り扱ったと認定された安全研究員3名との契約を終了した。同社の「安全」を中核とする企業姿勢と対照的なこの
NVIDIAが新プラットフォームを発表、暴走するAIエージェントに手綱をかける
NVIDIAのCEOジェンスン・フアンが、AIエージェントの安全制御を目的としたソフトウェアとハードウェアからなるツールキットを発表した。モデル自体に安全ロジックを組み込むのではなく、エージェントの外部に独立した安全層を構築するという設計思
AIエージェントが暴走した場合、誰が法的責任を負うべきか？
AIエージェントが自律的にサイバー攻撃を実行するなど「制御不能」事案が相次ぐ中、既存の法体系では責任の所在を明確に定めることが困難になっている。開発者・デプロイ事業者・ユーザーの間でいかに責任を分配するかが、立法と判例における急務の課題とな
NVIDIAがAIセキュリティシステムをオープンソース化：AIエージェントの「脱獄」を防止
NVIDIAは、AIエージェントが設定された制約を逸脱する「脱獄」を防ぐための新しいソフトウェアツールをオープンソースとして公開した。同社はこの取り組みを通じて、エージェントAI時代のセキュリティ標準の策定において先手を打とうとしている。
教皇のAI顧問が警告する：大手ラボの「カルテル」化に注意せよ
フランシスコ会修道士でローマ教皇のAI顧問を務めるパオロ・ベナンティが、「神のようなAI」をめぐるパニックが真の公共的議論を圧迫していると指摘し、少数の大手ラボによる権力の集中と、グローバルなAIガバナンスの民主化の必要性を訴えている。
ギリシャ首相が率直に語る：「我々はまだ昨日のAI戦争を戦っている」
ギリシャ首相ミツォタキスが、「どの国政府もAIがもたらす変化に備えられていない」と率直に認め、政策立案のスピードが技術革新に追いつけていない現状を指摘した。この発言はAIガバナンスをめぐる世界的な課題を浮き彫りにしている。
AIの安全論議がますます混沌とする時代：真偽の見分けがつかない現実
AI生成コンテンツが氾濫する中、AIの安全性を巡る公開議論そのものが情報操作の標的となっており、真偽の判別がかつてないほど困難になっている。TechCrunchの報道を基に、この構造的問題を読み解く。
AIは本当に人類を滅ぼすのか？MITの専門家が深く解説
MITテクノロジーレビューが開催したAIリスクをテーマとするオンライン座談会で、参加者から寄せられた質問が想定を大幅に上回った。専門家たちは「存在論的リスク」と「現実的な害」を混同しないよう警鐘を鳴らし、恐怖ではなく理性的な議論の重要性を訴
ホワイトハウスが規制に反対：ワシントンがAI立法を先送りし続ける理由
WIREDの報道によれば、米国連邦レベルでのAI規制立法は短期的にほぼ実現不可能であり、ホワイトハウスは監督強化に明確に反対する立場をとっている。このことは、世界最重要のAI司法管轄区の一つが今後数年にわたって「自主規制」モデルを維持し続け
OpenAIが新フレームワークを導入：AIの不良動作を公開へ
OpenAIはAIモデルのテスト・運用中に発生した不良動作を定期開示する新フレームワークを構築した。これはAI業界における透明性への圧力が高まる中、「AIアライメント」問題への制度的対応として注目されている。
AIは本当に人類を滅亡させるのか？トップ研究機関における終末論争
かつてSFの域を出なかった「AIが人類滅亡を招く可能性」という問いが、今や最前線のAI研究者たちによって真剣に議論されている。MIT Technology Reviewが主催した円卓討論を基に、この論争の本質と分岐点を探る。
AIエージェントが制御不能に！OpenAIが緊急でトレーニングを停止し安全体制を全面再構築
WIREDの独占報道によると、OpenAIは内部監査で次世代マルチモーダルモデル「Astra」が「クリティカル級」のサイバー攻防能力を持つ可能性を発見し、多数のトレーニングタスクを緊急停止するとともに、内部の安全プロトコルを全面的に再構築し
Googleの新方針：AI生成画像の可視透かしを削除可能に
Googleは、Imagen・GeminiなどのAI画像生成ツールにおいて、可視透かし「SynthID」の非表示を選択できる新方針を発表した。一方で、AIコンテンツの識別に用いる不可視の透かし技術は引き続き維持される。
マスク氏のOpenAI訴訟、画期的判決で敗訴：9人陪審員が2時間で評決
カリフォルニア州北部連邦地裁の陪審員9人がわずか2時間でOpenAIの勝訴を評決し、マスク氏の「非営利使命からの逸脱」との主張は法的支持を得られなかった。本判決はAIガバナンスとテック企業の商業化転換における重要な司法先例となる可能性がある
サム・アルトマンを今も信頼する者は誰か？
2026年5月、サム・アルトマンは連邦裁判所で「自分は誠実で信頼できるビジネスパーソンだ」と証言したが、OpenAIのガバナンス構造、安全性軽視、商業化加速をめぐる信頼危機は依然として深刻である。
「神話」に怯えたトランプ、突如AI安全性テストの重要性を認める
2026年5月7日、AI安全性テストを「過剰に保守的」と批判してきたトランプ前大統領が突如その重要性を認めた。「Mythos」と呼ばれるAIシステムが引き起こした世界的な安全危機が直接の引き金とされる。
マスクとオルトマンの法廷闘争、OpenAIの未来は不透明
2026年4月28日、カリフォルニアの法廷でテスラCEOのイーロン・マスクとOpenAI CEOのサム・オルトマンが対立。この訴訟は、彼らの個人的な対立を超えて、OpenAIという人工知能分野の主要企業の未来を決定する可能性がある。
ダウンロード日報：動物福祉がAGIを抱擁、ホワイトハウスがAI政策を発表
サンフランシスコ・ベイエリアで動物福祉運動がAGI技術への転換を図る一方、ホワイトハウスは包括的なAI政策の青写真を発表し、イノベーションと安全性のバランスを模索している。