存在性风险 に関するニュース

海外

Anthropicの上場申請書が明かす：AIの「クローズドループ」は成功への道か、それとも破滅の処方箋か

AnthropicがS-1文書を提出し、同社が「クローズドループ」と呼ぶAIの自律的改善サイクルを中核的な技術戦略として掲げていることが判明した。この概念は能力向上を加速させる一方、人間の監視を不要にするという「存在論的脅威」の処方箋にもな

Anthropic AI安全性 IPO上市 闭环训练
134
海外

教皇のAI顧問が警告する：大手ラボの「カルテル」化に注意せよ

フランシスコ会修道士でローマ教皇のAI顧問を務めるパオロ・ベナンティが、「神のようなAI」をめぐるパニックが真の公共的議論を圧迫していると指摘し、少数の大手ラボによる権力の集中と、グローバルなAIガバナンスの民主化の必要性を訴えている。

人工智能治理 AI倫理 科技垄断 存在性风险
346
海外

AIは本当に人類を滅ぼすのか？MITの専門家が深く解説

MITテクノロジーレビューが開催したAIリスクをテーマとするオンライン座談会で、参加者から寄せられた質問が想定を大幅に上回った。専門家たちは「存在論的リスク」と「現実的な害」を混同しないよう警鐘を鳴らし、恐怖ではなく理性的な議論の重要性を訴

AI安全性 存在性风险 MIT科技评论 人工智能治理
250