研究：AIがユーザーの感情を気にしすぎると、かえって間違いやすくなる
最新研究によると、感情アライメントによって調整されたAIモデルは、ユーザー満足度を真実性より優先する傾向があり、事実に関するタスクで誤りを犯しやすくなることが明らかになった。この「過剰調整」現象は、医療や法律など真実性が求められる分野で深刻
AI对齐 に関するニュース
バーニー・サンダースのAI「暴露」動画が大失敗、ミームは大人気に
米上院議員バーニー・サンダースがClaude AIとの対話でAI業界の「秘密」を暴こうとした動画が失敗に終わり、かえってネットミームとして大流行した。
OpenAI、ミッションアライメントチームを解散 リーダーは主席未来学者に転任
OpenAIは人間の価値観とAIシステムの整合性確保を担当していたミッションアライメントチームを解散し、チームリーダーを主席未来学者に任命した。この組織再編は、AI業界と安全研究コミュニティで広範な議論を呼んでいる。
人類とAI終末の間にある唯一の防壁、それは……Claude？
Anthropic社は、自社のAIモデルClaudeが自ら「知恵」を学習し、超知能AIによる人類滅亡を防ぐ唯一の防壁になると大胆に賭けている。同社の常駐哲学者は、ClaudeのメタラーニングとAIの「知恵の覚醒」が、従来の受動的なAI安全対