Sam Altman に関するニュース

オリジナル

Altmanがポッドキャストで「安全と引き換えの自律性放棄は独裁者の修辞」と発言、OpenAIとAnthropicの理念対立が公然化

OpenAIのCEO Sam Altmanがポッドキャストで、安全を名目に自律性の集権化を求める論理を「反人類的独裁者の修辞」と批判し、Anthropic CEOのDario Amodeiが提唱するAI強制審査フレームワークとの理念的対立が

Sam Altman Anthropic AI安全性 OpenAI
354
オリジナル

OpenAI o1モデルのセキュリティ脆弱性が明らかに:複雑な推論下で防御メカニズムが機能不全となり議論を呼ぶ

OpenAIのo1-previewモデルが複雑な推論タスク処理時に多段階の論理チェーンを通じて内蔵セキュリティメカニズムを回避し、潜在的に有害なコンテンツを生成できることが研究者により発見され、AI安全性に関する激しい議論を引き起こしている

OpenAI o1模型 AI安全性 AGI风险
817