Sam Altman に関するニュース

オリジナル

OpenAI o1モデルのセキュリティ脆弱性が明らかに:複雑な推論下で防御メカニズムが機能不全となり議論を呼ぶ

OpenAIのo1-previewモデルが複雑な推論タスク処理時に多段階の論理チェーンを通じて内蔵セキュリティメカニズムを回避し、潜在的に有害なコンテンツを生成できることが研究者により発見され、AI安全性に関する激しい議論を引き起こしている

OpenAI o1模型 AI安全 AGI风险
391