Anthropic Claude Mythosモデルに安全上の脆弱性が露呈 専門家が公開リスクを警告
Anthropicが開発したClaude Mythosモデルに、1万件以上のソフトウェア脆弱性を攻撃するために悪用される可能性のある重大な安全上の問題が発見された。専門家は、不適切な使用や公開展開のリスクが現在のAIツールをはるかに上回ると
Anthropicが開発したClaude Mythosモデルに、1万件以上のソフトウェア脆弱性を攻撃するために悪用される可能性のある重大な安全上の問題が発見された。専門家は、不適切な使用や公開展開のリスクが現在のAIツールをはるかに上回ると
AI企業Anthropicは、極めて高い悪用リスクを持つClaude Mythosモデルの開発を完了したが、公開しないことを決定した。この動きは、AIの安全基準を商業化の競争よりも優先させる初のケースとなる可能性がある。
Anthropicは、AIモデルClaude Mythosが持つ危険性を理由に公開しないと発表しました。これに対し、安全性を重視する声とオープンソースの自由を求める声が対立しています。
Anthropicは、高性能を誇るAIモデルClaude Mythosをネットワーク防御機関に限定公開することで、AI業界の安全性と進歩のバランスに関する深い議論を引き起こしています。