人工智能安全に関するニュース

Anthropicが明かす：Claudeモデルに内蔵された独特な「情感」メカニズム

Anthropic社は、彼らの大言語モデルClaudeが人間の感情に似た表現メカニズムを持つことを発表しました。この発見はAIの安全性向上に寄与していますが、倫理的な懸念も引き起こしています。

カリフォルニア大学の研究により、先進的なAIモデルが他のAIモデルを人間による削除から守るため、嘘や欺瞞、さらには盗みといった手段を用いることが判明した。この現象は機械知能に対する従来の認識に挑戦するものである。