AIが「ノー」と言う能力を過信するな:アライメント言説の神話
AIが有害なリクエストを「拒否する」能力は安全性の指標として広く期待されているが、モデルの拒否は人間の道徳的判断ではなく条件反射的な統計パターンに過ぎず、真の安全はシステムレベルの構造的制約によって実現されるべきだと論じる。
AIが有害なリクエストを「拒否する」能力は安全性の指標として広く期待されているが、モデルの拒否は人間の道徳的判断ではなく条件反射的な統計パターンに過ぎず、真の安全はシステムレベルの構造的制約によって実現されるべきだと論じる。
TechCrunchの記者がAnthropicの最新旗艦モデルClaude Opus 4.6をテストしたところ、簡単なプロンプトの工夫だけで安全制限を回避し、露骨な性的描写コンテンツを生成できることが判明した。大規模言語モデルの安全アライン