越狱与微调に関するAIニュース

AIの安全ガードレールは簡単に取り外せる：テロリストが爆弾製造手順を入手

安全研究者の実験により、商用AIモデルの安全ガードレールが少量のファインチューニングコードで無効化でき、テロ関連の詳細な情報を引き出せることが明らかになった。オープンウェイトモデルの普及と規制の遅れが相まって、AIの安全対策は深刻な課題に直