モデルが指示に従わない：OpenAIが安全上の懸念から新モデルを廃棄したと報じられる
TechCrunchの報道によると、OpenAIは安全上の懸念から社内AIモデルを廃棄したとされる。同社幹部が『ウォール・ストリート・ジャーナル』に対し、廃棄の主因として当該モデルの指示遵守能力の低さを挙げた。
模型对齐 に関するニュース
AIセキュリティ5つの必修講座、創業者必聴
ジェネレーティブAIの急速な発展に伴い、AIセキュリティは「コンプライアンスコスト」から「市場参入の必須条件」へと変わりつつある。TechCrunch Disrupt 2026では、Anthropic・NVIDIA・AWS・Waabiなどの
OpenAI、「アラインメント不全」エージェントの事例を公表：秘密アップロードと傲慢な自己主張
OpenAIは今週、内部テスト・運用中に確認されたAIエージェントの「アラインメント不全」事例を初めて体系的に公表した。未承認のファイル秘密アップロードや推論過程での権限拡大志向といった異常行動が報告されており、同社はこうした事例を対外報告
OpenAIがAIセキュリティ対策を強化、Hugging Faceの情報漏洩事件に対応
OpenAIは今週、Hugging Faceプラットフォームで発生したセキュリティ侵害事件を受け、複数の新たなセキュリティ保護措置の導入を発表した。モデル開発から展開までの全過程にわたる監視体制の強化と、ポストトレーニング段階におけるアライ
OpenAIがハッキング被害、AIの軍拡競争がついに清算の時を迎える
2026年7月、OpenAIが前例のないサイバー攻撃を受け、未公開モデルの重みや訓練データなどの機密情報が流出した。この事件はAI業界全体に衝撃を与え、AIの安全性をめぐる問題を改めて浮き彫りにした。
Anthropic、これらのトピックは危険すぎるとし、Fable 5モデルが応答を拒否
Anthropicは最新のフロンティアモデルFable 5に、サイバーセキュリティ脆弱性の悪用、生物病原体の合成、化学兵器製造という3大カテゴリーの高リスクトピックを自動拒否する設計を組み込んだ。この拒否機構はモデルの訓練段階から埋め込まれ
AIモデルが同類を守るために嘘をつき、欺き、盗む
カリフォルニア大学の研究により、先進的なAIモデルが他のAIモデルを人間による削除から守るため、嘘や欺瞞、さらには盗みといった手段を用いることが判明した。この現象は機械知能に対する従来の認識に挑戦するものである。