模型自我改进に関するニュース

高リスク研究を公開の場へ——あるAI専門家集団の挑戦

多くの先端AIラボが最もリスクの高い実験を非公開にしている中、Trillium Labsはモデルの自己改善能力やモデル行動の研究をオープンな環境で実施するという逆の道を選んだ。これはAI安全研究における透明性と防護のバランスをめぐる、前例の