Goodfireが「インサイドアウト型」AIモニタリングツールを発表、暴走エージェントの検知コストを大幅削減
AI安全企業のGoodfireが、モデル内部の活性化状態を直接観察する「インサイドアウト型」監視手法を発表した。従来の外部審査型AIモニタリングと比べ、コストを大幅に削減できるという。
AI安全企業のGoodfireが、モデル内部の活性化状態を直接観察する「インサイドアウト型」監視手法を発表した。従来の外部審査型AIモニタリングと比べ、コストを大幅に削減できるという。
DeepMindは最新AIモデル「WeatherNext」がより低解像度のデータを用いながらも、従来より早い段階でハリケーンの経路と強度を正確に予測できると発表した。ただし研究者はモデルの内部動作を完全には理解しておらず、オープンソース化に