全員が再帰的自己改善に賭ける——あるAIスタートアップの新モデルが驚異的な性能を発揮
スタートアップのRecursiveが「再帰的自己改善」に全力を注ぎ、AIがAIを構築するサイクルを閉じることで研究開発の自動化を目指している。その最新モデルは「驚異的な性能」と評される一方、安全性ガバナンスが追いつけるかどうかが問われている
スタートアップのRecursiveが「再帰的自己改善」に全力を注ぎ、AIがAIを構築するサイクルを閉じることで研究開発の自動化を目指している。その最新モデルは「驚異的な性能」と評される一方、安全性ガバナンスが追いつけるかどうかが問われている
WIREDの報道をもとに、急速な技術進歩・再帰的自己改善・エージェント集群の組み合わせが大手AI研究所内部で深刻な不安を引き起こしている実態と、その技術的・産業的背景を整理する。
AIが人間の監督なしに自己改善できるという「再帰的自己改善」の構想は注目を集めているが、データ・評価・アライメントという三重の技術的障壁により、楽観論者が期待するほど早くは実現しないと指摘されている。
AGI(汎用人工知能)の過熱が沈静化する中、AI研究コミュニティではRSI(再帰的自己改善)という新たな潮流が台頭している。しかしRSIもAGIと同様に定義が曖昧で、実現可能性をめぐる議論が絶えない。