大規模言語モデルの次なる潮流とAI学術研究の転換
Transformerアーキテクチャの限界が意識される中、スタートアップ各社が次世代AI基盤の構築を競い、学術研究の重心も「規模拡大」から「アライメント・安全性・解釈可能性」へとシフトしつつある。AI産業が「規模至上主義」の時代を脱しようと
Transformerアーキテクチャの限界が意識される中、スタートアップ各社が次世代AI基盤の構築を競い、学術研究の重心も「規模拡大」から「アライメント・安全性・解釈可能性」へとシフトしつつある。AI産業が「規模至上主義」の時代を脱しようと
2017年のTransformerアーキテクチャ登場から約10年、その限界を克服しようとする新興スタートアップ企業たちが、線形アテンションや状態空間モデルなど多様なアプローチでLLMの次なる革新を模索している。
OpenAIはIPOを前に、Transformerアーキテクチャの共同発明者Noam Shazeerと、元トランプ政権AI政策顧問Dean Ballを同じ週に相次いで招聘した。技術力と政策対応力の両面を強化する「二重の保険」戦略とみられてい