オリジナル BF16大規模言語モデルの強化学習崩壊、3か所の丸め処理を揃えるだけで解決 研究者らがarXivで発表した論文によると、大規模言語モデルの強化学習が崩壊する根本原因は、推論スタックと学習スタック間の3か所における数値丸め処理のタイミングのずれにあることが判明した。この3か所を修正するだけで、グローバルな精度フォーマ 大模型训练 强化学习 BF16精度 数值稳定性 4時間前 64
