レビュー INT4 QAT RL 実践:単一H200で1TBモデルをデプロイ SGLang RLチームがKimi K2に着想を得て、INT4 Quantization-Aware Training(QAT)のエンドツーエンドソリューションを実現。トレーニング段階のfake quantizationと推論段階のW4A1 LMSYS INT4 QAT SGLang RL 模型量化 2026年6月29日 265
レビュー 単一H200での1TBモデルデプロイ:INT4 QAT RLエンドツーエンド実践 SGLang RLチームがINT4量子化認識トレーニング(QAT)のエンドツーエンドソリューションを実現し、約1TB規模のモデルを単一H200 GPUでのデプロイを可能にしました。 LMSYS INT4 QAT 量化感知训练 RL训练 2026年2月4日 1,081