SGLangがQwen3.8モデルのDay-0サポートを実現
SGLangはQwen3.8-2.4T-A95Bモデルに対してリリース当日(Day-0)サポートを実現し、ReplaySSMメカニズムやPrefill-Decode分離、チャンクパイプライン並列Prefillなどの機能を通じて高性能な推論を
SGLangはQwen3.8-2.4T-A95Bモデルに対してリリース当日(Day-0)サポートを実現し、ReplaySSMメカニズムやPrefill-Decode分離、チャンクパイプライン並列Prefillなどの機能を通じて高性能な推論を
SGLang RLチームがKimi K2に着想を得て、INT4 Quantization-Aware Training(QAT)のエンドツーエンドソリューションを実現。トレーニング段階のfake quantizationと推論段階のW4A1