レビュー SGLangが2週間でGLM-5.2を最適化：8×B300上で500 TPS超を達成 SGLangチームがGLM-5.2-NVFP4の推論サービスを2週間で大幅最適化し、8×B300・バッチサイズ1の低レイテンシ環境で500 TPS超を達成した。Spec V2、IndexShare MTP、TopK-V2など複数のランタイム LMSYS SGLang GLM-5.2 推理优化 2日前 149
