レビュー SGLang量化スタックの再構築：より明確なアーキテクチャの実現 SGLangのissue #15194で提案されたアーキテクチャ変更を解説する。新設計では、チェックポイント解釈・パラメータ登録・重みロード・後処理・カーネル実行を独立した再利用可能なコンポーネントに分離し、量化スタックの保守性と拡張性を大 LMSYS SGLang 量化优化 LLM Serving 8時間前 124
