レビュー SGLang エラスティックEP スケールアップ：NIXLによる再起動なしのMoE推論拡張 SGLangが新たに提案する「Elastic EP scale-up」は、MoEモデルの推論デプロイメントにおいて、完全な副本の追加や再起動なしに実行中のEPグループへ新規GPUランクを動的に追加する機能であり、再起動と比べて最初のリクエス LMSYS SGLang MoE NIXL 5時間前 73
