レビュー 異種CPU+GPU EPD分離によるVLMサービス性能の向上 SGLangコミュニティが提案する異種CPU+GPU構成のEPD分離アーキテクチャにより、VLMサービスにおける視覚エンコードのボトルネックを解消し、TTFTやTPOTなどの主要指標で純GPU構成を上回る性能を実現した。 LMSYS VLM服务 EPD解耦 SGLang 7時間前 17