レビュー SGLangがBeamモデルの本番環境デプロイを実現 ReflectionのBeamは501Bパラメータの混合エキスパート（MoE）モデルであり、SGLangがネイティブサポートを実現し、本番APIに高性能推論サービスを提供する。本記事ではそのアーキテクチャ、機能、および性能評価の詳細を紹介す LMSYS SGLang MoE模型 大模型推理 5時間前 72
