レビュー SGLangを用いたJEV類似決定モデルのスケーリング 本記事では、AIエージェントの意思決定において長文の説明を生成せず分類またはスコアリングで直接判断を返すJEV類似決定モデルを解説し、SGLangの専用スコアリングAPIを活用したベンチマーク結果を紹介する。 LMSYS SGLang JEV决策模型 LLM服务优化 6時間前 45