レビュー Infer-forge:SGLangを中心としたHarness・Loop・Graphエンジニアリング Infer-forgeは、SGLangを核として推論最適化の実行環境を体系化するMonoRepoおよびTaskLoop設計の取り組みであり、内部での継続的運用を通じて並行タスク数の大幅な拡大を実現している。 LMSYS SGLang 推理优化 工程系统 13時間前 22