レビュー 統合基数キャッシュ:ハイブリッドモデルのプレフィックスキャッシュのための単一木構造 統合基数キャッシュ(Unified Radix Cache)は、ハイブリッドモデルにおける複数のKV再利用ルールを単一のradix木トポロジーと交換可能なコンポーネントで管理する手法で、HiCacheとの統合によりマルチターンベンチマークで LMSYS SGLang 前缀缓存 混合模型 6時間前 52