SGLangとMilesがKimi K3にDay-0サポートを提供
SGLangチームとMilesは、初のオープンソース3兆パラメータ級モデルであるKimi K3に対してDay-0サポートを正式に発表した。SGLangが推論を、MilesがRL学習を担当し、リリース日のあらゆるシナリオをカバーする。
推测解码 に関するニュース
次世代投機的デコーディング：DFlashとSpec V2
Modal、Z Lab、SGLangチームが共同でDFlash投機的デコーディングモデルを発表し、SGLangの新デフォルトエンジンSpec V2と組み合わせることでLLM推論サービスの最適レイテンシを実現する。新たに公開されたQwen 3
GoogleのGemma 4オープンソースモデルが投機的デコードを採用、速度が3倍に向上
Googleが新たにオープンソース化したGemma 4モデルは、投機的デコードと疎なエキスパート混合（MoE）アーキテクチャの統合により、出力品質を損なうことなく最大3倍の推論高速化を実現しました。これにより、低コストAIサービスに新たなイ