SGLangとMilesのNVIDIA Vera Rubin上における最適化実践
NVIDIA Vera Rubinノードへの早期アクセスを取得し、SGLang(推論)とMiles(強化学習訓練)フレームワークを同プラットフォームへ移行。Kimi K3 NVFP4モデルに向けたアテンション、MoE通信、KDAカーネルの専
NVIDIA Vera Rubinノードへの早期アクセスを取得し、SGLang(推論)とMiles(強化学習訓練)フレームワークを同プラットフォームへ移行。Kimi K3 NVFP4モデルに向けたアテンション、MoE通信、KDAカーネルの専
SGLangチームとMilesは、初のオープンソース3兆パラメータ級モデルであるKimi K3に対してDay-0サポートを正式に発表した。SGLangが推論を、MilesがRL学習を担当し、リリース日のあらゆるシナリオをカバーする。