SGLangがNVIDIA Nemotron 3.5 Super VLにゼロデイサポートを提供
NVIDIA Nemotron 3.5 Super VLは、テキスト・画像・文書・動画を入力として扱える120BパラメータのMoEマルチモーダルモデルであり、SGLangによる高性能サービング環境が即日対応で提供されている。
多模态模型 に関するニュース
SGLangがMuse GlimmerのDay-0サポートを実現、ローカルAgentic推論を最適化
SGLangは30Bパラメータのマルチモーダルモデル「Muse Glimmer」のDay-0サポートを実装し、NVIDIA GeForce RTX 5090上でNVFP4とDFlash技術を活用して最大1452 tok/sの総出力スループッ
SGLang と Miles が Inkling を初日からサポート：975Bのマルチモーダル最先端モデルが公開
SGLang Team と Thinking Machines Lab は、975Bパラメータのマルチモーダルモデル Inkling を SGLang と Miles で初日からサポートすると発表した。推論サービス、カーネル最適化、投機的デ