SGLangがMuse GlimmerのDay-0サポートを実現、ローカルAgentic推論を最適化
SGLangは30Bパラメータのマルチモーダルモデル「Muse Glimmer」のDay-0サポートを実装し、NVIDIA GeForce RTX 5090上でNVFP4とDFlash技術を活用して最大1452 tok/sの総出力スループッ
SGLangは30Bパラメータのマルチモーダルモデル「Muse Glimmer」のDay-0サポートを実装し、NVIDIA GeForce RTX 5090上でNVFP4とDFlash技術を活用して最大1452 tok/sの総出力スループッ
MetaのSuperintelligence Labsが新たなオープンソースモデル「Muse Glimmer」を公開した。300億パラメーターを持つ本モデルはApache 2.0ライセンスを採用し、コンシューマー向けGPU上でのローカルAI