GoogleがオープンソースのDiffusionGemmaを公開——260億パラメータモデルでローカル生成速度が4倍向上
Google DeepMindは拡散モデルの手法をテキスト生成に応用したDiffusionGemmaを発表し、従来の自己回帰モデルと比較して最大4倍の生成速度を実現した。混合エキスパートアーキテクチャにより18GB VRAMクラスのGPUで
Google DeepMindは拡散モデルの手法をテキスト生成に応用したDiffusionGemmaを発表し、従来の自己回帰モデルと比較して最大4倍の生成速度を実現した。混合エキスパートアーキテクチャにより18GB VRAMクラスのGPUで
SGLang DiffusionはSGLangの優れた性能を拡散モデルの画像・動画生成分野に拡張し、主流のオープンソースモデルをサポートしながら1.2倍から5.9倍の高速化を実現します。