SpecForge v0.3.0：統合デカップリングとコロケーション推測デコードトレーニングスタック

SpecForgeチームはv0.3.0をリリースし、ターゲットモデルの推論とドラフトモデルのトレーニングの完全なデカップリングを実現した。より広範な推測デコードアルゴリズムをサポートするとともに、オンライン・オフライン・デカップリングワークフローを統合した。

主な更新ハイライト

• オンライントレーニングが完全にデカップリング化：パッチ適用済みSGLangサーバーがターゲットの特徴を捕捉し、Mooncakeがテンソルを転送、トレーナーは独立したコントロールプレーンを通じて軽量なリファレンスを消費する。
• 推論とトレーニングを独立してスケール可能：8×H20テストベッドにおいて、3台のSGLangサーバー＋5台のトレーナー構成によりエンドツーエンドのトレーニングスループットが約10%向上。
• 単一ランタイムで複数のドラフトアルゴリズムをサポート：EAGLE3、EAGLE3.1、P-EAGLE、DFlash、Domino、DSpark、およびオプションのD-PACEターゲット。

コミュニティ貢献によるオープンなSpecBundleドラフトモデルも複数リリースされ、トレーニングとサービングの一貫性チェックゲートも内蔵している。

結合型トレーナーからトレーニングパイプラインへ

オンラインドラフトモデルのトレーニングには、2つの明確に異なるワークロードが含まれる：ターゲット側では凍結された大規模モデルを実行して隠れ状態を捕捉し、ドラフト側では小型モデルのフォワード・バックワードパスをトレーニングする。旧来のコロケーション設計では両者を同一のライフサイクルに結びつけていたため、固定比率・リソース干渉・共有障害境界といった問題が生じていた。新アーキテクチャは明確な境界を設け、トレーナーがターゲットモデルを所有する必要をなくし、トークンシーケンス・マスク・ターゲット特徴のみを必要とする設計とした。

1つの境界、3つの契約

新しいオンラインランタイムはプロデューサープールとコンシューマープールに分かれる。プロデューサーはプロンプトをパッチ適用済みSGLangキャプチャサーバーにスケジューリングし、特徴テンソルをMooncakeに書き込んで、SampleRefメタデータのみを渡す。

図1：オンラインデカップリングトレーニングアーキテクチャの概略図。

キャプチャ契約

deployment.disaggregated.server_urls内の各URLがrolloutワーカーに対応し、パッチ適用済みSGLangサーバーに接続する。

デリバリー契約

大きなテンソルはMooncakeを通じて保存され、トレーナーはFeatureDataLoaderを通じてリファレンスを解析してバッチを構築する。

ライフサイクル契約

分散rankの同期により処理が進められ、SQLite台帳を用いてトレーニング済みサンプルを記録し、中断からの再開をサポートする。

デカップリングがもたらす効果

推論プールとトレーニングプールを独立してスケール可能になった。8×H20テストベッドにおけるQwen3-8B Domino 3kコンテキストトレーニングでは、3サーバー＋5トレーナー構成により旧来のコロケーション方式と比較してスループットが10%向上した。

図2-3：コロケーションとデカップリングトレーニングのパフォーマンス比較カーブ。

新ランタイムはEAGLE3・DFlash・Dominoなどのアルゴリズムをすでにサポートしており、パフォーマンステストでは顕著な高速化が確認されている。