MilesがOPDを導入:蒸留をポストトレーニングのプリミティブへ
MilesチームがOn-Policy Distillation(OPD)をコア機能としてシステムに統合し、教師モデルの効率的な推論行動を学生モデルへ転移させることに成功した。単一の8×NVIDIA B200ノード上でQwen3.5-35B-
MilesチームがOn-Policy Distillation(OPD)をコア機能としてシステムに統合し、教師モデルの効率的な推論行動を学生モデルへ転移させることに成功した。単一の8×NVIDIA B200ノード上でQwen3.5-35B-
ワシントンが中国のAI台頭に対応した技術規制を検討する中、NVIDIAやMistralなど大手AI企業が、オープンウェイトモデルへの一律規制に反対する意見書を提出した。業界は、広範な規制がオープンソースエコシステムを損なう一方、中国のAI発
中国のAI企業Moonshot AIが開発したKimi K3モデルが「Anthropicのモデルを蒸留したもの」との疑惑を受けているが、複数の専門家はTechCrunchの取材に対し、そのような単純な説明は事実とかけ離れていると明言した。
インドのスタートアップAvataarは、蒸馏(知識蒸留)技術を活用した動画生成モデルを1秒あたり0.005ドルという低価格で提供し、インド市場の文化的適応性と低コストを武器に差別化を図っている。
AnthropicがAIモデルClaudeに対する大規模な蒸留攻撃を公表。海外の研究機関が2万4千の偽アカウントを使い1600万回以上の対話を通じてClaudeの中核能力を抽出しようとした事件で、AI業界のセキュリティと知的財産保護に新たな
Googleは攻撃者がGeminiモデルに10万回以上のプロンプトを送信し、知識蒸留技術を使って低コストでモデルの中核能力をクローンしようとしたことを公開しました。