H20 GPU に関するニュース

限界を超えて：H20上でのDeepSeek-V4-Proのサービス最適化

DeepSeek-V4-Proは1.6兆パラメータを持つMoEモデルであり、H20 GPUという制約のあるハードウェア上でのサービング最適化において、TTFT・TPOT目標を達成しながら大幅なスループット改善を実現した取り組みを紹介する。