MoE に関するニュース

SGLangにおけるElastic EP：DeepSeek MoEデプロイメントの部分故障耐性

SGLangがElastic EPを統合し、大規模MoEモデルの推論における部分故障耐性を実現。従来の2-3分のダウンタイムを10秒以下に短縮し、性能を損なうことなく信頼性を大幅に向上させた。