AWS Trainium に関するニュース

SGLangがAWS Trainium向けプラグインBetaを発表：専用AIチップ上で推論とRL Rolloutを実現

SGLangはAWSと連携し、AWS Trainium専用のプラグインBeta版を発表した。LLM推論サービスとRL rollout生成の両方をTrainium2およびTrainium3上でサポートする。