AI 推理框架に関するニュース

RadixArkとGoogleが提携：SGLangの全機能をTPUへ本格展開

RadixArkとGoogle Cloudがオープンソース推論フレームワーク「SGLang」をTPUエコシステムへ全面導入する提携を正式発表した。開発者はGPUとTPUを同一APIで使い分けられるようになる。