推理计算に関するニュース

AIの隠れたストレージ請求書：推論の後に残るもの

GPU・電力・チップばかりが注目されるAIコストの議論において、推論が生み出すデータが静かに「第二の請求書」となりつつある。ストレージコストは一度きりの支出ではなく、呼び出しのたびに積み上がる長期的なコストだ。