KV-cache に関するニュース

MLPerf InferenceがAIエージェント時代へ：マルチターンAgentic Inferenceベンチマークを新規追加

MLPerf Inferenceベンチマークスイートが、LLMの実運用における最も急成長する利用形態であるマルチターンAgentic Inferenceに対応するため、新たなベンチマークを追加した。コーディングエージェントとワークフローエー