レビュー MLPerf、エンドツーエンドRAG推論ベンチマークを発表 MLCommonsのMLPerf Inferenceワーキンググループが、初のエンドツーエンド検索拡張生成(RAG)推論ベンチマークを公開した。複数コンポーネントで構成されるRAGパイプライン全体を計測対象とし、2つのワークロードを含む。 MLC MLPerf RAG基准 端到端推理 6時間前 39