端到端推理に関するニュース

MLPerf、エンドツーエンドRAG推論ベンチマークを発表

MLCommonsのMLPerf Inferenceワーキンググループが、初のエンドツーエンド検索拡張生成（RAG）推論ベンチマークを公開した。複数コンポーネントで構成されるRAGパイプライン全体を計測対象とし、2つのワークロードを含む。