大量の推論リクエストを一定時間分まとめて処理することでスループットを向上させる方式はどれか。

バッチ推論はハードウェアの並列演算能力を最大限に活用できる。