レート歪み最適化(RDO)において、最小化すべきコスト関数 $J$ は、歪み $D$、レート $R$、ラグランジュ乗数 $\lambda$ を用いてどう表されるか。

RDOでは、符号量(レートR)と画質劣化(歪みD)のトレードオフを最適化するため、コスト関数 $J = D + \lambda R$ を最小化するモードを選択する。