HOMELv036 情報理論における「相互情報量 I(X;Y)」とエントロピーH(X), 条件付きエントロピーH(X|Y)の関係式はどれか。 2026年3月13日 相互情報量は、Yを知ることでXの不確実性(エントロピー)がどれだけ減少したかを表す量である。 特異値分解(SVD)を利用して行列の近似を行う際、情報量を減らす(圧縮する)ために捨てるのはどのような成分か。 ラグランジュの未定乗数法において、制約条件 g(x)=0 の下で f(x) を最大化する点は、幾何学的にどう解釈できるか。