最適化アルゴリズム RMSprop で導入され、Adamでも採用されている、勾配の2乗を蓄積する際の重み付け手法はどれか。

2026年4月3日

直近の勾配に大きな重みを置く指数移動平均により、学習率を適応的に調整する。

RNNにおいて、現在の時刻の隠れ状態を計算するために必要な入力はどれか。

次元圧縮において、データの非線形な構造を保持しながら低次元へ投影する手法はどれか。