隠れ層の活性化関数としてReLUを使用した場合に発生することがある、勾配が完全に0になり更新が止まる問題はどれか。

負の値のみを入力し続けると、そのニューロンの重みが二度と更新されなくなる。

関連記事

関連記事はありません。