勾配消失問題に対する活性化関数側の対策として、最も一般的なのはどれか。

ReLUは正の領域で勾配が1であるため、多層化しても勾配が消失しにくい。

関連記事

関連記事はありません。