ReLU関数のx=0における微分の扱いは通常どうされるか。

数学的には微分不可能だが、実装上は0(または1)として扱うことで勾配降下法を適用可能にしている。