ReLU関数の勾配

問題:

活性化関数ReLU（Rectified Linear Unit） \(f(z) = \max(0, z)\) について、その入力 \(z\) に対する勾配（微分値） \(\frac{df}{dz}\) の記述として正しいものを選択してください。

選択肢:

• 入力 \(z\) が正の場合、勾配は 0 である。
• 入力 \(z\) が負の場合、勾配は 1 である。
• 入力 \(z\) が負の場合、勾配は 0 である。
• 入力 \(z\) の値に関わらず、勾配は常に 1 である。