勾配降下法の1ステップ計算
最急降下法では、現在のパラメータから「学習率 × 勾配」を引いて更新します。今回の値は $w=5$、勾配 4、学習率 0.1 なので、$w_new = 5 - 0.1 × 4 = 4.6$ です。正解は 4.6 です。 (選択肢2が正しい)
正解の理由
最急降下法では、現在のパラメータから「学習率 × 勾配」を引いて更新します。今回の値は $w=5$、勾配 4、学習率 0.1 なので、$w_new = 5 - 0.1 × 4 = 4.6$ です。正解は 4.6 です。
仕組み・頻出ポイント
- 損失最小化ではマイナス勾配方向へ更新するため、式の符号を間違えないことが重要です。
- 学習率は更新幅を調整し、勾配そのものの単位をそのまま動かすわけではありません。
- 数値問題では、まず更新式を書き、代入してから選択肢を見るとミスを減らせます。
G検定で覚えるべきこと
よくある誤りは、$5 + 0.1 × 4$ と足して 5.4 を選ぶこと、または学習率を掛け忘れて 1 だけ引くことです。勾配降下法は「降下」なので損失を減らす方向へ動きます。G検定では複雑な微分計算より、このような1ステップ更新の符号と学習率の役割が問われやすいです。
他の選択肢の評価
- 選択肢1: 4.0 は勾配4をそのまま引くような計算で、学習率を反映していません。
- 選択肢2: 正解です。0.1×4=0.4 を現在値5から引きます。
- 選択肢3: 5.1 は学習率や勾配の扱いが更新式と合っていません。
- 選択肢4: 5.4 は勾配方向に足しており、損失最小化の更新方向と逆です。
実務での見方
実務では、この1ステップ計算がニューラルネットワーク全体の多数の重みに対して同時に行われます。手計算では単純でも、符号や学習率を誤ると損失が増え続けます。更新式を先に書き、現在値、勾配、学習率を順に代入する習慣を付けると、試験でも実装でもミスを減らせます。
確認観点
確認観点としては、引き算か足し算か、学習率を掛けたか、現在値から更新量を動かしたかです。数値が簡単な問題ほど暗算で符号を間違えやすいため、式を一行書いて確認するのが有効です。
結論として、この問題では「用語の定義」だけでなく、どの前提で使えるのか、どの誤解を避けるべきか、実務では何を確認するのかまで結びつけて理解することが重要です。