勾配降下法の更新方向
勾配降下法は、損失関数を小さくするために、パラメータを少しずつ更新する最適化手法です。勾配は、その点で関数が最も増加する方向を示します。したがって、損失を最小化したい場合は、勾配と反対方向へ進みます。G検定では「勾配は増加方向、降下法は反対方向」と覚えると混乱しにくくなります。
正解の理由
選択肢2の勾配が示す増加方向と反対方向に進むが正解です。更新式は概念的に「新しいパラメータ = 現在のパラメータ - 学習率 × 勾配」と表されます。学習率は一歩の大きさを決める値で、大きすぎると発散し、小さすぎると学習が遅くなります。
G検定で押さえるポイント
- 勾配は損失が増える方向を示すため、最小化ではマイナス方向へ更新します。
- 学習率は更新幅を調整するハイパーパラメータです。
- 確率的勾配降下法、ミニバッチ学習、Adamなどの最適化手法も、勾配に基づいてパラメータを更新します。
混同しやすい論点
- 勾配と同じ方向へ進むと損失を増やす方向になり、最大化に近い動きになります。
- 勾配を無視して固定値を加えるだけでは、損失関数の形に応じた最適化になりません。
- パラメータを毎回0に戻すと、学習した情報が失われます。
他の選択肢の評価
- 選択肢1は誤りです。損失最小化では勾配と同じ方向ではなく反対方向へ進みます。
- 選択肢2が正解です。勾配の負の方向に更新します。
- 選択肢3は最適化ではありません。勾配情報を使わないため損失を下げる保証がありません。
- 選択肢4は誤りです。毎回0に戻すと学習が蓄積されません。
実務上の意味
実務では、損失が下がらないときに学習率、勾配の大きさ、初期値、正則化、データ前処理を確認します。勾配降下法の更新方向を理解していると、学習曲線が振動する、発散する、停滞する、といった現象を原因別に考えやすくなります。
G検定では、用語の丸暗記だけでなく「どの場面で使う概念か」「何と対比されるか」まで問われやすいです。正答を選んだ後に、誤答がなぜ成り立たないかを説明できる状態にしておくと、文章表現を変えた問題にも対応しやすくなります。G検定対策では、正解語だけでなく、反対概念、代表例、限界、現在の実務での使われ方を一緒に説明できる粒度まで確認しておくと安定します。また、問題文の時代背景や技術名を手がかりに、どのAIブーム・どの学習方式・どの限界の話かを切り分けてください。