ドロップアウトは学習時の正則化
正解
学習時にユニットをランダムに無効化し、推論時は原則として無効化しない(必要ならスケーリングする)。
正解になる理由
ドロップアウトは学習時にユニットを確率的に落とすことで、特定の経路への依存を減らします。推論時は通常すべてのユニットを使い、学習時のドロップ率に応じて出力をスケーリングします。パラメータ数の式を覚えるより、学習と推論で振る舞いが違う点が重要です。
各誤答がなぜ誤りか
- 選択肢4: 学習と推論が逆です。推論でランダムに落とすと予測が不安定になります。
- 選択肢1: 入力を全ゼロにすると学習になりません。
- 選択肢3: 損失関数の種類はドロップアウトの定義ではありません。