ロピタルの定理は不定形の極限を計算する強力な道具です。この定理は機械学習における損失関数の解析や、数値最適化アルゴリズムの収束性解析において重要な役割を果たします。
ロピタルの定理
$\lim_{x \to a} f(x) = \lim_{x \to a} g(x) = 0$ または $\pm \infty$ で、$g'(x) ≠ 0$ のとき:
$\lim_{x \to a} \frac{f(x)}{g(x)} = \lim_{x \to a} \frac{f'(x)}{g'(x)}$
(右辺の極限が存在する場合)
1. 不定形の確認
$x \to 0$ のとき:
- 分子: $e^0 - 1 - 0 = 1 - 1 = 0$
- 分母: $0^2 = 0$
$\frac{0}{0}$ の不定形なので、ロピタルの定理が適用できます。
2. 第1回の微分
分子と分母をそれぞれ微分します:
- $(e^x - 1 - x)' = e^x - 1$
- $(x^2)' = 2x$
$\lim_{x \to 0} \frac{e^x - 1 - x}{x^2} = \lim_{x \to 0} \frac{e^x - 1}{2x}$
3. 再び不定形の確認
$x \to 0$ のとき:
- 分子: $e^0 - 1 = 0$
- 分母: $2 \cdot 0 = 0$
再び $\frac{0}{0}$ の不定形なので、もう一度ロピタルの定理を適用します。
4. 第2回の微分
再度微分します:
- $(e^x - 1)' = e^x$
- $(2x)' = 2$
$\lim_{x \to 0} \frac{e^x - 1}{2x} = \lim_{x \to 0} \frac{e^x}{2}$
5. 極限の計算
もはや不定形ではないので、直接代入できます:
$\lim_{x \to 0} \frac{e^x}{2} = \frac{e^0}{2} = \frac{1}{2}$
6. テイラー展開による検算
$e^x$ のテイラー展開を用いて検算します:
$e^x = 1 + x + \frac{x^2}{2!} + \frac{x^3}{3!} + ...$
$e^x - 1 - x = \frac{x^2}{2} + \frac{x^3}{6} + ...$
$\frac{e^x - 1 - x}{x^2} = \frac{\frac{x^2}{2} + \frac{x^3}{6} + ...}{x^2} = \frac{1}{2} + \frac{x}{6} + ...$
$x \to 0$ のとき $\frac{1}{2}$ に収束することが確認できます。
ロピタルの定理の応用分野
ロピタルの定理は以下の分野で重要な計算手法です:
- 機械学習: 損失関数の近似精度評価
- 数値解析: アルゴリズムの収束速度解析
- 統計学: 最尤推定量の漸近挙動
- 物理学: 摂動理論における近似計算