推定編

推定手法の基礎の理解を確認しましょう

最尤推定法 レベル1

確率密度関数 $f(x; θ) = θx^(θ-1) (0 < x < 1, θ > 0)$ で表される母集団から、大きさnの標本 $x₁, x₂, ..., xₙ$ が得られた。パラメータθの最尤推定量はどれか。

解説
解答と解説を表示
<p>最尤推定法に関する問題です。</p><p class='step'>1. 最尤推定法の基本</p><p>最尤推定法は、観測されたデータが得られる確率(尤度)を最大にするようなパラメータの値を推定する方法です。</p><p>確率密度関数(または確率質量関数)$f(x; \theta)$ で表される母集団から、独立な標本 $x_1, x_2, \ldots, x_n$ が得られたとき、尤度関数 $L(\theta)$ は以下のように定義されます:</p><p class='formula'>$L(\theta) = \prod_{i=1}^{n} f(x_i; \theta)
lt;/p><p>最尤推定量 $\hat{\theta}$ は、尤度関数 $L(\theta)$ を最大にする $\theta$ の値です:</p><p class='formula'>$\hat{\theta} = \arg\max_{\theta} L(\theta)
lt;/p><p>計算の便宜上、対数尤度関数 $\log L(\theta)$ を最大化することが多いです:</p><p class='formula'>$\hat{\theta} = \arg\max_{\theta} \log L(\theta)
lt;/p><p>対数尤度関数を $\theta$ で微分し、その導関数を0とおくことで、最尤推定量を求めることができます。</p><p class='step'>2. 問題の設定</p><p>この問題では、確率密度関数が以下のように与えられています:</p><p class='formula'>$f(x; \theta) = \theta x^{\theta-1} \quad (0 < x < 1, \theta > 0)
lt;/p><p>これは、パラメータ $\theta$ のベータ分布の特殊ケース($Beta(\theta, 1)$)です。</p><p class='step'>3. 尤度関数の構築</p><p>標本 $x_1, x_2, \ldots, x_n$ に対する尤度関数は:</p><p class='formula'>\begin{align}L(\theta) &= \prod_{i=1}^{n} f(x_i; \theta) \\ &= \prod_{i=1}^{n} \theta x_i^{\theta-1} \\ &= \theta^n \prod_{i=1}^{n} x_i^{\theta-1}\end{align}</p><p class='step'>4. 対数尤度関数の計算</p><p>対数尤度関数は:</p><p class='formula'>\begin{align}\log L(\theta) &= \log(\theta^n \prod_{i=1}^{n} x_i^{\theta-1}) \\ &= \log(\theta^n) + \log(\prod_{i=1}^{n} x_i^{\theta-1}) \\ &= n\log(\theta) + \sum_{i=1}^{n} \log(x_i^{\theta-1}) \\ &= n\log(\theta) + (\theta-1)\sum_{i=1}^{n} \log(x_i)\end{align}</p><p class='step'>5. 最尤推定量の導出</p><p>対数尤度関数を $\theta$ で微分し、その導関数を0とおきます:</p><p class='formula'>\begin{align} \frac{d}{d\theta}\log L(\theta) &= \frac{n}{\theta} + \sum_{i=1}^{n} \log(x_i) \\ \frac{d}{d\theta}\log L(\theta) &= 0 \\ \frac{n}{\theta} + \sum_{i=1}^{n} \log(x_i) &= 0 \\ \frac{n}{\theta} &= -\sum_{i=1}^{n} \log(x_i) \\ \theta &= \frac{n}{-\sum_{i=1}^{n} \log(x_i)} \\ \theta &= \frac{-n}{\sum_{i=1}^{n} \log(x_i)}\end{align}</p><p>ここで、$0 < x_i < 1$ なので、$\log(x_i) < 0$ となり、$\sum_{i=1}^{n} \log(x_i) < 0$ です。したがって、$\hat{\theta} = \frac{-n}{\sum_{i=1}^{n} \log(x_i)} > 0$ となり、パラメータの制約 $\theta > 0$ を満たします。</p><p class='step'>6. 選択肢の検討</p><p>計算した最尤推定量 $\hat{\theta} = \frac{-n}{\sum_{i=1}^{n} \log(x_i)}$ に一致する選択肢は「θ̂ = -n / Σlog(xᵢ)」です。</p><p class='note'>最尤推定法の特徴と性質:</p><ul><li>最尤推定量は、大標本の場合、一致性、漸近正規性、漸近有効性などの望ましい性質を持ちます。</li><li>最尤推定量は、不変性の原理を満たします。つまり、パラメータ $\theta$ の関数 $g(\theta)$ の最尤推定量は、$\theta$ の最尤推定量 $\hat{\theta}$ の関数 $g(\hat{\theta})$ となります。</li><li>最尤推定量は、必ずしも不偏推定量ではありません。ただし、大標本の場合、漸近的に不偏になります。</li><li>最尤推定法は、複数のパラメータを同時に推定する場合にも適用できます。</li><li>最尤推定法は、正則条件下で、クラメール・ラオの下界に達する漸近的に最小の分散を持つ推定量を提供します。</li></ul><p>この問題では、確率密度関数 $f(x; \theta) = \theta x^{\theta-1}$ $(0 < x < 1, \theta > 0)$ で表される母集団から得られた標本に基づいて、パラメータ $\theta$ の最尤推定量を求めました。計算の結果、最尤推定量は $\hat{\theta} = \frac{-n}{\sum_{i=1}^{n} \log(x_i)}$ となります。</p>
問題 1/10
カテゴリ一覧に戻る