統計的推測(推定)

最尤推定、ベイズ推定、区間推定など統計検定準1級レベルの統計的推定理論を学習します。

一致性の理解 レベル1

推定量$\hat{\theta}_n$が母数$\theta$に一致する(consistent)ための十分条件として正しいものはどれか。

解説
解答と解説を表示
<h4>一致性の数学的定義</h4><p>推定量の一致性は、標本サイズが大きくなるにつれて推定量が真の母数に確率収束することを意味します。</p><h4>確率収束の定義</h4><p class='step'><strong>Step 1: 一致性の定義</strong></p><p>推定量$\hat{\theta}_n$が母数$\theta$に一致するとは:</p><div class='formula'>$\hat{\theta}_n \xrightarrow{P} \theta$ as $n \to \infty
lt;/div><p>すなわち、任意の$\varepsilon > 0$に対して:</p><div class='formula'>$\lim_{n \to \infty} P(|\hat{\theta}_n - \theta| > \varepsilon) = 0
lt;/div><h4>一致性の十分条件</h4><p class='step'><strong>Step 2: 平均二乗収束による十分条件</strong></p><p>以下の条件が満たされれば、$\hat{\theta}_n$は$\theta$に一致します:</p><div class='formula'>$\lim_{n \to \infty} E[(\hat{\theta}_n - \theta)^2] = 0
lt;/div><p>これは平均二乗収束と呼ばれ、確率収束を含意します。</p><p class='step'><strong>Step 3: バイアス・分散分解</strong></p><p>平均二乗誤差を分解すると:</p><div class='formula'>$E[(\hat{\theta}_n - \theta)^2] = \text{Var}(\hat{\theta}_n) + [E[\hat{\theta}_n] - \theta]^2
lt;/div><div class='formula'>$= \text{Var}(\hat{\theta}_n) + [\text{Bias}(\hat{\theta}_n)]^2
lt;/div><p>したがって、以下が十分条件となります:</p><div class='formula'>$\begin{cases}\lim_{n \to \infty} E[\hat{\theta}_n] = \theta \quad \text{(漸近不偏性)} \\\lim_{n \to \infty} \text{Var}(\hat{\theta}_n) = 0 \quad \text{(分散の収束)}\end{cases}
lt;/div><h4>チェビシェフの不等式による証明</h4><p class='step'><strong>Step 4: 確率収束の証明</strong></p><p>チェビシェフの不等式により:</p><div class='formula'>$P(|\hat{\theta}_n - \theta| > \varepsilon) \leq \frac{E[(\hat{\theta}_n - \theta)^2]}{\varepsilon^2}
lt;/div><p>$E[(\hat{\theta}_n - \theta)^2] \to 0$なら:</p><div class='formula'>$\lim_{n \to \infty} P(|\hat{\theta}_n - \theta| > \varepsilon) \leq \lim_{n \to \infty} \frac{E[(\hat{\theta}_n - \theta)^2]}{\varepsilon^2} = 0
lt;/div><p>したがって確率収束が成り立ちます。</p><h4>各選択肢の検証</h4><p class='step'><strong>Step 5: 選択肢の詳細分析</strong></p><table class='table table-bordered'><tr><th>選択肢</th><th>条件</th><th>一致性</th><th>反例</th></tr><tr><td>1</td><td>漸近不偏性+分散収束</td><td>○(十分条件)</td><td>なし</td></tr><tr><td>2</td><td>不偏性のみ</td><td>×</td><td>$\hat{\theta}_n = \bar{X}_n + \frac{Z}{\sqrt{n}}
lt;/td></tr><tr><td>3</td><td>分散収束のみ</td><td>×</td><td>$\hat{\theta}_n = \theta + 1$(偏りが残存)</td></tr><tr><td>4</td><td>最尤推定量</td><td>△(条件付き)</td><td>正則条件が必要</td></tr><tr><td>5</td><td>十分統計量</td><td>×</td><td>統計量のままでは推定量でない</td></tr></table><h4>反例による説明</h4><p class='step'><strong>Step 6: 不偏性のみでは不十分</strong></p><p>推定量$\hat{\theta}_n = \bar{X}_n + \frac{Z}{\sqrt{n}}$($Z \sim N(0,1)$独立)を考えます:</p><div class='formula'>$E[\hat{\theta}_n] = E[\bar{X}_n] + \frac{E[Z]}{\sqrt{n}} = \mu + 0 = \mu
lt;/div><div class='formula'>$\text{Var}(\hat{\theta}_n) = \text{Var}(\bar{X}_n) + \frac{\text{Var}(Z)}{n} = \frac{\sigma^2}{n} + \frac{1}{n} = \frac{\sigma^2 + 1}{n}
lt;/div><p>この推定量は不偏ですが、追加ノイズにより標準的な標本平均より効率が悪くなります。</p><p class='step'><strong>Step 7: 分散収束のみでは不十分</strong></p><p>推定量$\hat{\theta}_n = \theta + 1$(定数)を考えます:</p><div class='formula'>$\text{Var}(\hat{\theta}_n) = 0
lt;/div><div class='formula'>$E[\hat{\theta}_n] = \theta + 1 \neq \theta
lt;/div><p>分散は0ですが、バイアスが1で一定のため一致しません。</p><h4>最尤推定量の一致性</h4><p class='step'><strong>Step 8: 最尤推定量の特性</strong></p><p>正則条件下では最尤推定量は一致推定量ですが、これは以下を満たすためです:</p><div class='formula'>$\begin{cases}\lim_{n \to \infty} E[\hat{\theta}_{ML}] = \theta \\\lim_{n \to \infty} \text{Var}(\hat{\theta}_{ML}) = 0\end{cases}
lt;/div><p>つまり選択肢1の条件を満たしているからです。</p><div class='key-point'><div class='key-point-title'>一致性確保の戦略</div><ul><li><strong>大数の法則の活用</strong>:標本平均など、自然に一致性を持つ統計量を基礎とする</li><li><strong>漸近不偏性の確保</strong>:有限標本でのバイアスが漸近的に消失することを確認</li><li><strong>分散の制御</strong>:推定量の分散が標本サイズとともに0に収束することを保証</li><li><strong>正則条件の確認</strong>:最尤推定量を用いる場合、適用条件を確認</li></ul></div><h4>念の為一致性を確認</h4><p class='step'><strong>Step 9: 具体例での検証</strong></p><p>標本平均$\bar{X}_n$について:</p><ul><li><strong>漸近不偏性</strong>:$E[\bar{X}_n] = \mu$ (有限標本でも不偏)</li><li><strong>分散収束</strong>:$\text{Var}(\bar{X}_n) = \frac{\sigma^2}{n} \to 0
lt;/li></ul><p>したがって$\bar{X}_n$は$\mu$の一致推定量です。</p><p>したがって、一致性の十分条件は「$\lim_{n \to \infty} E[\hat{\theta}_n] = \theta$かつ$\lim_{n \to \infty} \text{Var}(\hat{\theta}_n) = 0$」です。</p>
問題 1/10
カテゴリ一覧に戻る