一致性の数学的定義
推定量の一致性は、標本サイズが大きくなるにつれて推定量が真の母数に確率収束することを意味します。
確率収束の定義
Step 1: 一致性の定義
推定量$\hat{\theta}_n$が母数$\theta$に一致するとは:
$\hat{\theta}_n \xrightarrow{P} \theta$ as $n \to \infty$
すなわち、任意の$\varepsilon > 0$に対して:
$\lim_{n \to \infty} P(|\hat{\theta}_n - \theta| > \varepsilon) = 0$
一致性の十分条件
Step 2: 平均二乗収束による十分条件
以下の条件が満たされれば、$\hat{\theta}_n$は$\theta$に一致します:
$\lim_{n \to \infty} E[(\hat{\theta}_n - \theta)^2] = 0$
これは平均二乗収束と呼ばれ、確率収束を含意します。
Step 3: バイアス・分散分解
平均二乗誤差を分解すると:
$E[(\hat{\theta}_n - \theta)^2] = \text{Var}(\hat{\theta}_n) + [E[\hat{\theta}_n] - \theta]^2$
$= \text{Var}(\hat{\theta}_n) + [\text{Bias}(\hat{\theta}_n)]^2$
したがって、以下が十分条件となります:
$\begin{cases}\lim_{n \to \infty} E[\hat{\theta}_n] = \theta \quad \text{(漸近不偏性)} \\\lim_{n \to \infty} \text{Var}(\hat{\theta}_n) = 0 \quad \text{(分散の収束)}\end{cases}$
チェビシェフの不等式による証明
Step 4: 確率収束の証明
チェビシェフの不等式により:
$P(|\hat{\theta}_n - \theta| > \varepsilon) \leq \frac{E[(\hat{\theta}_n - \theta)^2]}{\varepsilon^2}$
$E[(\hat{\theta}_n - \theta)^2] \to 0$なら:
$\lim_{n \to \infty} P(|\hat{\theta}_n - \theta| > \varepsilon) \leq \lim_{n \to \infty} \frac{E[(\hat{\theta}_n - \theta)^2]}{\varepsilon^2} = 0$
したがって確率収束が成り立ちます。
各選択肢の検証
Step 5: 選択肢の詳細分析
| 選択肢 | 条件 | 一致性 | 反例 |
|---|
| 1 | 漸近不偏性+分散収束 | ○(十分条件) | なし |
| 2 | 不偏性のみ | × | $\hat{\theta}_n = \bar{X}_n + \frac{Z}{\sqrt{n}}$ |
| 3 | 分散収束のみ | × | $\hat{\theta}_n = \theta + 1$(偏りが残存) |
| 4 | 最尤推定量 | △(条件付き) | 正則条件が必要 |
| 5 | 十分統計量 | × | 統計量のままでは推定量でない |
反例による説明
Step 6: 不偏性のみでは不十分
推定量$\hat{\theta}_n = \bar{X}_n + \frac{Z}{\sqrt{n}}$($Z \sim N(0,1)$独立)を考えます:
$E[\hat{\theta}_n] = E[\bar{X}_n] + \frac{E[Z]}{\sqrt{n}} = \mu + 0 = \mu$
$\text{Var}(\hat{\theta}_n) = \text{Var}(\bar{X}_n) + \frac{\text{Var}(Z)}{n} = \frac{\sigma^2}{n} + \frac{1}{n} = \frac{\sigma^2 + 1}{n}$
この推定量は不偏ですが、追加ノイズにより標準的な標本平均より効率が悪くなります。
Step 7: 分散収束のみでは不十分
推定量$\hat{\theta}_n = \theta + 1$(定数)を考えます:
$\text{Var}(\hat{\theta}_n) = 0$
$E[\hat{\theta}_n] = \theta + 1 \neq \theta$
分散は0ですが、バイアスが1で一定のため一致しません。
最尤推定量の一致性
Step 8: 最尤推定量の特性
正則条件下では最尤推定量は一致推定量ですが、これは以下を満たすためです:
$\begin{cases}\lim_{n \to \infty} E[\hat{\theta}_{ML}] = \theta \\\lim_{n \to \infty} \text{Var}(\hat{\theta}_{ML}) = 0\end{cases}$
つまり選択肢1の条件を満たしているからです。
一致性確保の戦略
- 大数の法則の活用:標本平均など、自然に一致性を持つ統計量を基礎とする
- 漸近不偏性の確保:有限標本でのバイアスが漸近的に消失することを確認
- 分散の制御:推定量の分散が標本サイズとともに0に収束することを保証
- 正則条件の確認:最尤推定量を用いる場合、適用条件を確認
念の為一致性を確認
Step 9: 具体例での検証
標本平均$\bar{X}_n$について:
- 漸近不偏性:$E[\bar{X}_n] = \mu$ (有限標本でも不偏)
- 分散収束:$\text{Var}(\bar{X}_n) = \frac{\sigma^2}{n} \to 0$
したがって$\bar{X}_n$は$\mu$の一致推定量です。
したがって、一致性の十分条件は「$\lim_{n \to \infty} E[\hat{\theta}_n] = \theta$かつ$\lim_{n \to \infty} \text{Var}(\hat{\theta}_n) = 0$」です。