推定量の性質である不偏性と一致性について理解する問題です。
推定量の性質
不偏性(Unbiasedness):
推定量の期待値が真の母数と等しい性質
$E[\hat{\theta}] = \theta$
一致性(Consistency):
標本サイズが大きくなると、推定量が真の母数に確率収束する性質
$\hat{\theta}_n \xrightarrow{P} \theta$ as $n \to \infty$
標本平均の性質
標本平均 $\bar{X}$ について:
不偏性の確認:
$E[\bar{X}] = E\left[\frac{1}{n}\sum_{i=1}^{n}X_i\right] = \frac{1}{n}\sum_{i=1}^{n}E[X_i] = \frac{1}{n} \cdot n\mu = \mu$
標本平均は母平均の不偏推定量です。
一致性の確認:
大数の弱法則により:
$\bar{X}_n \xrightarrow{P} \mu$ as $n \to \infty$
標本平均は母平均に確率収束します。
推定量の良い性質
- 不偏性: 平均的に正しい値を与える
- 一致性: データが多いほど真の値に近づく
- 効率性: 同じ条件で最小の分散を持つ
- 十分性: データの情報を余すことなく利用
不偏性と一致性は、上の仮定(独立同分布・有限な分散)があれば分布の形によらず成り立ちます。一方、効率性や十分性はモデル次第です。たとえば一様分布 $U(0,\theta)$ では標本最大値が十分統計量であり、標本平均は十分統計量ではありません。
ガウス=マルコフ定理から言えるのは、標本平均が線形不偏推定量の中で分散最小(BLUE)であることです(正規性は不要)。母集団が正規分布なら、標本平均は $\mu$ の十分統計量であり、すべての不偏推定量の中で分散最小(UMVUE)にもなります。
したがって、標本平均は不偏性と一致性の両方がある推定量です。