一致性の数学的定義
推定量の一致性は、標本サイズが大きくなるにつれて推定量が真の母数に確率収束することを意味します。
確率収束の定義
Step 1: 一致性の定義
推定量$\hat{\theta}_n$が母数$\theta$に一致するとは：
$\hat{\theta}_n \xrightarrow{P} \theta$ as $n \to \infty$
すなわち、任意の$\varepsilon > 0$に対して：
$\lim_{n \to \infty} P(|\hat{\theta}_n - \theta| > \varepsilon) = 0$
一致性の十分条件
Step 2: 平均二乗収束による十分条件
以下の条件が満たされれば、$\hat{\theta}_n$は$\theta$に一致します：
$\lim_{n \to \infty} E[(\hat{\theta}_n - \theta)^2] = 0$
これは平均二乗収束と呼ばれ、確率収束を含意します。
Step 3: バイアス・分散分解
平均二乗誤差を分解すると：
$E[(\hat{\theta}_n - \theta)^2] = \text{Var}(\hat{\theta}_n) + [E[\hat{\theta}_n] - \theta]^2$
$= \text{Var}(\hat{\theta}_n) + [\text{Bias}(\hat{\theta}_n)]^2$
したがって、以下が十分条件となります：
$\begin{cases}\lim_{n \to \infty} E[\hat{\theta}_n] = \theta \quad \text{（漸近不偏性）} \\\lim_{n \to \infty} \text{Var}(\hat{\theta}_n) = 0 \quad \text{（分散の収束）}\end{cases}$
チェビシェフの不等式による証明
Step 4: 確率収束の証明
チェビシェフの不等式により：
$P(|\hat{\theta}_n - \theta| > \varepsilon) \leq \frac{E[(\hat{\theta}_n - \theta)^2]}{\varepsilon^2}$
$E[(\hat{\theta}_n - \theta)^2] \to 0$なら：
$\lim_{n \to \infty} P(|\hat{\theta}_n - \theta| > \varepsilon) \leq \lim_{n \to \infty} \frac{E[(\hat{\theta}_n - \theta)^2]}{\varepsilon^2} = 0$
したがって確率収束が成り立ちます。
各選択肢の検証
Step 5: 選択肢の詳細分析
| 選択肢 | 条件 | 一致性 | 反例 |
|---|
| 1 | 漸近不偏性+分散収束 | ○（十分条件） | なし |
| 2 | 不偏性のみ | × | $\hat{\theta}_n = X_1$（$E[X_i]=\theta$） |
| 3 | 分散収束のみ | × | $\hat{\theta}_n = \bar{X}_n + 1$ |
| 4 | 最尤推定量 | △（条件付き） | 正則条件が必要 |
| 5 | 十分統計量 | × | 統計量のままでは推定量でない |
反例による説明
Step 6: 不偏性のみでは不十分
$X_i$ が独立同分布で $E[X_i]=\theta$、$\text{Var}(X_i)=\sigma^2>0$ のとき、推定量 $\hat{\theta}_n = X_1$ を考えます。
$E[X_1] = \theta$
$\text{Var}(X_1) = \sigma^2 \not\to 0$
$P(|X_1 - \theta| > \varepsilon)$ は $n$ を増やしても変わらないので、$X_1$ は不偏ですが $\theta$ に確率収束しません。
Step 7: 分散収束のみでは不十分
推定量 $\hat{\theta}_n = \bar{X}_n + 1$ を考えます。これはデータだけから計算できる統計量です。
$\text{Var}(\hat{\theta}_n) = \frac{\sigma^2}{n} \to 0$
$E[\hat{\theta}_n] = \theta + 1 \neq \theta$
$\hat{\theta}_n \xrightarrow{P} \theta + 1$ なので一致しません。
最尤推定量の一致性
Step 8: 最尤推定量の特性
正則条件の下では最尤推定量は一致推定量です。これは、対数尤度の標本平均が大数の法則によって期待対数尤度に収束し、その最大点が真の値 $\theta$ であること（識別可能性）から導かれます。選択肢1の条件（分散が0に収束すること）を経由して示すものではなく、最尤推定量の分散が有限でない場合もあります。そのため「最尤推定量である」ことだけでは、正則条件を確認しない限り一致性の十分条件にはなりません（表では△）。
一致性確保の戦略
- 大数の法則の活用：標本平均など、自然に一致性を持つ統計量を基礎とする
- 漸近不偏性の確保：有限標本でのバイアスが漸近的に消失することを確認
- 分散の制御：推定量の分散が標本サイズとともに0に収束することを保証
- 正則条件の確認：最尤推定量を用いる場合、適用条件を確認
具体例での確認
Step 9: 具体例での検証
標本平均$\bar{X}_n$について：
- 漸近不偏性：$E[\bar{X}_n] = \mu$ （有限標本でも不偏）
- 分散収束：$\text{Var}(\bar{X}_n) = \frac{\sigma^2}{n} \to 0$
したがって$\bar{X}_n$は$\mu$の一致推定量です。
したがって、一致性の十分条件は「$\lim_{n \to \infty} E[\hat{\theta}_n] = \theta$かつ$\lim_{n \to \infty} \text{Var}(\hat{\theta}_n) = 0$」です。