漸近有効性の定義
漸近有効性は推定量の大標本での最適性を表す重要な概念で、クラメール・ラオ下界との関連で定義されます。
漸近有効性の数学的定義
Step 1: 漸近分散の概念
推定量$\hat{\theta}_n$の漸近分散は以下のように定義されます:
$\text{avar}(\hat{\theta}_n) = \lim_{n \to \infty} n \cdot \text{Var}(\hat{\theta}_n)$
または、推定量が漸近正規分布に従う場合:
$\sqrt{n}(\hat{\theta}_n - \theta) \xrightarrow{d} N(0, V(\theta))$
ここで$V(\theta)$が漸近分散です。
Step 2: クラメール・ラオ下界
正則条件下でのクラメール・ラオ下界:
$\text{Var}(\tilde{\theta}) \geq \frac{1}{I(\theta)}$
ここで$I(\theta)$はフィッシャー情報量、$\tilde{\theta}$は任意の不偏推定量です。
Step 3: 漸近有効性の定義
推定量$\hat{\theta}_n$が漸近有効であるとは:
$\text{avar}(\hat{\theta}_n) = \frac{1}{I(\theta)}$
すなわち、漸近分散がクラメール・ラオ下界に一致することです。
漸近有効性の具体例
Step 4: 最尤推定量の漸近有効性
正則条件下で、最尤推定量$\hat{\theta}_{ML}$は漸近有効です:
$\sqrt{n}(\hat{\theta}_{ML} - \theta) \xrightarrow{d} N\left(0, \frac{1}{I(\theta)}\right)$
これは以下を意味します:
$\lim_{n \to \infty} n \cdot \text{Var}(\hat{\theta}_{ML}) = \frac{1}{I(\theta)}$
他の選択肢との比較
Step 5: 各概念の関係
| 概念 | 定義 | 条件 | 漸近有効性との関係 |
|---|
| 不偏性 | $E[\hat{\theta}_n] = \theta$ | 全ての$n$ | 必要条件ではない |
| 一致性 | $\hat{\theta}_n \xrightarrow{P} \theta$ | $n \to \infty$ | 必要条件 |
| MVUE | 不偏かつ最小分散 | 有限標本 | 有限標本の概念 |
| 十分性 | すべての情報を含む | 統計量の性質 | 関連するが同一でない |
| 漸近有効性 | 漸近分散が下界に一致 | $n \to \infty$ | 定義そのもの |
漸近有効性の例と反例
Step 6: 正規分布での例
正規分布$N(\mu, \sigma^2)$($\sigma^2$既知)からの標本平均:
$\bar{X}_n \sim N\left(\mu, \frac{\sigma^2}{n}\right)$
$I(\mu) = \frac{n}{\sigma^2}$
$\text{Var}(\bar{X}_n) = \frac{\sigma^2}{n} = \frac{1}{I(\mu)}$
したがって$\bar{X}_n$は漸近有効です(実際は有限標本でも有効)。
Step 7: 非効率な推定量の例
標本中央値を用いた正規分布の平均推定:
$\text{avar}(\text{median}) = \frac{\pi \sigma^2}{2}$
$\frac{1}{I(\mu)} = \frac{\sigma^2}{n}$
漸近相対効率:
$\text{ARE} = \frac{1/I(\mu)}{\text{avar}(\text{median})/n} = \frac{\sigma^2}{\pi \sigma^2/2} = \frac{2}{\pi} \approx 0.637$
中央値は漸近有効ではありません。
漸近有効性の意義
- 最適性の保証:大標本で達成可能な最高の精度
- 推定量の比較基準:異なる推定法の相対的効率評価
- 設計の指針:新しい推定量開発時の目標
- 理論的基礎:統計的推論の基本原理
漸近有効性の確認方法
Step 8:確認手順
- 漸近分布の導出:中心極限定理やデルタ法を用いる
- フィッシャー情報量の計算:対数尤度の二階微分から求める
- 漸近分散の比較:推定量の漸近分散と下界を比較
- 数値的検証:シミュレーションによる確認
Step 9: 多次元パラメータでの拡張
パラメータベクトル$\boldsymbol{\theta}$の場合:
$\text{avar}(\hat{\boldsymbol{\theta}}_n) = I^{-1}(\boldsymbol{\theta})$
ここで$I(\boldsymbol{\theta})$はフィッシャー情報行列です。
したがって、漸近有効性とは「推定量の漸近分散がクラメール・ラオ下界に一致する」ことを意味します。