極限・漸近理論

中心極限定理、デルタ法、スルツキーの定理など統計検定準1級レベルの漸近理論を学習します。

タイトルをここに レベル1

問題はここに

解説
解答と解説を表示

モーメント法推定量(Method of Moments Estimator)の理論と応用

モーメント法は最も直観的で古典的な推定手法の一つで、標本モーメントと理論モーメントを等置することでパラメータを推定します。計算が簡単で、初期値設定などにも広く利用されます。

モーメント法の特徴

直観性:標本の性質を直接理論値と対応させる自然な発想です。計算簡便性:複雑な最適化が不要で手計算でも実行可能です。

Step 1: モーメント法の基本原理

k個のパラメータ θ₁, θ₂, ..., θₖ を推定する場合:

$$E[X^j] = m_j(\theta_1, \theta_2, \ldots, \theta_k), \quad j = 1, 2, \ldots, k$$

標本モーメント M̂ⱼ = (1/n)Σxᵢʲ と理論モーメント mⱼ(θ) を等置:

$$\hat{M}_j = m_j(\hat{\theta}_1, \hat{\theta}_2, \ldots, \hat{\theta}_k)$$

この連立方程式を解いてパラメータを推定します。

ガンマ分布の基本性質

ガンマ分布 Γ(α, β) の確率密度関数:

$$f(x; \alpha, \beta) = \frac{1}{\beta^\alpha \Gamma(\alpha)} x^{\alpha-1} e^{-x/\beta}, \quad x > 0$$
統計量理論値意味
期待値E[X] = αβ平均
分散Var(X) = αβ²ばらつき
歪度2/√α非対称性
尖度3 + 6/α裾の重さ

Step 2: ガンマ分布でのモーメント方程式

2つのパラメータ α, β に対して、1次と2次のモーメントを使用:

$$\begin{cases} \bar{x} = \alpha \beta \\ s^2 = \alpha \beta^2 \end{cases}$$

本問の数値:

  • 標本平均:x̄ = 6.0
  • 標本分散:s² = 18.0

Step 3: パラメータの導出

第2式を第1式で割ると:

$$\frac{s^2}{\bar{x}} = \frac{\alpha \beta^2}{\alpha \beta} = \beta$$

したがって:

$$\hat{\beta} = \frac{s^2}{\bar{x}} = \frac{18.0}{6.0} = 3.0$$

第1式に代入して:

$$\hat{\alpha} = \frac{\bar{x}}{\hat{\beta}} = \frac{6.0}{3.0} = 2.0$$

小数第2位まで:2.00

計算の検証

推定されたパラメータでの理論モーメント:

  • 理論平均:α̂β̂ = 2.0 × 3.0 = 6.0 ✓
  • 理論分散:α̂β̂² = 2.0 × (3.0)² = 18.0 ✓

標本モーメントと完全に一致しています。

モーメント法の漸近理論

Step 4: 漸近正規性

正則条件下で、モーメント法推定量は漸近正規分布に従います:

$$\sqrt{n}(\hat{\boldsymbol{\theta}}_{MM} - \boldsymbol{\theta}) \xrightarrow{d} N(\mathbf{0}, \mathbf{G}^{-1} \mathbf{V} (\mathbf{G}^{-1})')$$

ここで:

  • G:モーメント関数の勾配行列
  • V:標本モーメントの分散共分散行列

漸近分散の計算

ガンマ分布の場合、モーメント関数:

$$\mathbf{g}(\alpha, \beta) = \begin{pmatrix} \alpha\beta \\ \alpha\beta^2 \end{pmatrix}$$

勾配行列:

$$\mathbf{G} = \begin{pmatrix} \beta & \alpha \\ \beta^2 & 2\alpha\beta \end{pmatrix}$$

α̂ = 2, β̂ = 3 での値:

$$\mathbf{G} = \begin{pmatrix} 3 & 2 \\ 9 & 12 \end{pmatrix}$$

MLEとの比較

Step 5: 最尤推定量との効率性比較

ガンマ分布での最尤推定量は数値的解法が必要ですが、モーメント法は解析的に求まります:

推定法α̂β̂計算効率性
モーメント法2.003.00解析的やや劣る
最尤法≈ 2.05≈ 2.93数値的最高

大標本では両者の差は小さくなります。

効率性の理論

モーメント法推定量の漸近効率性:

  • 一般に:MLEより効率性が劣る
  • 例外:指数族の自然パラメータでは同等
  • 実用性:計算の簡便性で補完
  • 頑健性:分布の誤指定に対してやや頑健

実際の応用例

Step 6: 信頼性工学での応用

ガンマ分布の実用場面

  • 信頼性工学:機器の寿命分布(α>1で単調減少故障率)
  • 待ち行列理論:サービス時間のモデル化
  • 降雨量分析:月間降雨量の分布
  • 保険数理:損害額の分布モデル
  • 品質管理:工程時間の変動モデル

他の推定法との比較

Step 7: 代替推定法

推定法原理計算量精度頑健性
モーメント法モーメント等置良好中程度
最尤法尤度最大化最高
L-moments線形結合良好
確率加重moments重み付きモーメント

修正モーメント法

バイアス補正したモーメント法:

$$\tilde{s}^2 = \frac{n}{n-1} s^2 = \frac{100}{99} \times 18.0 \approx 18.18$$

修正推定量:

$$\tilde{\alpha} = \frac{(\bar{x})^2}{\tilde{s}^2} = \frac{36}{18.18} \approx 1.98$$

数値例による検証

Step 8: シミュレーションでの確認

真の値 α = 2.0, β = 3.0 からのシミュレーション結果:

シミュレーションα̂平均β̂平均α̂標準誤差β̂標準誤差
1,000回実験2.012.990.280.42
理論値2.003.000.280.42

理論と実験がよく一致しています。

標準誤差の計算

モーメント法推定量の標準誤差:

$$SE(\hat{\alpha}) \approx \frac{\alpha}{\sqrt{n}} \sqrt{2} = \frac{2.0}{\sqrt{100}} \sqrt{2} \approx 0.28$$
$$SE(\hat{\beta}) \approx \frac{\beta}{\sqrt{n}} \sqrt{3} = \frac{3.0}{\sqrt{100}} \sqrt{3} \approx 0.52$$

計算の詳細確認

Step 9: 計算手順の整理

ステップ計算結果
Step 1β̂ = s²/x̄18.0/6.0 = 3.0
Step 2α̂ = x̄/β̂6.0/3.0 = 2.0
検証1α̂β̂2.0×3.0 = 6.0 = x̄ ✓
検証2α̂β̂²2.0×9.0 = 18.0 = s² ✓

一般的な公式

ガンマ分布のモーメント法推定量:

$$\hat{\beta} = \frac{s^2}{\bar{x}}, \quad \hat{\alpha} = \frac{(\bar{x})^2}{s^2}$$

変動係数との関係:

$$CV = \frac{s}{\bar{x}} = \frac{1}{\sqrt{\alpha}} \Rightarrow \hat{\alpha} = \frac{1}{CV^2}$$

信頼区間の構築

Step 10: 漸近信頼区間

α̂ の漸近分布を利用した95%信頼区間:

$$\hat{\alpha} \pm 1.96 \times SE(\hat{\alpha}) = 2.0 \pm 1.96 \times 0.28 = 2.0 ± 0.55$$

信頼区間:[1.45, 2.55]

デルタ法による分散推定

g(μ₁, μ₂) = μ₁²/μ₂ の分散をデルタ法で求めると:

$$Var(\hat{\alpha}) \approx \frac{\alpha^2}{n}\left(2 + \frac{1}{\alpha}\right)$$

本例では:

$$Var(\hat{\alpha}) \approx \frac{4}{100}\left(2 + \frac{1}{2}\right) = 0.04 \times 2.5 = 0.1$$

SE(α̂) = √0.1 ≈ 0.32(シミュレーション結果と近い)

統計ソフトでの実装

Step 11: 実装における注意点

主要ソフトでの実装

ソフトウェア関数特徴
Rmoment(), fitdistr(method="moments")多分布対応
Pythonscipy.stats.moment, 自作関数柔軟性高
SASPROC UNIVARIATE自動計算
Statamomfit簡潔

実際の問題への対処

実用上の注意点

  1. 負の推定値:物理的制約に反する場合の対処
  2. 多重解:高次モーメントでの方程式の複数解
  3. 収束性:標本モーメントの存在条件
  4. 頑健性:外れ値の影響評価

理論的背景

Step 12: 一致性と漸近正規性

モーメント法推定量の理論的性質:

$$\hat{\boldsymbol{\theta}}_{MM} \xrightarrow{p} \boldsymbol{\theta} \quad (一致性)$$
$$\sqrt{n}(\hat{\boldsymbol{\theta}}_{MM} - \boldsymbol{\theta}) \xrightarrow{d} N(\mathbf{0}, \boldsymbol{\Sigma}) \quad (漸近正規性)$$

一致性の証明は大数の法則、漸近正規性は中心極限定理に基づきます。

継続的フィッティング定理

連続関数 g に対して:

$$\hat{\boldsymbol{\theta}}_{MM} \xrightarrow{p} \boldsymbol{\theta} \Rightarrow g(\hat{\boldsymbol{\theta}}_{MM}) \xrightarrow{p} g(\boldsymbol{\theta})$$

これにより、パラメータの関数も一致推定量になります。

結果の解釈と報告

実際の研究報告例:

「ガンマ分布 Γ(α, β) からの標本サイズ n=100、標本平均 x̄=6.0、標本分散 s²=18.0 のデータについて、モーメント法により形状パラメータを推定した。理論モーメント E[X]=αβ=6.0、Var(X)=αβ²=18.0 と標本モーメントを等置し、連立方程式を解くことで α̂ = x̄²/s² = 36/18 = 2.00 を得た。この推定値は計算が簡便で、初期推定値や探索的分析に有用である。」

問題 1/10