<h4>指数分布の確率密度関数と尤度関数</h4><p>指数分布$\text{Exp}(\lambda)$の確率密度関数は：</p><div class='formula'>$f(x; \lambda) = \lambda e^{-\lambda x} \quad (x \geq 0, \lambda > 0)
lt;/div><p>ここで$\lambda$は率パラメータ（rate parameter）です。</p><h4>最尤推定法の理論的基礎</h4><p class='step'><strong>Step 1: 尤度関数の構成</strong></p><p>独立同分布な標本$X_1, X_2, \ldots, X_n$に対する尤度関数：</p><div class='formula'>$L(\lambda) = \prod_{i=1}^n f(x_i; \lambda) = \prod_{i=1}^n \lambda e^{-\lambda x_i} = \lambda^n e^{-\lambda \sum_{i=1}^n x_i}
lt;/div><p class='step'><strong>Step 2: 対数尤度関数の導出</strong></p><p>計算の簡便性のため対数を取ります：</p><div class='formula'>$\ell(\lambda) = \log L(\lambda) = \log(\lambda^n) + \log(e^{-\lambda \sum_{i=1}^n x_i}) = n \log \lambda - \lambda \sum_{i=1}^n x_i
lt;/div><h4>最尤推定量の導出</h4><p class='step'><strong>Step 3: 一階条件（スコア方程式）</strong></p><p>対数尤度関数を$\lambda$で微分：</p><div class='formula'>$\frac{d\ell(\lambda)}{d\lambda} = \frac{n}{\lambda} - \sum_{i=1}^n x_i
lt;/div><p>最尤推定量は一階条件$\frac{d\ell(\lambda)}{d\lambda} = 0$を満たします：</p><div class='formula'>$\frac{n}{\hat{\lambda}} - \sum_{i=1}^n x_i = 0
lt;/div><p class='step'><strong>Step 4: 最尤推定量の解</strong></p><p>上式を$\hat{\lambda}$について解くと：</p><div class='formula'>$\frac{n}{\hat{\lambda}} = \sum_{i=1}^n x_i \Rightarrow \hat{\lambda} = \frac{n}{\sum_{i=1}^n x_i} = \frac{1}{\frac{1}{n}\sum_{i=1}^n x_i} = \frac{1}{\bar{x}}
lt;/div><h4>二階条件による最大値の確認</h4><p class='step'><strong>Step 5: 二階微分による確認</strong></p><div class='formula'>$\frac{d^2\ell(\lambda)}{d\lambda^2} = -\frac{n}{\lambda^2} < 0
lt;/div><p>二階微分が負なので、$\hat{\lambda} = \frac{1}{\bar{X}}$で対数尤度関数は最大値を取ります。</p><h4>最尤推定量の統計的性質</h4><div class='key-point'><div class='key-point-title'>指数分布最尤推定量の性質</div><p><strong>一致性</strong>：</p><div class='formula'>$\hat{\lambda} = \frac{1}{\bar{X}} \xrightarrow{P} \frac{1}{E[X]} = \frac{1}{1/\lambda} = \lambda
lt;/div><p><strong>漸近正規性</strong>：</p><div class='formula'>$\sqrt{n}(\hat{\lambda} - \lambda) \xrightarrow{d} N(0, \lambda^2)
lt;/div><p><strong>不偏性の欠如</strong>：</p><div class='formula'>$E[\hat{\lambda}] = E\left[\frac{1}{\bar{X}}\right] \neq \frac{1}{E[\bar{X}]} = \lambda
lt;/div><p>（ジェンセンの不等式により、$1/\bar{X}$の期待値は$1/E[\bar{X}]$と等しくない）</p></div><p class='step'><strong>Step 6: フィッシャー情報量</strong></p><p>フィッシャー情報量は：</p><div class='formula'>$I(\lambda) = -E\left[\frac{d^2\ell(\lambda)}{d\lambda^2}\right] = E\left[\frac{n}{\lambda^2}\right] = \frac{n}{\lambda^2}
lt;/div><p>したがって、クラメール・ラオ下界は$\frac{\lambda^2}{n}$となります。</p><h4>指数分布族との関係</h4><p class='step'><strong>Step 7: 指数型分布族の標準形</strong></p><p>指数分布は指数型分布族に属し、以下の形で表現できます：</p><div class='formula'>$f(x; \lambda) = \exp(\lambda \cdot (-x) - (-\log \lambda) + 0)
lt;/div><p>この形から、$T(X) = -X$が十分統計量であり、$\sum_{i=1}^n X_i$も十分統計量となることがわかります。</p><p>したがって、答えは$\hat{\lambda} = \frac{1}{\bar{x}}$です。</p>