確率と確率分布

事象と確率、確率分布の特性値、変数変換、大数の法則、中心極限定理など統計検定準1級レベルの確率論を学習します。

大数の弱法則 レベル1

独立同分布に従う確率変数列$X_1, X_2, \ldots$について、$E[X_i] = \mu$、$\text{Var}(X_i) = \sigma^2$とする。大数の弱法則により、任意の$\varepsilon > 0$に対して$\lim_{n \to \infty} P(|\bar{X}_n - \mu| \geq \varepsilon) = ?$

解説
解答と解説を表示
<p>この問題では、<strong>大数の法則の深い理論的意味</strong>について探求します。大数の法則は確率論の定理で、理論と実用の架け橋として機能し、統計学における推測の根拠を提供しています。</p><h4>大数の法則:確率論の基本原理</h4><p>大数の法則(Law of Large Numbers, LLN)は、確率論の基本的な定理です。この定理は「確率」という抽象的概念と「頻度」という具体的概念を結びつける基盤です。</p><p class='step'><strong>Step 1: 収束概念の階層構造</strong></p><p>確率論における収束概念は以下の階層構造を持ちます:</p><div class='key-point'><div class='key-point-title'>収束の強さの順序関係</div><p>強い順から:</p><ol><li><strong>概確実収束(a.s.)</strong>:$P(\lim_{n \to \infty} X_n = X) = 1
lt;/li><li><strong>$L^p$収束</strong>:$E[|X_n - X|^p] \to 0
lt;/li><li><strong>確率収束(in prob.)</strong>:$P(|X_n - X| > \varepsilon) \to 0
lt;/li><li><strong>分布収束(in dist.)</strong>:$F_n(x) \to F(x)
lt;/li></ol><p><strong>含意関係:</strong> a.s. $\Rightarrow$ in prob. $\Rightarrow$ in dist.</p></div><p class='step'><strong>Step 2: 弱法則の厳密な定式化</strong></p><p>独立同分布の確率変数列$\{X_i\}_{i=1}^{\infty}$について、$E[X_1] = \mu$、$\text{Var}(X_1) = \sigma^2 < \infty$とするとき:</p><div class='formula'>$\bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i \xrightarrow{P} \mu \quad (n \to \infty)$

すなわち、任意の$\varepsilon > 0$に対して:

$\lim_{n \to \infty} P(|\bar{X}_n - \mu| \geq \varepsilon) = 0$

証明の概要(チェビシェフの不等式使用):

$P(|\bar{X}_n - \mu| \geq \varepsilon) \leq \frac{\text{Var}(\bar{X}_n)}{\varepsilon^2} = \frac{\sigma^2}{n\varepsilon^2} \to 0$

Step 3: 強法則の厳密な定式化

同じ条件下で:

$\bar{X}_n \xrightarrow{a.s.} \mu \quad (n \to \infty)$

すなわち:

$P\left(\lim_{n \to \infty} \bar{X}_n = \mu\right) = 1$

これは、ほぼすべての標本パス(sample path)において標本平均が母平均に収束することを意味します。

Step 4: 収束関係の数学的解析

含意関係の詳細
収束タイプ数学的定義実用的意味
概確実収束$P(\omega: \lim X_n(\omega) = X(\omega)) = 1$個々の実現値レベルでの収束
確率収束$\forall \varepsilon > 0: P(|X_n - X| > \varepsilon) \to 0$確率的な意味での近似
分布収束$F_n(x) \to F(x)$ at continuity points分布レベルでの近似

基本的含意関係:

$\text{概確実収束} \Rightarrow \text{確率収束} \Rightarrow \text{分布収束}$

したがって、強法則(概確実収束)が成り立てば弱法則(確率収束)も成り立つ

Step 5: 反例による関係の限界

確率収束 $\not\Rightarrow$ 概確実収束の例:

$\Omega = [0,1]$、$P$を一様分布とし、

$X_n(\omega) = \begin{cases} n & \text{if } \omega \in [0, 1/n] \\ 0 & \text{otherwise} \end{cases}$

このとき:

  • $X_n \xrightarrow{P} 0$(確率収束)
  • $X_n \not\xrightarrow{a.s.} 0$(概確実収束しない)

大数の法則の実世界での意味

Step 6: 統計的推測への応用

頻度主義統計学の基礎:

  • 点推定:標本平均による母平均の推定
  • 信頼区間:大標本での近似的正規性
  • 仮説検定:検定統計量の漸近分布

モンテカルロ法の理論的根拠:

$\frac{1}{n}\sum_{i=1}^n g(X_i) \xrightarrow{a.s.} E[g(X)]$</div><p>これにより、複雑な積分や期待値をシミュレーションで近似可能。</p>
問題 1/10
カテゴリ一覧に戻る