大数の法則の応用 - 極限・漸近理論問題2/20

大数の法則の応用レベル2

ベルヌーイ分布B(1, p=0.3)に従う独立な確率変数$X₁, X₂, ..., Xₙ$がある。標本平均$X̄ₙ = (X₁ + X₂ + ... + Xₙ)/n$とする。\n\n$n = 1000$のとき、$P(|X̄ₙ - 0.3| > 0.05)$の上界をチェビシェフの不等式により求めよ。小数第3位まで答えよ（小数第4位を四捨五入すること）。

解説

大数の法則（Law of Large Numbers）の理論と応用

大数の法則は確率論の基礎的定理で、標本平均が母集団平均に収束することを示します。統計学の実証的基盤を提供する重要な定理です。

大数の法則の意義

理論的基盤：確率の頻度解釈の数学的根拠を提供します。実用的重要性：標本サイズを大きくすることで推定精度が向上することを保証します。

Step 1: 問題設定の確認

ベルヌーイ分布 B(1, p=0.3)：

期待値：E[Xᵢ] = p = 0.3
分散：Var(Xᵢ) = p(1-p) = 0.3 × 0.7 = 0.21
標本サイズ：n = 1000

標本平均：X̄ₙ = (X₁ + X₂ + ... + Xₙ)/n

標本平均の性質

統計量	値	計算
期待値	0.3	E[X̄ₙ] = E[Xᵢ] = 0.3
分散	0.00021	Var(X̄ₙ) = Var(Xᵢ)/n = 0.21/1000
標準偏差	0.0145	SD(X̄ₙ) = √(0.21/1000)

Step 2: チェビシェフの不等式の適用

チェビシェフの不等式：任意の確率変数Yと定数k > 0に対して

$$P(|Y - E[Y]| \geq k) \leq \frac{Var(Y)}{k^2}$$

本問では：

Y = X̄ₙ
E[Y] = 0.3
k = 0.05
Var(Y) = 0.21/1000 = 0.00021

$$P(|\bar{X}_n - 0.3| > 0.05) \leq \frac{0.00021}{(0.05)^2} = \frac{0.00021}{0.0025} = 0.084$$

Step 3: 計算の詳細

分子の計算：

$$Var(\bar{X}_n) = \frac{Var(X_i)}{n} = \frac{p(1-p)}{n} = \frac{0.3 \times 0.7}{1000} = \frac{0.21}{1000} = 0.00021$$

分母の計算：

$$k^2 = (0.05)^2 = 0.0025$$

不等式の上界：

$$\frac{0.00021}{0.0025} = \frac{21 \times 10^{-5}}{25 \times 10^{-4}} = \frac{21}{25 \times 10} = \frac{21}{250} = 0.084$$

小数第3位まで：0.084

大数の法則の種類

法則	収束の種類	条件	強さ
弱法則（Chebyshev型）	確率収束	独立（無相関でも可）・共通平均、かつ分散が共通で有限（または一様有界）。一般には $n^{-2}\sum_{i=1}^{n}\mathrm{Var}(X_i)\to 0$	弱
弱法則（Khinchin）	確率収束	独立同分布・有限期待値	弱
強法則（Kolmogorov）	概収束	独立同分布・有限期待値	強

各変数の分散が有限なだけでは足りません。独立な $X_i\sim N(0,i)$ は平均0で分散も有限ですが、$\mathrm{Var}(\bar{X}_n)=(n+1)/(2n)\to 1/2$ なので、標本平均は0に確率収束しません。

Step 4: 結果の解釈

チェビシェフの不等式により：

上界：P(|X̄ₙ - 0.3| > 0.05) ≤ 0.084
意味：標本平均が真の値から0.05以上離れる確率は最大8.4%
実際の確率：通常はこの上界よりもずっと小さい

参考：実際の確率との比較

Step 5: 正規近似による比較

ここで求めるのは上界ではなく、事象 $|\bar{X}_n - 0.3| > 0.05$ が実際に起きる確率です。設問の答え（上界0.084）とは別の量で、上界がどれだけ余裕を持っているかを見るために計算します。

n = 1000は十分大きいので、中心極限定理により：

$$\bar{X}_n \sim N\left(0.3, \frac{0.21}{1000}\right) = N(0.3, 0.00021)$$

標準化：

$$Z = \frac{\bar{X}_n - 0.3}{\sqrt{0.00021}} = \frac{\bar{X}_n - 0.3}{0.0145}$$

正規近似による確率：

$$P(|\bar{X}_n - 0.3| > 0.05) = P\left(|Z| > \frac{0.05}{0.0145}\right) = P(|Z| > 3.45) \approx 0.0006$$

実際の確率は約0.0006で、チェビシェフの上界0.084は100倍以上の余裕を持った値だと分かります。

上界と実際の確率

手法	値	値の意味	適用条件
チェビシェフ不等式	≤ 0.084	確率の上界（設問の答え）	分布によらない
正規近似	≈ 0.0006	実際の確率の近似値	CLT条件
二項分布による正確な値	≈ 0.0005	実際の確率	分布特定

サンプルサイズと精度の関係

Step 6: サンプルサイズの効果

チェビシェフ不等式の上界がnに与える影響：

$$P(|\bar{X}_n - \mu| > \epsilon) \leq \frac{\sigma^2}{n\epsilon^2}$$

サンプルサイズ	上界値	改善比
100	0.84	基準
400	0.21	4倍改善
1000	0.084	10倍改善
2500	0.0336	25倍改善

サンプルサイズをk倍にすると、上界は1/k倍になります。

ベルヌーイ分布での特殊性

Step 7: ベルヌーイ分布の性質

ベルヌーイ分布B(1, p)では：

分散：Var(X) = p(1-p) ≤ 1/4（p = 0.5で最大）
本例：p = 0.3なので分散は0.21
最大分散の場合：p = 0.5なら分散は0.25

$$最大上界 = \frac{0.25}{1000 \times (0.05)^2} = \frac{0.25}{2.5} = 0.1$$

p = 0.3の場合の上界0.084は、この最大値より小さくなっています。

チェビシェフ不等式の限界と改良

手法	特徴	上界の質	適用範囲
チェビシェフ	分布自由	粗い	全分布
Cantelli	片側版	やや改善	全分布
Hoeffding	有界変数	指数的減衰	有界分布
Bernstein	準ガウス	高精度	軽尾分布

実用的な誤差制御

Step 8: チェビシェフの不等式によるサンプルサイズ設計

誤差εと信頼度1-αを分布によらず保証するのに十分なサンプルサイズは（必要条件ではなく十分条件）：

$$n \geq \frac{p(1-p)}{\alpha \epsilon^2}$$

本例で95%信頼度（α = 0.05）、誤差0.05を保証するには：

$$n \geq \frac{0.21}{0.05 \times (0.05)^2} = \frac{0.21}{0.000125} = 1680$$

n = 1000ではチェビシェフの上界（0.084）だけでは5%を保証できません。ただしこれは保守的な上界による判断で、正規近似では実際の確率は約0.0006と5%を大きく下回ります。