ベイズ信頼区間:事後分布による区間推定
ベイズ統計では、パラメータの事後分布から直接的に信用区間を求めることができます。
問題設定
- データ:$x_1 = 2, x_2 = 6, x_3 = 4$
- 尤度:$x_i \\sim N(\\mu, 4)$(分散4の正規分布)
- 事前分布:$\\mu \\sim N(0, 9)$
- 目標:μの95%ベイズ信頼区間
Step 1: 基本統計量の計算
$$\\bar{x} = \\frac{2 + 6 + 4}{3} = \\frac{12}{3} = 4$$
$$n = 3$$
Step 2: 正規-正規共役性の適用
事前分布:$\\mu \\sim N(\\mu_0, \\tau_0^2)$、尤度:$x_i \\sim N(\\mu, \\sigma^2)$の場合、事後分布は:
$$\\mu|\\mathbf{x} \\sim N(\\mu_n, \\tau_n^2)$$
ここで:
- $\\mu_0 = 0$(事前平均)
- $\\tau_0^2 = 9$(事前分散)
- $\\sigma^2 = 4$(尤度の分散)
Step 3: 事後分布のパラメータ計算
事後精度(逆分散)の計算:
$$\\frac{1}{\\tau_n^2} = \\frac{1}{\\tau_0^2} + \\frac{n}{\\sigma^2} = \\frac{1}{9} + \\frac{3}{4}$$
$$= \\frac{4 + 27}{36} = \\frac{31}{36}$$
事後分散:
$$\\tau_n^2 = \\frac{36}{31} ≈ 1.161$$
事後平均:
$$\\mu_n = \\frac{\\frac{\\mu_0}{\\tau_0^2} + \\frac{n\\bar{x}}{\\sigma^2}}{\\frac{1}{\\tau_0^2} + \\frac{n}{\\sigma^2}}$$
$$= \\frac{\\frac{0}{9} + \\frac{3 \\times 4}{4}}{\\frac{1}{9} + \\frac{3}{4}} = \\frac{0 + 3}{\\frac{31}{36}} = \\frac{3 \\times 36}{31} = \\frac{108}{31} ≈ 3.484$$
Step 4: 事後分布の確認
$$\\mu|\\mathbf{x} \\sim N(3.484, 1.161)$$
事後標準偏差:
$$\\tau_n = \\sqrt{1.161} ≈ 1.077$$
Step 5: 95%信頼区間の計算
正規分布の95%区間は平均 ± 1.96×標準偏差:
$$\\text{下限} = 3.484 - 1.96 \\times 1.077 = 3.484 - 2.111 = 1.373$$
$$\\text{上限} = 3.484 + 1.96 \\times 1.077 = 3.484 + 2.111 = 5.595$$
計算の検証
別の方法で確認:
- 事前の重み:$w_0 = \\frac{1/\\tau_0^2}{1/\\tau_0^2 + n/\\sigma^2} = \\frac{1/9}{31/36} = \\frac{4}{31}$
- データの重み:$w_1 = \\frac{n/\\sigma^2}{1/\\tau_0^2 + n/\\sigma^2} = \\frac{27/36}{31/36} = \\frac{27}{31}$
- 事後平均:$w_0 \\times 0 + w_1 \\times 4 = \\frac{27}{31} \\times 4 = \\frac{108}{31} ≈ 3.484$ ✓
Step 6: ベイズ信頼区間の解釈
ベイズ vs 頻度論的信頼区間
項目 | ベイズ信頼区間 | 頻度論的信頼区間 |
---|
解釈 | パラメータが区間に含まれる確率が95% | 区間がパラメータを含む頻度が95% |
基礎 | 事後分布 | 標本分布 |
事前情報 | 反映される | 反映されない |
計算 | 事後分布の分位点 | 標本統計量の分布 |