正規-正規共役事前分布による事後推論
この問題では、正規分布の平均パラメータに対する正規事前分布の共役性を利用して、事後分布を解析的に求めます。
正規-正規共役性の重要性
分散既知の正規分布に対して正規事前分布を使用すると、事後分布も正規分布になり、精密な推論が可能になります。
Step 1: 問題設定の整理
- 尤度：$x_i \sim N(\mu, \sigma^2 = 4)$、$i = 1, 2, 3$
- 事前分布：$\mu \sim N(\mu_0 = 0, \tau_0^2 = 9)$
- 観測データ：$x_1 = 2, x_2 = 6, x_3 = 4$
- サンプルサイズ：$n = 3$
Step 2: 基本統計量の計算
$$\bar{x} = \frac{x_1 + x_2 + x_3}{3} = \frac{2 + 6 + 4}{3} = \frac{12}{3} = 4$$
Step 3: 正規-正規共役性の公式適用
事前分布：$\mu \sim N(\mu_0, \tau_0^2)$、尤度：$x_i \sim N(\mu, \sigma^2)$の場合、事後分布は：
$$\mu|\mathbf{x} \sim N(\mu_n, \tau_n^2)$$
ここで、事後精度（逆分散）は：
$$\frac{1}{\tau_n^2} = \frac{1}{\tau_0^2} + \frac{n}{\sigma^2}$$
事後平均は：
$$\mu_n = \frac{\frac{\mu_0}{\tau_0^2} + \frac{n\bar{x}}{\sigma^2}}{\frac{1}{\tau_0^2} + \frac{n}{\sigma^2}}$$
Step 4: 事後精度の計算
$$\frac{1}{\tau_n^2} = \frac{1}{9} + \frac{3}{4} = \frac{4 + 27}{36} = \frac{31}{36}$$
$$\tau_n^2 = \frac{36}{31} ≈ 1.161$$
Step 5: 事後平均の計算
分子の計算：
$$\frac{\mu_0}{\tau_0^2} + \frac{n\bar{x}}{\sigma^2} = \frac{0}{9} + \frac{3 \times 4}{4} = 0 + 3 = 3$$
分母の計算：
$$\frac{1}{\tau_0^2} + \frac{n}{\sigma^2} = \frac{1}{9} + \frac{3}{4} = \frac{31}{36}$$
事後平均：
$$\mu_n = \frac{3}{\frac{31}{36}} = 3 \times \frac{36}{31} = \frac{108}{31} ≈ 3.484$$
Step 6: 重み付き平均としての解釈
事後平均は事前平均とサンプル平均の精度重み付き平均：
$$\mu_n = w_0 \mu_0 + w_1 \bar{x}$$
ここで：
- $w_0 = \frac{1/\tau_0^2}{1/\tau_0^2 + n/\sigma^2} = \frac{1/9}{31/36} = \frac{4}{31}$（事前情報の重み）
- $w_1 = \frac{n/\sigma^2}{1/\tau_0^2 + n/\sigma^2} = \frac{3/4}{31/36} = \frac{27}{31}$（データの重み）
$$\mu_n = \frac{4}{31} \times 0 + \frac{27}{31} \times 4 = \frac{108}{31} ≈ 3.484$$
結果の妥当性検証
| 推定方法 | 値 | 根拠 |
|---|
| 事前平均 | 0.000 | 事前知識のみ |
| 標本平均 | 4.000 | データのみ |
| 事後平均 | 3.484 | 統合情報 |
| 重み比 | 4:27 | 精度の比 |
答えを小数第3位まで：3.484
ベイズ推定の特徴
- 精度重み付き：より精度の高い情報により大きな重みを付与
- 情報価値：事前分散が大きいため、データの重みが支配的
- 収束性：データ量増加とともに最尤推定値に収束
- 不確実性定量化：事後分散で推定精度を評価