ベイズ統計学

ベイズの定理、事前分布、事後分布、MCMC法、階層ベイズモデルなど統計検定準1級レベルのベイズ統計理論を学習します。

正規分布の事後分布計算 レベル1

正規分布$N(μ,σ²=4)$の母平均μについて、事前分布$μ~N(0,9)$を設定した。標本x₁=2, x₂=6, x₃=4を観測したとき、μの事後平均はいくらか。小数第3位まで求めよ。

解説
解答と解説を表示
<h4>正規-正規共役事前分布による事後推論</h4><p>この問題では、正規分布の平均パラメータに対する正規事前分布の共役性を利用して、事後分布を解析的に求めます。</p><div class='key-point'><div class='key-point-title'>正規-正規共役性の重要性</div><p>分散既知の正規分布に対して正規事前分布を使用すると、事後分布も正規分布になり、精密な推論が可能になります。</p></div><p class='step'><strong>Step 1: 問題設定の整理</strong></p><ul><li><strong>尤度</strong>:$x_i \sim N(\mu, \sigma^2 = 4)$、$i = 1, 2, 3
lt;/li><li><strong>事前分布</strong>:$\mu \sim N(\mu_0 = 0, \tau_0^2 = 9)
lt;/li><li><strong>観測データ</strong>:$x_1 = 2, x_2 = 6, x_3 = 4
lt;/li><li><strong>サンプルサイズ</strong>:$n = 3
lt;/li></ul><p class='step'><strong>Step 2: 基本統計量の計算</strong></p><div class='formula'>$\bar{x} = \frac{x_1 + x_2 + x_3}{3} = \frac{2 + 6 + 4}{3} = \frac{12}{3} = 4$

Step 3: 正規-正規共役性の公式適用

事前分布:$\mu \sim N(\mu_0, \tau_0^2)$、尤度:$x_i \sim N(\mu, \sigma^2)$の場合、事後分布は:

$\mu|\mathbf{x} \sim N(\mu_n, \tau_n^2)$

ここで、事後精度(逆分散)は:

$\frac{1}{\tau_n^2} = \frac{1}{\tau_0^2} + \frac{n}{\sigma^2}$

事後平均は:

$\mu_n = \frac{\frac{\mu_0}{\tau_0^2} + \frac{n\bar{x}}{\sigma^2}}{\frac{1}{\tau_0^2} + \frac{n}{\sigma^2}}$

Step 4: 事後精度の計算

$\frac{1}{\tau_n^2} = \frac{1}{9} + \frac{3}{4} = \frac{4 + 27}{36} = \frac{31}{36}$
$\tau_n^2 = \frac{36}{31} ≈ 1.161$

Step 5: 事後平均の計算

分子の計算:

$\frac{\mu_0}{\tau_0^2} + \frac{n\bar{x}}{\sigma^2} = \frac{0}{9} + \frac{3 \times 4}{4} = 0 + 3 = 3$

分母の計算:

$\frac{1}{\tau_0^2} + \frac{n}{\sigma^2} = \frac{1}{9} + \frac{3}{4} = \frac{31}{36}$

事後平均:

$\mu_n = \frac{3}{\frac{31}{36}} = 3 \times \frac{36}{31} = \frac{108}{31} ≈ 3.484$

計算の再確認

より直接的な公式を使用:

$\mu_n = \tau_n^2 \left( \frac{\mu_0}{\tau_0^2} + \frac{n\bar{x}}{\sigma^2} \right)$
$\mu_n = \frac{36}{31} \times 3 = \frac{108}{31} ≈ 3.484$

Step 6: 重み付き平均としての解釈

事後平均は事前平均とサンプル平均の精度重み付き平均:

$\mu_n = w_0 \mu_0 + w_1 \bar{x}$

ここで:

  • $w_0 = \frac{1/\tau_0^2}{1/\tau_0^2 + n/\sigma^2} = \frac{1/9}{31/36} = \frac{4}{31}$(事前情報の重み)
  • $w_1 = \frac{n/\sigma^2}{1/\tau_0^2 + n/\sigma^2} = \frac{3/4}{31/36} = \frac{27}{31}$(データの重み)
$\mu_n = \frac{4}{31} \times 0 + \frac{27}{31} \times 4 = \frac{108}{31} ≈ 3.484$</div><div class='key-point'><h4>結果の妥当性検証</h4><table class='table table-bordered'><tr><th>推定方法</th><th>値</th><th>根拠</th></tr><tr><td><strong>事前平均</strong></td><td>0.000</td><td>事前知識のみ</td></tr><tr><td><strong>標本平均</strong></td><td>4.000</td><td>データのみ</td></tr><tr><td><strong>事後平均</strong></td><td>3.484</td><td>統合情報</td></tr><tr><td><strong>重み比</strong></td><td>4:27</td><td>精度の比</td></tr></table></div><p>答えを小数第3位まで:<strong>3.484</strong></p><h4>ベイズ推定の特徴</h4><ul><li><strong>精度重み付き</strong>:より精度の高い情報により大きな重みを付与</li><li><strong>情報価値</strong>:事前分散が大きいため、データの重みが支配的</li><li><strong>収束性</strong>:データ量増加とともに最尤推定値に収束</li><li><strong>不確実性定量化</strong>:事後分散で推定精度を評価</li></ul>
問題 1/10
カテゴリ一覧に戻る