ベイズ予測分布：パラメータ不確実性を考慮した予測
ベイズ予測分布は、パラメータの不確実性を考慮して将来の観測を予測する手法で、点推定では得られない予測の幅と信頼性を提供します。
予測分布の基本概念
予測分布は、パラメータを積分消去することで得られます：
$p(y_{\text{new}}|\text{data}) = \int p(y_{\text{new}}|\theta) p(\theta|\text{data}) d\theta$
これにより、パラメータ推定の不確実性が予測に反映されます。
Step 1: 問題設定の整理
- 事前分布：$\theta \sim \text{Beta}(2, 3)$
- 観測データ：10回中7回表（成功）
- 予測対象：次の5回投げでの表の回数Y
- 求める値：$P(Y = 3|\text{data})$
Step 2: 事後分布の導出
ベータ-二項共役性により：
$\theta|\text{data} \sim \text{Beta}(\alpha + s, \beta + f)$
ここで：
- $\alpha = 2$（事前パラメータ）
- $\beta = 3$（事前パラメータ）
- $s = 7$（成功回数）
- $f = 3$（失敗回数、$10 - 7 = 3$）
$\theta|\text{data} \sim \text{Beta}(2 + 7, 3 + 3) = \text{Beta}(9, 6)$
Step 3: ベータ-二項予測分布の理論
次のn回投げでk回成功する確率は、ベータ-二項分布で表されます：
$P(Y = k|\text{data}) = \binom{n}{k} \frac{B(k + \alpha', n - k + \beta')}{B(\alpha', \beta')}$
ここで：
- $n = 5$（予測する試行回数）
- $\alpha' = 9$（事後パラメータ）
- $\beta' = 6$（事後パラメータ）
- $B(a,b) = \frac{\Gamma(a)\Gamma(b)}{\Gamma(a+b)}$（ベータ関数）
Step 4: ベータ関数の計算
必要なベータ関数値：
$B(9, 6) = \frac{\Gamma(9)\Gamma(6)}{\Gamma(15)} = \frac{8! \times 5!}{14!}$
$= \frac{40320 \times 120}{87178291200} = \frac{4838400}{87178291200} = \frac{1}{18018}$
$k = 3$の場合：
$B(3 + 9, 5 - 3 + 6) = B(12, 8) = \frac{\Gamma(12)\Gamma(8)}{\Gamma(20)}$
$= \frac{11! \times 7!}{19!} = \frac{39916800 \times 5040}{121645100408832000}$
Step 5: 二項係数の計算
$\binom{5}{3} = \frac{5!}{3! \times 2!} = \frac{120}{6 \times 2} = 10$
Step 6: 確率の計算
より実用的な計算方法を使用します：
$P(Y = 3|\text{data}) = \binom{5}{3} \frac{B(12, 8)}{B(9, 6)}$
ベータ関数の比：
$\frac{B(12, 8)}{B(9, 6)} = \frac{\Gamma(12)\Gamma(8)\Gamma(15)}{\Gamma(20)\Gamma(9)\Gamma(6)}$
$= \frac{11! \times 7! \times 14!}{19! \times 8! \times 5!}$
段階的に計算：
$\frac{11!}{8!} = 11 \times 10 \times 9 = 990$
$\frac{7!}{5!} = 7 \times 6 = 42$
$\frac{14!}{19!} = \frac{1}{19 \times 18 \times 17 \times 16 \times 15}$
Step 7: 数値計算による確率
実際の計算では、ベータ-二項分布の公式を使用：
$P(Y = k) = \binom{n}{k} \frac{\prod_{i=0}^{k-1}(\alpha' + i) \prod_{j=0}^{n-k-1}(\beta' + j)}{\prod_{l=0}^{n-1}(\alpha' + \beta' + l)}$
$k = 3, n = 5, \alpha' = 9, \beta' = 6$の場合：
$P(Y = 3) = \binom{5}{3} \times \frac{9 \times 10 \times 11 \times 6 \times 7}{15 \times 16 \times 17 \times 18 \times 19}$
$= 10 \times \frac{41580}{1395360} = 10 \times 0.02979 = 0.2979$