ベイズ最適化とガウス過程による代理モデル
ベイズ最適化は、評価コストが高い関数の最適化を効率的に行う手法です。ガウス過程を代理モデルとして使用し、獲得関数に基づいて次の評価点を決定します。
ベイズ最適化の基本枠組み
ベイズ最適化は以下の要素から構成されます：
- 代理モデル：ガウス過程による目的関数の確率的モデル
- 獲得関数：次の評価点を決定する基準（Expected Improvement等）
- 最適化ループ：観測→モデル更新→次点決定の反復
この手法により、少ない評価回数で効率的な最適化が可能になります。
Step 1: 問題設定の整理
- 観測データ：$(x_1, f(x_1)) = (0, 1.0)$, $(x_2, f(x_2)) = (1, 0.5)$
- カーネル関数：RBF（ガウス）カーネル
- カーネルパラメータ：$\sigma^2 = 1$（信号分散）, $\gamma = 1$（長さスケール逆数）
- 予測点：$x^* = 0.5$
Step 2: RBFカーネル関数の定義
RBF（Radial Basis Function）カーネルは：
$k(x, x') = \sigma^2 \exp\left(-\gamma (x - x')^2\right)$
パラメータの意味：
- $\sigma^2$：信号の分散（関数値の変動幅）
- $\gamma$：長さスケールの逆数（$\ell = 1/\sqrt{2\gamma}$）
Step 3: カーネル行列の計算
観測点間のカーネル行列 $\mathbf{K}$：
$\mathbf{K} = \begin{pmatrix} k(x_1, x_1) & k(x_1, x_2) \\ k(x_2, x_1) & k(x_2, x_2) \end{pmatrix}$
各要素の計算：
- $k(0, 0) = 1 \exp(-1 \cdot (0-0)^2) = 1$
- $k(0, 1) = 1 \exp(-1 \cdot (0-1)^2) = e^{-1} ≈ 0.3679$
- $k(1, 0) = k(0, 1) = e^{-1} ≈ 0.3679$
- $k(1, 1) = 1 \exp(-1 \cdot (1-1)^2) = 1$
$\mathbf{K} = \begin{pmatrix} 1 & e^{-1} \\ e^{-1} & 1 \end{pmatrix} = \begin{pmatrix} 1 & 0.3679 \\ 0.3679 & 1 \end{pmatrix}$
Step 4: 予測点と観測点間のカーネルベクトル
$\mathbf{k}_* = \begin{pmatrix} k(x^*, x_1) \\ k(x^*, x_2) \end{pmatrix} = \begin{pmatrix} k(0.5, 0) \\ k(0.5, 1) \end{pmatrix}$
各要素の計算：
- $k(0.5, 0) = 1 \exp(-1 \cdot (0.5-0)^2) = e^{-0.25} ≈ 0.7788$
- $k(0.5, 1) = 1 \exp(-1 \cdot (0.5-1)^2) = e^{-0.25} ≈ 0.7788$
$\mathbf{k}_* = \begin{pmatrix} 0.7788 \\ 0.7788 \end{pmatrix}$
Step 5: ガウス過程の事後平均の公式
ガウス過程回帰における事後平均は：
$\mu(x^*) = \mathbf{k}_*^T \mathbf{K}^{-1} \mathbf{f}$
ここで：
- $\mathbf{f} = (f(x_1), f(x_2))^T = (1.0, 0.5)^T$：観測値ベクトル
- $\mathbf{K}^{-1}$：カーネル行列の逆行列
Step 6: カーネル行列の逆行列計算
2×2行列の逆行列公式：
$\mathbf{K}^{-1} = \frac{1}{\det(\mathbf{K})} \begin{pmatrix} 1 & -e^{-1} \\ -e^{-1} & 1 \end{pmatrix}$
行列式の計算：
$\det(\mathbf{K}) = 1 \cdot 1 - e^{-1} \cdot e^{-1} = 1 - e^{-2} = 1 - 0.1353 = 0.8647$
$\mathbf{K}^{-1} = \frac{1}{0.8647} \begin{pmatrix} 1 & -0.3679 \\ -0.3679 & 1 \end{pmatrix} = \begin{pmatrix} 1.1565 & -0.4254 \\ -0.4254 & 1.1565 \end{pmatrix}$
Step 7: 事後平均の計算
$\mu(x^*) = \mathbf{k}_*^T \mathbf{K}^{-1} \mathbf{f}$
$= \begin{pmatrix} 0.7788 & 0.7788 \end{pmatrix} \begin{pmatrix} 1.1565 & -0.4254 \\ -0.4254 & 1.1565 \end{pmatrix} \begin{pmatrix} 1.0 \\ 0.5 \end{pmatrix}$
中間計算：
$\mathbf{K}^{-1} \mathbf{f} = \begin{pmatrix} 1.1565 & -0.4254 \\ -0.4254 & 1.1565 \end{pmatrix} \begin{pmatrix} 1.0 \\ 0.5 \end{pmatrix}$
$= \begin{pmatrix} 1.1565 \times 1.0 + (-0.4254) \times 0.5 \\ (-0.4254) \times 1.0 + 1.1565 \times 0.5 \end{pmatrix}$
$= \begin{pmatrix} 1.1565 - 0.2127 \\ -0.4254 + 0.5783 \end{pmatrix} = \begin{pmatrix} 0.9438 \\ 0.1529 \end{pmatrix}$
最終計算：
$\mu(0.5) = 0.7788 \times 0.9438 + 0.7788 \times 0.1529$
$= 0.7788 \times (0.9438 + 0.1529) = 0.7788 \times 1.0967 = 0.8537$
Step 8: ベイズ最適化の獲得関数
主要な獲得関数
| 獲得関数 | 定義 | 特徴 |
|---|
| Expected Improvement (EI) | $E[\max(f(x) - f_{best}, 0)]$ | 改善への期待値 |
| Upper Confidence Bound (UCB) | $\mu(x) + \beta \sigma(x)$ | 楽観的な上界 |
| Probability of Improvement (PI) | $P(f(x) > f_{best})$ | 改善確率 |
| Entropy Search | 情報エントロピーベース | 情報理論的 |