ハミルトニアンモンテカルロ：物理学に基づく効率的サンプリング
HMC（Hamiltonian Monte Carlo）は、物理学のハミルトン力学を利用してパラメータ空間を効率的に探索するMCMC手法です。リープフロッグ法は数値積分の中核となります。
ハミルトン力学の基礎
- 位置：$q$（推定したいパラメータ）
- 運動量：$p$（補助変数）
- ポテンシャルエネルギー：$U(q) = -\log p(q|\text{data})$
- 運動エネルギー：$K(p) = \frac{p^2}{2m}$（通常$m=1$）
Step 1: ハミルトンの方程式
ハミルトン力学の運動方程式：
$\frac{dq}{dt} = \frac{\partial H}{\partial p} = p$
$\frac{dp}{dt} = -\frac{\partial H}{\partial q} = -\frac{\partial U(q)}{\partial q}$
ここで、$H(q,p) = U(q) + K(p)$はハミルトニアンです。
Step 2: リープフロッグ法の原理
リープフロッグ法は、運動量と位置を交互に半ステップずつ更新する数値積分手法で、エネルギー保存性に優れています。
リープフロッグアルゴリズム
- 運動量の半ステップ更新：$p_{t+\epsilon/2} = p_t - \frac{\epsilon}{2}\nabla U(q_t)$
- 位置の全ステップ更新：$q_{t+\epsilon} = q_t + \epsilon p_{t+\epsilon/2}$
- 運動量の半ステップ更新：$p_{t+\epsilon} = p_{t+\epsilon/2} - \frac{\epsilon}{2}\nabla U(q_{t+\epsilon})$
Step 3: 問題への適用
与えられた条件：
- 初期位置：$q_0 = 1.0$
- 初期運動量：$p_0 = 0.5$
- ステップサイズ：$\epsilon = 0.1$
- ポテンシャル勾配：$\nabla U(q) = -q$
Step 4: リープフロッグステップの実行
ステップ1: 運動量の半ステップ更新
$p_{1/2} = p_0 - \frac{\epsilon}{2}\nabla U(q_0)$
$p_{1/2} = 0.5 - \frac{0.1}{2} \times (-1.0) = 0.5 + 0.05 = 0.55$
ステップ2: 位置の全ステップ更新
$q_1 = q_0 + \epsilon \times p_{1/2}$
$q_1 = 1.0 + 0.1 \times 0.55 = 1.0 + 0.055 = 1.055$
ステップ3: 運動量の半ステップ更新
$p_1 = p_{1/2} - \frac{\epsilon}{2}\nabla U(q_1)$
$p_1 = 0.55 - \frac{0.1}{2} \times (-1.055) = 0.55 + 0.05275 = 0.60275$
Step 5: 結果の確認
1ステップ後の新しい位置：$q_1 = 1.055$
選択肢の中で最も近いのは「約1.105」ですが、正確な計算では1.055となります。選択肢bの1.105が最も近い値です。
リープフロッグ法の特徴
- 時間反転対称性：前進と後退で同じ軌道
- 体積保存性：位相空間の体積を保持
- エネルギー保存：近似的にハミルトニアンを保存
- 数値安定性：長時間積分でも安定
Step 6: HMCアルゴリズム全体
- 運動量のサンプリング：$p \sim N(0, M)$
- リープフロッグ積分：L回のリープフロッグステップ
- メトロポリス採択：エネルギー差による採択判定
- 次の状態：採択されたパラメータを使用
Step 7: メトロポリス採択の計算
エネルギー差：
$\Delta H = H(q_1, p_1) - H(q_0, p_0)$
$= [U(q_1) + K(p_1)] - [U(q_0) + K(p_0)]$
理想的には$\Delta H ≈ 0$（エネルギー保存）
採択確率：
$\alpha = \min(1, \exp(-\Delta H))$
HMCの利点
- 効率的探索：物理法則に基づく方向性のある移動
- 高い採択率：適切なパラメータ設定で90%以上
- 自己相関の低減：遠距離への移動が可能
- 高次元対応：次元の呪いに強い
実装上の考慮事項
- ステップサイズε：小さすぎると非効率、大きすぎると採択率低下
- 積分ステップ数L：長いほど遠距離移動、計算コスト増
- 質量行列M：パラメータスケールの調整
- 適応的調整：ウォームアップ期間での自動調整