<h4>情報量規準の理論的基礎</h4><p>情報量規準は、モデルの適合度と複雑さのトレードオフを定量化し、最適なモデルを選択するための指標です。</p><h4>AICとBICの数学的定義</h4><p class='step'><strong>Step 1: AIC(赤池情報量規準)</strong></p><div class='formula'>$AIC = -2\ell(\hat{\theta}) + 2k
lt;/div><p>ここで、$\ell(\hat{\theta})$は最大対数尤度、$k$はパラメータ数です。</p><p class='step'><strong>Step 2: BIC(ベイズ情報量規準)</strong></p><div class='formula'>$BIC = -2\ell(\hat{\theta}) + k\log n
lt;/div><p>ここで、$n$は標本サイズです。</p><h4>ペナルティ項の比較分析</h4><p class='step'><strong>Step 3: ペナルティ項の標本サイズ依存性</strong></p><table class='table table-bordered'><tr><th>情報量規準</th><th>ペナルティ項</th><th>標本サイズ依存性</th></tr><tr><td>AIC</td><td>$2k
lt;/td><td>なし(定数)</td></tr><tr><td>BIC</td><td>$k\log n
lt;/td><td>あり(対数的増加)</td></tr></table><p class='step'><strong>Step 4: 臨界点の計算</strong></p><p>$k\log n > 2k$となる条件:</p><div class='formula'>$\log n > 2 \Leftrightarrow n > e^2 \approx 7.39
lt;/div><p>したがって、$n \geq 8$のとき、BICのペナルティがAICより大きくなります。</p><h4>モデル選択への影響</h4><p class='step'><strong>Step 5: 情報量規準とモデル複雑度</strong></p><p>情報量規準が小さいほど良いモデルとされるため:</p><ul><li><strong>AIC</strong>:固定ペナルティにより、相対的に複雑なモデルを許容</li><li><strong>BIC</strong>:標本サイズ増加とともにペナルティが増大し、単純なモデルを選好</li></ul><p class='step'><strong>Step 6: 漸近的性質の比較</strong></p><table class='table table-bordered'><tr><th>性質</th><th>AIC</th><th>BIC</th></tr><tr><td>理論的根拠</td><td>Kullback-Leibler情報量</td><td>ベイズ事後確率</td></tr><tr><td>漸近的性質</td><td>予測誤差最小化</td><td>真のモデルの一致選択</td></tr><tr><td>過適合傾向</td><td>やや過適合気味</td><td>適合不足気味</td></tr><tr><td>適用場面</td><td>予測重視</td><td>解釈重視</td></tr></table><h4>実用的選択指針</h4><p class='step'><strong>Step 7: 標本サイズによる使い分け</strong></p><div class='formula'>$\begin{cases}n \leq 40: & \text{AICc(修正AIC)を推奨} \\40 < n \leq 150: & \text{AICとBICの比較検討} \\n > 150: & \text{BICが真のモデル選択に有利}\end{cases}
lt;/div><p class='step'><strong>Step 8: 研究目的による選択</strong></p><table class='table table-bordered'><tr><th>研究目的</th><th>推奨規準</th><th>理由</th></tr><tr><td>予測精度重視</td><td>AIC系</td><td>予測誤差最小化</td></tr><tr><td>因果推論</td><td>BIC系</td><td>真の構造発見</td></tr><tr><td>探索的分析</td><td>AIC</td><td>候補モデルの幅広い検討</td></tr><tr><td>確認的分析</td><td>BIC</td><td>パーシモニーの原則</td></tr></table><p>したがって、「標本サイズが大きいとき、BICはAICより単純なモデルを選びやすい」が正しい記述です。</p>