決定係数と予測の限界
分野: 回帰
決定係数は「線形モデルが応答の変動をどれだけ説明したか」の記述指標です。高い $R^2$ を予測の保証や因果の証拠と取り違えないことが本問の目標です。
1. 定義
$R^2=1-SSE/SST=SSR/SST$
単回帰では相関係数の2乗にも等しいです。0は線形フィットが平均予測と同じ、1は全点が直線上、という意味です。
2. 高くても足りない理由
残差プロットにU字や漏斗があれば、線形性や等分散の仮定が崩れ、区間予測も歪みます。また回帰直線は観測されたxの範囲で最も安定し、範囲外（外挿）ではバイアスが大きくなり得ます。$R^2$ は訓練データへの当てはまりであり、新しい点への保証ではありません。
3. 因果ではない
観察データで $R^2$ が高くても、交絡や逆因果があり得ます。因果はデザイン（無作為割付など）の問題です。
4. 選択肢の検討
- $R^2=0.90$ なら予測は常に正確 → 誤り。残差パターンや外挿を無視しています。
- 高くても残差パターンと外挿に注意 → 正しい。当てはまり・診断・適用範囲を分けています。
- $R^2$ は因果の強さ → 誤り。関連の記述であり因果ではありません。
- 変数追加で汎化が必ず向上 → 誤り。訓練 $R^2$ は非減少ですが過適合で予測は悪化し得ます。調整済み $R^2$ やAICの出番です。
- $R^2=0$ なら関係なし → 誤り。非線形関係は直線 $R^2$ に乗らないことがあります。
$R^2$ は「直線で説明できた割合」であり予測の保証ではない
報告するときは残差プロットとxの範囲をセットにする。高い $R^2$ だけを見て外挿しない。