推定量のバイアスとバイアス＝バリアンストレードオフ
バイアス（偏り）は、推定量の期待値と真の母数の差を表し、推定量の精度を評価する指標です
バイアスの数学的定義
$Bias(\hat{\theta}) = E[\hat{\theta}] - \theta$
ここで：
- $\hat{\theta}$ ：推定量
- $E[\hat{\theta}]$ ：推定量の期待値
- $\theta$ ：真の母数
今回の計算
与えられた情報：$E[\hat{\theta}] = \theta + \frac{1}{n}$
$Bias(\hat{\theta}) = E[\hat{\theta}] - \theta = \left(\theta + \frac{1}{n}\right) - \theta = \frac{1}{n}$
結果の解釈
バイアスが$\frac{1}{n}$ということは、この推定量が平均的に真の値よりも$\frac{1}{n}$だけ大きく推定することを意味します。標本サイズが大きくなるとバイアスは0に近づきます。
バイアスの種類
| バイアスの値 | 名称 | 意味 | 例 |
|---|
| 0 | 不偏 | 平均的に正確 | 標本平均 |
| > 0 | 上方バイアス | 平均的に過大推定 | 今回の例 |
| < 0 | 下方バイアス | 平均的に過小推定 | ML推定の分散 |
バイアス＝バリアンストレードオフ
推定量の総合的な精度は、平均二乗誤差（MSE）で評価されます：
$MSE(\hat{\theta}) = E[(\hat{\theta} - \theta)^2] = Bias(\hat{\theta})^2 + Var(\hat{\theta})$
この分解により、次のことが分かります：
- バイアスが0（不偏）：MSE = 分散
- 小さなバイアス：分散が大幅に減ればMSE改善
- 大きなバイアス：分散が小さくてもMSE悪化
漸近的性質
今回の例では、バイアスが$\frac{1}{n}$なので：
$\lim_{n \to \infty} Bias(\hat{\theta}) = \lim_{n \to \infty} \frac{1}{n} = 0$
この推定量は漸近不偏（asymptotically unbiased）であり、大標本での使用に適しています。
実務での判断：不偏性は重要ですが、場合によっては小さなバイアスを受け入れても分散を減らす方が総合的な精度向上に繋がることがあります。