青の統計学-DS Playground-

変数変換・極限定理・デルタ法

Stage 2 — 第3章 | 統計検定準1級チートシート 推定学習時間:80〜100分 | 難易度:★★★★☆


このページで押さえること

準1級では、「分布を直接求める」問題と「近似で読む」問題が混ざります。 変数変換、線形結合、中心極限定理、デルタ法は、いずれも「元の確率変数から新しい量の分布をどう読むか」という同じテーマです。

このページを終えると、こんなことができるようになります:

  • 単調変換で密度を変換できる
  • 多変量変換でヤコビアンを使う意味を説明できる
  • 大数の法則と中心極限定理を混同せずに使える
  • 二項・ポアソンの近似条件を判断できる
  • デルタ法をTaylor展開から導ける

1. 変数変換の基本

確率変数 $X$ の密度を $f_X(x)$ とし、$Y=g(X)$ を考えます。 $g$ が単調で逆関数 $x=g^{-1}(y)$ を持つなら、密度は

\[ f_Y(y)=f_X(g^{-1}(y))\left|\frac{d}{dy}g^{-1}(y)\right| \]

です。

この式は「確率を保存する」ことから出ます。 小さい区間で

\[ P(y\lt Y\lt y+dy)\approx f_Y(y)dy \]

です。 一方、$Y=g(X)$ なので、対応する $X$ の区間幅は

\[ dx=\left|\frac{d}{dy}g^{-1}(y)\right|dy \]

です。 したがって、

\[ f_Y(y)dy\approx f_X(x)dx \]

となり、変換公式が得られます。

多変量では、$Y=g(X)$ の逆変換を $x=h(y)$ とすると、

\[ f_Y(y)=f_X(h(y))\left|\det\frac{\partial h}{\partial y}\right| \]

です。 ヤコビアンは、変換によって面積や体積がどれだけ伸び縮みするかを表します。

📘 前提知識:目盛りを変えると密度の高さも変わる

温度を摂氏から華氏へ変えると、同じ現象を別の目盛りで測っているだけです。 ただし横軸の幅が伸び縮みするので、面積としての確率を保つには密度の高さを調整する必要があります。 ヤコビアンは、この「横軸をどれだけ伸ばしたか」を補正する係数です。


2. 線形結合と標準化

期待値と分散は線形結合で頻出します。 確率変数 $X_1,\dots,X_n$ と定数 $a_1,\dots,a_n$ について、

\[ E\left[\sum_{i=1}^{n}a_iX_i\right]=\sum_{i=1}^{n}a_iE[X_i] \]

です。 分散は共分散を含めると、

\[ Var\left(\sum_{i=1}^{n}a_iX_i\right) = \sum_{i=1}^{n}a_i^2Var(X_i) +2\sum_{i\lt j}a_ia_jCov(X_i,X_j) \]

です。 独立なら共分散が0なので、

\[ Var\left(\sum_{i=1}^{n}a_iX_i\right) = \sum_{i=1}^{n}a_i^2Var(X_i) \]

になります。

標準化は、平均を0、分散を1にそろえる操作です。

\[ Z=\frac{X-\mu}{\sigma} \]

標準化後は $E[Z]=0$、$Var(Z)=1$ です。 検定統計量や近似分布では、この標準化がほぼ必ず入ります。


3. 大数の法則と中心極限定理

$X_1,\dots,X_n$ が独立同分布で、$E[X_i]=\mu$ とします。 標本平均を

\[ \bar{X}_n=\frac{1}{n}\sum_{i=1}^{n}X_i \]

と置くと、大数の法則は

\[ \bar{X}_n \to \mu \]

という収束を主張します。 これは「標本平均が母平均へ近づく」という安定性の定理です。

一方、中心極限定理は、標本平均のばらつきの形を主張します。 $Var(X_i)=\sigma^2\lt\infty$ のとき、

\[ \frac{\sqrt{n}(\bar{X}_n-\mu)}{\sigma} \xrightarrow{d}N(0,1) \]

です。 大数の法則は「近づく」、中心極限定理は「どの分布で近づくか」を述べています。

定理 見ているもの 結論 試験での使い方
大数の法則 標本平均そのもの 母平均へ収束 一致性、モンテカルロ平均
中心極限定理 標準化した誤差 正規分布へ収束 大標本信頼区間、近似検定

4. 正規近似・ポアソン近似

二項分布 $X\sim Binomial(n,p)$ では、

\[ E[X]=np,\qquad Var(X)=np(1-p) \]

です。 $n$ が大きく、$np$ と $n(1-p)$ が十分大きいとき、

\[ \frac{X-np}{\sqrt{np(1-p)}}\approx N(0,1) \]

と近似します。 連続補正を使う場合は、たとえば $P(X\le k)$ を

\[ P(X\le k)\approx P\left(Z\le \frac{k+0.5-np}{\sqrt{np(1-p)}}\right) \]

のように扱います。

ポアソン近似は、$n$ が大きく、$p$ が小さく、$np=\lambda$ が中程度のときに使います。

\[ Binomial(n,p)\approx Poisson(\lambda),\qquad \lambda=np \]

「まれな事象の回数」はポアソン近似を疑います。 ただし、成功確率が小さくない場合は二項分布や正規近似を使う方が自然です。


5. デルタ法

デルタ法は、推定量を非線形変換したときの近似分布を出す方法です。 まず、

\[ \sqrt{n}(\hat{\theta}-\theta)\xrightarrow{d}N(0,\sigma^2) \]

が成り立つとします。 関数 $g$ が $\theta$ の近くで微分可能なら、Taylor展開より

\[ g(\hat{\theta}) \approx g(\theta)+g'(\theta)(\hat{\theta}-\theta) \]

です。 両辺を標準化すると、

\[ \sqrt{n}\{g(\hat{\theta})-g(\theta)\} \approx g'(\theta)\sqrt{n}(\hat{\theta}-\theta) \]

なので、

\[ \sqrt{n}\{g(\hat{\theta})-g(\theta)\} \xrightarrow{d} N(0,\{g'(\theta)\}^2\sigma^2) \]

です。

つまり、デルタ法は「非線形関数を局所的に直線で近似する」方法です。 比率の対数、オッズ比、分散安定化変換などで頻出します。

非線形関数を真値の近くで接線近似しデルタ法の分散が傾きの二乗で変わることを示す図


6. 問題文トリガー辞書

問題文の表現 判断する論点 使う公式・手法 確認条件 典型ミス
「変換後の密度」 変数変換 逆関数・ヤコビアン 単調性、定義域 ヤコビアンを忘れる
「標本平均が近づく」 大数の法則 $\bar{X}\to\mu$ 期待値の存在 CLTと混同する
「大標本で近似」 中心極限定理 標準化して正規近似 独立性、分散有限 小標本でも使う
「二項を正規近似」 正規近似 平均分散で標準化 $np,n(1-p)$ 連続補正の向きを誤る
「まれな事象」 ポアソン近似 $\lambda=np$ $n$大、$p$小 $p$が大きいのに使う
「非線形変換の漸近分布」 デルタ法 Taylor展開 $g'(\theta)$ の値 傾きの二乗を忘れる

7. 典型ミス・ひっかけ

ミス なぜ危ないか 防ぎ方
大数の法則とCLTを同じものとする 収束先と誤差分布の話が違う 「近づく」か「正規近似」かを分ける
変数変換で絶対値を忘れる 密度が負になることがある ヤコビアンは絶対値
連続補正の向きを逆にする 確率がずれる $X\le k$ は $k+0.5$ を見る
デルタ法で $g'(\theta)$ ではなく $g'(\hat\theta)$ を無条件に使う 理論上の極限分散を誤る 真値で評価し、実務では推定値で代用
$g'(\theta)=0$ でも一次デルタ法を使う 一次近似が消える 高次のデルタ法や別変換を考える

8. ここで1問

このページの確認問題


9. 解法テンプレ

変数変換・近似の問題では、次の順で処理します。

  1. 求めるものが厳密な分布か、近似分布かを確認する。
  2. 変換なら、逆関数と定義域を先に書く。
  3. 密度変換なら、ヤコビアンの絶対値を掛ける。
  4. 和・平均なら、独立性と分散有限性を確認する。
  5. 近似なら、平均と分散で標準化する。
  6. 非線形変換なら、Taylor展開してデルタ法を使う。

10. 関連教材

関連教材(青の統計学)


11. 次に読むページ

次は、離散分布を目的別に整理します。 ベルヌーイ、二項、ポアソン、幾何、負の二項は、独立試行・待ち時間・まれな事象という構造でつながっています。