青の統計学-DS Playground-

連続分布・多変量正規分布

Stage 2 — 第5章 | 統計検定準1級チートシート 推定学習時間:80〜100分 | 難易度:★★★★☆


このページで押さえること

連続分布では、確率そのものではなく密度を扱います。 準1級では、分布の形、支持集合、平均・分散、変数変換、共役性、多変量正規の線形変換までがつながって出ます。

このページを終えると、こんなことができるようになります:

  • 一様、正規、指数、ガンマ、ベータ、コーシー、対数正規の用途を見分けられる
  • 指数分布とガンマ分布、ベータ分布と二項尤度の関係を説明できる
  • コーシー分布で平均・分散が定義されないことを理解できる
  • 多変量正規分布の線形結合・周辺分布・条件付き分布の考え方を説明できる

1. 連続分布では「密度」と「面積」を分ける

連続型確率変数では、1点の確率は通常0です。

\[ P(X=x)=0 \]

確率は密度の面積として計算します。

\[ P(a\le X\le b)=\int_a^b f_X(x)\,dx \]

密度 $f_X(x)$ は確率そのものではありません。 ただし、全体の面積は1です。

\[ \int_{-\infty}^{\infty}f_X(x)\,dx=1 \]

この前提を忘れると、密度の値が1を超えることを誤りだと思ったり、1点確率を密度で答えたりします。

📘 前提知識:密度は面積で確率になる

連続分布では、曲線の高さそのものではなく、区間の下の面積が確率です。 支持集合が正の値だけか、0から1か、実数全体かで使える分布はかなり絞れます。 多変量では、分散だけでなく共分散が楕円の傾きや条件付き分布を決めます。


2. 一様分布・正規分布・指数分布

$X\sim Uniform(a,b)$ の密度は、

\[ f(x)=\frac{1}{b-a}\qquad (a\le x\le b) \]

です。 平均と分散は、

\[ E[X]=\frac{a+b}{2},\qquad Var(X)=\frac{(b-a)^2}{12} \]

です。

正規分布 $X\sim N(\mu,\sigma^2)$ の密度は、

\[ f(x)=\frac{1}{\sqrt{2\pi\sigma^2}} \exp\left\{-\frac{(x-\mu)^2}{2\sigma^2}\right\} \]

です。 標準化すると、

\[ Z=\frac{X-\mu}{\sigma}\sim N(0,1) \]

になります。 正規分布は、誤差、平均、線形モデル、標本分布の基礎です。

指数分布 $X\sim Exponential(\lambda)$ の密度は、

\[ f(x)=\lambda e^{-\lambda x}\qquad (x\ge0) \]

です。 平均と分散は、

\[ E[X]=\frac{1}{\lambda},\qquad Var(X)=\frac{1}{\lambda^2} \]

です。 指数分布は無記憶性を持ちます。

\[ P(X\gt s+t\mid X\gt s)=P(X\gt t) \]

ポアソン過程では、次の発生までの待ち時間が指数分布になります。


3. ガンマ分布とベータ分布

ガンマ分布は、指数分布の和として理解すると使いやすいです。 形状母数 $\alpha$、率母数 $\lambda$ のガンマ分布の密度は、

\[ f(x)=\frac{\lambda^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\lambda x} \qquad (x\gt 0) \]

です。 平均と分散は、

\[ E[X]=\frac{\alpha}{\lambda},\qquad Var(X)=\frac{\alpha}{\lambda^2} \]

です。 指数分布 $Exponential(\lambda)$ は、$\alpha=1$ のガンマ分布です。 また、独立な指数分布の和はガンマ分布になります。

ベータ分布は、$0$ から $1$ の値を取る確率や比率の分布です。

\[ f(x)=\frac{1}{B(\alpha,\beta)}x^{\alpha-1}(1-x)^{\beta-1} \qquad (0\lt x\lt 1) \]

平均と分散は、

\[ E[X]=\frac{\alpha}{\alpha+\beta} \]
\[ Var(X)=\frac{\alpha\beta}{(\alpha+\beta)^2(\alpha+\beta+1)} \]

です。 二項分布の成功確率 $p$ に対する共役事前分布として頻出します。 Beta$(\alpha,\beta)$ を事前分布にし、成功 $x$ 回、失敗 $n-x$ 回を観測すると、事後分布は

\[ Beta(\alpha+x,\beta+n-x) \]

です。


4. コーシー分布・対数正規分布

標準コーシー分布の密度は、

\[ f(x)=\frac{1}{\pi(1+x^2)} \]

です。 コーシー分布は裾が非常に重く、平均も分散も定義されません。 標本平均を取っても通常の大数の法則や中心極限定理の直観がそのまま使えない点が重要です。

対数正規分布は、対数を取ると正規分布になる分布です。

\[ \log X\sim N(\mu,\sigma^2) \]

なら、$X$ は対数正規分布に従います。 正の値だけを取り、右に長い裾を持ちます。 所得、寿命、反応時間など、乗法的な変動がある量で現れます。

平均と分散は、

\[ E[X]=\exp\left(\mu+\frac{\sigma^2}{2}\right) \]
\[ Var(X)=\{\exp(\sigma^2)-1\}\exp(2\mu+\sigma^2) \]

です。 $\log X$ の平均 $\mu$ は、$X$ の平均ではない点に注意します。


5. 多変量正規分布

確率ベクトル $X\in\mathbb{R}^p$ が多変量正規分布に従うことを、

\[ X\sim N_p(\mu,\Sigma) \]

と書きます。 ここで $\mu$ は平均ベクトル、$\Sigma$ は共分散行列です。

多変量正規分布の重要な性質は、任意の線形結合が正規分布になることです。 定数ベクトル $a$ に対して、

\[ a^\top X\sim N(a^\top\mu,a^\top\Sigma a) \]

です。 また、行列 $A$ に対して、

\[ AX\sim N(A\mu,A\Sigma A^\top) \]

です。

多変量正規分布では、無相関と独立が一致します。 一般の分布では、共分散0から独立は言えません。 しかし多変量正規では、共分散行列の非対角成分が0なら対応する成分は独立になります。

条件付き分布も正規になります。 $X$ を $X_1,X_2$ に分けると、

\[ X_1|X_2=x_2 \]

は正規分布になります。 この性質は、回帰、判別分析、ガウス過程、ベイズ線形モデルの土台です。

次の図では、共分散行列を単なる数表ではなく、楕円の傾きと幅として読む。

多変量正規分布の楕円等高線、共分散による傾き、条件付き分布の切断を示す図

多変量正規分布では、共分散行列を楕円の向きと広がりとして読み、条件付き分布は楕円を切った断面として理解できる。

楕円の軸が座標軸とそろうと共分散は0になり、多変量正規ではそのとき独立まで言える。条件付き分布は、片方の値で楕円を切った断面として見る。


6. 分布の見分け表

分布 支持集合 何を表すか 注意点
一様 $[a,b]$ 範囲内で均等 密度は $1/(b-a)$
正規 $\mathbb{R}$ 誤差、和、平均 標準化して読む
指数 $[0,\infty)$ 次の発生までの待ち時間 無記憶性
ガンマ $[0,\infty)$ 複数回発生までの待ち時間 パラメータ化に注意
ベータ $(0,1)$ 確率、比率 二項分布の共役
コーシー $\mathbb{R}$ 重い裾の例 平均・分散なし
対数正規 $(0,\infty)$ 乗法的変動 $\log X$ が正規
多変量正規 $\mathbb{R}^p$ 複数変量の正規モデル 線形変換に閉じる

7. 問題文トリガー辞書

問題文の表現 判断する分布 使う式・性質 確認条件 典型ミス
「区間内で一様」 一様分布 $1/(b-a)$ 支持区間 密度と確率を混同
「誤差」「平均」 正規分布 標準化 平均・分散 母分散未知を標本分散で処理しない
「待ち時間」「無記憶」 指数分布 $e^{-\lambda x}$ 率母数 平均を $\lambda$ とする
「複数回発生まで」 ガンマ分布 指数分布の和 shape/rate scale と rate を混同
「確率の事前分布」 ベータ分布 Beta-Binomial $0\lt p\lt 1$ $\alpha,\beta$ 更新を逆にする
「裾が重い」 コーシー分布 平均なし モーメント存在 正規近似する
「対数を取ると正規」 対数正規 $\log X\sim N$ 正の値 $\mu$を平均と思う
「ベクトル正規」 多変量正規 線形結合が正規 共分散行列 無相関と独立の一般化を誤る

8. 典型ミス・ひっかけ

ミス なぜ危ないか 防ぎ方
密度を確率として読む 1点確率は0 区間確率は積分
指数分布の平均を $\lambda$ とする 率母数なら平均は $1/\lambda$ パラメータ化を確認
ガンマ分布の rate と scale を混同 平均・分散が逆になる 問題文の密度式を見る
ベータ分布の更新で成功・失敗を逆にする 事後分布がずれる 成功は $\alpha$、失敗は $\beta$ に足す
コーシー分布に平均・分散を使う 定義されない モーメント存在を確認
多変量正規以外で無相関から独立を言う 一般には成り立たない 正規性の仮定を見る

9. ここで1問

このページの確認問題


10. 解法テンプレ

連続分布の問題では、次の順で処理します。

  1. 支持集合が $\mathbb{R}$、正の値、$0$〜$1$、区間のどれかを確認する。
  2. 密度、平均、分散、変数変換のどれが問われているかを決める。
  3. パラメータが rate か scale かを確認する。
  4. 対数変換や標準化が必要かを見る。
  5. 多変量なら、線形結合と共分散行列を先に書く。
  6. モーメントが存在するか確認する。

11. 関連教材

関連教材(青の統計学)


12. 次に読むページ

次は、正規標本からカイ二乗、t、Fが出る仕組みを扱います。 標本分布は、推定・検定の参照分布を理解するための橋渡しです。