確率法則・条件付き確率・ベイズ

Stage 2 — 第1章 | 統計検定準1級チートシート推定学習時間：60〜80分 | 難易度：★★★☆☆

このページで押さえること

条件付き確率とベイズの定理は、準1級の中では「前半の基礎」に見えます。しかし実際には、ベイズ統計、マルコフ連鎖、分割表、条件付き独立、回帰モデルの解釈まで何度も戻ってくる土台です。

このページを終えると、こんなことができるようになります：

確率の公理、加法定理、乗法定理を使い分けられる
条件付き確率を、分母の条件を固定して読める
全確率の公式とベイズの定理を同じ木構造で整理できる
独立、排反、条件付き独立を混同せずに判断できる
問題文から「ベイズ更新」「分割表」「マルコフ性」の入口を見つけられる

1. 2級ではここまで、準1級ではここが増える

2級では、条件付き確率、独立、全確率、ベイズの定理を、主に数値計算として扱います。準1級では、それに加えて「条件を固定すると確率空間がどう変わるか」「条件を入れる前後で独立性がどう変わるか」「ベイズ更新を正規化としてどう読むか」を問われます。

この違いは、次の1式に集約できます。

P(A|B)=\frac{P(A\cap B)}{P(B)}

右辺は単なる分数ではありません。分母 $P(B)$ は、標本空間を $\Omega$ から $B$ へ制限したときの正規化定数です。したがって、条件付き確率を使うたびに「いま全体として見ている世界は何か」を明示する必要があります。

たとえば $P(A|B)$ と $P(B|A)$ は、同じ $A$ と $B$ を使っていても、固定している世界が違います。前者は $B$ の中で $A$ を見る確率、後者は $A$ の中で $B$ を見る確率です。この区別が曖昧だと、ベイズの定理の分母、条件付き独立、マルコフ性、分割表の解釈で崩れます。

📘 前提知識：ベイズ更新は「候補の重みを観測後に付け直す」操作

原因候補が複数あるとき、観測前には事前確率で候補に重みが付いています。観測された事象が各候補の下でどれくらい起こりやすいかを掛けると、観測後の重みになります。最後に全候補の重みの合計で割ると、事後確率として足して1になる形に正規化されます。

2. 公式・定義・条件

2.1 確率の基本法則

確率は、標本空間 $\Omega$ 上の事象に対して定義されます。少し正確には、事象の集合族 $\mathcal{F}$ に対して、確率測度

P:\mathcal{F}\to[0,1]

が定義されていると考えます。基本は非負性、全確率1、互いに排反な事象に対する可算加法性です。

0\le P(A)\le 1

P(\Omega)=1

互いに排反な事象 $A_1,A_2,\dots$ について、

P\left(\bigcup_i A_i\right)=\sum_i P(A_i)

2つの事象では、排反でなくても次が成り立ちます。

P(A\cup B)=P(A)+P(B)-P(A\cap B)

最後の $P(A\cap B)$ を引くのは、AにもBにも入る部分を二重に数えているからです。 3つ以上の事象でも同じ考え方で、足す、重なりを引く、三重の重なりを戻す、という形になります。たとえば3事象なら、

\begin{aligned} P(A\cup B\cup C) &=P(A)+P(B)+P(C)\\ &\quad -P(A\cap B)-P(A\cap C)-P(B\cap C)\\ &\quad +P(A\cap B\cap C) \end{aligned}

です。準1級では、包除をそのまま計算するだけでなく、「どの部分を二重に数えているか」を集合で説明できることが重要です。

2.2 条件付き確率

条件付き確率は、条件として与えられた事象の中で割合を取り直す操作です。

P(A|B)=\frac{P(A\cap B)}{P(B)}\quad (P(B)>0)

ここで分母は必ず「条件として固定している事象」です。問題文に「Bであることが分かっている」「Bのもとで」と書かれていたら、分母に $P(B)$ が来ます。

乗法定理は、条件付き確率の式を並べ替えたものです。

P(A\cap B)=P(A|B)P(B)=P(B|A)P(A)

2.3 全確率の公式

$B_1,\dots,B_k$ が標本空間を分割しているとき、Aの確率は各場合に分けて足せます。

P(A)=\sum_{i=1}^{k}P(A|B_i)P(B_i)

これは「原因候補 $B_i$ ごとに、Aが起きる確率を重み付きで足す」公式です。ベイズの定理の分母にもそのまま出てきます。ここで「分割」とは、

B_i\cap B_j=\emptyset\ (i\ne j),\qquad \bigcup_{i=1}^{k}B_i=\Omega

を満たすことです。この条件がないと、足し漏れや二重計上が起きるため、全確率の公式はそのまま使えません。

2.4 ベイズの定理

ベイズの定理は、条件の向きを反転する公式です。

P(B_j|A)=\frac{P(A|B_j)P(B_j)}{\sum_{i=1}^{k}P(A|B_i)P(B_i)}

分子は「$B_j$ が原因でAが観測される確率」です。分母は「どの原因からでもよいのでAが観測される確率」です。

ベイズ統計では、同じ構造を次のように読み替えます。

\text{事後分布}\propto \text{尤度}\times \text{事前分布}

連続型の母数 $\theta$ についても構造は同じです。事前密度を $\pi(\theta)$、尤度を $L(\theta;x)=f(x|\theta)$ とすると、

\pi(\theta|x) = \frac{L(\theta;x)\pi(\theta)} {\int L(u;x)\pi(u)\,du}

です。分母は、事後密度の積分が1になるようにする正規化定数です。

3. 数式の読み方

ベイズの定理は、分子を作ってから分母で正規化する式として読むと安定します。原因候補 $B_1,\dots,B_k$ が排反かつ網羅的であるとします。観測 $A$ を見たあとで $B_j$ が原因だった確率は、

P(B_j|A)=\frac{P(A|B_j)P(B_j)}{\sum_{i=1}^k P(A|B_i)P(B_i)}

です。ここで

\[ w_j=P(A|B_j)P(B_j) \]

と置くと、

P(B_j|A)=\frac{w_j}{\sum_{i=1}^k w_i}

と書けます。つまり、各原因候補の「観測Aを生む重み」 $w_j$ を作り、合計が1になるように割り直しているだけです。この見方をすると、分母は暗記する対象ではなく、正規化定数だと分かります。

2つの原因 $B_1,B_2$ を比べると、ベイズの定理はオッズ形式でも読めます。

\frac{P(B_1|A)}{P(B_2|A)} = \left(\frac{P(A|B_1)}{P(A|B_2)}\right) \left(\frac{P(B_1)}{P(B_2)}\right)

左辺は事後オッズ、右辺の第1項は尤度比、第2項は事前オッズです。したがって、

\text{事後オッズ}=\text{尤度比}\times\text{事前オッズ}

と読めます。検査問題で「感度が高いのに陽性的中率が低い」ことがあるのは、尤度比が大きくても、事前オッズが非常に小さい場合があるからです。

補助的にまとめると、ベイズ更新では次の対応を見ます。

式の部品	数式	理論上の役割
事前の重み	$P(B_j)$	観測前に原因候補 $B_j$ がどれくらいありそうか。
尤度	$P(A\|B_j)$	$B_j$ が真なら観測 $A$ がどれくらい起きやすいか。
未正規化の重み	$w_j=P(A\|B_j)P(B_j)$	観測 $A$ を説明する原因候補ごとの重み。
正規化定数	$\sum_i w_i=P(A)$	観測 $A$ が全体として起きる確率。
事後確率	$P(B_j\|A)=w_j/\sum_iw_i$	観測後に原因候補 $B_j$ がどれくらいありそうか。

原因候補から観測Aへ分岐する確率木で全確率の公式とベイズ更新の分母を示す図

4. 数学的背景・証明スケッチ

このページの公式は、ほとんどが条件付き確率の定義と標本空間の分割から出ます。証明を一度見ておくと、ベイズの定理を「暗記した分数」ではなく、「同時確率の読み替え」として扱えます。

4.1 条件付き確率は「条件の中で確率を作り直す」操作

$P(B)>0$ のとき、

P_B(A)=P(A|B)=\frac{P(A\cap B)}{P(B)}

と置くと、$P_B$ は $B$ の中だけを標本空間とする新しい確率のように振る舞います。実際、

P_B(\Omega)=\frac{P(\Omega\cap B)}{P(B)}=\frac{P(B)}{P(B)}=1

です。また、互いに排反な $A_1,A_2,\dots$ について、

P_B\left(\bigcup_i A_i\right) =\frac{P((\bigcup_i A_i)\cap B)}{P(B)} =\frac{\sum_i P(A_i\cap B)}{P(B)} =\sum_i P_B(A_i)

となります。つまり条件付き確率は、ただの計算テクニックではなく、条件 $B$ の世界に確率を制限し直す操作です。

4.2 乗法定理は条件付き確率の定義から出る

条件付き確率の定義

P(A|B)=\frac{P(A\cap B)}{P(B)}

の両辺に $P(B)$ を掛けると、

P(A\cap B)=P(A|B)P(B)

です。同じ同時確率を逆向きに読むと、

P(A\cap B)=P(B|A)P(A)

も得られます。ベイズの定理は、この2つの等式をつなぐだけです。

4.3 全確率の公式は「Aを原因候補ごとに分解する」

$B_1,\dots,B_k$ が排反で、全体を覆うとします。このとき、Aは次のように分解できます。

A=(A\cap B_1)\cup(A\cap B_2)\cup\cdots\cup(A\cap B_k)

右辺は互いに排反なので、加法性から

P(A)=\sum_{i=1}^{k}P(A\cap B_i)

です。乗法定理を使うと、

P(A)=\sum_{i=1}^{k}P(A|B_i)P(B_i)

になります。これが全確率の公式です。ベイズの分母は、この $P(A)$ を具体的に展開したものです。

4.4 ベイズの定理は同時確率の2通りの分解

まず、

P(A\cap B_j)=P(B_j|A)P(A)

かつ

P(A\cap B_j)=P(A|B_j)P(B_j)

です。よって、

\[ P(B_j|A)P(A)=P(A|B_j)P(B_j) \]

となり、

P(B_j|A)=\frac{P(A|B_j)P(B_j)}{P(A)}

が出ます。さらに $P(A)$ を全確率の公式で展開すると、

P(B_j|A)=\frac{P(A|B_j)P(B_j)}{\sum_{i=1}^{k}P(A|B_i)P(B_i)}

です。この導出を知っていれば、分母は「正規化のために全候補を足す」と理解できます。

4.5 独立性は条件付き確率の不変性

$P(B)>0$ のとき、AとBが独立であることは

\[ P(A|B)=P(A) \]

と同値です。条件付き確率の定義から、

P(A|B)=P(A) \Longleftrightarrow \frac{P(A\cap B)}{P(B)}=P(A) \Longleftrightarrow P(A\cap B)=P(A)P(B)

となります。つまり独立とは、「Bを知ってもAの確率が変わらない」という意味です。排反のように「同時に起きない」という意味ではありません。

4.6 確率変数版の条件付き分布

準1級では、事象 $A,B$ だけでなく、確率変数 $X,Y$ の条件付き分布として同じ考え方を使います。離散型なら、同時確率質量関数 $p_{X,Y}(x,y)$ と周辺確率質量関数 $p_Y(y)$ について、

p_{X|Y}(x|y)=\frac{p_{X,Y}(x,y)}{p_Y(y)} \quad (p_Y(y)>0)

です。これは、事象の条件付き確率

P(X=x|Y=y)=\frac{P(X=x,Y=y)}{P(Y=y)}

をそのまま書き換えたものです。

連続型では一点 $Y=y$ の確率が0になるため、密度で定義します。同時密度 $f_{X,Y}(x,y)$ と周辺密度 $f_Y(y)$ について、

f_{X|Y}(x|y)=\frac{f_{X,Y}(x,y)}{f_Y(y)} \quad (f_Y(y)>0)

です。このとき、

\int f_{X|Y}(x|y)\,dx = \frac{1}{f_Y(y)}\int f_{X,Y}(x,y)\,dx =1

となるので、$f_{X|Y}(\cdot|y)$ は $y$ を固定したときの $X$ の密度です。条件付き期待値も同じ構造で、

E[X|Y=y]=\int x f_{X|Y}(x|y)\,dx

と定義されます。この式は、回帰、ベイズ推定、欠測データ、EMアルゴリズムへつながります。

4.7 条件付き独立とマルコフ性

事象 $A,B$ が $C$ のもとで条件付き独立であるとは、

P(A\cap B|C)=P(A|C)P(B|C)

が成り立つことです。 $P(B\cap C)>0$ なら、これは

P(A|B\cap C)=P(A|C)

とも同値です。つまり、$C$ をすでに知っているなら、さらに $B$ を知っても $A$ の確率が変わらない、という意味です。

確率変数で書けば、

X\perp Y\mid Z

は

f_{X,Y|Z}(x,y|z)=f_{X|Z}(x|z)f_{Y|Z}(y|z)

を意味します。この条件付き独立は、無条件の独立 $X\perp Y$ とは別物です。条件 $Z$ を固定すると独立でも、$Z$ を混ぜて周辺化すると依存が現れることがあります。これは分割表、層別解析、グラフィカルモデルで重要です。

マルコフ連鎖も、条件付き独立の言葉で書けます。状態列 $X_0,X_1,\dots$ について、

P(X_{t+1}=j|X_t=i,X_{t-1},\dots,X_0) = P(X_{t+1}=j|X_t=i)

が成り立つとき、未来 $X_{t+1}$ は、現在 $X_t$ を条件にすれば過去 $X_{t-1},\dots,X_0$ と独立です。「現在の状態だけで次が決まる」という説明は、この条件付き独立の省略表現です。

5. 問題文トリガー辞書

問題文の表現	判断する論点	使う公式・手法	確認条件	典型ミス
「AまたはB」	和事象	加法定理	重なりがあるか	$P(A)+P(B)$ だけにする
「AかつB」	積事象	乗法定理	独立か、条件付きか	無条件に掛け算する
「Bであることが分かっている」	条件付き確率	$P(A\|B)$	分母は $P(B)$	分母を $P(A)$ にする
「原因が複数ある」	全確率	場合分けの重み付き和	分割が漏れなく排反か	一部の原因だけで分母を作る
「検査が陽性だったとき」	ベイズ更新	ベイズの定理	感度・特異度・事前確率	$P(陽性\|病気)$ と $P(病気\|陽性)$ を混同する
「互いに独立」	独立性	$P(A\cap B)=P(A)P(B)$	条件なしの独立か	排反と混同する
「Cのもとで独立」	条件付き独立	$P(A,B\|C)=P(A\|C)P(B\|C)$	条件Cを固定する	条件を外しても独立と思う
「現在の状態だけで次が決まる」	マルコフ性	条件付き確率・推移確率	過去を条件に入れても現在で十分か	独立と同じだと思う

6. 独立・排反・条件付き独立

独立と排反は、準1級でも落とし穴になります。

排反は、集合として同時に起きないことです。

A\cap B=\emptyset

したがって、

P(A\cap B)=0

です。一方、独立は確率の積で同時確率が表せることです。

P(A\cap B)=P(A)P(B)

もし $P(A)>0$ かつ $P(B)>0$ で、さらに $A$ と $B$ が排反なら、

P(A\cap B)=0 \quad\text{but}\quad P(A)P(B)>0

なので、独立ではありません。つまり、正の確率を持つ2事象については、排反と独立はむしろ両立しません。

独立性は、条件付き確率で読むとさらに明確です。 $P(B)>0$ のとき、独立なら、

\[ P(A|B)=P(A) \]

です。つまり、Bを知ってもAの確率が変わりません。

条件付き独立では、同じ判定を $C$ を固定した世界で行います。

P(A\cap B|C)=P(A|C)P(B|C)

または

P(A|B\cap C)=P(A|C)

です。ここで注意すべきなのは、条件付き独立から無条件独立は一般には出ないことです。全体の同時確率は

P(A\cap B)=\sum_i P(A\cap B|C_i)P(C_i)

と混合されます。仮に各層 $C_i$ の中で

P(A\cap B|C_i)=P(A|C_i)P(B|C_i)

が成り立っていても、$P(A|C_i)$ と $P(B|C_i)$ が層によって変われば、周辺化した $P(A\cap B)$ は $P(A)P(B)$ と一致しないことがあります。これが、条件を外すと関連が現れたり消えたりする理由です。

7. 小さな計算例

ある病気の有病率を1%、検査の感度を95%、特異度を90%とします。陽性だった人が本当に病気である確率を求めます。

病気を $D$、陽性を $+$ とすると、

P(D)=0.01,\quad P(+|D)=0.95,\quad P(+|D^c)=0.10

ベイズの定理より、

P(D|+)=\frac{P(+|D)P(D)}{P(+|D)P(D)+P(+|D^c)P(D^c)}

数値を入れると、

P(D|+)=\frac{0.95\times0.01}{0.95\times0.01+0.10\times0.99}\approx0.0876

同じ計算はオッズ形式でも確認できます。事前オッズは

\frac{P(D)}{P(D^c)}=\frac{0.01}{0.99}

です。陽性という観測の尤度比は、

\frac{P(+|D)}{P(+|D^c)}=\frac{0.95}{0.10}=9.5

なので、事後オッズは

\frac{P(D|+)}{P(D^c|+)} = 9.5\times\frac{0.01}{0.99} \approx0.09596

です。オッズ $o$ を確率に戻すには $p=o/(1+o)$ を使うので、

P(D|+)=\frac{0.09596}{1+0.09596}\approx0.0876

となり、先ほどの結果と一致します。

検査の感度が高くても、有病率が低いと陽性的中率はそこまで高くなりません。準1級では、このように「条件の向き」と「事前確率の重み」を読む力が必要です。

8. 典型ミス・ひっかけ

ミス	なぜ危ないか	防ぎ方
$P(A\|B)$ と $P(B\|A)$ を入れ替える	検査問題・分類問題で答えが大きく変わる	分母に固定条件を書く
全確率の分母で原因候補を漏らす	事後確率が過大になる	候補が排反かつ網羅的か確認する
独立と排反を混同する	同時に起きないことと影響しないことは違う	$P(A\cap B)$ を見る
条件付き独立を無条件独立と読む	Cを外すと依存が復活する場合がある	条件に入っている変数を消さない
ベイズの分母を暗記で処理する	正規化を忘れる	「Aが観測される全確率」と読む

9. ここで1問

条件付き確率とベイズの定理を確認したら、演習で「分母に何を置くか」を練習します。

このページの確認問題

確率と確率分布の演習へ

まず解く: 条件付き確率とベイズの定理、確率密度関数の性質、モーメント母関数

目標: 解説を見ずに3問中2問正答

10. 解法テンプレ

条件付き確率・ベイズの問題では、次の順で処理します。

求める確率が $P(A|B)$ なのか $P(B|A)$ なのかを確認する。
分母に置く条件を先に決める。
原因候補や場合分けが、排反かつ網羅的か確認する。
全確率の公式で分母を作る。
最後に確率が0から1に入っているか確認する。

11. 関連教材

関連教材（青の統計学）

確率分布の基礎（動画）

確率密度関数とは？確率質量関数との違いも解説（記事）

統計学応用確率と確率分布

12. 次に読むページ

次は、確率変数、期待値、分散、母関数を整理します。 MGF/PGFは、分布の性質を読み取るための道具であり、準1級では分布表の暗記だけでなく「モーメントをどう取り出すか」が問われます。

確率変数・モーメント・母関数