独立と無相関の違い
分野: 確率
一般の確率変数では、独立は同時分布が周辺の積に分解される強い性質、無相関は共分散が0という2次モーメントの性質です。包含関係を逆にすると、依存しているのに相関0の例を見逃します。
1. 独立の定義
$X$ と $Y$ が独立とは、任意の（適切な）集合について $P(X\in A, Y\in B)=P(X\in A)P(Y\in B)$、密度があれば $f(x,y)=f_X(x)f_Y(y)$ です。
2. 独立 ⇒ 無相関
独立なら $E[XY]=E[X]E[Y]$ が成り立ち（期待値が存在すれば）、
$\mathrm{Cov}(X,Y)=E[XY]-E[X]E[Y]=0$
よって無相関です。線形の関連がなくても、独立はあらゆる関数的関連を否定します。
3. 無相関 ⇏ 独立
典型例は $X\sim$ 対称な分布、$Y=X^2$ です。奇数モーメントが0なら $\mathrm{Cov}(X,Y)=0$ でも $Y$ は $X$ の関数で従属です。円周上の一様点の座標なども、相関0で独立ではありません。
4. 正規の例外は一般論にしない
二変量正規に従うときは無相関と独立が同値、という特別な定理があります。本問は分布を限定していないので、この同値を一般法則にしてはいけません。
5. 選択肢の検討
- 無相関なら常に独立 → 誤り。一般には成り立ちません。
- 同じ概念 → 誤り。強さが違います。
- 0なら必ず独立 → 誤り。正規に限った話を一般化しています。
- 独立でも無相関とは限らない → 誤り。期待値が存在すれば独立なら無相関です。
- 独立⇒無相関、逆は一般に不成立 → 正しい。
相関0は「直線的な関連がない」だけ
散布図がU字や円なら相関は小さくても従属です。独立を相関だけで判定しない。
回帰の $R^2=0$ も線形の説明力が0なだけです。非線形は残差プロットで拾います。
6. 散布図で区別する
横に細長い楕円は線形関連＝相関あり。円周に一様に乗った点は相関0に近くても従属。V字・U字も相関が相殺されて0に近くなり得ます。独立なら、xの値を知ってもyの条件付き分布が変わりません。無相関は「直線の傾きが0」に近い情報しかありません。
二変量正規だけは例外的に同値、と注記します。試験で「一般に」とあれば例外を正解にしない。「独立でも無相関とは限らない」は、期待値が存在する通常の設定では誤りです。包含は一方通行です。
回帰で相関0を「関係なし」と書くと、非線形を見落とします。残差診断と同じ精神です。
包含関係を矢印で書くと、独立 → 無相関、であり逆矢印には「一般には×、二変量正規なら○」と注記します。試験文に「分布を限定しない」とあれば、正規の同値を一般化しない。$Y=X^2$ の例は、従属なのに奇数モーメントが消えて共分散0、という反例の定番です。相関は直線、独立は任意の関数、と強さを比べます。
共分散は積の期待値から平均の積を引いた量で、線形の共変動だけを見ます。独立は同時分布の分解で、あらゆる可測な関数の共変動を0にします。強さが違うので、検定で相関0を棄却できないことを独立の証拠にしてはいけません。逆に独立を仮定して積の確率を掛けるときは、無相関だけでは不足です。
一般論の矢印は独立⇒無相関のみです。逆は二変量正規などの追加仮定が要ります。無相関なら独立、両者は同じ、独立でも無相関とは限らない、は包含を逆向きにしています。相関0は直線的関連がない、という以上の主張には使えません。U字の散布図がその反例です。独立を仮定して確率を掛けるときは、無相関だけでは根拠不足です。試験では「一般に」とあれば正規の同値を選ばない。
したがって、正しいのは「独立なら無相関だが、無相関でも独立とは限らない」です。