MDS・正準相関・対応分析・数量化法

Stage 5 — 第3章 | 統計検定準1級チートシート推定学習時間：90〜110分 | 難易度：★★★★☆

このページで押さえること

このページの手法は、PCAや回帰ほど単純な公式問題にはなりにくい一方、目的別の使い分けで差がつきます。距離を低次元に配置するのがMDS、2組の変数群の関連を見るのが正準相関、分割表の行・列カテゴリを同時に配置するのが対応分析です。

このページを終えると、こんなことができるようになります：

MDSを距離行列から低次元配置を作る方法として説明できる
正準相関分析を2組の線形結合の相関最大化として説明できる
対応分析を分割表の行カテゴリ・列カテゴリの同時可視化として説明できる
数量化法をカテゴリ変数の多変量解析として整理できる
目的別に多変量手法を選べる

2級ではここまで、準1級ではここが増える

2級では、2変数の関連は相関係数や共分散まで、カテゴリの関連は分割表のカイ二乗検定までが中心でした。多変数の関連をまとめて低次元の図に落とす発想は、ほぼ扱いません。

準1級では、距離・非類似度を低次元へ配置するMDS、2組の変数群の関連を最大化する正準相関、分割表の行・列カテゴリを同時に布置する対応分析まで、目的に応じて使い分けます。

観点	2級でのレベル	準1級で増える点
変数間の関連	2変数の相関係数・共分散	2組の変数群の関連（正準相関）
距離・類似度	（ほぼ扱わない）	距離行列を低次元に配置（MDS）
カテゴリの関連	分割表のカイ二乗検定	行・列カテゴリの同時布置（対応分析）

つまり準1級では「関連があるか」で止まらず、多変数・2組・カテゴリの関連構造を低次元の図として読むことが問われます。差がつくのは、図の軸や近さを過剰解釈せず、ストレスや寄与率と合わせて慎重に読む姿勢です。

1. 多次元尺度法

多次元尺度法（MDS）は、対象間の距離や非類似度が与えられたとき、それをなるべく保つように低次元空間へ配置する方法です。

対象 $i,j$ の非類似度を

\delta_{ij}

とします。低次元上の座標を $z_i$ とし、距離

d_{ij}=\|z_i-z_j\|

が $\delta_{ij}$ に近くなるようにします。

古典的MDSでは、距離行列から内積行列を復元し、固有値分解で座標を求めます。中心化行列を

J=I-\frac{1}{n}\mathbf{1}\mathbf{1}^\top

とし、二乗距離行列を $D^{(2)}$ とすると、

B=-\frac{1}{2}JD^{(2)}J

を作ります。 $B$ を固有値分解し、上位固有値と固有ベクトルから座標を得ます。

この $B$ は、距離行列を二重中心化して内積（類似度）の形に戻したものです。距離のままでは扱いにくいので、いったん内積に直すことで固有値分解という線形代数の道具が使え、上位の固有値が大きいほど少ない次元で元の距離をよく再現できます。

📘 前提知識：低次元配置は「距離や関連の要約」

MDSや対応分析の図は、元データの構造を見やすい平面へ押し込めたものです。近い点は似ている可能性がありますが、軸の向きや原点からの距離を機械的に意味づけると誤読します。ストレスや寄与を合わせて見て、どれくらい元の構造が保たれているかを確認します。

2. MDSの読み方

MDSの図では、近い点ほど非類似度が小さいと読みます。ただし、軸そのものにPCAのような明確な意味があるとは限りません。回転や反転をしても距離関係は保たれるため、軸名を過剰に解釈しないことが重要です。

非計量MDSでは、距離の順位関係を保つことを重視します。ストレス関数を小さくする配置を探します。

Stress=\sqrt{ \frac{\sum_{i\lt j}(d_{ij}-\hat{d}_{ij})^2} {\sum_{i\lt j}d_{ij}^2} }

ストレスが小さいほど、低次元配置が非類似度をよく表します。

3. 小さな計算例：コサイン類似度から距離をつくる

MDSは非類似度（距離）行列を入力にしますが、その距離はしばしば「類似度」から作ります。ここでは、2つのベクトルのコサイン類似度を計算し、距離へ変換する短い例を見ます。

2つのベクトルを

x=(1,0,1),\qquad y=(1,1,0)

とします。コサイン類似度は、内積をそれぞれのノルムで割った量です。

\cos\theta=\frac{x^\top y}{\|x\|\,\|y\|}

内積は $x^\top y=1\cdot1+0\cdot1+1\cdot0=1$、ノルムは $\|x\|=\sqrt{2}$、$\|y\|=\sqrt{2}$ なので、

\cos\theta=\frac{1}{\sqrt2\cdot\sqrt2}=\frac{1}{2}=0.5

です。コサイン類似度は向きの近さを $-1$ から $1$ で測る量で、$1$ に近いほど似ています。類似度 $s$ を非類似度（距離）に直す簡単な方法は

\[ d=1-s=1-0.5=0.5 \]

です。こうして得た非類似度を並べた行列がMDSの入力になります。試験では、内積・ノルム・コサインの計算を正確に行い、「類似度が大きい＝距離が小さい」という向きの対応を取り違えないことが要点です。

関連教材（青の統計学）

コサイン類似度とは？（動画）

統計学応用多変量解析の演習

4. 正準相関分析

📘 前提知識：正準相関は「2つのグループの代表スコアの相関」

学力テスト群と生活習慣群のように、変数のかたまりが2つあるとします。各群を1本の合成得点（線形結合）にまとめ、その2つの合成得点ができるだけ強く相関するように重みを選ぶのが正準相関です。普通の相関係数が「2変数の関連」を測るのに対し、正準相関は「2つの変数群の関連」を1つの数にまとめます。

2組の変数群 $X\in\mathbb{R}^p$、$Y\in\mathbb{R}^q$ があるとします。正準相関分析は、線形結合

U=a^\top X,\qquad V=b^\top Y

の相関

\[ Corr(U,V) \]

を最大にする $a,b$ を求めます。

ここで $U,V$ は各変数群を1次元に圧縮した代表スコアで、その相関を最も高くする重み $a,b$ を探しています。得られた最大値が第1正準相関で、$0$ に近ければ2群はほとんど関連せず、$1$ に近ければ強く連動します。

PCAが1組の変数群の分散を最大化するのに対し、正準相関分析は2組の変数群の関連を最大化します。たとえば、学力テスト群と生活習慣変数群の関連を見るような場面です。

第1正準相関の後は、それと無相関になるように第2、第3の正準変量を求めます。

関連教材（青の統計学）

相関係数と共分散（動画）

統計学応用多変量解析の演習

5. 対応分析

対応分析は、分割表の行カテゴリと列カテゴリの関連を低次元空間で可視化する方法です。観測度数表を $N=(n_{ij})$ とし、総数を $n$ とします。対応行列を

P=\frac{1}{n}N

とします。行周辺比率を $r$、列周辺比率を $c$ とします。独立なら期待される対応行列は

rc^\top

です。対応分析は、$P-rc^\top$ のズレを、カイ二乗距離の意味で低次元に表します。

分割表の独立性検定と同じく、行カテゴリと列カテゴリの関連を見る手法です。対応分析のプロットでは、近いカテゴリ同士に関連があると読みますが、原点からの距離や寄与率も確認します。

ここで $rc^\top$ は「行と列が独立なら期待される対応行列」で、観測した $P$ がそこからどれだけズレるかが関連の正体です。対応分析は、このズレをカイ二乗距離の意味で最もよく説明する軸を取り出して低次元に配置します。

次の図では、入力データの型（距離行列・2組の変数群・分割表）と目的に応じて、MDS・正準相関・対応分析がどう棲み分けるかを見る。

MDS、正準相関分析、対応分析を入力データと目的で比較する図

入力が非類似度行列ならMDS、2組の変数群なら正準相関、分割表なら対応分析、と目的別に対応づく。

6. 数量化法

数量化法は、カテゴリデータを数量化して多変量解析を行う日本でよく扱われる枠組みです。代表的には次のように整理します。

手法	目的変数	説明変数	近い考え方
数量化I類	量的	カテゴリ	回帰分析
数量化II類	カテゴリ	カテゴリ	判別分析
数量化III類	なし	カテゴリ	対応分析
数量化IV類	距離・類似度	対象間関係	MDS

準1級では、細かな計算よりも、目的変数の有無と型からどの類型かを選ぶ問題が重要です。

7. 多変量手法の目的別整理

目的	データ	代表手法	キーワード
分散を要約	量的変数群	PCA	固有値・寄与率
潜在因子を推定	量的変数群	因子分析	因子負荷量
群を分類	ラベルあり	判別分析/SVM	境界・ROC
群を発見	ラベルなし	クラスタリング	距離
距離を可視化	非類似度行列	MDS	低次元配置
2組の関連	量的変数群2組	正準相関	線形結合
分割表を可視化	カテゴリ×カテゴリ	対応分析	カイ二乗距離

8. 問題文トリガー辞書

問題文の表現	選ぶ手法	見る量	典型ミス
「距離行列」	MDS	低次元配置	PCAにする
「非類似度の順位」	非計量MDS	ストレス	軸を過剰解釈
「2組の変数群」	正準相関分析	正準相関	単なる相関行列で済ませる
「分割表の行列カテゴリ」	対応分析	カイ二乗距離	独立性検定だけで終える
「カテゴリ説明変数で量的目的変数」	数量化I類	回帰型	数量化II類と混同
「カテゴリデータの構造」	数量化III類	対応分析型	クラスタリングと混同

9. 典型ミス・ひっかけ

ミス	なぜ危ないか	防ぎ方
MDSの軸に固定的な意味を付ける	距離保存が主目的	点間距離を中心に読む
正準相関をPCAと同じと考える	2組の関連を最大化する	入力が1組か2組か確認
対応分析を回帰分析として扱う	分割表の関連構造を見る	行・列カテゴリを同時に読む
数量化法を名前暗記だけにする	類型は目的変数で決まる	目的変数の有無と型を見る
対応分析の近さを無条件に関連と読む	寄与や原点からの距離も必要	プロットの読み方を確認

10. 解法テンプレ

低次元布置・関連の可視化の問題は、次の順で処理します。

入力データの型を確認する（非類似度行列・2組の変数群・分割表のどれか）。
距離行列ならMDS、2組の変数群なら正準相関、分割表なら対応分析、と目的別に対応づける。
MDSなら、計量か非計量かを見て、配置の良さをストレスで評価する。
正準相関なら、2群を代表スコアに圧縮し、その相関の大きさ（第1正準相関）を読む。
対応分析なら、独立期待 $rc^\top$ からのズレをカイ二乗距離で読み、寄与率と原点からの距離も確認する。
図の軸名や近さを過剰に意味づけず、回転・反転に対する不変性に注意する。
カテゴリデータなら、目的変数の有無と型から数量化法の類型を選ぶ。

11. ここで1問

低次元布置の手法を整理したら、演習で「入力データの型」から手法を選ぶ練習をします。

このページの確認問題

統計学応用多変量解析

まず解く: MDS、正準相関、対応分析、数量化法

目標: 入力データの型から多変量手法を選べる

関連教材（青の統計学）

コサイン類似度とは？（動画）

相関係数と共分散（動画）

統計学応用多変量解析の演習

12. 次に読むページ

次は、分割表、オッズ比、対数線形モデル、グラフィカルモデルを扱います。カテゴリデータの関連を、検定からモデルへ広げます。

分割表・対数線形モデル・グラフィカルモデル