多次元尺度法のストレス：距離保持性能の評価
ストレスの概念
多次元尺度法（MDS）では、高次元空間の距離情報を低次元空間で再現します。ストレス（Stress）は、この距離保持がどの程度うまくいっているかを測る重要な指標で、MDSの品質評価と次元数決定に使用されます。
ストレスの定義と計算
Step 1: 基本的なストレス定義
最も一般的なKruskalのストレス関数（ストレス-1）：
$\text{Stress} = \sqrt{\frac{\sum_{i\leq j}(d_{ij}-\hat{d}_{ij})^2}{\sum_{i\leq j} d_{ij}^2}}$
ここで：
- $d_{ij}$：低次元の配置での点 $i, j$ の距離
- $\hat{d}_{ij}$：配置距離の目標値。計量MDSでは元の距離（非類似度）$\delta_{ij}$（またはその定数倍）、非計量MDSでは単調回帰で求めた値（disparity）
- $i, j$：データ点のインデックス
Step 2: ストレスの数学的性質
範囲：$\text{Stress} \geq 0$。上限は正規化の仕方に依存し、上の定義（分母が配置距離の二乗和）でも、目標値と配置距離が大きく離れていれば1を超えます。例えば目標値が配置距離の3倍（$\hat{d}_{ij} = 3d_{ij}$）なら $\text{Stress} = \sqrt{\sum (2d_{ij})^2 / \sum d_{ij}^2} = 2$ です。
理想値：
- $\text{Stress} = 0$：完全な距離保持（理想的）
- 値が大きいほど距離の再現が悪い
下の解釈基準は、Kruskalの非計量MDSのストレス（単調回帰で得た値との乖離を配置距離の二乗和で正規化したもの）に対する経験的な目安です。
実用的な解釈基準：
| ストレス値 | 品質評価 | 解釈 |
|---|
| 0.00 - 0.025 | 優秀 | ほぼ完璧な適合 |
| 0.025 - 0.05 | 良好 | 優れた適合、有用 |
| 0.05 - 0.10 | 普通 | 妥当な適合 |
| 0.10 - 0.20 | 不良 | 適合に問題あり |
| 0.20以上 | 非常に不良 | 使用不適切 |
Step 3: 様々なストレス関数
ストレス-1（Kruskalのストレス）：
$\text{Stress-1} = \sqrt{\frac{\sum_{i\leq j} (d_{ij} - \hat{d}_{ij})^2}{\sum_{i\leq j} d_{ij}^2}}$
ストレス-2（正規化ストレス）：
$\text{Stress-2} = \sqrt{\frac{\sum_{i\leq j} (d_{ij} - \hat{d}_{ij})^2}{\sum_{i\leq j} (d_{ij} - \bar{d})^2}}$
ここで、$\bar{d}$は配置距離の平均
Raw Stress（生ストレス）：
$\text{Raw Stress} = \sum_{i\leq j} (d_{ij} - \hat{d}_{ij})^2$
Step 4: 非計量MDSにおけるストレス
非計量MDS（非線形MDS）では、順序関係のみを保持：
$\text{Stress} = \sqrt{\frac{\sum_{i\leq j} (d_{ij} - \hat{d}_{ij})^2}{\sum_{i\leq j} d_{ij}^2}}$
ここで、$\hat{d}_{ij}$は単調回帰により求められた値（disparity）です。式の形は Step 1 と同じです。
単調回帰の役割
非計量MDSでは、距離の絶対値ではなく順序関係を保持します。単調回帰（isotonic regression）により、元の距離の順序を保ちながら、低次元空間の距離に最も近い値$\hat{d}_{ij}$を求めます。
Step 5: ストレスの最適化
MDSアルゴリズムはストレス関数を最小化：
- 初期配置：ランダムまたは主成分分析による初期座標
- 反復改善：勾配降下法やSMACOF算法
- 収束判定：ストレス値の変化が閾値以下
- 局所最適解対策：複数の初期値からの実行
Step 6: SMACOF算法
Scaling by MAjorizing a COmplicated Functionの略：
$X^{(k+1)} = \frac{1}{n} B(X^{(k)}) X^{(k)}$
ここで、$B(X)$は元の非類似度と現在の配置距離の比 $\delta_{ij}/d_{ij}(X)$ から作る行列、$X$は座標行列
Step 7: 次元数の決定
エルボー法：
- 次元数とストレス値をプロット
- ストレスの急激な減少が止まる点を選択
- 計算コストと解釈性のバランス
数値例（架空のデータ）：
| 次元数 | ストレス値 | 改善度 |
|---|
| 1次元 | 0.341 | - |
| 2次元 | 0.125 | 0.216 |
| 3次元 | 0.089 | 0.036 |
| 4次元 | 0.076 | 0.013 |
この例では、ストレスの大きな改善は2次元までで止まります（エルボー）。ただし、2次元のストレス0.125は上の目安では「不良」の範囲です。3次元（0.089、「普通」）と比べ、図の解釈しやすさも合わせて次元数を決めます。