第4章：ロジスティック回帰とオッズ比

Stage 5：回帰・分散分析・応用

この章で学ぶこと

「このメールはスパムか」「この患者は疾患ありか」——目的変数が 0/1 の二値変数であるとき、線形回帰は適切ではありません。

こうした分類問題に対応するのがロジスティック回帰です。また、係数の解釈に使うオッズ比は医学・疫学・社会科学で広く使われる概念です。

1. なぜ線形回帰では不十分か

0/1 の目的変数への線形回帰の問題

$y \in \{0, 1\}$ を線形回帰で予測しようとすると：

$\hat{y} = \hat{\beta}_0 + \hat{\beta}_1 x$

この予測値は「$y = 1$ である確率」と解釈したくなりますが、以下の問題が生じます。

• $x$ が大きいと $\hat{y} > 1$ になる
• $x$ が小さいと $\hat{y} < 0$ になる

確率は $[0, 1]$ の範囲に収まらなければなりません。線形モデルではこれを保証できません。

解決策：確率を S 字型の関数で表す

0 から 1 の範囲に自然に収まる関数が必要です。それがシグモイド関数（ロジスティック関数）です。

2. シグモイド関数とロジット変換

関連教材（青の統計学）

• ロジスティック回帰とオッズ比（動画）
• オッズ比とロジスティック回帰（動画）
• ロジスティック回帰についてわかりやすく解説【二項分布】【統計検定】（記事）

シグモイド関数

$\sigma(z) = \frac{1}{1 + e^{-z}}$

• $z \to +\infty$ のとき $\sigma(z) \to 1$
• $z \to -\infty$ のとき $\sigma(z) \to 0$
• $z = 0$ のとき $\sigma(z) = 0.5$
• 常に $(0, 1)$ の範囲に収まる

オッズ（odds）

確率 $p$ のオッズとは「成功する確率と失敗する確率の比」です。

$\text{odds} = \frac{p}{1-p}$

例：確率 $p = 0.8$ なら $\text{odds} = 0.8/0.2 = 4$（4対1で起きやすい）

ロジット変換（対数オッズ）

オッズの対数をとったものがロジット（logit）です。

$\text{logit}(p) = \ln\left(\frac{p}{1-p}\right)$

• $p = 0.5$ のとき $\text{logit} = 0$
• $p \to 1$ のとき $\text{logit} \to +\infty$
• $p \to 0$ のとき $\text{logit} \to -\infty$

ロジットは $(-\infty, +\infty)$ の範囲をとります。これを説明変数の線形結合でモデル化するのがロジスティック回帰です。

3. ロジスティック回帰モデル

モデルの形

$\ln\left(\frac{p}{1-p}\right) = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \cdots + \beta_k x_k$

あるいは確率 $p$ を直接書くと：

$p = P(y=1 \mid x) = \frac{1}{1 + e^{-(\beta_0 + \beta_1 x_1 + \cdots + \beta_k x_k)}}$

推定方法：最尤推定（MLE）

ロジスティック回帰の係数は最小二乗法ではなく最尤推定（Maximum Likelihood Estimation）で推定します。

観測データが得られる確率（尤度）を最大化するパラメータを求めます。閉形式の解がないため、数値最適化（ニュートン法など）を使います。

係数の有意性検定

Wald 検定：

$z = \frac{\hat{\beta}_j}{\text{SE}(\hat{\beta}_j)} \sim N(0,1)$

（標本が大きいとき）

または尤度比検定（LRT）：

$\Lambda = -2(\ln L_0 - \ln L_1) \sim \chi^2(\Delta k)$

4. オッズ比

定義

ロジスティック回帰の係数 $\hat{\beta}_j$ を指数変換した値がオッズ比（Odds Ratio, OR）です。

$\text{OR}_j = e^{\hat{\beta}_j}$

解釈

$x_j$ が1単位増えたとき、他の変数を固定した状態で、$y = 1$ のオッズが何倍になるか。

例：喫煙（$x_1$：1=喫煙者、0=非喫煙者）と肺がん発症（$y$）のロジスティック回帰で $\hat{\beta}_1 = 1.6$ なら：

$\text{OR} = e^{1.6} \approx 4.95$

「喫煙者は非喫煙者に比べて、肺がん発症のオッズが約5倍」と解釈します。

オッズ比の信頼区間

$\left(e^{\hat{\beta}_j - z_{\alpha/2} \cdot \text{SE}(\hat{\beta}_j)},\ e^{\hat{\beta}_j + z_{\alpha/2} \cdot \text{SE}(\hat{\beta}_j)}\right)$

信頼区間が1 を含まない→ 統計的に有意な関連がある。

確率への変換

オッズ比は確率の比ではありません。具体的な確率が欲しいときは：

$p = \frac{\text{OR}}{1 + \text{OR}}, \quad \text{または直接 } p = \sigma(\hat{\beta}_0 + \hat{\beta}_1 x_1 + \cdots)$

注意：「オッズ比 ≈ 相対危険度（リスク比）」が成り立つのは、$y = 1$ の発生率が低いとき（$p < 0.1$ 程度）のみです。発生率が高い場合はオッズ比が相対危険度を過大評価します。

5. モデルの評価

関連教材（青の統計学）

• 分類問題のモデル評価（動画）
• P値の解釈（動画）
• 【多変量解析】ROC曲線とAUCによる判別分析|python（記事）

混同行列（Confusion Matrix）

ロジスティック回帰の予測（通常 $p > 0.5$ を 1、$p \leq 0.5$ を 0 と判定）を実際の値と比較します。

主な評価指標

$\text{正確度（Accuracy）} = \frac{TP + TN}{TP + FP + FN + TN}$

$\text{感度（Recall / 真陽性率）} = \frac{TP}{TP + FN}$

$\text{特異度（Specificity）} = \frac{TN}{TN + FP}$

$\text{精度（Precision）} = \frac{TP}{TP + FP}$

• 感度（Recall）：実際に陽性のうち、正しく陽性と予測できた割合（「見逃し」の少なさ）
• 特異度：実際に陰性のうち、正しく陰性と予測できた割合（「誤検知」の少なさ）

ROC 曲線と AUC

判定閾値（0.5）を動かすと感度と特異度のバランスが変わります。全ての閾値に対して「感度 vs (1 - 特異度)」をプロットしたのが ROC 曲線です。

AUC（Area Under the Curve）：ROC 曲線の下の面積。

演習問題

問題1

ロジスティック回帰モデルで $\hat{\beta}_0 = -3.0$、$\hat{\beta}_1 = 0.5$ が得られた。$x_1 = 4$ のとき、$y = 1$ となる確率を求めてください。

問題2

ある疾患の発症（$y=1$）を予測するロジスティック回帰で、年齢（$x_1$）の係数 $\hat{\beta}_1 = 0.08$、95%信頼区間は $(0.05, 0.11)$ だった。

(1) オッズ比とその95%信頼区間を求めてください。 (2) オッズ比の解釈を述べてください。

問題3

がん検診のモデルを評価したところ、次の混同行列が得られた。感度・特異度・正確度を計算してください。

まとめ

次の章では、最尤推定（MLE）の考え方をより体系的に学びます。