GLM・ロジスティック回帰・生存時間解析

Stage 4 — 第2章 | 統計検定準1級チートシート推定学習時間：100〜120分 | 難易度：★★★★☆

このページで押さえること

GLMは、重回帰を「正規分布の平均モデル」から「指数型分布族の平均モデル」へ広げた枠組みです。ロジスティック回帰、プロビット、ポアソン回帰、生存時間解析は、目的変数の型に応じて線形予測子をどう平均やリスクへつなぐかで理解します。

このページを終えると、こんなことができるようになります：

GLMを分布、線形予測子、リンク関数の3部品で説明できる
ロジスティック回帰の係数をオッズ比として読める
プロビットとロジットの違いをリンク関数として説明できる
ポアソン回帰でオフセットを使う意味を説明できる
生存時間解析のハザード、打ち切り、比例ハザードを整理できる

2級ではここまで、準1級ではここが増える

2級では、回帰といえば正規分布を前提とした線形回帰が中心で、目的変数は連続量でした。二値やカウントの応答は、せいぜいクロス集計や比率の検定として別枠で扱われます。

準1級では、これらを1つの枠組み（GLM）として統一し、目的変数の型に応じて分布とリンク関数を選びます。

観点	2級でのレベル	準1級で増える点
応答	連続量（正規）	二値・カウント・生存時間も統一的に
つなぎ方	平均をそのまま線形	リンク関数 $g(\mu)=x^\top\beta$
係数解釈	平均の増分	オッズ比・率比・ハザード比
推定	最小二乗	最尤法（多くは数値最適化）

つまり準1級では「正規回帰の外」に出て、分布・線形予測子・リンク関数の3部品でモデルを組み立て、係数を $\exp(\beta)$ などで正しく読み替えられることが問われます。

1. GLMの3部品

一般化線形モデルは、次の3部品で構成されます。

部品	内容	例
確率分布	応答変数の分布	正規、二項、ポアソン
線形予測子	説明変数の線形結合	$\eta=X\beta$
リンク関数	平均と線形予測子を接続	$g(\mu)=\eta$

応答の平均を

\mu_i=E[Y_i]

とすると、GLMでは

g(\mu_i)=\eta_i=x_i^\top\beta

と置きます。通常の線形回帰は、正規分布と恒等リンク

g(\mu)=\mu

を使うGLMです。

📘 前提知識：リンク関数は「平均を線形予測子へつなぐ変換」

二値応答の平均は確率なので、必ず0から1の範囲にあります。カウント応答の平均は正の値です。 GLMでは、この制約を壊さないように、ロジットや対数リンクで平均と $x^\top\beta$ を接続します。

関連教材（青の統計学）

GLM（動画）

統計学応用回帰分析の演習

2. 指数型分布族と正準リンク

指数型分布族は、

f(y;\theta,\phi)= \exp\left\{\frac{y\theta-b(\theta)}{a(\phi)}+c(y,\phi)\right\}

の形で書けます。ここで $\theta$ は自然母数、$\phi$ は分散に関わるパラメータです。平均は

E[Y]=b'(\theta)

分散は

Var(Y)=b''(\theta)a(\phi)

です。

正準リンクは、線形予測子を自然母数に等しくするリンクです。

\eta=\theta

二項分布ではロジットリンク、ポアソン分布ではログリンクが正準リンクです。

3. ロジスティック回帰

二値応答 $Y_i\in\{0,1\}$ に対し、

P(Y_i=1\mid x_i)=p_i

とします。ロジスティック回帰では、

\log\frac{p_i}{1-p_i}=x_i^\top\beta

と置きます。左辺はロジット、つまりオッズの対数です。

\frac{p_i}{1-p_i}

がオッズです。説明変数 $x_j$ が1増えると、他の変数を固定したオッズは

\exp(\beta_j)

倍になります。

尤度はベルヌーイ分布から

L(\beta)=\prod_{i=1}^{n}p_i^{y_i}(1-p_i)^{1-y_i}

です。通常、閉形式解はなく、数値最適化で推定します。

ここで押さえるべきは「係数は確率の増分ではなく、対数オッズの増分」という点です。$\beta_j$ そのものではなく $\exp(\beta_j)$ をオッズ比として読むのが、ロジスティック回帰の解釈の核になります。

関連教材（青の統計学）

ロジスティック回帰とオッズ比（動画）

統計学応用回帰分析の演習

4. プロビット回帰

📘 前提知識：プロビットは「見えない連続量がしきい値を超えたか」モデル

二値の結果の裏に、観測できない連続的な「傾向」 $y^\ast=x^\top\beta+\varepsilon$ があると考えます。この潜在変数があるしきい値を超えたときに $Y=1$ になる、という見方です。誤差 $\varepsilon$ に標準正規を仮定するとプロビット、ロジスティック分布を仮定するとロジットになります。

プロビット回帰では、標準正規分布の分布関数 $\Phi$ を使い、

\Phi^{-1}(p_i)=x_i^\top\beta

と置きます。したがって、

p_i=\Phi(x_i^\top\beta)

です。

ロジットとプロビットはどちらも二値応答のモデルです。違いはリンク関数です。ロジットはオッズ比として解釈しやすく、プロビットは潜在正規変数モデルとして解釈しやすいです。

関連教材（青の統計学）

潜在変数と回帰分析（プロビット/トービット）（動画）

統計学応用回帰分析の演習

5. ポアソン回帰

カウントデータ $Y_i$ に対し、

Y_i\sim Poisson(\lambda_i)

とします。ポアソン回帰ではログリンクを使います。

\log \lambda_i=x_i^\top\beta

したがって、

\lambda_i=\exp(x_i^\top\beta)

です。説明変数 $x_j$ が1増えると、期待カウントは $\exp(\beta_j)$ 倍になります。

観測時間や曝露量 $t_i$ が異なる場合は、

\log \lambda_i=\log t_i+x_i^\top\beta

とします。 $\log t_i$ は係数1で固定されたオフセットです。率を比較する場面ではオフセットが重要です。

6. 過分散

ポアソン分布では、

E[Y]=Var(Y)=\lambda

です。しかし実データでは、

Var(Y)\gt E[Y]

となる過分散がよく起こります。過分散を無視すると、標準誤差が小さく見積もられ、有意になりやすくなります。

過分散への対応には、準ポアソン、負の二項回帰、ロバスト標準誤差などがあります。試験では「平均と分散が等しい」というポアソンの仮定を確認します。

7. 生存時間解析と打ち切り

生存時間 $T$ では、イベント発生までの時間を扱います。生存関数は

S(t)=P(T\gt t)

です。ハザード関数は、時刻 $t$ まで生存している条件の下で、直後にイベントが起こる瞬間的な発生率です。

h(t)=\lim_{\Delta t\to 0} \frac{P(t\le T\lt t+\Delta t\mid T\ge t)}{\Delta t}

打ち切りは、イベント時刻が完全には観測されない状況です。右打ち切りでは、「少なくともこの時点まではイベントが起きていない」ことだけが分かります。打ち切りを単純に除外すると、推定が偏ります。

比例ハザードモデルでは、

h(t\mid x)=h_0(t)\exp(x^\top\beta)

と置きます。係数はハザード比として解釈します。

次の図では、応答変数が連続、二値、カウントのどれかを見て、分布、リンク関数、係数解釈を選ぶ。

応答変数の型からGLMの分布、リンク関数、係数解釈へ分岐する図

GLMは、応答変数の型に合わせて分布を選び、リンク関数で平均を線形予測子へつなぐ。

二値ならロジットやプロビット、カウントならログリンクというように、線形予測子そのものではなく平均をどう変換するかがGLMの要点である。

次の図では、個体ごとの観察期間、イベント、右打ち切りを時間軸で見る。

個体別のイベント時刻と右打ち切り、Kaplan-Meier型の生存曲線、ハザードの考え方を示す図

右打ち切りは「時刻不明」ではなく、観察終了時点まではイベントが起きていないという情報を持つ。

生存関数は $S(t)=P(T\gt t)$、ハザードはその時点まで生存している条件のもとで直後にイベントが起きる瞬間的な率である。Cox比例ハザードモデルでは、係数をハザード比として解釈する。

関連教材（青の統計学）

生存時間解析（動画）

統計学応用回帰分析の演習

8. ニューラルネットワークとの接続

準1級範囲では、ニューラルネットワークを高度な深層学習として掘り下げるより、GLMとの接続で理解します。ロジスティック回帰は、

p=\sigma(x^\top\beta)

の形です。ここで

\sigma(z)=\frac{1}{1+e^{-z}}

はシグモイド関数です。ニューラルネットワークは、線形変換と非線形変換を層として重ねるモデルです。

h=\phi(Wx+b)

出力層でシグモイドやソフトマックスを使えば、分類確率を表せます。統計検定の文脈では、過学習、正則化、交差検証、損失関数との対応を押さえます。

9. 小さな計算例：ロジスティック回帰の係数をオッズ比で読む

ロジスティック回帰の係数を、確率とオッズ比の両面から1つの数値例で確認します。あるモデルが

\log\frac{p}{1-p}=-2+0.8\,x

と推定されたとします。説明変数 $x$ を年齢（10歳単位）などと考えます。

まず $x=1$ のときの確率を求めます。ロジットは

\log\frac{p}{1-p}=-2+0.8\times1=-1.2

なので、

p=\frac{1}{1+e^{1.2}}=\frac{1}{1+3.320}\approx0.231

です。次に、$x$ が1増えたときのオッズの変化を見ます。係数 $0.8$ に対し、オッズは

\exp(0.8)\approx2.23

倍になります。つまり「$x$ が1増えると確率が $0.8$ 増える」のではなく、「オッズが約2.23倍になる」と読むのが正しい解釈です。確率そのものの増分は、出発点の $p$ によって変わります（$p$ が0や1に近いほど増分は小さい）。

確認すること	数式	値
$x=1$ のロジット	$-2+0.8\times1$	$-1.2$
$x=1$ の確率	$1/(1+e^{1.2})$	$\approx0.231$
1単位増のオッズ比	$\exp(0.8)$	$\approx2.23$

試験では、出力された係数を「対数オッズ → オッズ比 → 確率」の順で読み替える練習が要点です。

10. 問題文トリガー辞書

問題文の表現	選ぶモデル	リンク・解釈	典型ミス
「二値応答」	ロジスティック/プロビット	ロジット/プロビット	線形回帰で確率を直接予測
「オッズ比」	ロジスティック	$\exp(\beta)$	係数を確率差と読む
「カウント」	ポアソン回帰	ログリンク	正規回帰にする
「観測時間が異なる」	ポアソン+オフセット	$\log t$	曝露量を無視
「過分散」	負の二項など	分散が平均超過	標準誤差を過小評価
「打ち切り」	生存時間解析	生存関数・ハザード	打ち切りを欠測として削除
「ハザード比」	Coxモデル	$\exp(\beta)$	オッズ比と同一視

11. 典型ミス・ひっかけ

ミス	なぜ危ないか	防ぎ方
ロジスティック係数を確率の増分と読む	係数は対数オッズの増分	$\exp(\beta)$ をオッズ比で読む
プロビットとロジットを別分布の目的変数と考える	どちらも二値応答	リンク関数の違いで整理
ポアソン回帰で曝露量を無視する	率ではなくカウント差になる	オフセットを確認
過分散を見ない	p値が小さくなりやすい	平均と分散、残差逸脱度を見る
打ち切りを通常の欠測として削除する	生存時間の情報を捨てる	打ち切り情報を尤度に入れる

12. 解法テンプレ

GLM系の問題が出たら、次の順で処理します。

応答変数の型を確認する（連続・二値・カウント・生存時間のどれか）。
型に合う分布を選ぶ（正規・二項・ポアソン・指数/Weibullなど）。
リンク関数を決める（恒等・ロジット/プロビット・対数）。
線形予測子 $\eta=x^\top\beta$ を組み、$g(\mu)=\eta$ で平均につなぐ。
係数の解釈を型に合わせて読み替える（オッズ比・率比・ハザード比）。
カウントなら過分散、生存時間なら打ち切り、率比較ならオフセットを確認する。
推定は多くが最尤・数値最適化で、有意性は逸脱度や尤度比で評価する。

13. ここで1問

応答変数の型を最初に見極めると、選ぶモデルと係数の読み方が一本に定まります。

このページの確認問題

統計学応用回帰分析

機械学習基礎ロジスティック回帰

まず解く: ロジスティック回帰、ポアソン回帰、過分散、生存時間

目標: 応答変数の型からモデルと係数解釈を選べる

関連教材（青の統計学）

ロジスティック回帰とオッズ比（動画）

生存時間解析（動画）

統計学応用回帰分析の演習

14. 次に読むページ

次は、AIC、BIC、交差検証、ステップワイズ、過学習を扱います。モデルを当てはめた後に、どのモデルを選ぶかを整理します。

モデル選択・交差検証