統計検定準1級チートシート
Stage 1 — 第1章 | 統計検定準1級チートシート 推定学習時間:90〜120分 | 難易度:★★★★☆
このチートシートの目的
このチートシートは、公式暗記表ではありません。 統計検定準1級の問題文を読んだときに、何を見て、どの分布・推定法・検定・モデルへ落とすかを判断するための地図です。
詳細ページへ戻るときは、次の単位で探すと迷いにくくなります。
- 確率・分布: 確率法則、確率変数、極限定理、離散分布、連続分布、多変量正規、標本分布。
- 推測: 十分統計量、推定量の性質、Fisher情報量、漸近正規性、信頼区間、検定、ノンパラメトリック。
- モデル: OLS、回帰診断、GLM、ロジスティック/プロビット、生存時間解析、モデル選択、ANOVA、標本調査。
- 多変量・時系列: PCA、因子分析、SEM、判別、SVM、ROC、MDS、対応分析、分割表、ARMA/ARIMA、確率過程。
- ベイズ・計算: 事前分布、共役更新、階層ベイズ、MCMC、ブートストラップ、欠測、EM、ロバスト統計、情報理論。
準1級では、2級までの「平均ならt検定」「分散ならカイ二乗検定」のような定型処理だけでは足りません。 標本分布、漸近近似、十分統計量、尤度比検定、GLM、多変量解析、時系列、ベイズ、確率過程などが横断的に出てきます。 したがって、最初にやるべきことは、細かい式を全部覚えることではなく、問題文から論点を分類することです。
このページを終えると、こんなことができるようになります:
- 問題文の表現から、使う分布・検定・モデルの候補を絞れる
- 母分散既知/未知、対応あり/なし、独立性、正規性、標本サイズを先に確認できる
- 推定量の性質、不偏性、一致性、有効性、十分性を区別できる
- LRT、Wald、Score、正確検定、ノンパラメトリック検定の使い分けを整理できる
- PCA、因子分析、判別分析、クラスタリング、時系列、ベイズを目的別に見分けられる
- 不安な分野から
/practice/statistics-applied/の演習へ戻れる
関連教材(青の統計学)
1. 試験中に最初に見る条件
問題を読んだら、計算を始める前に次の条件を丸で囲むつもりで確認します。 準1級の失点は、難しい定理を知らないことより、条件を読み落として別の公式を使うことで起きます。
| まず見る条件 | 判断すること | 典型ミス |
|---|---|---|
| 離散か連続か | 和で計算するか、積分で計算するか | 連続型の一点確率を正の値として扱う |
| 独立か非独立か | 分散が足し算できるか、共分散が残るか | 無条件に $Var(X+Y)=Var(X)+Var(Y)$ とする |
| 母分散は既知か未知か | z型かt型か | 母分散未知なのに標準正規分布を使う |
| 対応ありか独立2標本か | 差の1標本か、2標本比較か | 対応ありを独立2標本として解く |
| 正規性があるか | 厳密なt/カイ二乗/Fか、近似か | 小標本で正規近似を乱用する |
| 標本サイズは大きいか | CLTや漸近正規性が使えるか | 「漸近的に」を小標本にもそのまま使う |
| パラメータ制約があるか | 尤度比検定や自由度を決める | 制約数と自由度を取り違える |
| 観測値かカテゴリ表か | 平均・分散の問題か、度数表の問題か | 分割表に相関係数を使おうとする |
計算済みの値が問題文に与えられている場合もあります。 平均、分散、標準誤差、自由度、検定統計量、尤度、AIC、固有値、寄与率が与えられていないか先に探してください。
2. 問題文トリガー辞書
準1級では、「この語が出たら何を疑うか」を持っているだけで処理速度が大きく変わります。 以下は最初に覚えるべきトリガーです。
| 問題文の表現 | 判断する論点 | 使う公式・手法 | 確認条件 | 典型ミス |
|---|---|---|---|---|
| 「母分散は未知」 | 平均の推定・検定 | t分布 | 正規母集団または大標本か | z分布にしてしまう |
| 「分散比」 | 2群の分散比較 | F分布 | 独立な正規母集団か | 分子分母の自由度を逆にする |
| 「標本分散」 | カイ二乗型の標本分布 | $\chi^2$分布 | $n-1$自由度か | $n$自由度にする |
| 「十分統計量」 | 推定理論 | Neyman-Fisher分解定理 | 尤度をデータ依存部で分解できるか | MLEと混同する |
| 「不偏」「一致」「有効」 | 推定量の性質 | 期待値、確率収束、分散比較 | 有限標本か漸近か | すべて同じ良さだと思う |
| 「漸近的に」 | 大標本近似 | CLT、MLE漸近正規性、デルタ法 | $n\to\infty$ の近似か | 小標本で厳密分布のように使う |
| 「対応のある2群」 | 差の1標本問題 | paired t | 同じ対象を2回測っているか | 独立2標本として解く |
| 「カテゴリ×カテゴリ」 | 分割表 | 独立性検定、対数線形モデル | 度数表か、期待度数は十分か | 相関係数で見ようとする |
| 「AIC/BIC」 | モデル選択 | 情報量規準 | 小さい方がよい | 当てはまりの良さだけと解釈する |
| 「ACFが減衰、PACFが打ち切り」 | 時系列識別 | ARモデル | 定常系列か | MAと逆に覚える |
| 「PACFが減衰、ACFが打ち切り」 | 時系列識別 | MAモデル | 定常系列か | ARと逆に覚える |
| 「共役事前分布」 | ベイズ更新 | Beta-Binomial、Normal-Normalなど | 尤度と事前の形が対応するか | 尤度と事前を逆にする |
| 「マルコフ性」 | 確率過程 | 推移確率、定常分布 | 現在だけで未来が決まるか | 独立性と混同する |
詳しい確率法則・条件付き確率・ベイズの整理は、確率法則・条件付き確率・ベイズで扱います。
3. 全範囲の理論背景マップ
準1級では、公式そのものよりも、その公式がどの定義・定理・近似から出てくるかを見失ったときに崩れます。 ここでは特定トピックだけを深掘りせず、確率、分布、推定、検定、回帰、多変量、時系列、ベイズ、計算、情報理論までを同じ粒度で横断します。 各詳細ページでは、この表の1セルを「定義 → 導出 → 例題 → 典型ミス」へ展開します。
| 理論を見る順番 | 何を確認するか | 例 |
|---|---|---|
| 1. 定義 | 何を対象にした量か | 確率、期待値、尤度、情報量、残差平方和 |
| 2. 定理・近似 | 何を使って式を変形するか | 加法性、Taylor展開、CLT、Cauchy-Schwarz、射影定理 |
| 3. 保証すること | どの条件で何が言えるか | 不偏性、一致性、最小分散、漸近正規性、独立性 |
| 4. 試験での使い方 | 問題文のどの表現に反応するか | 「母分散未知」「十分統計量」「分散比」「ACF/PACF」 |
3.1 確率の基礎・条件付き確率
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| 確率の公理 | 非負性、全体確率1、可算加法性 | 排反和に分解できれば確率を足せる。 | 包除、全確率、分割の問題で使う。 |
| 包除原理 | $P(A\cup B)=P(A)+P(B)-P(A\cap B)$ | 重複して数えた共通部分を引く。 | 「少なくとも一方」「どちらか」が出たら確認する。 |
| 条件付き確率 | $P(A|B)=P(A\cap B)/P(B)$ | 標本空間を $B$ の中に制限した確率。 | 「〜であるとき」「条件の下で」に反応する。 |
| 全確率 | $A=\bigcup_i(A\cap B_i)$ | 分割 $B_i$ ごとに $A$ を足し上げる。 | 潜在クラス、事前確率、混合分布で使う。 |
| ベイズの定理 | $P(B_j|A)=P(A|B_j)P(B_j)/\sum_iP(A|B_i)P(B_i)$ | 乗法定理を2通りに読んで反転する。 | 「陽性のとき本当に罹患?」型の逆確率。 |
| 独立性 | $P(A\cap B)=P(A)P(B)$ | 条件を知っても確率が変わらない。 | 積にできるか、分散を足せるかを判断する。 |
| 条件付き独立 | $P(A\cap B|C)=P(A|C)P(B|C)$ | $C$ を固定した世界で独立かを見る。 | グラフィカルモデル、層別、交絡の問題で使う。 |
証明スケッチは、全確率なら $A=\bigcup_i(A\cap B_i)$ と排反分解し、ベイズなら $P(A\cap B)=P(A|B)P(B)=P(B|A)P(A)$ を並べ替えるだけです。 この「分けて足す」「交差を2通りに読む」が確率分野の土台です。
3.2 確率変数・分布関数・母関数
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| 確率変数 | 標本点を数値へ写す関数 | 事象の確率を数値の分布として扱う。 | 離散/連続、PMF/PDF/CDFを切り替える。 |
| 期待値 | $E[X]=\sum xp(x)$ または $\int xf(x)dx$ | 分布に対する重み付き平均。 | 変換後の期待値は $E[g(X)]$ で直接計算する。 |
| 分散 | $Var(X)=E[X^2]-E[X]^2$ | 平均まわりの二乗距離。 | 線形変換、独立和、標準化で使う。 |
| 共分散・相関 | $Cov(X,Y)=E[(X-\mu_X)(Y-\mu_Y)]$ | 同時に増減する向きと強さ。 | 独立なら0。ただし0でも独立とは限らない。 |
| CDF | $F(x)=P(X\le x)$ | 密度・確率質量を累積する。 | 変数変換、分位点、確率計算の入口。 |
| 生存関数・ハザード | $S(t)=1-F(t)$, $h(t)=f(t)/S(t)$ | まだ起きていない条件下での瞬間発生率。 | 信頼性、指数分布、比例ハザードで使う。 |
| PGF/MGF | $G_X(s)=E[s^X]$, $M_X(t)=E[e^{tX}]$ | 分布の情報を関数にまとめる。 | 和の分布、モーメント、CLTの導出で使う。 |
母関数は「微分して0を代入するとモーメントが出る」と覚えます。 $M'_X(0)=E[X]$、$M''_X(0)=E[X^2]$ なので、分散は $M''_X(0)-\{M'_X(0)\}^2$ です。 独立和では $M_{X+Y}(t)=M_X(t)M_Y(t)$ となるため、二項分布やガンマ分布の和の理解につながります。
3.3 代表分布・標本分布
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| ベルヌーイ・二項 | 独立な0/1試行の和 | 固定回数の成功数。 | 成功回数、比率、正規近似。 |
| 超幾何 | 非復元抽出の成功数 | 抽出ごとに成功確率が変わる。 | 有限母集団、戻さない抽出。 |
| ポアソン | まれな事象の回数 | 独立増分と一定発生率。 | 一定時間・領域の件数、二項近似。 |
| 幾何・負の二項 | 成功までの試行数 | 成功確率一定の待ち時間。 | 初成功、$r$回成功まで。 |
| 正規 | 和・平均・誤差の基本近似 | CLTにより多くの和が正規へ近づく。 | 標準化、信頼区間、検定。 |
| 指数・ガンマ | ポアソン過程の待ち時間 | 指数の和がガンマ。 | 無記憶性、複数回発生までの時間。 |
| ベータ | $0$ から $1$ の確率値 | 二項尤度と共役。 | 確率・比率の事前分布。 |
| カイ二乗 | 標準正規の二乗和 | 分散と平方和の分布。 | 分散推定、適合度、独立性検定。 |
| t | 正規を推定標準誤差で割る | 母分散未知の平均。 | 小標本平均、回帰係数。 |
| F | 独立なカイ二乗の比 | 分散比と平方和比。 | 分散比較、ANOVA、回帰の全体検定。 |
標本分布の芯は正規標本の直交分解です。 標本平均方向と残差方向が直交し、$\sqrt{n}(\bar{X}-\mu)/\sigma$ は標準正規、$(n-1)S^2/\sigma^2$ はカイ二乗、両者の比から t 分布、2つの独立なカイ二乗比から F 分布が出ます。 ここを理解すると、自由度の $n-1$ や ANOVA の平方和分解が暗記ではなくなります。
3.4 極限定理・近似・変数変換
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| 大数の法則 | 標本平均が母平均へ近づく | 平均の安定性を保証する。 | 一致性、モンテカルロ平均。 |
| 中心極限定理 | 標準化和が正規分布へ近づく | 個々の分布が正規でなくても和は正規近似できる。 | 大標本の平均・比率・MLE。 |
| デルタ法 | Taylor展開で変換後の分布を近似 | $g(\hat\theta)$ を一次近似する。 | オッズ比、対数変換、分散安定化。 |
| 正規近似 | 二項・ポアソンなどを正規で近似 | 平均と分散で標準化する。 | $np$、$n(1-p)$、$\lambda$ の大きさを確認する。 |
| ポアソン近似 | 二項で $n$ 大、$p$ 小 | $np=\lambda$ を保つ極限。 | まれな成功回数。 |
| 変数変換 | ヤコビアンまたはCDF法 | 確率を保存して密度を移す。 | $Y=g(X)$、多変量変換。 |
CLTの証明スケッチは、標準化した和のMGFまたは特性関数を展開し、$e^{t^2/2}$ に近づくことを見る流れです。 デルタ法は $g(\hat{\theta})\approx g(\theta)+g'(\theta)(\hat{\theta}-\theta)$ という一次のTaylor展開です。 「漸近的に」「大標本で」と書かれていたら、この近似の条件を先に確認します。
3.5 推定理論
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| モーメント法 | 標本モーメントと母モーメントを等置 | 分布の平均・分散から母数を逆算する。 | 初期推定、簡単な推定量導出。 |
| 最尤推定 | 尤度を最大化する母数 | 観測データを最も起こりやすくする値。 | MLE、漸近正規性、LRTの入口。 |
| 最小二乗 | 残差平方和を最小化 | 観測値を説明変数空間へ射影する。 | 回帰、ANOVA、Gauss-Markov。 |
| 不偏性 | $E[\hat{\theta}]=\theta$ | 平均的に真値へ当たる。 | 分散の $n-1$、推定量比較。 |
| 一致性 | $\hat{\theta}\to\theta$ | 標本数増加で真値へ近づく。 | 大数の法則、漸近論。 |
| 有効性 | 分散が小さい | 同じ不偏推定量の中で精度を比べる。 | CR下限、相対効率。 |
| 十分性 | 母数情報を統計量に集約 | 尤度のデータ依存部分を分離する。 | Neyman-Fisher分解定理。 |
| Fisher情報量 | $I(\theta)=E[U(\theta)^2]$ | 尤度曲面の鋭さ。 | CR不等式、MLE分散、検定統計量。 |
| CR不等式 | $Var(\hat{\theta})\ge 1/I(\theta)$ | 不偏推定量の分散下限。 | 最良性、情報量の比較。 |
| Rao-Blackwell | 十分統計量で条件付き期待値を取る | 分散を増やさず推定量を改善する。 | 十分性と推定量改善の接続。 |
MLEの漸近正規性は、スコア方程式 $U(\hat{\theta})=0$ を真値 $\theta_0$ の周りでTaylor展開し、$U(\theta_0)$ にCLT、$-\ell''(\theta_0)$ に情報量の収束を使って読みます。 CR不等式は推定量とスコア関数の共分散に Cauchy-Schwarz を使う導出です。 十分統計量は、尤度を $g_\theta(T(x))h(x)$ と分解できるかを見るのが最短です。
3.6 検定理論
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| 仮説検定 | 帰無仮説の下で稀かを見る | 確率モデルから棄却域を作る。 | p値、棄却域、有意水準。 |
| 第一種・第二種過誤 | $\alpha$ と $\beta$ | 誤って棄却する確率、見逃す確率。 | 検出力、サンプルサイズ。 |
| Neyman-Pearson | 単純仮説同士の最強力検定 | 尤度比の大きさで棄却域を決める。 | NP基本定理、最強力。 |
| LRT | 尤度比を見る | 制約あり/なしの尤度差。 | 複合仮説、Wilks近似。 |
| Wald検定 | 推定値と帰無値の距離を見る | 推定値の漸近正規性を使う。 | 回帰係数、MLE。 |
| Score検定 | 帰無値での傾きを見る | 帰無モデルだけで計算できる。 | ロジスティック、GLM、LM型検定。 |
| 正確検定 | 帰無分布を近似しない | 小標本で確率を直接足す。 | Fisher正確検定、二項検定。 |
| 多重比較 | 同時に多数検定する | 全体の誤検出率を制御する。 | Bonferroni、Tukey、FDR。 |
| ノンパラ検定 | 分布形に強く依存しない | 順位、符号、並べ替えを使う。 | Wilcoxon、符号検定、Kruskal-Wallis。 |
LRT、Wald、Scoreは別々に暗記するより、尤度曲面のどこを見るかで整理します。 LRTは「高さの差」、Waldは「推定値の距離」、Scoreは「帰無値での傾き」です。 漸近的には同じ方向へ近づきますが、小標本や境界値では一致しないので、問題文の条件を先に見ます。
3.7 信頼区間・標本設計
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| 信頼区間 | 被覆確率が指定値になる手続き | 確率がかかるのは区間を作る手続き。 | 「母数が95%の確率で入る」と言わない。 |
| pivotal quantity | 母数以外の分布が既知の量 | 不等式を母数について解き直す。 | 平均、分散、比率の区間推定。 |
| 片側信頼限界 | 上限または下限だけを見る | 分位点の向きに注意する。 | 品質管理、リスク上限。 |
| 標本サイズ設計 | 誤差幅・検出力から $n$ を逆算 | 分散、効果量、有意水準に依存する。 | 「何人必要か」問題。 |
| 有限母集団補正 | $(1-n/N)$ または類似係数 | 非復元抽出ではばらつきが小さくなる。 | 調査標本、有限母集団。 |
| 層化抽出 | 層ごとに推定して足す | 分散分解と配分最適化。 | Neyman配分、母集団構成比。 |
信頼区間は「推定量の分布を不等式にし、母数について解く」手順です。 標本調査では、独立同分布だけでなく「有限母集団」「非復元」「層」「クラスター」が分散式を変えるので、確率分布の問題として読み直します。
3.8 線形モデル・ANOVA・GLM
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| OLS | 残差平方和最小化 | $y$ を説明変数空間へ直交射影する。 | 正規方程式、残差直交、係数推定。 |
| Gauss-Markov | 線形不偏推定量の最小分散 | 正規性ではなく誤差条件が中心。 | BLUE、OLSの性質。 |
| 回帰診断 | 残差・てこ比・影響度 | モデル仮定の破れを見る。 | 外れ値、多重共線性、Cook距離。 |
| ANOVA | 平方和の直交分解 | 全変動を要因・誤差へ分ける。 | F検定、自由度、交互作用。 |
| 実験計画 | 変動要因を設計で分離 | ランダム化、ブロック化、直交性。 | 乱塊法、要因計画、直交配列。 |
| GLM | 指数型分布族 + リンク関数 | 平均構造をリンクで線形予測子へ結ぶ。 | ロジスティック、ポアソン、プロビット。 |
| 尤度ベース回帰 | 対数尤度を最大化 | OLSではなくMLEで推定する。 | deviance、AIC、Score/Wald/LRT。 |
| 生存時間モデル | 打ち切りとハザード | 観測されない終了時刻を尤度で扱う。 | 比例ハザード、打ち切り。 |
OLSは $\hat{\beta}=(X^\top X)^{-1}X^\top y$ の暗記ではなく、残差 $y-X\hat{\beta}$ が列空間に直交する条件 $X^\top(y-X\hat{\beta})=0$ から出ます。 ANOVAはこの直交分解の応用で、GLMは正規誤差の線形モデルを指数型分布族へ広げたものです。
3.9 多変量解析
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| 多変量正規 | 平均ベクトルと共分散行列で決まる | 線形結合も正規になる。 | 判別分析や多変量回帰の推測で仮定される。PCAの実行自体には不要。 |
| PCA | 分散最大化 | 制約付き最適化が固有値問題になる。 | 寄与率、主成分負荷量、スコア。 |
| 因子分析 | 観測変数を潜在因子で説明 | 共通因子と独自因子へ分散を分ける。 | PCAとの違い、回転、共通性。 |
| 判別分析 | 群を最も分ける軸を作る | 群間分散/群内分散比の最大化。 | Fisher判別、2次判別。 |
| 正準相関 | 2組の変数群の相関最大化 | 線形結合同士の相関を最大にする。 | 一般化固有値問題。 |
| クラスタリング | 似ている対象をまとめる | 距離と連結基準が結果を決める。 | 階層クラスタ、k-means。 |
| MDS | 距離を低次元配置へ写す | 距離行列を座標で再現する。 | 固有値、ストレス。 |
| 対応分析 | 分割表を低次元表示 | 行・列カテゴリの対応を見る。 | クロス表の可視化。 |
| SEM・パス解析 | 変数間構造を方程式で表す | 測定モデルと構造モデルを分ける。 | 潜在変数、因果風の図の読み方。 |
PCAは $a^\top\Sigma a$ を $a^\top a=1$ の下で最大化し、$\Sigma a=\lambda a$ を得る最適化問題です。 PCAの計算自体は多変量正規性を必要としません。ただし、主成分に関する統計的推測や確率モデルとして解釈する場合には、多変量正規性を仮定することがあります。 判別分析や正準相関も「比率を最大にする制約付き最適化」なので、固有値・一般化固有値としてつながります。 手法名だけでなく、目的が「圧縮」「分類」「潜在構造」「距離の再現」のどれかを見ます。
3.10 分割表・カテゴリカルデータ・グラフィカルモデル
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| 独立性検定 | 期待度数と観測度数の差 | 独立なら期待度数は行和×列和/総数。 | カイ二乗検定、残差分析。 |
| オッズ比 | オッズの比 | 1なら関連なし。 | 2×2表、ロジスティック回帰。 |
| 連関係数 | 表の関連の強さ | カイ二乗統計量を標準化して読む。 | $\phi$係数、CramérのV。 |
| 対数線形モデル | セル期待度数の対数を効果で分解 | 交互作用が関連を表す。 | 多元分割表、階層モデル。 |
| 条件付き独立 | 条件を固定した独立 | 周辺での関連と条件付き関連を分ける。 | Simpsonのパラドックス、グラフ構造。 |
| グラフィカルモデル | 依存関係をグラフで表す | 辺の有無が条件付き独立を表す。 | Markov性、分解、条件付き独立。 |
独立性検定の期待度数は、独立なら $P(A\cap B)=P(A)P(B)$ になることから出ます。 対数線形モデルでは、主効果だけなら独立、交互作用を入れると関連を表します。 「カテゴリ×カテゴリ」を相関係数だけで処理しないことが重要です。
3.11 時系列・確率過程
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| 定常性 | 平均・分散・自己共分散が時点に依存しない | 時系列を同じ分布構造として扱える。 | ARMA、ACF、単位根。 |
| ACF/PACF | 自己相関と偏自己相関 | ラグごとの依存を読む。 | ARはPACF打ち切り、MAはACF打ち切り。 |
| AR/MA/ARMA | 過去値または過去ショックで表す | 差分方程式として安定性を見る。 | モデル識別、予測。 |
| ARIMA | 階差で定常化してARMAを当てる | トレンドを差分で落とす。 | 非定常系列、階差次数。 |
| スペクトル | 周波数別の分散分解 | 周期性を周波数領域で見る。 | ペリオドグラム、周期変動。 |
| マルコフ連鎖 | 次状態が現在状態だけに依存 | 推移行列で分布が進む。 | 定常分布 $\pi P=\pi$、吸収確率。 |
| ポアソン過程 | 独立増分・定常増分 | 件数はポアソン、待ち時間は指数。 | 到着過程、ガンマ待ち時間。 |
| ブラウン運動 | 独立正規増分 | 連続時間のランダムな揺らぎ。 | 拡散、ランダムウォーク極限。 |
ARモデルの自己共分散は Yule-Walker 方程式から読み、マルコフ連鎖の長期分布は $\pi P=\pi$ を解きます。 ポアソン過程は「件数」と「待ち時間」の2つの見方を持ち、ブラウン運動は独立正規増分を持つ連続時間過程として理解します。
3.12 ベイズ・計算・欠測・ロバスト・情報理論
| 論点 | 定義・定理 | 理論の読み方 | 試験での使い方 |
|---|---|---|---|
| ベイズ推定 | 事後分布 $\propto$ 尤度×事前分布 | 観測で信念を更新する。 | Beta-Binomial、Normal-Normalなどの共役。 |
| 階層ベイズ | 母数にも分布を置く | 群間差を部分プーリングする。 | ランダム効果、過分散。 |
| MCMC | 事後分布からの標本を作る | 直接積分できない分布をシミュレーションする。 | Gibbs、Metropolis-Hastings、収束診断。 |
| モンテカルロ | 乱数平均で期待値を近似 | 大数の法則で精度が上がる。 | 積分近似、シミュレーション。 |
| ブートストラップ | 経験分布から再標本化 | 推定量のばらつきをデータから近似する。 | 標準誤差、信頼区間。 |
| EMアルゴリズム | 欠測・潜在変数を期待値で補う | 完全データ対数尤度の下界を上げる。 | 混合分布、欠測、潜在クラス。 |
| 欠測メカニズム | MCAR/MAR/MNAR | 欠測の発生が何に依存するか。 | 解析対象の偏り、代入法。 |
| ロバスト統計 | 外れ値に鈍感な推定 | 平均・分散の弱さを補う。 | 中央値、MAD、Huber、M推定。 |
| エントロピー | 不確実性の量 | 分布の散らばりを情報量で測る。 | 最大エントロピー、モデル比較。 |
| KL情報量 | $D_{\mathrm{KL}}(P\|Q)$ | 2つの分布のずれを測る。 | MLE、AIC、情報量基準。 |
ベイズは $p(\theta|x)\propto p(x|\theta)p(\theta)$ の比例関係から始まります。 EMは Jensen の不等式で対数尤度の下界を作り、E-stepで期待値、M-stepで最大化を繰り返します。 KL情報量の非負性も Jensen の不等式で説明でき、情報理論、MLE、モデル選択が同じ土台でつながります。
4. 分布の確認表
分布名は暗記だけでは使えません。 「何を数える分布か」「どの分布へ近似できるか」「どの検定の参照分布になるか」をセットで覚えます。
| 分布 | 使う場面 | 平均・分散 | 見分け方 |
|---|---|---|---|
| ベルヌーイ | 1回の成功/失敗 | $E[X]=p$, $Var(X)=p(1-p)$ | 1回だけの0/1 |
| 二項 | 固定回数の成功回数 | $np$, $np(1-p)$ | $n$回中何回成功か |
| 超幾何 | 非復元抽出の成功数 | 有限母集団補正が入る | 母集団から戻さず取る |
| ポアソン | まれな事象の回数 | $\lambda$, $\lambda$ | 一定時間・一定領域の発生回数 |
| 幾何 | 初成功までの試行回数 | 成功確率 $p$ | 初めて成功するまで |
| 負の二項 | $r$回成功までの失敗数など | 定義に注意 | 成功回数が固定される |
| 正規 | 連続量・近似・誤差 | $\mu$, $\sigma^2$ | 和・平均・誤差 |
| 指数 | 次の発生までの待ち時間 | $1/\lambda$, $1/\lambda^2$ | 無記憶性 |
| ガンマ | 複数回発生までの待ち時間 | パラメータ化に注意 | 指数分布の和 |
| ベータ | 0から1の確率・比率 | 事前分布で頻出 | Binomialの共役 |
| カイ二乗 | 分散・適合度・独立性 | 自由度 $\nu$ | 正規の二乗和 |
| t | 母分散未知の平均 | 自由度 $\nu$ | 標準正規を推定標準誤差で割る |
| F | 分散比・ANOVA | 分子/分母自由度 | 2つのカイ二乗比 |
代表的な接続は次の通りです。
関連教材(青の統計学)
5. 推定の確認表
推定では、推定法と推定量の性質を分けて考えます。 「どう作るか」が推定法、「作った推定量が良いか」が性質です。
| 論点 | 見るもの | 判断 |
|---|---|---|
| モーメント法 | 標本モーメントと母モーメントを一致 | 計算は素直だが効率性は別問題 |
| 最尤法 | 尤度を最大にする母数 | 漸近正規性・情報量とつながる |
| 最小二乗法 | 残差平方和を最小化 | 回帰、Gauss-Markov定理へつながる |
| 不偏性 | $E[\hat{\theta}]=\theta$ | 平均的にズレない |
| 一致性 | $\hat{\theta}\xrightarrow{p}\theta$ | 標本サイズが増えると近づく |
| 有効性 | 分散が小さい | 不偏推定量の中で比較する |
| 十分性 | データの情報を統計量に集約 | 分解定理で確認する |
| Fisher情報量 | 尤度の曲率 | 推定精度・CR不等式に関係する |
よくある混同は、不偏なら必ず良い、一致なら小標本でも良い、という解釈です。 不偏性は有限標本の期待値の話で、一致性は大標本極限の話です。
6. 検定の確認表
検定では、対象、標本構造、仮定、参照分布の順に決めます。
| 対象 | 条件 | 使う検定・分布 | 注意 |
|---|---|---|---|
| 1標本平均 | 母分散既知 | z型 | 現実には少ない |
| 1標本平均 | 母分散未知・正規 | t分布 | 自由度 $n-1$ |
| 2標本平均 | 独立・等分散 | pooled t | 等分散仮定を確認 |
| 2標本平均 | 独立・等分散なし | Welch型 | 自由度近似に注意 |
| 対応あり平均 | 同じ対象の差 | paired t | 差を1標本として扱う |
| 母分散 | 正規母集団 | カイ二乗 | $n-1$自由度 |
| 分散比 | 独立な正規母集団 | F分布 | 分子分母の順序 |
| 度数表 | 期待度数十分 | カイ二乗 | 自由度は制約数で決まる |
| 小標本カテゴリ | 2×2など | Fisherの正確検定 | 近似に頼らない |
| 正規性なし順位 | 順位情報 | Wilcoxon、Kruskal-Wallis | 平均差の検定と同一視しない |
LRT、Wald、Scoreは、同じ帰無仮説を見ても「どこを見るか」が違います。
| 検定 | 見る場所 | 直観 |
|---|---|---|
| LRT | 制約あり/なしの尤度差 | 制約を外すとどれだけ良くなるか |
| Wald | 推定値と帰無値の距離 | 推定値が帰無値から遠いか |
| Score | 帰無値での傾き | 帰無値から動きたがっているか |
7. 回帰・GLM・モデル選択
回帰では、目的変数の種類を先に見ます。 連続量なら線形回帰、0/1ならロジスティックやプロビット、カウントならポアソン回帰を疑います。
| 問題設定 | 候補モデル | 見るポイント |
|---|---|---|
| 連続量を説明したい | OLS、GLS | 線形性、誤差分散、相関 |
| 0/1を予測したい | ロジスティック、プロビット | リンク関数、オッズ比 |
| カウントを説明したい | ポアソン回帰 | 平均と分散、過分散 |
| 生存時間を扱う | 比例ハザードモデル | 打ち切り、ハザード比 |
| 変数を選びたい | AIC、BIC、CV | 説明か予測か |
| 外れ値・影響点を見る | leverage、Cook距離 | 推定結果への影響 |
AIC/BICは小さい方が良い指標ですが、絶対的な真理ではありません。 予測誤差を直接評価するなら交差検証を使います。BICはAICより複雑さへの罰則が強く、候補モデルに真のモデルが含まれるなどの条件下で、標本サイズが増えると真のモデルを選ぶ確率が1に近づく「モデル選択の一致性」を持ちます。
8. 多変量解析・時系列・ベイズの見分け
手法名が多い分野では、入力と出力を先に見ます。
| 分野 | 目的 | 手法 | 典型ミス |
|---|---|---|---|
| 次元削減 | 多数の変数を少数軸へ | PCA | 因子分析と同じと考える |
| 潜在因子 | 観測変数の背後の因子を考える | 因子分析 | 主成分を潜在因子と呼ぶ |
| 分類 | 群を予測する | 判別分析、SVM | クラスタリングと混同する |
| 教師なし分類 | 似たものをまとめる | 階層クラスタ、k-means | 正解ラベルありと考える |
| 距離の可視化 | 距離行列を低次元配置へ | MDS | PCAの入力と混同する |
| カテゴリ表 | 度数・条件付き独立 | 対数線形、対応分析 | 連続変数の相関として扱う |
| 時系列識別 | ACF/PACFを見る | AR、MA、ARIMA | 定常性を確認しない |
| 状態推定 | 観測できない状態を推定 | 状態空間、Kalman filter | 回帰モデルだけで処理する |
| ベイズ更新 | 事前×尤度→事後 | 共役事前分布、MCMC | 事前と尤度を逆にする |
関連教材(青の統計学)
9. 準1級で落としやすい典型ミス
| 分類 | ミス | 防ぎ方 |
|---|---|---|
| 条件の見落とし | 独立性、正規性、対応の有無を読まない | 計算前に条件表を確認する |
| 自由度 | $n$ と $n-1$ を間違える | 標本分散・t・Fは自由度を先に書く |
| 分布 | t、カイ二乗、Fを暗記だけで使う | 生成関係を思い出す |
| 推定量 | 不偏性と一致性を同一視する | 有限標本か大標本かを分ける |
| 検定 | p値を「帰無仮説が正しい確率」と解釈する | 帰無仮説の下で観測以上に極端な確率と読む |
| 回帰 | 多重共線性は係数を必ずバイアスさせると考える | 分散増大・不安定化の問題として扱う |
| GLM | リンク関数と分布を混同する | 確率分布、線形予測子、リンク関数を分ける |
| PCA/因子分析 | 主成分と潜在因子を同じものとして扱う | 目的とモデル仮定を分ける |
| 時系列 | 非定常のままARMAを当てる | 差分・トレンド・ACFを先に見る |
| ベイズ | 事前・尤度・事後を式の上で混同する | 事後 $\propto$ 尤度 $\times$ 事前で読む |
10. 不安な分野から解く演習
チートシートで弱いと感じた項目は、読むだけで終わらせず、対応する演習へ進みます。
| 不安だった項目 | 解く演習 |
|---|---|
| 条件付き確率、MGF、CLT、変数変換 | 確率と確率分布 |
| MLE、不偏性、十分統計量、ベイズ推定 | 推定 |
| LRT、p値、検定統計量、多重比較 | 検定 |
| マルコフ連鎖、ポアソン過程、ブラウン運動 | 確率過程 |
| 重回帰、GLM、ロジスティック、回帰診断 | 回帰分析 |
| ARIMA、状態空間、スペクトル、単位根 | 時系列解析 |
| PCA、因子分析、判別、クラスタリング | 多変量解析 |
| 事前分布、事後分布、MCMC、階層ベイズ | ベイズ統計 |
| AIC/BIC、CV、ROC、混同行列 | モデル選択 |
| 有限母集団、層化抽出、標本設計 | 標本調査 |
| CLT、大数の法則、漸近分布、一致性 | 漸近理論 |
| ANOVA、要因計画、乱塊法、多重比較 | 実験計画法 |
11. 次に読むページ
まずは、確率法則、条件付き確率、ベイズの定理を固めます。 準1級の後半に出てくるベイズ、マルコフ性、条件付き独立、多変量正規の条件付き分布は、すべてここに戻ってきます。