ガウス消去法は連立方程式を体系的に解く基本的な手法で、機械学習における正規方程式の求解、統計学における回帰分析、データサイエンスにおける最適化問題など、幅広い分野で応用される重要なアルゴリズムです。
ガウス消去法の基本手順
1. 拡大係数行列を作成
2. 前進消去（上三角行列を作成）
3. 後退代入（解を求める）
1. 拡大係数行列の作成
連立方程式を行列形式で表現します：
$\left(\begin{array}{ccc|c} 2 & 1 & -1 & 1 \\ 1 & 3 & 2 & 13 \\ 3 & 2 & 1 & 10 \end{array}\right)$
2. 前進消去の実行
第1ステップ：第1列を整理
$R_2 \leftarrow 2R_2 - R_1$：
$\left(\begin{array}{ccc|c} 2 & 1 & -1 & 1 \\ 0 & 5 & 5 & 25 \\ 3 & 2 & 1 & 10 \end{array}\right)$
$R_3 \leftarrow 2R_3 - 3R_1$：
$\left(\begin{array}{ccc|c} 2 & 1 & -1 & 1 \\ 0 & 5 & 5 & 25 \\ 0 & 1 & 5 & 17 \end{array}\right)$
第2ステップ：第2列を整理
$R_3 \leftarrow 5R_3 - R_2$：
$\left(\begin{array}{ccc|c} 2 & 1 & -1 & 1 \\ 0 & 5 & 5 & 25 \\ 0 & 0 & 20 & 60 \end{array}\right)$
3. 後退代入による解の計算
第3方程式から：
$20z = 60 \Rightarrow z = 3$
第2方程式から：
$5y + 5z = 25 \Rightarrow 5y + 5(3) = 25 \Rightarrow 5y = 10 \Rightarrow y = 2$
第1方程式から：
$2x + y - z = 1 \Rightarrow 2x + 2 - 3 = 1 \Rightarrow 2x = 2 \Rightarrow x = 1$
4. 解の検算
$(x, y, z) = (1, 2, 3)$ を元の方程式に代入：
- 第1式：$2(1) + 2 - 3 = 1$ ✓
- 第2式：$1 + 3(2) + 2(3) = 1 + 6 + 6 = 13$ ✓
- 第3式：$3(1) + 2(2) + 3 = 3 + 4 + 3 = 10$ ✓
ガウス消去法のコツ
行操作の基本：行の入れ替え、定数倍、他の行との加減
ピボット選択：0でない要素を対角位置に持ってくる
計算順序：前進消去→後退代入の2段階