【MIT线性代数】【lec2】消元法与矩阵运算

线性代数第二讲：消元法与矩阵运算

一、消元法（Elimination）

1. 消元法概述

• 目标：通过逐步消元将线性方程组化为上三角形式（Upper Triangular Form），从而简化求解过程。
• 方法：从第一个方程开始，逐步消除后续方程中的变量，最终得到一个三角形方程组。

2. 示例

考虑以下线性方程组：

$$\begin{cases} x + 2y + z = 2 \\ 3x + 8y + z = 12 \\ 0x + 4y + z = 2 \end{cases}$$

对应的矩阵形式为：

$$A\mathbf{x} = \mathbf{b} \quad \text{其中} \quad A = \begin{bmatrix} 1 & 2 & 1 \\ 3 & 8 & 1 \\ 0 & 4 & 1 \end{bmatrix}, \quad \mathbf{x} = \begin{bmatrix} x \\ y \\ z \end{bmatrix}, \quad \mathbf{b} = \begin{bmatrix} 2 \\ 12 \\ 2 \end{bmatrix}$$

（1）第一步消元

• 目标：消除第二个方程中的 $x$。
• 操作：用第一个方程乘以 3，然后从第二个方程中减去。
• 结果：

$$\begin{cases} x + 2y + z = 2 \\ 2y - 2z = 6 \\ 0x + 4y + z = 2 \end{cases}$$

对应的矩阵变为：

$$\begin{bmatrix} 1 & 2 & 1 \\ 0 & 2 & -2 \\ 0 & 4 & 1 \end{bmatrix}$$

（2）第二步消元

• 目标：消除第三个方程中的 $y$。
• 操作：用第二个方程乘以 2，然后从第三个方程中减去。
• 结果：

$$\begin{cases} x + 2y + z = 2 \\ 2y - 2z = 6 \\ 5z = -10 \end{cases}$$

对应的矩阵变为：

$$U = \begin{bmatrix} 1 & 2 & 1 \\ 0 & 2 & -2 \\ 0 & 0 & 5 \end{bmatrix}$$

3. 消元法的矩阵表示

• 消元矩阵：每一步消元操作可以用一个矩阵 $E$ 表示。
  • 第一步消元矩阵 $E_{21}$：

$$E_{21} = \begin{bmatrix} 1 & 0 & 0 \\ -3 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix}$$

• 第二步消元矩阵 $E_{32}$：

$$E_{32} = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & -2 & 1 \end{bmatrix}$$

• 总消元矩阵：将所有消元步骤合并为一个矩阵 $E$：

$$E = E_{32}E_{21}$$

4. 消元法的失败情况

• 零主元：如果某个主元位置为零，需要进行行交换。
  • 例如，如果第一个主元为零，需要将第一行与其他行交换。
• 完全失败：如果某一步消元后，主元位置仍为零且下方无可交换的非零元素，则矩阵不可逆。

二、回代法（Back Substitution）

• 目标：从上三角矩阵 $U$ 中求解 $\mathbf{x}$。
• 步骤：
  1. 从最后一个方程开始，解出 $z$。
  2. 代入倒数第二个方程，解出 $y$。
  3. 代入第一个方程，解出 $x$。
• 示例：

$$\begin{cases} x + 2y + z = 2 \\ 2y - 2z = 6 \\ 5z = -10 \end{cases}$$

• 解得 $z = -2$。
• 代入第二个方程，解得 $y = 1$。
• 代入第一个方程，解得 $x = 2$。

三、矩阵乘法

1. 矩阵乘法的行操作

• 定义：矩阵 $A$ 乘以向量 $\mathbf{x}$ 的结果是 $A$ 的列向量的线性组合。
• 行操作：矩阵 $E$ 乘以矩阵 $A$ 的结果是 $A$ 的行向量的线性组合。
  • 例如，$E_{21}A$ 表示将 $A$ 的第二行减去第一行的 3 倍。

2. 矩阵乘法的结合律

• 结合律：$(E_{32}E_{21})A = E_{32}(E_{21}A)$
  • 表示先进行第一步消元，再进行第二步消元，结果相同。

3. 逆矩阵

• 定义：如果矩阵 $E$ 的逆矩阵存在，记为 $E^{-1}$，则 $E^{-1}E = I$（单位矩阵）。
• 示例：
  • 消元矩阵 $E_{21}$ 的逆矩阵：

$$E_{21}^{-1} = \begin{bmatrix} 1 & 0 & 0 \\ 3 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix}$$

• 作用：将消元步骤逆转，恢复原始矩阵。

四、总结

• 消元法：通过逐步消元将线性方程组化为上三角形式，便于求解。
• 矩阵表示：每一步消元可以用矩阵表示，总消元矩阵为这些矩阵的乘积。
• 回代法：从上三角矩阵中逆向求解未知数。
• 矩阵乘法：矩阵乘法的行操作和结合律是理解消元法的关键。
• 逆矩阵：逆矩阵用于逆转消元步骤，恢复原始矩阵。