---
title: 4-1-四大子空间的正交性
aliases:
  - 四大子空间的正交性
  - Orthogonality of the Four Subspaces
  - 正交补
tags:
  - 线代/正交性
  - 类型/教程
created: 2026-10-11
updated: 2026-10-12
level: 进阶
chapter: "4.1"
prerequisites:
  - "[[3-5-四大子空间的维数]]"
  - "[[1-2-长度与点积]]"
  - "[[3-1-向量空间]]"
sources:
  - https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/
  - https://math.mit.edu/~gs/linearalgebra/
  - https://docs.scipy.org/doc/scipy/reference/generated/scipy.linalg.null_space.html
---

# 4-1-四大子空间的正交性

> [!abstract] 一句话概括
> 第 3 章证明了四个基本子空间的**维数**由秩 $r$ 决定；本篇证明它们的**相对位置**也完全确定：$\mathbf{N}(A) \perp \mathbf{C}(A^{\mathrm{T}})$、$\mathbf{N}(A^{\mathrm{T}}) \perp \mathbf{C}(A)$，于是
> $$\mathbb{R}^n = \mathbf{C}(A^{\mathrm{T}}) \oplus \mathbf{N}(A), \qquad \mathbb{R}^m = \mathbf{C}(A) \oplus \mathbf{N}(A^{\mathrm{T}})$$
> 也就是说，四个子空间把输入空间与输出空间各做了**正交直和分解（orthogonal direct sum decomposition）**。
> 本篇覆盖：正交向量与正交子空间的定义、正交补 $V^{\perp}$ 的定义与维数关系 $\dim V + \dim V^{\perp} = n$、两条核心定理的完整证明、$2\times2$ 与 $3\times3$ 的具体例子、为什么 $\mathbf{N}(A)$ 与 $\mathbf{C}(A)$ **不一定正交**、唯一分解定理，以及它对最小二乘的意义（预告 4-3）。
> **国内读者请先读第十节**：那里有内积的公理化定义与欧氏空间、柯西—施瓦茨不等式的判别式法证明、三角不等式、度量矩阵与标准正交基，以及四大子空间与国内教材「解空间」「行空间」术语的完整对照表。

## 一、定义

### 1.1 正交向量（orthogonal vectors）

> [!note] 定义 4.1.1（正交向量）
> 设 $\mathbf{v}, \mathbf{w} \in \mathbb{R}^n$。若它们的内积（点积，dot product）为零
> $$\mathbf{v}^{\mathrm{T}}\mathbf{w} = \sum_{i=1}^{n} v_i w_i = 0$$
> 则称 $\mathbf{v}$ 与 $\mathbf{w}$ **正交**，记作 $\mathbf{v} \perp \mathbf{w}$。

补充约定与直觉：

- $\mathbf{0}$ 与任何向量正交（$\mathbf{0}^{\mathrm{T}}\mathbf{w} = 0$）。
- 由 $\mathbf{v}^{\mathrm{T}}\mathbf{w} = \|\mathbf{v}\|\,\|\mathbf{w}\|\cos\theta$ 可知：两个非零向量正交 $\iff$ 夹角 $\theta = 90^\circ$。
- **勾股定理（Pythagorean theorem）**：若 $\mathbf{v} \perp \mathbf{w}$，则 $\|\mathbf{v} + \mathbf{w}\|^2 = \|\mathbf{v}\|^2 + \|\mathbf{w}\|^2$。证明：
$$
\|\mathbf{v}+\mathbf{w}\|^2 = (\mathbf{v}+\mathbf{w})^{\mathrm{T}}(\mathbf{v}+\mathbf{w}) = \mathbf{v}^{\mathrm{T}}\mathbf{v} + 2\mathbf{v}^{\mathrm{T}}\mathbf{w} + \mathbf{w}^{\mathrm{T}}\mathbf{w} = \|\mathbf{v}\|^2 + \|\mathbf{w}\|^2
$$
（交叉项 $\mathbf{v}^{\mathrm{T}}\mathbf{w} = 0$ 消失。）这条恒等式是整章「正交分解」的代数核心，请记住它。
- **零向量是唯一与自身正交的向量**：$\mathbf{v}^{\mathrm{T}}\mathbf{v} = \sum v_i^2 = 0 \iff \mathbf{v} = \mathbf{0}$。这条小结论在后面的证明里反复用到。

### 1.2 正交子空间（orthogonal subspaces）

> [!note] 定义 4.1.2（正交子空间）
> 设 $V, W$ 是**同一个** $\mathbb{R}^n$ 的两个子空间。若对**每一个** $\mathbf{v} \in V$ 与**每一个** $\mathbf{w} \in W$ 都有 $\mathbf{v} \perp \mathbf{w}$，则称 $V$ 与 $W$ **正交**，记作 $V \perp W$。

> [!warning] 定义里的「每一个」不能弱化
> 判定两个子空间正交，必须验证**任意搭配**都正交，而不是「各取一组基，基向量之间正交」——虽然后者恰好够用（见下面定理 4.1.1），但直觉上一定要理解为「每一个与每一个」。反例：$\mathbb{R}^2$ 中的 $x$ 轴与直线 $y = x$，取基向量 $(1,0)$ 与 $(1,1)$，它们不正交，所以这两个子空间不正交（也没错）。但更微妙的是：$\mathbb{R}^3$ 中 $xy$ 平面与 $z$ 轴正交；而 $xy$ 平面与直线 $(t, t, t)$ **不**正交，因为 $(1,0,0)\cdot(1,1,1) = 1 \neq 0$。

> [!important] 定理 4.1.1（用基判定正交）
> 设 $V = \operatorname{span}\{\mathbf{v}_1, \dots, \mathbf{v}_k\}$、$W = \operatorname{span}\{\mathbf{w}_1, \dots, \mathbf{w}_l\}$ 是同一 $\mathbb{R}^n$ 的子空间。则
> $$V \perp W \iff \mathbf{v}_i \perp \mathbf{w}_j \quad (i = 1,\dots,k;\ j = 1,\dots,l)$$
>
> **证明**。「$\Rightarrow$」显然。「$\Leftarrow$」任取 $\mathbf{v} = \sum_i a_i\mathbf{v}_i \in V$、$\mathbf{w} = \sum_j b_j\mathbf{w}_j \in W$，则
> $$\mathbf{v}^{\mathrm{T}}\mathbf{w} = \Big(\sum_i a_i\mathbf{v}_i\Big)^{\mathrm{T}}\Big(\sum_j b_j\mathbf{w}_j\Big) = \sum_{i,j} a_i b_j\, \mathbf{v}_i^{\mathrm{T}}\mathbf{w}_j = 0$$
> 因为每个 $\mathbf{v}_i^{\mathrm{T}}\mathbf{w}_j = 0$。$\square$
>
> **实用价值**：验证两个子空间正交，只需验证**一组基与另一组基两两正交**，计算量从无穷降到 $kl$ 个点积。

### 1.3 正交补（orthogonal complement）

> [!note] 定义 4.1.3（正交补）
> 设 $V$ 是 $\mathbb{R}^n$ 的子空间。$V$ 的**正交补**定义为与 $V$ 中每个向量都正交的所有向量构成的集合：
> $$V^{\perp} = \{\, \mathbf{x} \in \mathbb{R}^n \mid \mathbf{x}^{\mathrm{T}}\mathbf{v} = 0 \ \ \forall\, \mathbf{v} \in V \,\}$$
> （读作：$V$ 的正交补由所有与 $V$ 中每个向量都正交的向量组成。）

**$V^{\perp}$ 一定是子空间**（在同一个 $\mathbb{R}^n$ 内）：若 $\mathbf{x}, \mathbf{y} \in V^{\perp}$，则对任意 $\mathbf{v} \in V$ 有 $(\mathbf{x}+\mathbf{y})^{\mathrm{T}}\mathbf{v} = 0 + 0 = 0$、$(c\mathbf{x})^{\mathrm{T}}\mathbf{v} = c \cdot 0 = 0$，且 $\mathbf{0} \in V^{\perp}$，故封闭。

> [!important] 定理 4.1.2（正交补的维数关系）
> 设 $V$ 是 $\mathbb{R}^n$ 的子空间，则
> $$\dim V + \dim V^{\perp} = n$$
> 更精确地：若 $\mathbf{v}_1, \dots, \mathbf{v}_k$ 是 $V$ 的一组基，把它们按行排成 $k \times n$ 矩阵 $B$（即 $V = \mathbf{C}(B^{\mathrm{T}})$），则 $V^{\perp} = \mathbf{N}(B)$，于是由第 3 章的维数公式
> $$\dim V^{\perp} = \dim\mathbf{N}(B) = n - \operatorname{rank}(B) = n - k = n - \dim V$$

**证明的细节**。$B$ 是 $k \times n$、行向量是基、行满秩（$\operatorname{rank}(B) = k$）。对 $\mathbf{x} \in \mathbb{R}^n$：

$$
B\mathbf{x} = \mathbf{0} \iff \text{每一行与}\ \mathbf{x}\ \text{正交} \iff \mathbf{v}_i^{\mathrm{T}}\mathbf{x} = 0\ (i = 1,\dots,k) \iff \mathbf{x} \perp V
$$

最后一步用了定理 4.1.1（与基正交即与整个 $V$ 正交）。故 $V^{\perp} = \mathbf{N}(B)$，$\dim V^{\perp} = n - k$。$\square$

> [!warning] 正交补的两个常见误解
> **误解一：$V \cup V^{\perp} = \mathbb{R}^n$。** 错。并集不是子空间（除非其中一个为 $\{\mathbf{0}\}$）。例如 $\mathbb{R}^2$ 中 $x$ 轴与 $y$ 轴，它们的并集只有两条坐标轴上的点，而 $\mathbb{R}^2$ 还有 $(1,1)$ 这样的点。**正确的分解是「和」：每个向量都写成「一块在 $V$ 里 + 一块在 $V^{\perp}$ 里」**（定理 4.1.5）。
>
> **误解二：$V \cap V^{\perp} = \varnothing$。** 错。零向量既在 $V$ 里又正交于一切，故 $\mathbf{0} \in V \cap V^{\perp}$，即**交集是 $\{\mathbf{0}\}$**（不能有别的：若 $\mathbf{x} \in V \cap V^{\perp}$，则 $\mathbf{x} \perp \mathbf{x}$，$\mathbf{x}^{\mathrm{T}}\mathbf{x} = 0$，$\mathbf{x} = \mathbf{0}$）。
>
> **记忆口诀**：**「正交 + 维数相加 = 直和」**。$\dim V + \dim W = n$ 且 $V \cap W = \{\mathbf{0}\}$，合起来才等价于 $V \oplus W = \mathbb{R}^n$。

### 1.4 正交直和

> [!note] 定义 4.1.4（正交直和）
> 若 $V, W$ 是 $\mathbb{R}^n$ 的子空间，满足（i）$V \perp W$，（ii）$\dim V + \dim W = n$，则称 $\mathbb{R}^n$ 是 $V$ 与 $W$ 的**正交直和（orthogonal direct sum）**，记作
> $$\mathbb{R}^n = V \oplus W$$
> 此时每个 $\mathbf{x} \in \mathbb{R}^n$ 都能**唯一**地写成 $\mathbf{x} = \mathbf{v} + \mathbf{w}$，其中 $\mathbf{v} \in V$、$\mathbf{w} \in W$。

由 $\dim V + \dim V^{\perp} = n$ 与 $V \perp V^{\perp}$ 立刻得到 $\mathbb{R}^n = V \oplus V^{\perp}$。特别地，$W = V^{\perp} \iff V = W^{\perp}$（正交补是「对合」的：$(V^{\perp})^{\perp} = V$）。

## 二、几何直观

### 2.1 在 $\mathbb{R}^2$ 与 $\mathbb{R}^3$ 里看图

**$\mathbb{R}^2$。** 取 $V = x$ 轴。则 $V^{\perp} = y$ 轴，$1 + 1 = 2$ ✓。平面被两条互相垂直的直线「拼满」：任一向量 $(x, y)$ 唯一地分解成 $(x,0) + (0,y)$——这正是「水平分量 + 垂直分量」。

**$\mathbb{R}^3$。** 有两大类情形：

- $V$ 是一条过原点的**直线**（$\dim = 1$）$\Rightarrow$ $V^{\perp}$ 是过原点且垂直于它的**平面**（$\dim = 2$）。$1 + 2 = 3$ ✓。
- $V$ 是一个过原点的**平面**（$\dim = 2$）$\Rightarrow$ $V^{\perp}$ 是它的**法线**（$\dim = 1$）。$2 + 1 = 3$ ✓。
- 极端情形：$V = \{\mathbf{0}\} \Rightarrow V^{\perp} = \mathbb{R}^3$；$V = \mathbb{R}^3 \Rightarrow V^{\perp} = \{\mathbf{0}\}$。

注意：**$V^{\perp}$ 永远是过原点的**。子空间必须含原点，所以「不经过原点的平面」不是子空间，谈不上正交补。这也是为什么投影问题里的子空间总是过原点的（第 4.2 节）。

### 2.2 四个子空间的正交图像（本节的核心图）

对 $m \times n$ 矩阵 $A$，秩为 $r$：**输入侧 $\mathbb{R}^n$ 被切成两块互相垂直的板**，**输出侧 $\mathbb{R}^m$ 也被切成两块互相垂直的板**。

```
                 R^n  维数 n                          R^m  维数 m
        ┌───────────────────────────┐        ┌───────────────────────────┐
        │                           │        │                           │
        │   行空间 C(A^T)           │        │   列空间 C(A)             │
        │   维数 r                  │        │   维数 r                  │
        │   ── 被 A 一对一送走 ─────┼── A ──►│   ── A 的值域 ──          │
        │                           │        │                           │
        ├──────── 正交 ─────────────┤        ├──────── 正交 ─────────────┤
        │                           │        │                           │
        │   零空间 N(A)             │        │   左零空间 N(A^T)         │
        │   维数 n - r              │        │   维数 m - r              │
        │   ── 被 A 全部压成 0 ─────┼── A ──►│   ── b 达不到的方向 ──    │
        │                           │        │                           │
        └───────────────────────────┘        └───────────────────────────┘
             R^n = C(A^T) ⊕ N(A)                 R^m = C(A) ⊕ N(A^T)
```

读图三句话：

1. **左半部分（行空间）是 $A$ 的「有效输入」**。$A$ 限制在行空间上是一一映射，且**恰好映满**列空间：$\mathbf{C}(A^{\mathrm{T}}) \xrightarrow{\ \cong\ } \mathbf{C}(A)$ 是同构（维数都是 $r$）。
2. **左半部分的下方（零空间）被整个压成原点**，它对输出没有任何贡献。这就是「$A$ 丢掉了 $n - r$ 维信息」的精确含义。
3. **上下两块互相垂直**：横跨两块走的两条路互不干扰。这条正交性使得我们可以「分离变量」——把问题拆成「在行空间上求解」与「在零空间里加任意解」两部分（最小二乘的全部秘密都在这里）。

> [!note] 关于「正交」的严格性
> 图中「正交」不只是示意：$\mathbf{C}(A^{\mathrm{T}})$ 与 $\mathbf{N}(A)$ 在 $\mathbb{R}^n$ 内正交（定理 4.1.3），$\mathbf{C}(A)$ 与 $\mathbf{N}(A^{\mathrm{T}})$ 在 $\mathbb{R}^m$ 内正交（定理 4.1.4）。这两条合起来是本章最重要的事实。

## 三、性质与定理

### 3.1 两条核心定理

> [!important] 定理 4.1.3（零空间 $\perp$ 行空间）
> 对任意 $m \times n$ 矩阵 $A$，
> $$\mathbf{N}(A) \perp \mathbf{C}(A^{\mathrm{T}})$$
> 即零空间是行空间的正交补：$\mathbf{N}(A) = (\mathbf{C}(A^{\mathrm{T}}))^{\perp}$，$\mathbf{C}(A^{\mathrm{T}}) = (\mathbf{N}(A))^{\perp}$。
>
> **适用条件**：任意实矩阵（复矩阵用共轭转置 $A^{\mathrm{H}}$）。

**证明（完整）。** 设 $\mathbf{x} \in \mathbf{N}(A)$，即 $A\mathbf{x} = \mathbf{0}$。把 $A$ 按行写出：

$$
A\mathbf{x} = \begin{bmatrix} \mathbf{r}_1^{\mathrm{T}} \\ \mathbf{r}_2^{\mathrm{T}} \\ \vdots \\ \mathbf{r}_m^{\mathrm{T}} \end{bmatrix}\mathbf{x} = \begin{bmatrix} \mathbf{r}_1^{\mathrm{T}}\mathbf{x} \\ \mathbf{r}_2^{\mathrm{T}}\mathbf{x} \\ \vdots \\ \mathbf{r}_m^{\mathrm{T}}\mathbf{x} \end{bmatrix} = \begin{bmatrix} 0 \\ 0 \\ \vdots \\ 0 \end{bmatrix}
$$

于是 $\mathbf{r}_i^{\mathrm{T}}\mathbf{x} = 0$ 对每个 $i = 1, \dots, m$ 成立。也就是说 **$\mathbf{x}$ 与 $A$ 的每一行都正交**。由于 $\mathbf{C}(A^{\mathrm{T}})$ 中的任意向量都是这些行的线性组合 $\sum_i c_i\mathbf{r}_i$，由

$$
\Big(\sum_i c_i\mathbf{r}_i\Big)^{\mathrm{T}}\mathbf{x} = \sum_i c_i\,(\mathbf{r}_i^{\mathrm{T}}\mathbf{x}) = \sum_i c_i \cdot 0 = 0
$$

可得 $\mathbf{x}$ 与整个行空间正交。故 $\mathbf{N}(A) \subseteq (\mathbf{C}(A^{\mathrm{T}}))^{\perp}$。

反向包含（其实可由维数立刻得出，但也可以直接证）：若 $\mathbf{x} \perp \mathbf{C}(A^{\mathrm{T}})$，特别地 $\mathbf{x}$ 与 $A$ 的每一行正交，即 $\mathbf{r}_i^{\mathrm{T}}\mathbf{x} = 0$ 对一切 $i$，则 $A\mathbf{x} = \mathbf{0}$，故 $\mathbf{x} \in \mathbf{N}(A)$。

两边互相包含，$\mathbf{N}(A) = (\mathbf{C}(A^{\mathrm{T}}))^{\perp}$，特别地二者正交。$\square$

> [!tip] 也可以用维数一句话收尾
> 已证 $\mathbf{N}(A) \subseteq (\mathbf{C}(A^{\mathrm{T}}))^{\perp}$，而
> $$\dim(\mathbf{C}(A^{\mathrm{T}}))^{\perp} = n - \dim\mathbf{C}(A^{\mathrm{T}}) = n - r = \dim\mathbf{N}(A)$$
> 维数相同且一个包含另一个，故相等。

> [!important] 定理 4.1.4（左零空间 $\perp$ 列空间）
> 对任意 $m \times n$ 矩阵 $A$，
> $$\mathbf{N}(A^{\mathrm{T}}) \perp \mathbf{C}(A)$$
> 即左零空间是列空间的正交补：$\mathbf{N}(A^{\mathrm{T}}) = (\mathbf{C}(A))^{\perp}$，$\mathbf{C}(A) = (\mathbf{N}(A^{\mathrm{T}}))^{\perp}$。

**证明（完整）。** 把定理 4.1.3 应用于 $A^{\mathrm{T}}$（它是 $n \times m$ 矩阵，注意此时「输入侧」是 $\mathbb{R}^m$）：

$$
\mathbf{N}(A^{\mathrm{T}}) \perp \mathbf{C}\big((A^{\mathrm{T}})^{\mathrm{T}}\big) = \mathbf{C}(A)
$$

$\square$

也可以直接验证：设 $\mathbf{y} \in \mathbf{N}(A^{\mathrm{T}})$，即 $A^{\mathrm{T}}\mathbf{y} = \mathbf{0}$。对任意 $\mathbf{x} \in \mathbb{R}^n$，

$$
\mathbf{y}^{\mathrm{T}}(A\mathbf{x}) = (A^{\mathrm{T}}\mathbf{y})^{\mathrm{T}}\mathbf{x} = \mathbf{0}^{\mathrm{T}}\mathbf{x} = 0
$$

由于 $\mathbf{C}(A)$ 中的向量都形如 $A\mathbf{x}$，故 $\mathbf{y}$ 与整个列空间正交。

> [!important] 定理 4.1.5（正交直和分解 / 唯一分解定理）
> 对 $m \times n$ 矩阵 $A$，
> $$\mathbb{R}^n = \mathbf{C}(A^{\mathrm{T}}) \oplus \mathbf{N}(A), \qquad \mathbb{R}^m = \mathbf{C}(A) \oplus \mathbf{N}(A^{\mathrm{T}})$$
> 即：**任何** $\mathbf{x} \in \mathbb{R}^n$ 可**唯一**地写成
> $$\mathbf{x} = \mathbf{x}_{\text{row}} + \mathbf{x}_{\text{null}}, \qquad \mathbf{x}_{\text{row}} \in \mathbf{C}(A^{\mathrm{T}}),\ \mathbf{x}_{\text{null}} \in \mathbf{N}(A)$$
> 且 $\mathbf{x}_{\text{row}} \perp \mathbf{x}_{\text{null}}$；**任何** $\mathbf{b} \in \mathbb{R}^m$ 可唯一地写成
> $$\mathbf{b} = \mathbf{b}_{\text{col}} + \mathbf{b}_{\text{leftnull}}, \qquad \mathbf{b}_{\text{col}} \in \mathbf{C}(A),\ \mathbf{b}_{\text{leftnull}} \in \mathbf{N}(A^{\mathrm{T}})$$

**证明（存在性）。** 把 $\mathbf{x}$ 关于 $\mathbf{C}(A^{\mathrm{T}})$ 作投影（第 4.2 节会构造出投影矩阵 $P$），令 $\mathbf{x}_{\text{row}} = P\mathbf{x}$、$\mathbf{x}_{\text{null}} = \mathbf{x} - P\mathbf{x}$。投影的定义保证误差 $\mathbf{x} - P\mathbf{x}$ 与 $\mathbf{C}(A^{\mathrm{T}})$ 正交，故 $\mathbf{x}_{\text{null}} \in (\mathbf{C}(A^{\mathrm{T}}))^{\perp} = \mathbf{N}(A)$（定理 4.1.3）。

**证明（唯一性）。** 设 $\mathbf{x} = \mathbf{u}_1 + \mathbf{v}_1 = \mathbf{u}_2 + \mathbf{v}_2$，其中 $\mathbf{u}_i \in \mathbf{C}(A^{\mathrm{T}})$、$\mathbf{v}_i \in \mathbf{N}(A)$。则

$$
\mathbf{u}_1 - \mathbf{u}_2 = \mathbf{v}_2 - \mathbf{v}_1
$$

左边属于 $\mathbf{C}(A^{\mathrm{T}})$，右边属于 $\mathbf{N}(A)$，故这个向量同时属于两个空间，即属于它们的交集：

$$
\mathbf{C}(A^{\mathrm{T}}) \cap \mathbf{N}(A) \subseteq \mathbf{C}(A^{\mathrm{T}}) \cap (\mathbf{C}(A^{\mathrm{T}}))^{\perp} = \{\mathbf{0}\}
$$

（用了「$\mathbf{x} \perp \mathbf{x} \Rightarrow \mathbf{x} = \mathbf{0}$」。）故 $\mathbf{u}_1 = \mathbf{u}_2$、$\mathbf{v}_1 = \mathbf{v}_2$，分解唯一。$\square$

> [!tip] 存在性的一种「不依赖投影」的证法
> 由 $\dim\mathbf{C}(A^{\mathrm{T}}) + \dim\mathbf{N}(A) = r + (n - r) = n$ 与 $\mathbf{C}(A^{\mathrm{T}}) \cap \mathbf{N}(A) = \{\mathbf{0}\}$，直接由线性代数基本结论「维数相加等于全空间维数且交集为零 $\Rightarrow$ 直和」得到存在性。这条路线完全用第 3 章的维数公式，不需要 4.2 节的投影。两种证法都要会。

### 3.2 为什么 $\mathbf{N}(A)$ 与 $\mathbf{C}(A)$ **不一定**正交

这是本节最容易被问倒的问题，单独讲清。

> [!warning] 结论
> **$\mathbf{N}(A)$ 与 $\mathbf{C}(A)$ 一般不正交，而且当 $m \neq n$ 时这句话本身没有意义**——因为 $\mathbf{N}(A) \subseteq \mathbb{R}^n$、$\mathbf{C}(A) \subseteq \mathbb{R}^m$，两个空间里的向量分量个数不同，无法做点积。

**（1）$m \neq n$ 时：无法比较。** 例如 $A = \begin{bmatrix} 1 \\ 1 \end{bmatrix}$（$2 \times 1$）：$\mathbf{N}(A) = \{0\} \subseteq \mathbb{R}^1$、$\mathbf{C}(A) = \operatorname{span}\{(1,1)\} \subseteq \mathbb{R}^2$。谈「正交」无从下手。

**（2）即使 $m = n$（方阵），二者一般也不正交。** 举例：

$$
A = \begin{bmatrix} 1 & 1 \\ 0 & 1 \end{bmatrix}
$$

$\mathbf{C}(A) = \mathbb{R}^2$（两列独立），$\mathbf{N}(A) = \{\mathbf{0}\}$，此时正交（零空间平凡）。换一个：

$$
A = \begin{bmatrix} 1 & 1 \\ 1 & 1 \end{bmatrix}
$$

$\mathbf{C}(A) = \operatorname{span}\{(1,1)\}$、$\mathbf{N}(A) = \operatorname{span}\{(1,-1)\}$，恰好正交——这是**巧合**（因为此 $A$ 对称！$A^{\mathrm{T}} = A$，于是 $\mathbf{C}(A) = \mathbf{C}(A^{\mathrm{T}})$，定理 4.1.3 就变成了 $\mathbf{N}(A) \perp \mathbf{C}(A)$）。

再看一个不对称的例子：

$$
A = \begin{bmatrix} 1 & 2 \\ 0 & 0 \end{bmatrix}, \qquad \mathbf{C}(A) = \operatorname{span}\left\{\begin{bmatrix} 1 \\ 0 \end{bmatrix}\right\}, \qquad \mathbf{N}(A) = \operatorname{span}\left\{\begin{bmatrix} -2 \\ 1 \end{bmatrix}\right\}
$$

$$
\begin{bmatrix} 1 \\ 0 \end{bmatrix} \cdot \begin{bmatrix} -2 \\ 1 \end{bmatrix} = -2 \neq 0
$$

**不正交。** 而 $\mathbf{N}(A) \perp \mathbf{C}(A^{\mathrm{T}})$ 确实成立：$\mathbf{C}(A^{\mathrm{T}}) = \operatorname{span}\{(1,2)\}$，$(1,2)\cdot(-2,1) = -2 + 2 = 0$ ✓。

> [!important] 一句话记忆
> **「零空间只跟行空间玩，列空间只跟左零空间玩。」** 配对关系是
> $$\mathbf{N}(A) \longleftrightarrow \mathbf{C}(A^{\mathrm{T}}), \qquad \mathbf{N}(A^{\mathrm{T}}) \longleftrightarrow \mathbf{C}(A)$$
> 只有当 $A$ 对称时两组配对才「串」在一起（$\mathbf{C}(A) = \mathbf{C}(A^{\mathrm{T}})$），此时 $\mathbb{R}^n = \mathbf{C}(A) \oplus \mathbf{N}(A)$ 也正交。

### 3.3 由正交性得到的几条实用推论

> [!important] 推论 4.1.6（$\mathbf{b}$ 可解性的正交判据）
> $A\mathbf{x} = \mathbf{b}$ 有解 $\iff \mathbf{b} \in \mathbf{C}(A) \iff \mathbf{b} \perp \mathbf{N}(A^{\mathrm{T}})$，即 $\mathbf{b}$ 与 $A^{\mathrm{T}}\mathbf{y} = \mathbf{0}$ 的每个解 $\mathbf{y}$ 正交。
> **几何说法**：$\mathbf{b}$ 只要能「通过」垂直于左零空间的检验，就落在列空间里。

> [!important] 推论 4.1.7（$\operatorname{rank}(A^{\mathrm{T}}A) = \operatorname{rank}(A)$，即 $\mathbf{N}(A^{\mathrm{T}}A) = \mathbf{N}(A)$）
> 对任意实矩阵 $A$，
> $$\mathbf{N}(A^{\mathrm{T}}A) = \mathbf{N}(A), \qquad \operatorname{rank}(A^{\mathrm{T}}A) = \operatorname{rank}(A)$$
> 因此 $A^{\mathrm{T}}A$ 可逆 $\iff A$ 的列线性无关（$r = n$）。
>
> **证明**。一方面，$A\mathbf{x} = \mathbf{0} \Rightarrow A^{\mathrm{T}}A\mathbf{x} = A^{\mathrm{T}}\mathbf{0} = \mathbf{0}$，故 $\mathbf{N}(A) \subseteq \mathbf{N}(A^{\mathrm{T}}A)$。
> 另一方面，设 $\mathbf{x} \in \mathbf{N}(A^{\mathrm{T}}A)$，即 $A^{\mathrm{T}}A\mathbf{x} = \mathbf{0}$。两边与 $\mathbf{x}$ 作内积：
> $$\mathbf{x}^{\mathrm{T}}A^{\mathrm{T}}A\mathbf{x} = 0 \Longrightarrow (A\mathbf{x})^{\mathrm{T}}(A\mathbf{x}) = \|A\mathbf{x}\|^2 = 0 \Longrightarrow A\mathbf{x} = \mathbf{0}$$
> 故 $\mathbf{x} \in \mathbf{N}(A)$，$\mathbf{N}(A^{\mathrm{T}}A) \subseteq \mathbf{N}(A)$。
> 两向包含给出相等。由秩—零化度定理：$\operatorname{rank}(A^{\mathrm{T}}A) = n - \dim\mathbf{N}(A^{\mathrm{T}}A) = n - (n - r) = r = \operatorname{rank}(A)$。$\square$
>
> **关键技巧**：$\|A\mathbf{x}\|^2 = \mathbf{x}^{\mathrm{T}}A^{\mathrm{T}}A\mathbf{x}$ 是本章最常用的恒等式，请务必记住。它也是最小二乘法方程可解性的基础（见 4-3）。

> [!important] 推论 4.1.8（$\mathbf{C}(A)$ 与 $\mathbf{C}(A^{\mathrm{T}}A)$ 的关系）
> $\mathbf{C}(A^{\mathrm{T}}A) \subseteq \mathbf{C}(A^{\mathrm{T}})$。事实上由 $\operatorname{rank}(A^{\mathrm{T}}A) = \operatorname{rank}(A) = r$ 与 $\mathbf{C}(A^{\mathrm{T}}) \subseteq \mathbb{R}^n$ 的维数为 $r$，可知二者维数相同，故
> $$\mathbf{C}(A^{\mathrm{T}}A) = \mathbf{C}(A^{\mathrm{T}})$$
> 这条结论说明：**用 $A^{\mathrm{T}}A$ 做计算不会丢掉行空间的信息**，这是法方程 $A^{\mathrm{T}}A\hat{\mathbf{x}} = A^{\mathrm{T}}\mathbf{b}$ 可解的原因（$\mathbf{b}$ 无论是什么，右端 $A^{\mathrm{T}}\mathbf{b}$ 必在 $\mathbf{C}(A^{\mathrm{T}}A) = \mathbf{C}(A^{\mathrm{T}})$ 中）。

## 四、计算方法与步骤

### 4.1 验证两个子空间正交（数值做法）

1. 分别求 $V$、$W$ 的基 $\{\mathbf{v}_i\}$、$\{\mathbf{w}_j\}$（可用第 3 章的方法）。
2. 对每一对 $(i, j)$ 计算 $\mathbf{v}_i^{\mathrm{T}}\mathbf{w}_j$。
3. 全部为零 $\Rightarrow$ $V \perp W$（定理 4.1.1）。

### 4.2 求一个子空间的正交补

1. 求 $V$ 的一组基 $\mathbf{v}_1, \dots, \mathbf{v}_k$。
2. 把它们作为**行**排成 $k\times n$ 矩阵 $B$。
3. 解 $B\mathbf{x} = \mathbf{0}$，其解空间就是 $V^{\perp} = \mathbf{N}(B)$，维数为 $n - k$。

> [!tip] 特例（最常用）
> - $V = \mathbf{C}(A)$ 时，把 $A$ 的**列转置成行**即得 $B = A^{\mathrm{T}}$，于是 $V^{\perp} = \mathbf{N}(A^{\mathrm{T}})$。
> - $V = \mathbf{C}(A^{\mathrm{T}})$ 时，$B = A$，于是 $V^{\perp} = \mathbf{N}(A)$。

### 4.3 把一个向量正交分解

要求把 $\mathbf{x}$ 写成 $\mathbf{x} = \mathbf{x}_{\text{row}} + \mathbf{x}_{\text{null}}$（关于 $\mathbf{C}(A^{\mathrm{T}})$ 与 $\mathbf{N}(A)$）：

1. 求出 $\mathbf{C}(A^{\mathrm{T}})$ 的基（$R$ 的非零行）与 $\mathbf{N}(A)$ 的基（$R\mathbf{x}=\mathbf{0}$ 的特解）。
2. 设 $\mathbf{x}_{\text{row}} = \sum_i c_i \mathbf{b}_i$（$\mathbf{b}_i$ 为行空间基），利用 $\mathbf{x} - \mathbf{x}_{\text{row}} \perp \mathbf{C}(A^{\mathrm{T}})$ 列出方程：
$$
\mathbf{b}_j^{\mathrm{T}}\Big(\mathbf{x} - \sum_i c_i\mathbf{b}_i\Big) = 0, \qquad j = 1, \dots, r
$$
这是 $r$ 个未知量、$r$ 个方程的线性方程组（正是法方程！），解出 $c_i$。
3. $\mathbf{x}_{\text{null}} = \mathbf{x} - \mathbf{x}_{\text{row}}$。
4. 验证：$\mathbf{x}_{\text{row}} \perp \mathbf{x}_{\text{null}}$ 且 $A\mathbf{x} = A\mathbf{x}_{\text{row}}$（零空间分量被 $A$ 杀掉）。

> [!note] 这就是最小二乘
> 上面的第 2 步方程组**就是**法方程 $A^{\mathrm{T}}A\hat{\mathbf{x}} = A^{\mathrm{T}}\mathbf{b}$ 的一般形式。第 4.3 节会把 $\mathbf{b}$ 换成一般的右端向量、把行空间换成列空间，得到同一条方程。**最小二乘 = 正交分解 + 在列空间里解方程**。

## 五、例题

### 例题 1：用一个 $2 \times 2$ 矩阵看清四个空间

$$
A = \begin{bmatrix} 1 & 2 \\ 3 & 6 \end{bmatrix}, \qquad m = n = 2
$$

**第 1 步：消元求秩与主元列。**

$$
A \longrightarrow \begin{bmatrix} 1 & 2 \\ 0 & 0 \end{bmatrix}
$$

（$r_2 \leftarrow r_2 - 3r_1$。）主元在第 1 列，$r = 1$。第 2 列 $= 2\times$ 第 1 列。

**第 2 步：四个空间。**

- $\mathbf{C}(A) = \operatorname{span}\{(1,3)^{\mathrm{T}}\}$，$\dim = 1 = r$ ✓ — $\mathbb{R}^2$ 中的一条直线。
- $\mathbf{N}(A)$：解 $x_1 + 2x_2 = 0$，得 $\operatorname{span}\{(-2,1)^{\mathrm{T}}\}$，$\dim = 1 = n - r$ ✓。
- $\mathbf{C}(A^{\mathrm{T}}) = \operatorname{span}\{(1,2)^{\mathrm{T}}\}$，$\dim = 1 = r$ ✓。
- $\mathbf{N}(A^{\mathrm{T}})$：解 $A^{\mathrm{T}}\mathbf{y} = \mathbf{0}$，即 $y_1 + 3y_2 = 0$、$2y_1 + 6y_2 = 0$，得 $\operatorname{span}\{(-3,1)^{\mathrm{T}}\}$，$\dim = 1 = m - r$ ✓。

**第 3 步：验证正交性。**

$$
\mathbf{N}(A) \perp \mathbf{C}(A^{\mathrm{T}}): \quad (-2,1)\cdot(1,2) = -2 + 2 = 0 \ \checkmark
$$

$$
\mathbf{N}(A^{\mathrm{T}}) \perp \mathbf{C}(A): \quad (-3,1)\cdot(1,3) = -3 + 3 = 0 \ \checkmark
$$

**第 4 步：验证 $\mathbf{N}(A)$ 与 $\mathbf{C}(A)$ 不正交。**

$$
(-2,1)\cdot(1,3) = -2 + 3 = 1 \neq 0 \ \times
$$

这正说明配对关系必须搞清楚：$\mathbf{N}(A)$ 与 $\mathbf{C}(A^{\mathrm{T}})$ 正交，而不是与 $\mathbf{C}(A)$ 正交。

**第 5 步：正交直和分解。** 由于 $n = 2$、两个一维子空间正交，$\mathbb{R}^2 = \mathbf{C}(A^{\mathrm{T}}) \oplus \mathbf{N}(A)$。取 $\mathbf{x} = (4, 1)^{\mathrm{T}}$，设 $\mathbf{x} = c(1,2)^{\mathrm{T}} + d(-2,1)^{\mathrm{T}}$。解方程：

$$
\begin{cases} c - 2d = 4 \\ 2c + d = 1 \end{cases} \Longrightarrow d = 1 - 2c \Longrightarrow c - 2(1-2c) = 4 \Longrightarrow 5c = 6 \Longrightarrow c = \tfrac{6}{5},\ d = -\tfrac{7}{5}
$$

验证：

$$
\mathbf{x}_{\text{row}} = \tfrac{6}{5}\begin{bmatrix} 1 \\ 2 \end{bmatrix} = \begin{bmatrix} 1.2 \\ 2.4 \end{bmatrix}, \qquad \mathbf{x}_{\text{null}} = -\tfrac{7}{5}\begin{bmatrix} -2 \\ 1 \end{bmatrix} = \begin{bmatrix} 2.8 \\ -1.4 \end{bmatrix}
$$

$$
\mathbf{x}_{\text{row}} + \mathbf{x}_{\text{null}} = \begin{bmatrix} 4 \\ 1 \end{bmatrix} \ \checkmark, \qquad \mathbf{x}_{\text{row}} \cdot \mathbf{x}_{\text{null}} = 1.2\times 2.8 + 2.4\times(-1.4) = 3.36 - 3.36 = 0 \ \checkmark
$$

以及 $A\mathbf{x}_{\text{row}} = 1.2\cdot(1,3)^{\mathrm{T}} + 2.4\cdot(2,6)^{\mathrm{T}} = (1.2 + 4.8,\ 3.6 + 14.4)^{\mathrm{T}} = (6, 18)^{\mathrm{T}}$；$A\mathbf{x} = (4 + 2,\ 12 + 6)^{\mathrm{T}} = (6,18)^{\mathrm{T}}$，两者相同——**零空间分量被 $A$ 完全消去** ✓。

### 例题 2：用一个 $3 \times 3$ 秩为 2 的矩阵在 $\mathbb{R}^3$ 中画出四个空间

$$
A = \begin{bmatrix} 1 & 2 & 3 \\ 2 & 3 & 4 \\ 3 & 5 & 7 \end{bmatrix}, \qquad m = n = 3
$$

这个矩阵**不对称**（$A_{23} = 4 \neq A_{32} = 5$），因此它的行空间与列空间是 $\mathbb{R}^3$ 中**两个不同的平面**——正是展示四个空间各自独立身份的最佳例子。

**第 1 步：消元求 $R$。**
依次做 $r_2 \leftarrow r_2 - 2r_1$、$r_3 \leftarrow r_3 - 3r_1$：

$$
A \longrightarrow \begin{bmatrix} 1 & 2 & 3 \\ 0 & -1 & -2 \\ 0 & -1 & -2 \end{bmatrix} \longrightarrow \begin{bmatrix} 1 & 2 & 3 \\ 0 & -1 & -2 \\ 0 & 0 & 0 \end{bmatrix}
$$

（第二步 $r_3 \leftarrow r_3 - r_2$。）再做 $r_2 \leftarrow -r_2$、$r_1 \leftarrow r_1 - 2r_2$：

$$
R = \begin{bmatrix} 1 & 0 & -1 \\ 0 & 1 & 2 \\ 0 & 0 & 0 \end{bmatrix}
$$

读出：主元在第 1、2 列，$r = 2$；自由列是第 3 列；第 3 行 $=$ 第 1 行 $+$ 第 2 行（$1+2 = 3$、$2+3=5$、$3+4=7$ ✓），这就是左零向量的来源。

**第 2 步：$\mathbf{C}(A)$——$\mathbb{R}^3$ 中的一个平面。**
主元列是第 1、2 列，回到 $A$ 取列：

$$
\mathbf{a}_1 = \begin{bmatrix} 1 \\ 2 \\ 3 \end{bmatrix}, \qquad \mathbf{a}_2 = \begin{bmatrix} 2 \\ 3 \\ 5 \end{bmatrix}, \qquad \dim\mathbf{C}(A) = 2 = r \ \checkmark
$$

**第 3 步：$\mathbf{N}(A^{\mathrm{T}})$——垂直于该平面的一条直线。**
先直接解 $A^{\mathrm{T}}\mathbf{y} = \mathbf{0}$：$y_1\mathbf{r}_1 + y_2\mathbf{r}_2 + y_3\mathbf{r}_3 = \mathbf{0}$，由「行 3 = 行 1 $+$ 行 2」知 $\mathbf{y} = (1,1,-1)^{\mathrm{T}}$ 是解。验证：

$$
A^{\mathrm{T}}\mathbf{y} = \begin{bmatrix} 1 & 2 & 3 \\ 2 & 3 & 5 \\ 3 & 4 & 7 \end{bmatrix}\begin{bmatrix} 1 \\ 1 \\ -1 \end{bmatrix} = \begin{bmatrix} 1+2-3 \\ 2+3-5 \\ 3+4-7 \end{bmatrix} = \begin{bmatrix} 0 \\ 0 \\ 0 \end{bmatrix} \ \checkmark
$$

再用叉积复核（对 $3\times3$ 秩 2 的情形，$\mathbf{a}_1 \times \mathbf{a}_2$ 自动垂直于整个列空间）：

$$
\mathbf{a}_1 \times \mathbf{a}_2 = \begin{vmatrix} \mathbf{i} & \mathbf{j} & \mathbf{k} \\ 1 & 2 & 3 \\ 2 & 3 & 5 \end{vmatrix} = (2\cdot 5 - 3\cdot 3,\ 3\cdot 2 - 1\cdot 5,\ 1\cdot 3 - 2\cdot 2) = (1, 1, -1) \ \checkmark
$$

于是

$$
\mathbf{N}(A^{\mathrm{T}}) = \operatorname{span}\{(1,1,-1)^{\mathrm{T}}\}, \qquad \dim = 1 = m - r \ \checkmark
$$

它同时给出 $\mathbf{C}(A)$ 的平面方程：法向量 $\mathbf{y} = (1,1,-1)$ 与列空间正交，故平面为

$$
x_1 + x_2 - x_3 = 0
$$

（用主元列核对：$(1,2,3)\cdot(1,1,-1) = 0$ ✓、$(2,3,5)\cdot(1,1,-1) = 0$ ✓。）

**第 4 步：$\mathbf{N}(A)$——另一条直线。**
由 $R\mathbf{x} = \mathbf{0}$：$x_1 - x_3 = 0$、$x_2 + 2x_3 = 0$。取自由变量 $x_3 = 1$：

$$
\mathbf{N}(A) = \operatorname{span}\{(1,-2,1)^{\mathrm{T}}\}, \qquad \dim = 1 = n - r \ \checkmark
$$

**第 5 步：$\mathbf{C}(A^{\mathrm{T}})$——另一个平面。**
取 $R$ 的两个非零行：$\mathbf{b}_1 = (1,0,-1)$、$\mathbf{b}_2 = (0,1,2)$，$\dim = 2$ ✓。它们的法向量是

$$
\mathbf{b}_1 \times \mathbf{b}_2 = (0\cdot 2 - (-1)\cdot 1,\ (-1)\cdot 0 - 1\cdot 2,\ 1\cdot 1 - 0\cdot 0) = (1,-2,1)
$$

——**正是 $\mathbf{N}(A)$ 的基向量**（符号与倍数可任意）。故行空间是平面

$$
x_1 - 2x_2 + x_3 = 0
$$

（用基向量核对：$1 - 0 - 1 = 0$ ✓、$0 - 2 + 2 = 0$ ✓。）这与 $\mathbf{N}(A) = \operatorname{span}\{(1,-2,1)\}$ 是它的法线完全一致。**注意行空间的基应取 $R$ 的非零行 $(1,0,-1),(0,1,2)$，而不是 $A$ 的原行 $(1,2,3),(2,3,4)$**——后者虽然也张成同一个行空间（$A$ 的第 3 行 $=$ 第 1 行 $+$ 第 2 行），但与前者是不同的基。

**第 6 步：验证正交性（逐个点积）。**

$\mathbf{N}(A) \perp \mathbf{C}(A^{\mathrm{T}})$：

$$
(1,-2,1)\cdot(1,0,-1) = 1 + 0 - 1 = 0 \ \checkmark, \qquad (1,-2,1)\cdot(0,1,2) = 0 - 2 + 2 = 0 \ \checkmark
$$

$\mathbf{N}(A^{\mathrm{T}}) \perp \mathbf{C}(A)$：

$$
(1,1,-1)\cdot(1,2,3) = 1 + 2 - 3 = 0 \ \checkmark, \qquad (1,1,-1)\cdot(2,3,5) = 2 + 3 - 5 = 0 \ \checkmark
$$

$\mathbf{N}(A)$ 与 $\mathbf{C}(A)$ 是否正交？只需检查两个基向量：

$$
(1,-2,1)\cdot(2,3,5) = 2 - 6 + 5 = 1 \neq 0 \ \times
$$

**不正交**——正如 3.2 节所预言。$\mathbb{R}^3$ 中的几何图像是：行空间与列空间是**两个斜交的平面**，而两条直线分别是它们的法线。

- 行空间是平面 $x_1 - 2x_2 + x_3 = 0$，其法向量正是 $(1,-2,1)$，故 $\mathbf{N}(A) = \operatorname{span}\{(1,-2,1)\}$ **就是这条法线**——与 $\mathbf{N}(A) \perp \mathbf{C}(A^{\mathrm{T}})$ 一致 ✓
- 列空间是平面 $x_1 + x_2 - x_3 = 0$，其法向量正是 $(1,1,-1)$，故 $\mathbf{N}(A^{\mathrm{T}}) = \operatorname{span}\{(1,1,-1)\}$ **是另一条法线**——与 $\mathbf{N}(A^{\mathrm{T}}) \perp \mathbf{C}(A)$ 一致 ✓
- 两条法线互不平行（$(1,-2,1)$ 与 $(1,1,-1)$ 不成比例），因为两个平面斜交；而 $(1,-2,1)\cdot(2,3,5) = 1 \neq 0$，说明**行空间的法线并不垂直于列空间**，这正是「$\mathbf{N}(A)$ 与 $\mathbf{C}(A)$ 不正交」的几何含义。（若 $A$ 对称，两个平面会重合，两条法线也随之对齐。）

**第 7 步：四个空间与两个正交分解的总览。**

$$
\begin{aligned}
\dim\mathbf{C}(A) &= 2 \quad \text{平面}\ x_1 + x_2 - x_3 = 0, \ \text{基取主元列}\ \mathbf{a}_1, \mathbf{a}_2 \\
\dim\mathbf{N}(A) &= 1 = 3 - 2 \quad \text{直线，基}\ (1,-2,1)^{\mathrm{T}} \\
\dim\mathbf{C}(A^{\mathrm{T}}) &= 2 \quad \text{平面}\ x_1 - 2x_2 + x_3 = 0, \ \text{基取}\ R\ \text{的非零行} \\
\dim\mathbf{N}(A^{\mathrm{T}}) &= 1 = 3 - 2 \quad \text{直线，基}\ (1,1,-1)^{\mathrm{T}}
\end{aligned}
$$

$$
\mathbb{R}^3 = \underbrace{\operatorname{span}\{(1,0,-1),(0,1,2)\}}_{\mathbf{C}(A^{\mathrm{T}})} \oplus \underbrace{\operatorname{span}\{(1,-2,1)\}}_{\mathbf{N}(A)}, \qquad 2 + 1 = 3
$$

$$
\mathbb{R}^3 = \underbrace{\operatorname{span}\{(1,2,3),(2,3,5)\}}_{\mathbf{C}(A)} \oplus \underbrace{\operatorname{span}\{(1,1,-1)\}}_{\mathbf{N}(A^{\mathrm{T}})}, \qquad 2 + 1 = 3
$$

| 子空间 | $\mathbb{R}^3$ 中的图像 | 维数 | 平面/直线方程 |
|---|---|---|---|
| $\mathbf{C}(A)$ | 平面 | 2 | $x_1 + x_2 - x_3 = 0$ |
| $\mathbf{N}(A)$ | 直线 | 1 | 由 $(1,-2,1)$ 张成 |
| $\mathbf{C}(A^{\mathrm{T}})$ | 平面 | 2 | $x_1 - 2x_2 + x_3 = 0$ |
| $\mathbf{N}(A^{\mathrm{T}})$ | 直线 | 1 | 由 $(1,1,-1)$ 张成 |

**第 8 步：把 $\mathbf{x} = (1,1,1)^{\mathrm{T}}$ 唯一分解。**
设 $\mathbf{x} = c_1(1,0,-1)^{\mathrm{T}} + c_2(0,1,2)^{\mathrm{T}} + d(1,-2,1)^{\mathrm{T}}$，其中前两块属于**行空间**、最后一块属于**零空间**。列出线性方程组：

$$
\begin{cases} c_1 \cdot 1 + 0 + d = 1 \\ 0 + c_2 - 2d = 1 \\ -c_1 + 2c_2 + d = 1 \end{cases}
$$

由第 1 式 $c_1 = 1 - d$，由第 2 式 $c_2 = 1 + 2d$，代入第 3 式：

$$
-(1-d) + 2(1+2d) + d = 1 \Longrightarrow -1 + d + 2 + 4d + d = 1 \Longrightarrow 6d = 0 \Longrightarrow d = 0
$$

于是 $c_1 = 1$、$c_2 = 1$、$d = 0$，从而

$$
\mathbf{x}_{\text{row}} = c_1\mathbf{b}_1 + c_2\mathbf{b}_2 = \begin{bmatrix} 1 \\ 0 \\ -1 \end{bmatrix} + \begin{bmatrix} 0 \\ 1 \\ 2 \end{bmatrix} = \begin{bmatrix} 1 \\ 1 \\ 1 \end{bmatrix}, \qquad \mathbf{x}_{\text{null}} = 0 \cdot \mathbf{v} = \mathbf{0}
$$

也就是说，$\mathbf{x} = (1,1,1)^{\mathrm{T}}$ **本身就落在行空间里**（用行空间方程核对：$1 - 2\cdot 1 + 1 = 0$ ✓），零空间分量为零。这是一个「分解退化为自身」的正常情形。

**验算（两步走，缺一不可）。** 第一步，检查正交性：$\mathbf{x}_{\text{row}} \cdot \mathbf{x}_{\text{null}} = (1,1,1)\cdot(0,0,0) = 0$ ✓（平凡成立）。第二步，检查 $A\mathbf{x} = A\mathbf{x}_{\text{row}}$（这是分解正确的最快判据，因为 $A\mathbf{x}_{\text{null}} = \mathbf{0}$）：

$$
A\mathbf{x}_{\text{row}} = A\begin{bmatrix} 1 \\ 1 \\ 1 \end{bmatrix} = 1\begin{bmatrix} 1 \\ 2 \\ 3 \end{bmatrix} + 1\begin{bmatrix} 2 \\ 3 \\ 5 \end{bmatrix} + 1\begin{bmatrix} 3 \\ 4 \\ 7 \end{bmatrix} = \begin{bmatrix} 6 \\ 9 \\ 15 \end{bmatrix}, \qquad A\mathbf{x} = \begin{bmatrix} 1+2+3 \\ 2+3+4 \\ 3+5+7 \end{bmatrix} = \begin{bmatrix} 6 \\ 9 \\ 15 \end{bmatrix} \ \checkmark
$$

两者一致，分解正确。（**提醒**：$A\mathbf{x}_{\text{row}}$ 必须把「系数 × 行空间基向量」的和先算成具体向量 $\mathbf{x}_{\text{row}} = (1,1,1)^{\mathrm{T}}$，再用 $A$ 左乘。$A$ 作用的对象是**向量**，不是系数三元组；行空间基不是标准基时，「系数」与「坐标」完全不是一回事。这是本节最容易翻车的一步。）

**再补一个非平凡的分解**：取 $\mathbf{y} = (0,0,1)^{\mathrm{T}}$，它满足 $0 - 0 + 1 = 1 \neq 0$，故有非零零空间分量。设 $\mathbf{y} = c_1(1,0,-1) + c_2(0,1,2) + d(1,-2,1)$，分量方程：

$$
\begin{cases} c_1 + d = 0 \\ c_2 - 2d = 0 \\ -c_1 + 2c_2 + d = 1 \end{cases}
$$

由第 1 式 $c_1 = -d$、第 2 式 $c_2 = 2d$，代入第 3 式：$d + 4d + d = 1 \Rightarrow 6d = 1 \Rightarrow d = \tfrac{1}{6}$，$c_1 = -\tfrac{1}{6}$，$c_2 = \tfrac{1}{3}$。于是

$$
\mathbf{y}_{\text{row}} = -\tfrac{1}{6}\begin{bmatrix} 1 \\ 0 \\ -1 \end{bmatrix} + \tfrac{1}{3}\begin{bmatrix} 0 \\ 1 \\ 2 \end{bmatrix} = \begin{bmatrix} -1/6 \\ 1/3 \\ 1/6 + 2/3 \end{bmatrix} = \begin{bmatrix} -1/6 \\ 1/3 \\ 5/6 \end{bmatrix}, \qquad \mathbf{y}_{\text{null}} = \tfrac{1}{6}\begin{bmatrix} 1 \\ -2 \\ 1 \end{bmatrix} = \begin{bmatrix} 1/6 \\ -1/3 \\ 1/6 \end{bmatrix}
$$

验算：$\mathbf{y}_{\text{row}} + \mathbf{y}_{\text{null}} = (0, 0, 1)^{\mathrm{T}} = \mathbf{y}$ ✓；内积 $-\tfrac{1}{36} - \tfrac{1}{9} + \tfrac{5}{36} = \tfrac{-1 - 4 + 5}{36} = 0$ ✓；$A\mathbf{y}_{\text{null}} = \tfrac{1}{6}A(1,-2,1)^{\mathrm{T}} = \mathbf{0}$ ✓，故

$$
A\mathbf{y} = A\mathbf{y}_{\text{row}} = -\tfrac{1}{6}\begin{bmatrix} 1 \\ 2 \\ 3 \end{bmatrix} + \tfrac{1}{3}\begin{bmatrix} 2 \\ 3 \\ 5 \end{bmatrix} = \begin{bmatrix} -1/6 + 2/3 \\ -1/3 + 1 \\ -1/2 + 5/3 \end{bmatrix} = \begin{bmatrix} 1/2 \\ 2/3 \\ 7/6 \end{bmatrix}
$$

直接算 $A\mathbf{y} = (0+0+3,\ 0+0+4,\ 0+0+7)^{\mathrm{T}} = (3,4,7)^{\mathrm{T}}$ —— 等等，$A(0,0,1)^{\mathrm{T}}$ 就是 $A$ 的第 3 列，即 $(3,4,7)^{\mathrm{T}}$，与 $(1/2, 2/3, 7/6)^{\mathrm{T}}$ 差一个因子 $6$。检查 $A\mathbf{y}_{\text{row}}$ 的计算：$\mathbf{y}_{\text{row}} = (-1/6, 1/3, 5/6)^{\mathrm{T}}$，故

$$
A\mathbf{y}_{\text{row}} = -\tfrac{1}{6}\mathbf{a}_1 + \tfrac{1}{3}\mathbf{a}_2 + \tfrac{5}{6}\mathbf{a}_3
$$

上面漏掉了 $\tfrac{5}{6}\mathbf{a}_3$ 项（这正是「$A\mathbf{x}_{\text{row}} = c_1\mathbf{a}_1 + c_2\mathbf{a}_2$」式错误的具体后果：行空间基的系数 $c_1, c_2$ 与 $\mathbf{x}_{\text{row}}$ 的坐标不是一回事）。补上：

$$
A\mathbf{y}_{\text{row}} = -\tfrac{1}{6}\begin{bmatrix} 1 \\ 2 \\ 3 \end{bmatrix} + \tfrac{1}{3}\begin{bmatrix} 2 \\ 3 \\ 5 \end{bmatrix} + \tfrac{5}{6}\begin{bmatrix} 3 \\ 4 \\ 7 \end{bmatrix} = \begin{bmatrix} -1/6 + 4/6 + 15/6 \\ -2/6 + 6/6 + 20/6 \\ -3/6 + 10/6 + 35/6 \end{bmatrix} = \begin{bmatrix} 18/6 \\ 24/6 \\ 42/6 \end{bmatrix} = \begin{bmatrix} 3 \\ 4 \\ 7 \end{bmatrix} \ \checkmark
$$

与 $A\mathbf{y} = (3,4,7)^{\mathrm{T}}$ 完全一致 ✓。（三个分量分别用了分母 $6$ 的通分：$-1+4+15 = 18$、$-2+6+20 = 24$、$-3+10+35 = 42$。）

**两条教训**：（i）用系数组合基向量时，一定把结果**算成一个具体向量**再代回 $A$；（ii）$A\mathbf{x} = A\mathbf{x}_{\text{row}}$ 恒成立，因为 $A\mathbf{x}_{\text{null}} = \mathbf{0}$——这条恒等式本身就是检查分解是否算对的最快手段。

> [!warning] 例题 2 附带的三条教训
> 1. **列是「上下读」的，行是「左右读」的**。矩阵对称时才可混用；本例 $A_{23} = 4 \neq A_{32} = 5$，$A$ 不对称，混用立刻出错。
> 2. **$\mathbf{N}(A) \perp \mathbf{C}(A^{\mathrm{T}})$ 而不是 $\mathbf{N}(A) \perp \mathbf{C}(A)$**。本例中 $\mathbf{N}(A)$ 与 $\mathbf{C}(A)$ 的第二个基向量点积为 $1$，明确不正交；行空间与列空间是两个斜交的平面。
> 3. **维数结论比基的具体形状更稳健**。本例四个维数是 $2,1,2,1$，它们只依赖 $r = 2$，与基向量怎么选无关——这也是「先算秩」最高效的原因。

### 例题 3：数值验证 $\mathbf{N}(A^{\mathrm{T}}A) = \mathbf{N}(A)$

仍用例题 2 的 $A$（不对称，$r = 2$）：

$$
A^{\mathrm{T}}A = \begin{bmatrix} 1 & 2 & 3 \\ 2 & 3 & 4 \\ 3 & 4 & 7 \end{bmatrix}\begin{bmatrix} 1 & 2 & 3 \\ 2 & 3 & 4 \\ 3 & 5 & 7 \end{bmatrix}
$$

逐项计算（$(A^{\mathrm{T}}A)_{ij} = \mathbf{a}_i^{\mathrm{T}}\mathbf{a}_j$，$\mathbf{a}_j$ 为 $A$ 的列）：

- $(1,1) = 1+4+9 = 14$，$(1,2) = 1\cdot2 + 2\cdot3 + 3\cdot5 = 2+6+15 = 23$，$(1,3) = 1\cdot3 + 2\cdot4 + 3\cdot7 = 3+8+21 = 32$
- $(2,2) = 4+9+25 = 38$，$(2,3) = 2\cdot3 + 3\cdot4 + 5\cdot7 = 6+12+35 = 53$
- $(3,3) = 9+16+49 = 74$

$$
A^{\mathrm{T}}A = \begin{bmatrix} 14 & 23 & 32 \\ 23 & 38 & 53 \\ 32 & 53 & 74 \end{bmatrix}
$$

检查秩：第 3 行 $-$ 第 2 行 $-$ 第 1 行 $= (32-23-14,\ 53-38-23,\ 74-53-32) = (-5,-8,-11)$，不为零行，说明 $A^{\mathrm{T}}A$ 的三行看似独立？但定理 4.1.7 保证 $\operatorname{rank}(A^{\mathrm{T}}A) = \operatorname{rank}(A) = 2$，必有行列式为零。验证：

$$
\det(A^{\mathrm{T}}A) = 14(38\cdot74 - 53^2) - 23(23\cdot74 - 53\cdot32) + 32(23\cdot53 - 38\cdot32)
$$

$$
= 14(2812 - 2809) - 23(1702 - 1696) + 32(1219 - 1216) = 14\cdot 3 - 23\cdot 6 + 32\cdot 3 = 42 - 138 + 96 = 0 \ \checkmark
$$

行列式确为零，故 $\operatorname{rank}(A^{\mathrm{T}}A) = 2 = \operatorname{rank}(A)$ ✓。再验证零空间向量：

$$
A^{\mathrm{T}}A\begin{bmatrix} 1 \\ -2 \\ 1 \end{bmatrix} = \begin{bmatrix} 14 - 46 + 32 \\ 23 - 76 + 53 \\ 32 - 106 + 74 \end{bmatrix} = \begin{bmatrix} 0 \\ 0 \\ 0 \end{bmatrix} \ \checkmark
$$

因此

$$
\mathbf{N}(A^{\mathrm{T}}A) = \operatorname{span}\{(1,-2,1)^{\mathrm{T}}\} = \mathbf{N}(A), \qquad \operatorname{rank}(A^{\mathrm{T}}A) = 2 = \operatorname{rank}(A) \ \checkmark
$$

因为 $\dim\mathbf{N}(A) = 1 > 0$（列线性相关），$A^{\mathrm{T}}A$ 虽是 $3\times3$ 却**不可逆**。这正是推论 4.1.7 的实例：**只有当 $A$ 的列线性无关时 $A^{\mathrm{T}}A$ 才可逆**，而这恰是法方程有唯一解的条件（第 4.2、4.3 节）。

### 例题 4（国内风格计算题）：验证一组公理化的内积，并算出长度、夹角与度量矩阵

在 $\mathbb{R}^3$ 上定义

$$
[\mathbf{x},\mathbf{y}] = 2x_1y_1 + x_1y_2 + x_2y_1 + x_2y_2 + x_3y_3
$$

**第 1 步：把内积写成矩阵形式，认出度量矩阵。**

把上式整理成二次型的样子：

$$
[\mathbf{x},\mathbf{y}] = 2x_1y_1 + x_1y_2 + x_2y_1 + x_2y_2 + x_3y_3 = \mathbf{x}^{\mathrm{T}}\underbrace{\begin{bmatrix} 2 & 1 & 0 \\ 1 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix}}_{G} \mathbf{y}
$$

逐项核对：$\mathbf{x}^{\mathrm{T}}G\mathbf{y}$ 展开后 $y_1$ 的系数是 $2x_1 + x_2$（对应 $2x_1y_1 + x_2y_1$）、$y_2$ 的系数是 $x_1 + x_2$、$y_3$ 的系数是 $x_3$，与题设完全一致 ✓。称 $G$ 为这个内积的**度量矩阵**。

**第 2 步：验证对称性与线性性。**

*对称性*：$G^{\mathrm{T}} = G$（$G_{12} = G_{21} = 1$，其余非对角元为 $0$），故

$$
[\mathbf{x},\mathbf{y}] = \mathbf{x}^{\mathrm{T}}G\mathbf{y} = (\mathbf{x}^{\mathrm{T}}G\mathbf{y})^{\mathrm{T}} = \mathbf{y}^{\mathrm{T}}G^{\mathrm{T}}\mathbf{x} = \mathbf{y}^{\mathrm{T}}G\mathbf{x} = [\mathbf{y},\mathbf{x}] \ \checkmark
$$

（第一个等号后取转置是因为 $\mathbf{x}^{\mathrm{T}}G\mathbf{y}$ 是 $1\times1$ 矩阵，转置等于自身。）

*对第一变元的线性性*：对任意 $\mathbf{x},\mathbf{x}',\mathbf{y}$ 与 $k \in \mathbb{R}$，

$$
[\mathbf{x} + \mathbf{x}',\mathbf{y}] = (\mathbf{x}+\mathbf{x}')^{\mathrm{T}}G\mathbf{y} = \mathbf{x}^{\mathrm{T}}G\mathbf{y} + (\mathbf{x}')^{\mathrm{T}}G\mathbf{y} = [\mathbf{x},\mathbf{y}] + [\mathbf{x}',\mathbf{y}] \ \checkmark
$$

$$
[k\mathbf{x},\mathbf{y}] = (k\mathbf{x})^{\mathrm{T}}G\mathbf{y} = k\,(\mathbf{x}^{\mathrm{T}}G\mathbf{y}) = k[\mathbf{x},\mathbf{y}] \ \checkmark
$$

（这两条来自矩阵乘法的分配律与数乘交换性，与 $G$ 的具体取值无关。）

*对第二变元的线性性*：由已证的对称性把两个变元交换即可，$[\mathbf{x},\mathbf{y}+\mathbf{y}'] = [\mathbf{y}+\mathbf{y}',\mathbf{x}] = [\mathbf{y},\mathbf{x}] + [\mathbf{y}',\mathbf{x}] = [\mathbf{x},\mathbf{y}] + [\mathbf{x},\mathbf{y}']$ ✓。

**第 3 步：验证正定性——这是本题的关键，必须用配方法。**

要证 $[\mathbf{x},\mathbf{x}] \ge 0$ 且等号只在 $\mathbf{x} = \mathbf{0}$ 时成立。展开：

$$
[\mathbf{x},\mathbf{x}] = 2x_1^2 + 2x_1x_2 + x_2^2 + x_3^2
$$

对前两项配方（把 $2x_1^2 + 2x_1x_2$ 看成关于 $x_1$ 的二次式）：

$$
2x_1^2 + 2x_1x_2 = 2\Big(x_1^2 + x_1x_2\Big) = 2\Big[\Big(x_1 + \tfrac{1}{2}x_2\Big)^2 - \tfrac{1}{4}x_2^2\Big] = 2\Big(x_1 + \tfrac{1}{2}x_2\Big)^2 - \tfrac{1}{2}x_2^2
$$

代回并合并 $x_2^2$ 项：

$$
[\mathbf{x},\mathbf{x}] = 2\Big(x_1 + \tfrac{1}{2}x_2\Big)^2 - \tfrac{1}{2}x_2^2 + x_2^2 + x_3^2 = 2\Big(x_1 + \tfrac{1}{2}x_2\Big)^2 + \tfrac{1}{2}x_2^2 + x_3^2
$$

三项系数 $2, \tfrac12, 1$ **全为正**，故 $[\mathbf{x},\mathbf{x}] \ge 0$ ✓。等号成立要求三项同时为零：

$$
x_3 = 0, \qquad x_2 = 0, \qquad x_1 + \tfrac{1}{2}x_2 = 0 \Longrightarrow x_1 = 0
$$

即 $\mathbf{x} = \mathbf{0}$ ✓。**正定性验证通过**，故 $[\cdot,\cdot]$ 是 $\mathbb{R}^3$ 上的一个内积，$\mathbb{R}^3$ 配这个内积成为一个欧氏空间。

**第 4 步：等价地用顺序主子式验证正定（这是国内考试最常用的判据）。**

$G$ 的三个顺序主子式：

$$
D_1 = |2| = 2 > 0, \qquad D_2 = \begin{vmatrix} 2 & 1 \\ 1 & 1 \end{vmatrix} = 2\cdot 1 - 1\cdot 1 = 1 > 0, \qquad D_3 = \det G = \begin{vmatrix} 2 & 1 & 0 \\ 1 & 1 & 0 \\ 0 & 0 & 1 \end{vmatrix}
$$

按第 3 行展开（只有 $G_{33} = 1$ 非零）：$D_3 = 1 \cdot \begin{vmatrix} 2 & 1 \\ 1 & 1 \end{vmatrix} = 1 > 0$ ✓。

三个顺序主子式全为正 $\iff$ $G$ 正定（Sylvester 判据，见 [[6-4-对称矩阵与正定矩阵]]）。两种做法结论一致。

**第 5 步：由内积导出长度与夹角。**

取 $\mathbf{x} = (1,1,0)^{\mathrm{T}}$、$\mathbf{y} = (0,1,1)^{\mathrm{T}}$。

*长度*（国内记作 $\|\mathbf{x}\| = \sqrt{[\mathbf{x},\mathbf{x}]}$）：

$$
[\mathbf{x},\mathbf{x}] = 2\cdot 1 + 2\cdot 1\cdot 1 + 1^2 + 0^2 = 2 + 2 + 1 = 5 \Longrightarrow \|\mathbf{x}\| = \sqrt{5}
$$

$$
[\mathbf{y},\mathbf{y}] = 2\cdot 0 + 2\cdot 0\cdot 1 + 1^2 + 1^2 = 0 + 0 + 1 + 1 = 2 \Longrightarrow \|\mathbf{y}\| = \sqrt{2}
$$

*内积与夹角*：

$$
[\mathbf{x},\mathbf{y}] = 2\cdot 1\cdot 0 + 1\cdot 1 + 1\cdot 1 + 0\cdot 1 = 0 + 1 + 1 + 0 = 2
$$

$$
\cos\theta = \frac{[\mathbf{x},\mathbf{y}]}{\|\mathbf{x}\|\,\|\mathbf{y}\|} = \frac{2}{\sqrt{5}\cdot\sqrt{2}} = \frac{2}{\sqrt{10}} \approx 0.6325
$$

**核验柯西—施瓦茨**：$|[\mathbf{x},\mathbf{y}]| = 2 \le \|\mathbf{x}\|\|\mathbf{y}\| = \sqrt{10} \approx 3.162$ ✓，且 $\cos\theta \le 1$ ✓。

> [!warning] 换内积就换了几何（一个精确的对照）
> 上面算出的夹角只对**本题的内积**有意义：同样的两个向量在标准内积下 $\mathbf{x}^{\mathrm{T}}\mathbf{y} = 0\cdot 1 + 1\cdot 1 + 0\cdot 1 = 1$，长度也变成 $\|\mathbf{x}\| = \sqrt2$、$\|\mathbf{y}\| = \sqrt2$，夹角余弦是 $\frac{1}{2}$（$60^\circ$），与本题的 $\frac{2}{\sqrt{10}}$（约 $50.8^\circ$）**完全不同**。
> 更尖锐的一点：$\mathbf{e}_1 = (1,0,0)$ 与 $\mathbf{e}_2 = (0,1,0)$ 在标准内积下正交（点积为 $0$），但在本题的内积下
> $$[\mathbf{e}_1,\mathbf{e}_2] = G_{12} = 1 \neq 0$$
> **不正交**！原因就是度量矩阵 $G$ 的非对角元不为零。
> **结论：正交性是相对于内积而言的，换内积就换了几何**——这是国内教材强调「先规定内积、再谈正交」的原因，也是第 12 章加权最小二乘里「投影矩阵不再对称」的根源（见 [[12-3-多元高斯与加权最小二乘]]）。

**第 6 步：求这个内积下的一组标准正交基（用国内写法的施密特正交化）。**

取自然基 $\boldsymbol{\varepsilon}_1 = \mathbf{e}_1$、$\boldsymbol{\varepsilon}_2 = \mathbf{e}_2$、$\boldsymbol{\varepsilon}_3 = \mathbf{e}_3$（它们在标准内积下是标准正交基，但在本题的内积下不正交）。

先算所需的全部内积：

$$
[\boldsymbol{\varepsilon}_1,\boldsymbol{\varepsilon}_1] = G_{11} = 2, \quad [\boldsymbol{\varepsilon}_2,\boldsymbol{\varepsilon}_2] = G_{22} = 1, \quad [\boldsymbol{\varepsilon}_3,\boldsymbol{\varepsilon}_3] = G_{33} = 1
$$

$$
[\boldsymbol{\varepsilon}_1,\boldsymbol{\varepsilon}_2] = G_{12} = 1, \quad [\boldsymbol{\varepsilon}_1,\boldsymbol{\varepsilon}_3] = G_{13} = 0, \quad [\boldsymbol{\varepsilon}_2,\boldsymbol{\varepsilon}_3] = G_{23} = 0
$$

*第一个向量*：$\boldsymbol{\beta}_1 = \boldsymbol{\varepsilon}_1 = (1,0,0)^{\mathrm{T}}$，长度 $\sqrt{[\boldsymbol{\beta}_1,\boldsymbol{\beta}_1]} = \sqrt{2}$，单位化：

$$
\boldsymbol{\gamma}_1 = \frac{\boldsymbol{\beta}_1}{\sqrt{2}} = \Big(\frac{1}{\sqrt2}, 0, 0\Big)^{\mathrm{T}}
$$

*第二个向量*（减去在 $\boldsymbol{\gamma}_1$ 上的投影）：

$$
[\boldsymbol{\varepsilon}_2,\boldsymbol{\gamma}_1] = \frac{1}{\sqrt2}\Big(2\cdot 0\cdot 1 + 1\cdot 0\cdot 0 + 1\cdot 1\cdot 1 + 0\Big) = \frac{1}{\sqrt2}\cdot 1 = \frac{1}{\sqrt2}
$$

更简单地：$[\boldsymbol{\varepsilon}_2,\boldsymbol{\gamma}_1] = \frac{1}{\sqrt2}[\boldsymbol{\varepsilon}_2,\boldsymbol{\varepsilon}_1] = \frac{G_{21}}{\sqrt2} = \frac{1}{\sqrt2}$。故

$$
\boldsymbol{\beta}_2 = \boldsymbol{\varepsilon}_2 - \frac{1}{\sqrt2}\boldsymbol{\gamma}_1 = (0,1,0)^{\mathrm{T}} - \frac{1}{\sqrt2}\Big(\frac{1}{\sqrt2},0,0\Big)^{\mathrm{T}} = (0,1,0)^{\mathrm{T}} - \Big(\frac12, 0, 0\Big)^{\mathrm{T}} = \Big(-\frac12, 1, 0\Big)^{\mathrm{T}}
$$

**逐项验证 $[\boldsymbol{\beta}_2,\boldsymbol{\gamma}_1] = 0$**：

$$
[\boldsymbol{\beta}_2,\boldsymbol{\gamma}_1] = \frac{1}{\sqrt2}\Big(2\cdot(-\tfrac12)\cdot 1 + 1\cdot(-\tfrac12)\cdot 0 + 1\cdot 1\cdot 1 + 0\cdot 0\Big) = \frac{1}{\sqrt2}\Big(-1 + 0 + 1 + 0\Big) = 0 \ \checkmark
$$

$\boldsymbol{\beta}_2$ 的长度：$[\boldsymbol{\beta}_2,\boldsymbol{\beta}_2] = 2\cdot\tfrac14 + 2\cdot(-\tfrac12)\cdot 1 + 1 + 0 = \tfrac12 - 1 + 1 = \tfrac12$，故 $\|\boldsymbol{\beta}_2\| = \frac{1}{\sqrt2}$，

$$
\boldsymbol{\gamma}_2 = \sqrt{2}\,\boldsymbol{\beta}_2 = \Big(-\frac{1}{\sqrt2}, \sqrt{2}, 0\Big)^{\mathrm{T}}
$$

**验证 $\|\boldsymbol{\gamma}_2\| = 1$**：$[\boldsymbol{\gamma}_2,\boldsymbol{\gamma}_2] = 2\cdot\frac12 + 2\cdot(-\frac{1}{\sqrt2})(\sqrt2) + 2 + 0 = 1 - 2 + 2 = 1$ ✓。

*第三个向量*：$\boldsymbol{\varepsilon}_3$ 已经与 $\boldsymbol{\varepsilon}_1$、$\boldsymbol{\varepsilon}_2$ 都「正交」了吗？由 $G_{13} = G_{23} = 0$ 知

$$
[\boldsymbol{\varepsilon}_3,\boldsymbol{\varepsilon}_1] = 0, \qquad [\boldsymbol{\varepsilon}_3,\boldsymbol{\varepsilon}_2] = 0
$$

而 $\boldsymbol{\gamma}_1,\boldsymbol{\gamma}_2$ 都是 $\boldsymbol{\varepsilon}_1,\boldsymbol{\varepsilon}_2$ 的线性组合，由内积的线性性得 $[\boldsymbol{\varepsilon}_3,\boldsymbol{\gamma}_1] = [\boldsymbol{\varepsilon}_3,\boldsymbol{\gamma}_2] = 0$，故

$$
\boldsymbol{\beta}_3 = \boldsymbol{\varepsilon}_3, \qquad \boldsymbol{\gamma}_3 = \boldsymbol{\varepsilon}_3 = (0,0,1)^{\mathrm{T}}
$$

（**这说明：与 $\boldsymbol{\varepsilon}_3$ 对应的「坐标方向」本来就是正交的，因为 $G$ 在第 3 行第 3 列以外的元全为 $0$。**）

*最后统一验证*：$\boldsymbol{\gamma}_1^{\mathrm{T}}G\boldsymbol{\gamma}_2$：

$$
\boldsymbol{\gamma}_1^{\mathrm{T}}G\boldsymbol{\gamma}_2 = \Big(\frac{1}{\sqrt2}, 0, 0\Big)\begin{bmatrix} 2 & 1 & 0 \\ 1 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix}\begin{bmatrix} -1/\sqrt2 \\ \sqrt2 \\ 0 \end{bmatrix} = \Big(\frac{2}{\sqrt2}, \frac{1}{\sqrt2}, 0\Big)\begin{bmatrix} -1/\sqrt2 \\ \sqrt2 \\ 0 \end{bmatrix} = -\frac{2}{2} + \frac{\sqrt2}{\sqrt2} = -1 + 1 = 0 \ \checkmark
$$

$$
\boldsymbol{\gamma}_1^{\mathrm{T}}G\boldsymbol{\gamma}_3 = \Big(\frac{2}{\sqrt2}, \frac{1}{\sqrt2}, 0\Big)\begin{bmatrix} 0 \\ 0 \\ 1 \end{bmatrix} = 0 \ \checkmark, \qquad \boldsymbol{\gamma}_2^{\mathrm{T}}G\boldsymbol{\gamma}_3 = \Big(-\frac{2}{\sqrt2}+\frac{1}{\sqrt2}, -\frac{1}{\sqrt2}+\sqrt2, 0\Big)\begin{bmatrix} 0 \\ 0 \\ 1 \end{bmatrix} = 0 \ \checkmark
$$

故 $\{\boldsymbol{\gamma}_1,\boldsymbol{\gamma}_2,\boldsymbol{\gamma}_3\}$ 是这个内积下的**标准正交基**（国内叫**标准正交基**或**规范正交基**）。

> [!important] 例题 4 的四条要点
> 1. **内积是「度量矩阵 $G$」给的**：$[\mathbf{x},\mathbf{y}] = \mathbf{x}^{\mathrm{T}}G\mathbf{y}$，而 $G$ 必须**对称正定**。对称性保证第一个公理，正定性保证第四个公理，线性性自动成立。所以「$\mathbb{R}^n$ 上所有的内积」与「所有 $n$ 阶对称正定矩阵」一一对应。
> 2. **正定性的两种验法**：配方法（直接得到平方和）与顺序主子式（Sylvester 判据）。考试里配方更快，理论上顺序主子式更机械。
> 3. **长度与夹角都由内积导出**：$\|\mathbf{x}\| = \sqrt{[\mathbf{x},\mathbf{x}]}$，$\cos\theta = \frac{[\mathbf{x},\mathbf{y}]}{\|\mathbf{x}\|\|\mathbf{y}\|}$。注意夹角公式需要 $\|\mathbf{x}\|\|\mathbf{y}\| \neq 0$（两个向量都非零）。
> 4. **正交性相对于内积**：$G$ 的非对角元不为零，就意味着「标准基不再正交」。做这类题时**不要凭标准内积的直觉下结论**，每一项都要用 $G$ 算。

### 例题 5（主计算题）：柯西—施瓦茨不等式的数值验证与等号条件

**题目**：在 $\mathbb{R}^4$ 的标准内积下，取

$$
\boldsymbol{\alpha} = (1, 2, 2, 1)^{\mathrm{T}}, \qquad \boldsymbol{\beta} = (2, -1, 1, 2)^{\mathrm{T}}
$$

（1）计算 $[\boldsymbol{\alpha},\boldsymbol{\beta}]$、$[\boldsymbol{\alpha},\boldsymbol{\alpha}]$、$[\boldsymbol{\beta},\boldsymbol{\beta}]$，验证柯西—施瓦茨不等式并算出「宽松程度」（即 $\cos^2\theta$ 与 1 的差）；

（2）另取 $\boldsymbol{\beta}' = (1, 2, 3, 1)^{\mathrm{T}}$，判断柯西—施瓦茨是否取等号，并解释原因；

（3）用判别式 $D = 4[\boldsymbol{\alpha},\boldsymbol{\beta}]^2 - 4[\boldsymbol{\alpha},\boldsymbol{\alpha}][\boldsymbol{\beta},\boldsymbol{\beta}]$ 说明它与「二次函数 $f(t) = [t\boldsymbol{\alpha}+\boldsymbol{\beta}, t\boldsymbol{\alpha}+\boldsymbol{\beta}]$ 无正根」的关系。

**第 1 步：逐项算内积。**

$$
[\boldsymbol{\alpha},\boldsymbol{\beta}] = 1\cdot 2 + 2\cdot(-1) + 2\cdot 1 + 1\cdot 2 = 2 - 2 + 2 + 2 = 4
$$

$$
[\boldsymbol{\alpha},\boldsymbol{\alpha}] = 1 + 4 + 4 + 1 = 10, \qquad [\boldsymbol{\beta},\boldsymbol{\beta}] = 4 + 1 + 1 + 4 = 10
$$

**第 2 步：验证不等式。**

$$
[\boldsymbol{\alpha},\boldsymbol{\beta}]^2 = 16, \qquad [\boldsymbol{\alpha},\boldsymbol{\alpha}]\cdot[\boldsymbol{\beta},\boldsymbol{\beta}] = 10 \times 10 = 100
$$

$$
16 \le 100 \ \checkmark
$$

即 $\sqrt{16} = 4 \le \sqrt{100} = 10$，柯西—施瓦茨不等式成立。

**第 3 步：算夹角与「宽松程度」。**

$$
\cos^2\theta = \frac{[\boldsymbol{\alpha},\boldsymbol{\beta}]^2}{[\boldsymbol{\alpha},\boldsymbol{\alpha}][\boldsymbol{\beta},\boldsymbol{\beta}]} = \frac{16}{100} = 0.16 \neq 1
$$

故 **严格不等号**，$\boldsymbol{\alpha}$ 与 $\boldsymbol{\beta}$ 线性无关。顺便算 $\cos\theta = \frac{4}{10} = 0.4 > 0$，夹角是锐角（约 $66.4^\circ$）。

**第 4 步：判断 $\boldsymbol{\beta}'$ 是否取等号。**

$$
[\boldsymbol{\alpha},\boldsymbol{\beta}'] = 1\cdot 1 + 2\cdot 2 + 2\cdot 3 + 1\cdot 1 = 1 + 4 + 6 + 1 = 12
$$

$$
[\boldsymbol{\beta}',\boldsymbol{\beta}'] = 1 + 4 + 9 + 1 = 15
$$

$$
[\boldsymbol{\alpha},\boldsymbol{\beta}']^2 = 144, \qquad [\boldsymbol{\alpha},\boldsymbol{\alpha}][\boldsymbol{\beta}',\boldsymbol{\beta}'] = 10 \times 15 = 150
$$

$$
144 < 150
$$

**仍然严格不等**，故 $\boldsymbol{\beta}'$ 与 $\boldsymbol{\alpha}$ **不平行**。直接看出：若 $\boldsymbol{\beta}' = k\boldsymbol{\alpha}$，则 $k = \frac{1}{1} = 1$ 与 $k = \frac{3}{2}$ 矛盾 ✓。这说明「等号」是一个很强的条件——**随机取两个向量，等号几乎总是不成立**。

现在主动构造一个取等号的例子：取 $\boldsymbol{\beta}'' = 3\boldsymbol{\alpha} = (3,6,6,3)^{\mathrm{T}}$，则

$$
[\boldsymbol{\alpha},\boldsymbol{\beta}''] = 3[\boldsymbol{\alpha},\boldsymbol{\alpha}] = 30, \qquad [\boldsymbol{\beta}'',\boldsymbol{\beta}''] = 9[\boldsymbol{\alpha},\boldsymbol{\alpha}] = 90
$$

$$
[\boldsymbol{\alpha},\boldsymbol{\beta}'']^2 = 900 = 10 \times 90 = [\boldsymbol{\alpha},\boldsymbol{\alpha}][\boldsymbol{\beta}'',\boldsymbol{\beta}''] \ \checkmark
$$

**等号成立**（$\cos^2\theta = 1$，两向量共线）✓。

**第 5 步：判别式法的逐步核对。**

对一切实数 $t$，构造

$$
f(t) = [t\boldsymbol{\alpha} + \boldsymbol{\beta},\ t\boldsymbol{\alpha} + \boldsymbol{\beta}] = t^2[\boldsymbol{\alpha},\boldsymbol{\alpha}] + 2t[\boldsymbol{\alpha},\boldsymbol{\beta}] + [\boldsymbol{\beta},\boldsymbol{\beta}]
$$

（中间项用了内积的双线性性 $[t\boldsymbol{\alpha},\boldsymbol{\beta}] = t[\boldsymbol{\alpha},\boldsymbol{\beta}] = [\boldsymbol{\beta},t\boldsymbol{\alpha}]$，所以两项合并为 $2t[\boldsymbol{\alpha},\boldsymbol{\beta}]$。）由正定性公理 $f(t) \ge 0$ 恒成立。把数值代进去（用 $\boldsymbol{\alpha}$、$\boldsymbol{\beta}$ 这一组）：

$$
f(t) = 10t^2 + 2\cdot 4\,t + 10 = 10t^2 + 8t + 10
$$

配方验证它恒正：$10t^2 + 8t + 10 = 10\big(t + \frac{4}{10}\big)^2 + 10 - \frac{16}{10} = 10\Big(t + \frac25\Big)^2 + \frac{84}{10} > 0$ ✓（最小值在 $t = -\frac25$ 处，等于 $8.4$）。

判别式：

$$
D = (8)^2 - 4\cdot 10\cdot 10 = 64 - 400 = -336 < 0 \ \checkmark
$$

而一般公式给出

$$
D = \big(2[\boldsymbol{\alpha},\boldsymbol{\beta}]\big)^2 - 4[\boldsymbol{\alpha},\boldsymbol{\alpha}][\boldsymbol{\beta},\boldsymbol{\beta}] = 4\Big([\boldsymbol{\alpha},\boldsymbol{\beta}]^2 - [\boldsymbol{\alpha},\boldsymbol{\alpha}][\boldsymbol{\beta},\boldsymbol{\beta}]\Big)
$$

$D \le 0 \iff [\boldsymbol{\alpha},\boldsymbol{\beta}]^2 \le [\boldsymbol{\alpha},\boldsymbol{\alpha}][\boldsymbol{\beta},\boldsymbol{\beta}]$——**这正是柯西—施瓦茨不等式** ✓。

再看等号情形（取 $\boldsymbol{\beta}'' = 3\boldsymbol{\alpha}$）：

$$
f(t) = [t\boldsymbol{\alpha} + 3\boldsymbol{\alpha},\ t\boldsymbol{\alpha} + 3\boldsymbol{\alpha}] = (t+3)^2[\boldsymbol{\alpha},\boldsymbol{\alpha}] = 10(t+3)^2
$$

判别式 $D = 0$，且 $f$ 在 $t = -3$ 处取零值，此时 $t\boldsymbol{\alpha} + \boldsymbol{\beta}'' = -3\boldsymbol{\alpha} + 3\boldsymbol{\alpha} = \mathbf{0}$——**正定性公理中的「等号仅当向量为零」正好解释了等号条件** ✓。

**第 6 步：结论。**

$$
\big|[\boldsymbol{\alpha},\boldsymbol{\beta}]\big| \le \|\boldsymbol{\alpha}\|\,\|\boldsymbol{\beta}\|, \qquad \text{等号} \iff \boldsymbol{\alpha},\boldsymbol{\beta}\ \text{线性相关}
$$

本题：$\boldsymbol{\alpha}$ 与 $\boldsymbol{\beta}$ 严格不等号（$16 < 100$）；$\boldsymbol{\alpha}$ 与 $\boldsymbol{\beta}''=3\boldsymbol{\alpha}$ 取等号。**判别式 $D = 0$ 与「二次函数有实根」互相等价，而「有实根」又等价于「存在 $t$ 使 $t\boldsymbol{\alpha} + \boldsymbol{\beta} = \mathbf{0}$」，即两者线性相关。**

> [!tip] 考试中的快速判断
> 要判断柯西—施瓦茨是否取等号，**不必算三个内积**：先看两个向量是否成比例。成比例 $\Rightarrow$ 等号；不成比例 $\Rightarrow$ 严格不等号。算内积只是为了验证不等式（有时题目要求「验证」，那就必须把三个数都算出来）。

### 例题 6（国内风格计算题）：非标准内积下的正交补、直和分解与度量矩阵

在 $\mathbb{R}^2$ 上定义内积

$$
[\mathbf{x},\mathbf{y}] = 2x_1y_1 + x_1y_2 + x_2y_1 + x_2y_2, \qquad G = \begin{bmatrix} 2 & 1 \\ 1 & 1 \end{bmatrix}
$$

取子空间 $W = \operatorname{span}\{\boldsymbol{\alpha}\}$，$\boldsymbol{\alpha} = (1,0)^{\mathrm{T}}$。

**第 1 步：验证这是内积。**

对称性：$G^{\mathrm{T}} = G$ ✓。正定性：顺序主子式 $D_1 = 2 > 0$、$D_2 = 2\cdot1 - 1\cdot1 = 1 > 0$ ✓，故 $G$ 正定。展开验证：

$$
[\mathbf{x},\mathbf{x}] = 2x_1^2 + 2x_1x_2 + x_2^2 = x_1^2 + (x_1 + x_2)^2 \ge 0
$$

等号要求 $x_1 = 0$ 且 $x_1 + x_2 = 0$，即 $\mathbf{x} = \mathbf{0}$ ✓。（这个配方比上一个例题更漂亮：直接写成两个平方之和。）

**第 2 步：求 $W^{\perp}$（在本题内积下）。**

$\mathbf{y} = (y_1,y_2)^{\mathrm{T}} \in W^{\perp}$ $\iff$ $[\boldsymbol{\alpha},\mathbf{y}] = 0$。计算：

$$
[\boldsymbol{\alpha},\mathbf{y}] = 2\cdot 1\cdot y_1 + 1\cdot 1\cdot y_2 + 0\cdot y_1 + 0\cdot y_2 = 2y_1 + y_2
$$

令其为零：$2y_1 + y_2 = 0$，即 $y_2 = -2y_1$，故

$$
W^{\perp} = \operatorname{span}\left\{ \begin{bmatrix} 1 \\ -2 \end{bmatrix} \right\}, \qquad \dim W^{\perp} = 1 = 2 - \dim W \ \checkmark
$$

> [!warning] 这里必须用 $G$ 算，不能用点积
> 在**标准内积**下，$\boldsymbol{\alpha} = (1,0)^{\mathrm{T}}$ 的正交补是 $y$ 轴 $\operatorname{span}\{(0,1)^{\mathrm{T}}\}$。但在本题的内积下，正交补变成了 $\operatorname{span}\{(1,-2)^{\mathrm{T}}\}$——**完全不同的直线**。用点积验证一下差别：$(1,0)\cdot(1,-2) = 1 \neq 0$，所以在标准内积下 $(1,-2)^{\mathrm{T}}$ 与 $\boldsymbol{\alpha}$ **不正交**；但在本题的内积下 $[\boldsymbol{\alpha},(1,-2)^{\mathrm{T}}] = 2 - 2 = 0$ ✓ 正交。
> **口诀：算正交补，先看内积是谁给的。** 用错内积得到的是另一个子空间，后面的直和分解、投影全部会错。

**第 3 步：$V = W \oplus W^{\perp}$ 的验证与正交分解。**

先验证交集为零：若 $\mathbf{z} \in W \cap W^{\perp}$，则 $\mathbf{z} = c\boldsymbol{\alpha} = (c,0)^{\mathrm{T}}$ 且 $[\mathbf{z},\mathbf{z}] = 0$，由正定性 $c = 0$，故 $\mathbf{z} = \mathbf{0}$ ✓。维数相加 $1 + 1 = 2$ ✓，故 $\mathbb{R}^2 = W \oplus W^{\perp}$。

取 $\mathbf{x} = (1,1)^{\mathrm{T}}$，要求 $\mathbf{x} = \mathbf{x}_W + \mathbf{x}_{W^{\perp}}$。设

$$
\mathbf{x}_W = c\boldsymbol{\alpha} = \begin{bmatrix} c \\ 0 \end{bmatrix}, \qquad \mathbf{x}_{W^{\perp}} = d\begin{bmatrix} 1 \\ -2 \end{bmatrix} = \begin{bmatrix} d \\ -2d \end{bmatrix}
$$

分量方程：

$$
\begin{cases} c + d = 1 \\ -2d = 1 \end{cases} \Longrightarrow d = -\frac12, \qquad c = 1 - d = \frac32
$$

故

$$
\mathbf{x}_W = \begin{bmatrix} 3/2 \\ 0 \end{bmatrix}, \qquad \mathbf{x}_{W^{\perp}} = \begin{bmatrix} -1/2 \\ 1 \end{bmatrix}
$$

**用内积验证正交**：

$$
[\mathbf{x}_W, \mathbf{x}_{W^{\perp}}] = 2\cdot\frac32\cdot\Big(-\frac12\Big) + 1\cdot\frac32\cdot 1 + 0\cdot\Big(-\frac12\Big) + 0\cdot 1 = -\frac32 + \frac32 + 0 + 0 = 0 \ \checkmark
$$

**用勾股定理验证长度分解**（注意「长度」也是本题内积给的长度）：

$$
[\mathbf{x},\mathbf{x}] = 2\cdot1 + 2\cdot1\cdot1 + 1 = 5
$$

$$
[\mathbf{x}_W,\mathbf{x}_W] = 2\cdot\frac94 + 0 + 0 = \frac92, \qquad [\mathbf{x}_{W^{\perp}},\mathbf{x}_{W^{\perp}}] = 2\cdot\frac14 + 2\cdot\Big(-\frac12\Big)\cdot 1 + 1 = \frac12 - 1 + 1 = \frac12
$$

$$
[\mathbf{x}_W,\mathbf{x}_W] + [\mathbf{x}_{W^{\perp}},\mathbf{x}_{W^{\perp}}] = \frac92 + \frac12 = 5 = [\mathbf{x},\mathbf{x}] \ \checkmark
$$

**勾股定理在非标准内积下依然成立**——因为它只用到「内积对称 + 双线性 + 正交项为零」这三条，与 $G$ 的具体取值无关。

**第 4 步：写出这组基的度量矩阵并观察它是不是单位阵。**

取 $\mathbb{R}^2$ 的自然基 $\boldsymbol{\varepsilon}_1 = (1,0)^{\mathrm{T}}$、$\boldsymbol{\varepsilon}_2 = (0,1)^{\mathrm{T}}$，度量矩阵（国内叫**度量矩阵**，即 Gram 矩阵 $([\boldsymbol{\varepsilon}_i,\boldsymbol{\varepsilon}_j])$）：

$$
G = \begin{bmatrix} [\boldsymbol{\varepsilon}_1,\boldsymbol{\varepsilon}_1] & [\boldsymbol{\varepsilon}_1,\boldsymbol{\varepsilon}_2] \\ [\boldsymbol{\varepsilon}_2,\boldsymbol{\varepsilon}_1] & [\boldsymbol{\varepsilon}_2,\boldsymbol{\varepsilon}_2] \end{bmatrix} = \begin{bmatrix} 2 & 1 \\ 1 & 1 \end{bmatrix}
$$

**不是单位阵**，说明自然基在这个内积下**不是标准正交基**：$[\boldsymbol{\varepsilon}_1,\boldsymbol{\varepsilon}_2] = 1 \neq 0$（不正交）、$[\boldsymbol{\varepsilon}_1,\boldsymbol{\varepsilon}_1] = 2 \neq 1$（不是单位向量）。

> [!important] 度量矩阵是「内积的身份证」
> **一组基的度量矩阵是单位阵 $\iff$ 这组基是标准正交基。** 这句话给出了标准正交基的等价刻画，也是国内教材反复算度量矩阵的原因：
> - 若 $\{\boldsymbol{\eta}_1,\dots,\boldsymbol{\eta}_n\}$ 是标准正交基，则任意 $\mathbf{x} = \sum_i x_i\boldsymbol{\eta}_i$ 的坐标满足 $x_i = [\mathbf{x},\boldsymbol{\eta}_i]$（**坐标 $=$ 内积**），且 $[\mathbf{x},\mathbf{x}] = \sum_i x_i^2$（**勾股定理的一般形式**）；
> - 若基不正交，度量矩阵非对角，坐标必须解方程组 $\mathbf{x} = B\mathbf{c}$ 才能得到，长度也要写成 $\mathbf{c}^{\mathrm{T}}G\mathbf{c}$ 而不能写成 $\sum c_i^2$。
> 这正是 [[4-4-标准正交基与Gram-Schmidt]] 要把基「矫正」成正交基的全部动机：**让度量矩阵变成 $I$，一切公式立刻简化**。

### 例题 7（证明题）：柯西—施瓦茨不等式的完整证明（二次函数判别式法）+ 三角不等式 + 等号条件

> [!important] 定理（柯西—施瓦茨不等式，Cauchy–Schwarz inequality）
> 设 $V$ 是欧氏空间（实内积空间），$[\cdot,\cdot]$ 为其内积。则对任意 $\boldsymbol{\alpha},\boldsymbol{\beta} \in V$，
> $$\big|[\boldsymbol{\alpha},\boldsymbol{\beta}]\big| \le \|\boldsymbol{\alpha}\|\,\|\boldsymbol{\beta}\|$$
> 等号成立 $\iff$ $\boldsymbol{\alpha}$ 与 $\boldsymbol{\beta}$ **线性相关**。
> **适用条件**：只用到内积的四条公理（对称、双线性、正定），因此对**任何**内积空间成立——不限于 $\mathbb{R}^n$，也不限于标准内积。

**证明（判别式法，国内标准证法）。**

*第 1 步：构造关于 $t$ 的二次函数。* 固定 $\boldsymbol{\alpha},\boldsymbol{\beta}$，对任意实数 $t$ 考虑向量 $t\boldsymbol{\alpha} + \boldsymbol{\beta}$，并定义

$$
f(t) = [t\boldsymbol{\alpha} + \boldsymbol{\beta},\ t\boldsymbol{\alpha} + \boldsymbol{\beta}]
$$

*第 2 步：由正定性得 $f(t) \ge 0$ 对一切 $t \in \mathbb{R}$ 成立。* 这是**正定性公理**的直接应用：任何向量与自己的内积非负。注意这里有一步容易忽略：$t$ 取遍一切实数，所以 $t\boldsymbol{\alpha} + \boldsymbol{\beta}$ 取遍一条直线上的所有点，$f$ 在整个直线上非负。

*第 3 步：展开成 $t$ 的二次多项式。* 用内积的**双线性性**（对每个变元分别线性）：

$$
f(t) = [t\boldsymbol{\alpha} + \boldsymbol{\beta},\ t\boldsymbol{\alpha} + \boldsymbol{\beta}]
$$

第一变元拆开（用对第一变元的线性性）：

$$
= [t\boldsymbol{\alpha},\ t\boldsymbol{\alpha} + \boldsymbol{\beta}] + [\boldsymbol{\beta},\ t\boldsymbol{\alpha} + \boldsymbol{\beta}]
$$

再拆第二变元：

$$
= [t\boldsymbol{\alpha},t\boldsymbol{\alpha}] + [t\boldsymbol{\alpha},\boldsymbol{\beta}] + [\boldsymbol{\beta},t\boldsymbol{\alpha}] + [\boldsymbol{\beta},\boldsymbol{\beta}]
$$

逐项用「数乘可以提出」与**对称性** $[\boldsymbol{\beta},t\boldsymbol{\alpha}] = [t\boldsymbol{\alpha},\boldsymbol{\beta}] = t[\boldsymbol{\alpha},\boldsymbol{\beta}]$：

$$
f(t) = t^2[\boldsymbol{\alpha},\boldsymbol{\alpha}] + t[\boldsymbol{\alpha},\boldsymbol{\beta}] + t[\boldsymbol{\alpha},\boldsymbol{\beta}] + [\boldsymbol{\beta},\boldsymbol{\beta}]
$$

$$
f(t) = [\boldsymbol{\alpha},\boldsymbol{\alpha}]\,t^2 + 2[\boldsymbol{\alpha},\boldsymbol{\beta}]\,t + [\boldsymbol{\beta},\boldsymbol{\beta}]
$$

记 $a = [\boldsymbol{\alpha},\boldsymbol{\alpha}] \ge 0$、$b = 2[\boldsymbol{\alpha},\boldsymbol{\beta}]$、$c = [\boldsymbol{\beta},\boldsymbol{\beta}] \ge 0$。

*第 4 步：分两种情形讨论。*

**情形一：$\boldsymbol{\alpha} = \mathbf{0}$。** 此时 $[\boldsymbol{\alpha},\boldsymbol{\beta}] = [\mathbf{0},\boldsymbol{\beta}] = 0$（由线性性 $[\mathbf{0},\boldsymbol{\beta}] = [0\cdot\mathbf{0},\boldsymbol{\beta}] = 0\cdot[\mathbf{0},\boldsymbol{\beta}] = 0$），$\|\boldsymbol{\alpha}\| = 0$，不等式两边都是 $0$，成立，且 $\boldsymbol{\alpha} = \mathbf{0}$ 与任意 $\boldsymbol{\beta}$ 线性相关（$1\cdot\boldsymbol{\alpha} + 0\cdot\boldsymbol{\beta} = \mathbf{0}$ 有非零系数）✓。

**情形二：$\boldsymbol{\alpha} \neq \mathbf{0}$。** 此时 $a = [\boldsymbol{\alpha},\boldsymbol{\alpha}] = \|\boldsymbol{\alpha}\|^2 > 0$（正定性公理的另一半：只有零向量与自己内积为零），所以 $f$ 是**首项系数为正的真正的二次函数**，且 $f(t) \ge 0$ 对一切 $t$ 成立。

一个首项系数为正的二次函数在整个实轴上非负，意味着它**与 $x$ 轴至多只有一个公共点**（开口向上且不穿过轴；若有两个不同实根，两根之间函数值为负，矛盾）。因此它的判别式**不能为正**：

$$
\Delta = b^2 - 4ac = \big(2[\boldsymbol{\alpha},\boldsymbol{\beta}]\big)^2 - 4[\boldsymbol{\alpha},\boldsymbol{\alpha}][\boldsymbol{\beta},\boldsymbol{\beta}] \le 0
$$

除以正数 $4$：

$$
[\boldsymbol{\alpha},\boldsymbol{\beta}]^2 \le [\boldsymbol{\alpha},\boldsymbol{\alpha}][\boldsymbol{\beta},\boldsymbol{\beta}] = \|\boldsymbol{\alpha}\|^2\|\boldsymbol{\beta}\|^2
$$

两边开平方（两边都非负）：

$$
\big|[\boldsymbol{\alpha},\boldsymbol{\beta}]\big| \le \|\boldsymbol{\alpha}\|\,\|\boldsymbol{\beta}\|
$$

$\square$（不等式的证明完成）

*第 5 步：等号条件。* 我们要证

$$
\big|[\boldsymbol{\alpha},\boldsymbol{\beta}]\big| = \|\boldsymbol{\alpha}\|\|\boldsymbol{\beta}\| \iff \boldsymbol{\alpha},\boldsymbol{\beta}\ \text{线性相关}
$$

**「$\Leftarrow$」**：若 $\boldsymbol{\beta} = k\boldsymbol{\alpha}$（$k \in \mathbb{R}$），则

$$
[\boldsymbol{\alpha},\boldsymbol{\beta}] = k[\boldsymbol{\alpha},\boldsymbol{\alpha}] = k\|\boldsymbol{\alpha}\|^2, \qquad \|\boldsymbol{\alpha}\|\|\boldsymbol{\beta}\| = \|\boldsymbol{\alpha}\|\cdot|k|\,\|\boldsymbol{\alpha}\| = |k|\,\|\boldsymbol{\alpha}\|^2
$$

两者取绝对值后相等：$|k|\|\boldsymbol{\alpha}\|^2 = |k|\|\boldsymbol{\alpha}\|^2$ ✓。（若 $\boldsymbol{\alpha} = \mathbf{0}$ 则退化为情形一，也已成立；$\boldsymbol{\alpha}$ 与 $\boldsymbol{\beta}$ 中若有一个为零向量，两者必线性相关，且两边都是 $0$。）

**「$\Rightarrow$」**：设等号成立。

- 若 $\boldsymbol{\alpha} = \mathbf{0}$，则两者线性相关 ✓，无需再证。
- 若 $\boldsymbol{\alpha} \neq \mathbf{0}$，则 $a > 0$，$\Delta = 0$，于是 $f$ 有唯一实根 $t_0 = -\dfrac{b}{2a}$。在该点

$$
f(t_0) = [t_0\boldsymbol{\alpha} + \boldsymbol{\beta},\ t_0\boldsymbol{\alpha} + \boldsymbol{\beta}] = 0
$$

由**正定性公理**（$[\mathbf{v},\mathbf{v}] = 0 \Rightarrow \mathbf{v} = \mathbf{0}$）得 $t_0\boldsymbol{\alpha} + \boldsymbol{\beta} = \mathbf{0}$，即 $\boldsymbol{\beta} = -t_0\boldsymbol{\alpha}$，两者线性相关 ✓。

两种情形合起来，「$\Rightarrow$」成立。$\square$

> [!important] 这个证明为什么是「国内标准证法」
> 它的全部依据只有三条：**正定性公理**（$f(t) \ge 0$ 与「$[\mathbf{v},\mathbf{v}]=0 \Rightarrow \mathbf{v}=\mathbf{0}$」）、**双线性性**（展开 $f$）、**对称性**（把交叉项合并成 $2t[\boldsymbol{\alpha},\boldsymbol{\beta}]$，这一步少了对称性就只能得到 $[\boldsymbol{\alpha},\boldsymbol{\beta}] + [\boldsymbol{\beta},\boldsymbol{\alpha}]$）。
> 换句话说：**柯西—施瓦茨不等式不是关于 $\mathbb{R}^n$ 的事实，而是内积公理的逻辑推论**。这正是国内教材先立公理、再证不等式的用意——证完一次，对所有内积空间同时生效（$\mathbb{R}^n$ 的各种加权内积、函数空间 $C[a,b]$ 上的 $\int fg$、概率空间的协方差、第 12 章的马氏内积全部包含在内）。
> 与 [[1-2-长度与点积]] 中「用 $\|\mathbf{v}-t\mathbf{w}\|^2 \ge 0$ 的判别式」的证法是**同一个套路**；区别只在于那里内积是具体的点积，这里内积是公理化的，于是结论的适用范围大得多。

> [!important] 推论（三角不等式，triangle inequality）
> 对任意 $\boldsymbol{\alpha},\boldsymbol{\beta}$，
> $$\|\boldsymbol{\alpha} + \boldsymbol{\beta}\| \le \|\boldsymbol{\alpha}\| + \|\boldsymbol{\beta}\|$$
> 等号成立 $\iff$ $\boldsymbol{\alpha}$ 与 $\boldsymbol{\beta}$ **非负线性相关**（即存在 $k \ge 0$ 使 $\boldsymbol{\beta} = k\boldsymbol{\alpha}$，或其中一个为零向量）。

**证明**。两边都非负，故只需证平方后的不等式。用双线性性展开：

$$
\|\boldsymbol{\alpha} + \boldsymbol{\beta}\|^2 = [\boldsymbol{\alpha}+\boldsymbol{\beta},\boldsymbol{\alpha}+\boldsymbol{\beta}] = [\boldsymbol{\alpha},\boldsymbol{\alpha}] + 2[\boldsymbol{\alpha},\boldsymbol{\beta}] + [\boldsymbol{\beta},\boldsymbol{\beta}] = \|\boldsymbol{\alpha}\|^2 + 2[\boldsymbol{\alpha},\boldsymbol{\beta}] + \|\boldsymbol{\beta}\|^2
$$

对中间项用柯西—施瓦茨（注意 $[\boldsymbol{\alpha},\boldsymbol{\beta}] \le |[\boldsymbol{\alpha},\boldsymbol{\beta}]|$）：

$$
\|\boldsymbol{\alpha} + \boldsymbol{\beta}\|^2 \le \|\boldsymbol{\alpha}\|^2 + 2\|\boldsymbol{\alpha}\|\|\boldsymbol{\beta}\| + \|\boldsymbol{\beta}\|^2 = \big(\|\boldsymbol{\alpha}\| + \|\boldsymbol{\beta}\|\big)^2
$$

开平方即得 ✓。

**等号条件**：需要两处同时取等号——(i) $[\boldsymbol{\alpha},\boldsymbol{\beta}] = |[\boldsymbol{\alpha},\boldsymbol{\beta}]|$，即 $[\boldsymbol{\alpha},\boldsymbol{\beta}] \ge 0$；(ii) 柯西—施瓦茨取等号，即 $\boldsymbol{\alpha},\boldsymbol{\beta}$ 线性相关。合起来就是「线性相关且内积非负」，即存在 $k \ge 0$ 使 $\boldsymbol{\beta} = k\boldsymbol{\alpha}$（或其中一个为零）。$\square$

> [!note] 三角不等式的几何含义与用途
> 几何上它说「三角形两边之和不小于第三边」：把 $\boldsymbol{\alpha}$、$\boldsymbol{\beta}$ 首尾相接，从起点到终点的直线距离不超过走折线的路程。等号成立意味着「折线退化成直线」——两个向量同向。
> 它是**长度能称为「范数」的前提之一**（第 11 章）：只有满足三角不等式，$\|\cdot\|$ 才能用来度量距离、才能谈收敛与误差界。数值分析里所有的误差估计（$\|\mathbf{x} - \hat{\mathbf{x}}\| \le \|\mathbf{x} - \mathbf{y}\| + \|\mathbf{y} - \hat{\mathbf{x}}\|$）都建立在它之上，见 [[11-2-范数与条件数]]。

**把定理用在例题 5 的数据上核对等号条件**：$\boldsymbol{\alpha} = (1,2,2,1)^{\mathrm{T}}$、$\boldsymbol{\beta} = (2,-1,1,2)^{\mathrm{T}}$，$[\boldsymbol{\alpha},\boldsymbol{\beta}] = 4 > 0$（非负），但两者不线性相关，所以三角不等式**严格**成立。验证：

$$
\|\boldsymbol{\alpha}+\boldsymbol{\beta}\|^2 = \|(3,1,3,3)\|^2 = 9+1+9+9 = 28
$$

$$
\big(\|\boldsymbol{\alpha}\|+\|\boldsymbol{\beta}\|\big)^2 = (\sqrt{10}+\sqrt{10})^2 = 4\cdot 10 = 40
$$

$$
28 < 40 \ \checkmark \quad (\text{严格不等号})
$$

顺带核对恒等式 $\|\boldsymbol{\alpha}+\boldsymbol{\beta}\|^2 = \|\boldsymbol{\alpha}\|^2 + 2[\boldsymbol{\alpha},\boldsymbol{\beta}] + \|\boldsymbol{\beta}\|^2 = 10 + 8 + 10 = 28$ ✓。

**再取一个等号例子**：$\boldsymbol{\alpha} = (1,1)^{\mathrm{T}}$、$\boldsymbol{\beta} = (2,2)^{\mathrm{T}} = 2\boldsymbol{\alpha}$（$k = 2 \ge 0$）：

$$
\|\boldsymbol{\alpha}+\boldsymbol{\beta}\| = \|(3,3)\| = 3\sqrt2, \qquad \|\boldsymbol{\alpha}\|+\|\boldsymbol{\beta}\| = \sqrt2 + 2\sqrt2 = 3\sqrt2 \ \checkmark \ \text{等号}
$$

**反向的例子**：$\boldsymbol{\beta} = -2\boldsymbol{\alpha} = (-2,-2)^{\mathrm{T}}$（$k = -2 < 0$）：

$$
\|\boldsymbol{\alpha}+\boldsymbol{\beta}\| = \|(-1,-1)\| = \sqrt2 < \sqrt2 + 2\sqrt2 = 3\sqrt2 \quad (\text{严格不等号})
$$

**所以「线性相关」还不够，必须「同向」才取等号**——这是三角不等式与柯西—施瓦茨等号条件的唯一区别。

### 例题 8（国内风格计算题）：正交矩阵的等价刻画与数值验证

设

$$
A = \begin{bmatrix} 0 & 0 & 1 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \end{bmatrix}
$$

**第 1 步：验证 $A^{\mathrm{T}}A = I$。**

$$
A^{\mathrm{T}} = \begin{bmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 0 \end{bmatrix}
$$

逐项算 $A^{\mathrm{T}}A$ 的第 $(i,j)$ 元（即 $A$ 的第 $i$ 列与第 $j$ 列的标准内积）：

- 第 1 列 $\mathbf{a}_1 = (0,1,0)^{\mathrm{T}}$，第 2 列 $\mathbf{a}_2 = (0,0,1)^{\mathrm{T}}$，第 3 列 $\mathbf{a}_3 = (1,0,0)^{\mathrm{T}}$。
- $\mathbf{a}_1^{\mathrm{T}}\mathbf{a}_1 = 1$、$\mathbf{a}_2^{\mathrm{T}}\mathbf{a}_2 = 1$、$\mathbf{a}_3^{\mathrm{T}}\mathbf{a}_3 = 1$；
- $\mathbf{a}_1^{\mathrm{T}}\mathbf{a}_2 = 0$、$\mathbf{a}_1^{\mathrm{T}}\mathbf{a}_3 = 0$、$\mathbf{a}_2^{\mathrm{T}}\mathbf{a}_3 = 0$。

故

$$
A^{\mathrm{T}}A = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix} = I \ \checkmark
$$

$A$ 的三列构成 $\mathbb{R}^3$ 的一组**标准正交基**（即标准基的一个置换），故 $A$ 是**正交矩阵**。

**第 2 步：由 $A^{\mathrm{T}}A = I$ 推出 $A^{-1} = A^{\mathrm{T}}$。**

$A^{\mathrm{T}}A = I$ 说明 $A^{\mathrm{T}}$ 是 $A$ 的左逆；由于 $A$ 是方阵，左逆即逆，故 $A^{-1} = A^{\mathrm{T}}$ ✓。直接核对：

$$
A A^{\mathrm{T}} = \begin{bmatrix} 0 & 0 & 1 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \end{bmatrix}\begin{bmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 0 \end{bmatrix} = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix} \ \checkmark
$$

**第 3 步：$\det A = \pm 1$。**

$$
\det A = \begin{vmatrix} 0 & 0 & 1 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \end{vmatrix}
$$

按第 1 行展开（只有 $A_{13} = 1$ 非零，代数余子式符号为 $(-1)^{1+3} = +1$）：

$$
\det A = 1 \cdot \begin{vmatrix} 1 & 0 \\ 0 & 1 \end{vmatrix} = 1
$$

**一般证明**（对任意正交矩阵）：由 $A^{\mathrm{T}}A = I$ 取行列式，用 $\det(A^{\mathrm{T}}) = \det A$ 与 $\det(XY) = \det X\det Y$：

$$
1 = \det I = \det(A^{\mathrm{T}}A) = \det(A^{\mathrm{T}})\det A = (\det A)^2 \Longrightarrow \det A = \pm 1 \ \checkmark
$$

本题 $\det A = 1$，故 $A$ 是**旋转**（不是反射）。几何上它把 $\mathbf{e}_1 \to \mathbf{e}_2 \to \mathbf{e}_3 \to \mathbf{e}_1$，是绕主对角线方向的 $120^\circ$ 旋转。

**第 4 步：特征值的模为 1。**

求特征多项式。按第 1 行展开 $\det(A - \lambda I)$：

$$
\det(A-\lambda I) = \begin{vmatrix} -\lambda & 0 & 1 \\ 1 & -\lambda & 0 \\ 0 & 1 & -\lambda \end{vmatrix} = -\lambda\begin{vmatrix} -\lambda & 0 \\ 1 & -\lambda \end{vmatrix} - 0 + 1\cdot\begin{vmatrix} 1 & -\lambda \\ 0 & 1 \end{vmatrix}
$$

（符号：$(1,1)$ 位置符号 $+$、$(1,2)$ 位置符号 $-$、$(1,3)$ 位置符号 $+$。）

$$
= -\lambda(\lambda^2 - 0) + 1\cdot(1 - 0) = -\lambda^3 + 1
$$

故特征方程为 $-\lambda^3 + 1 = 0$，即 $\lambda^3 = 1$。因式分解：

$$
\lambda^3 - 1 = (\lambda - 1)(\lambda^2 + \lambda + 1) = 0
$$

$$
\lambda_1 = 1, \qquad \lambda_{2,3} = \frac{-1 \pm \sqrt{1 - 4}}{2} = \frac{-1 \pm \sqrt3\,\mathrm{i}}{2}
$$

**验证模为 1**：

$$
|\lambda_1| = 1 \ \checkmark, \qquad |\lambda_{2,3}| = \sqrt{\Big(-\frac12\Big)^2 + \Big(\frac{\sqrt3}{2}\Big)^2} = \sqrt{\frac14 + \frac34} = 1 \ \checkmark
$$

（一般证明见 [[4-4-标准正交基与Gram-Schmidt]] 与 [[9-2-Hermitian矩阵与酉矩阵]]：若 $A\mathbf{x} = \lambda\mathbf{x}$ 且 $A^{\mathrm{T}}A = I$，则 $\|\mathbf{x}\| = \|A\mathbf{x}\| = |\lambda|\|\mathbf{x}\|$，由 $\mathbf{x}\neq\mathbf{0}$ 得 $|\lambda| = 1$。复特征值出现是正常的——**正交矩阵在实数域内不一定有实特征值**，本题 $A$ 的三个实特征值只有一个 $1$。）

**第 5 步：保持内积与长度（数值验证）。**

取 $\mathbf{u} = (1,2,2)^{\mathrm{T}}$、$\mathbf{v} = (2,1,0)^{\mathrm{T}}$。

$$
A\mathbf{u} = \begin{bmatrix} 0 & 0 & 1 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \end{bmatrix}\begin{bmatrix} 1 \\ 2 \\ 2 \end{bmatrix} = \begin{bmatrix} 2 \\ 1 \\ 2 \end{bmatrix}, \qquad A\mathbf{v} = \begin{bmatrix} 0 \\ 2 \\ 1 \end{bmatrix}
$$

*长度不变*：

$$
\|\mathbf{u}\|^2 = 1 + 4 + 4 = 9, \qquad \|A\mathbf{u}\|^2 = 4 + 1 + 4 = 9 \ \checkmark
$$

$$
\|\mathbf{v}\|^2 = 4 + 1 + 0 = 5, \qquad \|A\mathbf{v}\|^2 = 0 + 4 + 1 = 5 \ \checkmark
$$

*内积不变*：

$$
\mathbf{u}^{\mathrm{T}}\mathbf{v} = 1\cdot 2 + 2\cdot 1 + 2\cdot 0 = 4, \qquad (A\mathbf{u})^{\mathrm{T}}(A\mathbf{v}) = 2\cdot 0 + 1\cdot 2 + 2\cdot 1 = 4 \ \checkmark
$$

一般证明只需一行：$(A\mathbf{u})^{\mathrm{T}}(A\mathbf{v}) = \mathbf{u}^{\mathrm{T}}A^{\mathrm{T}}A\mathbf{v} = \mathbf{u}^{\mathrm{T}}I\mathbf{v} = \mathbf{u}^{\mathrm{T}}\mathbf{v}$。

**第 6 步：把 $A$ 用在列空间的语言里（与本篇主线挂钩）。**

$A$ 的列是 $\mathbf{e}_2,\mathbf{e}_3,\mathbf{e}_1$，它们构成 $\mathbb{R}^3$ 的一组标准正交基，因此

$$
\mathbf{C}(A) = \mathbb{R}^3, \qquad \mathbf{N}(A) = \{\mathbf{0}\}, \qquad \mathbf{C}(A^{\mathrm{T}}) = \mathbb{R}^3, \qquad \mathbf{N}(A^{\mathrm{T}}) = \{\mathbf{0}\}
$$

四个维数是 $3,0,3,0$（$r = 3 = m = n$），两个正交直和都是 $\mathbb{R}^3 = \mathbb{R}^3 \oplus \{\mathbf{0}\}$ 的平凡分解 ✓。

> [!warning] 正交矩阵「特征值模为 1」与「$\det = \pm1$」都不是充分条件
> - $\det A = 1$ **不能**推出 $A$ 正交：$\begin{bmatrix} 1 & 1 \\ 0 & 1 \end{bmatrix}$ 的行列式为 $1$，但它把 $(0,1)^{\mathrm{T}}$ 拉长成 $(1,1)^{\mathrm{T}}$，不保长度。
> - 「特征值模为 $1$」**不能**推出 $A$ 正交：$\begin{bmatrix} 1 & 1 \\ 0 & -1 \end{bmatrix}$ 的特征值是 $\pm1$（模都为 $1$），但它不是正交矩阵。
> - 「$A^{\mathrm{T}}A = I$」**只对实矩阵**等价于「$A^{-1} = A^{\mathrm{T}}$」；复矩阵的情形要换成酉矩阵 $U^{\mathrm{H}}U = I$（见 [[9-2-Hermitian矩阵与酉矩阵]]）。
> **判定正交，永远用 $A^{\mathrm{T}}A = I$。** 其余性质都是它的推论，不能倒推。

### 例题 9（主计算题）：把 $\mathbf{b}$ 分解为标准正交基上的分量（$I - P$ 与滤波）

正交矩阵的列（或任何标准正交向量组）做投影时有一个极大的简化：**不需要解任何方程，坐标就是内积**。本题用具体数字把这件事走完，并解释为什么它在信号处理里叫「滤波」。

取 $\mathbb{R}^3$ 的一组标准正交基

$$
\mathbf{q}_1 = \frac{1}{\sqrt2}\begin{bmatrix} 1 \\ 1 \\ 0 \end{bmatrix}, \qquad \mathbf{q}_2 = \frac{1}{\sqrt6}\begin{bmatrix} 1 \\ -1 \\ 2 \end{bmatrix}, \qquad \mathbf{q}_3 = \frac{1}{\sqrt3}\begin{bmatrix} -1 \\ 1 \\ 1 \end{bmatrix}
$$

**第 1 步：验证这确实是标准正交基。**

$$
\|\mathbf{q}_1\|^2 = \frac{1+1+0}{2} = 1 \ \checkmark, \qquad \|\mathbf{q}_2\|^2 = \frac{1+1+4}{6} = 1 \ \checkmark, \qquad \|\mathbf{q}_3\|^2 = \frac{1+1+1}{3} = 1 \ \checkmark
$$

$$
\mathbf{q}_1^{\mathrm{T}}\mathbf{q}_2 = \frac{1\cdot 1 + 1\cdot(-1) + 0\cdot 2}{\sqrt2\sqrt6} = 0 \ \checkmark, \qquad \mathbf{q}_1^{\mathrm{T}}\mathbf{q}_3 = \frac{-1 + 1 + 0}{\sqrt2\sqrt3} = 0 \ \checkmark
$$

$$
\mathbf{q}_2^{\mathrm{T}}\mathbf{q}_3 = \frac{-1 - 1 + 2}{\sqrt6\sqrt3} = 0 \ \checkmark
$$

三对点积全为零，三个长度全为 $1$，故 $Q = [\mathbf{q}_1\ \mathbf{q}_2\ \mathbf{q}_3]$ 是**正交矩阵**（$\det Q = \pm 1$）。

**第 2 步：把 $\mathbf{b} = (1,2,3)^{\mathrm{T}}$ 分解。**

设 $\mathbf{b} = c_1\mathbf{q}_1 + c_2\mathbf{q}_2 + c_3\mathbf{q}_3$。因为基是标准正交的，直接取内积（**不必解方程组**）：

$$
c_1 = \mathbf{q}_1^{\mathrm{T}}\mathbf{b} = \frac{1\cdot 1 + 1\cdot 2 + 0\cdot 3}{\sqrt2} = \frac{3}{\sqrt2}
$$

$$
c_2 = \mathbf{q}_2^{\mathrm{T}}\mathbf{b} = \frac{1\cdot 1 + (-1)\cdot 2 + 2\cdot 3}{\sqrt6} = \frac{1 - 2 + 6}{\sqrt6} = \frac{5}{\sqrt6}
$$

$$
c_3 = \mathbf{q}_3^{\mathrm{T}}\mathbf{b} = \frac{(-1)\cdot 1 + 1\cdot 2 + 1\cdot 3}{\sqrt3} = \frac{4}{\sqrt3}
$$

**验证**：$c_1^2 + c_2^2 + c_3^2 = \frac{9}{2} + \frac{25}{6} + \frac{16}{3} = \frac{27 + 25 + 32}{6} = \frac{84}{6} = 14 = \|\mathbf{b}\|^2 = 1+4+9$ ✓（**保长性在坐标下的样子**：换标准正交基，坐标平方和不变，见 [[4-4-标准正交基与Gram-Schmidt]]）。

**第 3 步：投影到 $\operatorname{span}\{\mathbf{q}_1,\mathbf{q}_2\}$ 与到 $\operatorname{span}\{\mathbf{q}_3\}$。**

$$
\mathbf{p} = (\mathbf{q}_1^{\mathrm{T}}\mathbf{b})\mathbf{q}_1 + (\mathbf{q}_2^{\mathrm{T}}\mathbf{b})\mathbf{q}_2 = \frac{3}{\sqrt2}\cdot\frac{1}{\sqrt2}\begin{bmatrix} 1 \\ 1 \\ 0 \end{bmatrix} + \frac{5}{\sqrt6}\cdot\frac{1}{\sqrt6}\begin{bmatrix} 1 \\ -1 \\ 2 \end{bmatrix}
$$

$$
= \frac32\begin{bmatrix} 1 \\ 1 \\ 0 \end{bmatrix} + \frac56\begin{bmatrix} 1 \\ -1 \\ 2 \end{bmatrix} = \begin{bmatrix} 3/2 + 5/6 \\ 3/2 - 5/6 \\ 0 + 10/6 \end{bmatrix} = \begin{bmatrix} 14/6 \\ 4/6 \\ 10/6 \end{bmatrix} = \frac{1}{3}\begin{bmatrix} 7 \\ 2 \\ 5 \end{bmatrix}
$$

误差（即到 $\operatorname{span}\{\mathbf{q}_3\}$ 的投影）：

$$
\mathbf{e} = \mathbf{b} - \mathbf{p} = \begin{bmatrix} 1 - 7/3 \\ 2 - 2/3 \\ 3 - 5/3 \end{bmatrix} = \begin{bmatrix} -4/3 \\ 4/3 \\ 4/3 \end{bmatrix} = \frac{4}{3}\begin{bmatrix} -1 \\ 1 \\ 1 \end{bmatrix} = \frac{4}{\sqrt3}\cdot\frac{1}{\sqrt3}\begin{bmatrix} -1 \\ 1 \\ 1 \end{bmatrix} = c_3\mathbf{q}_3 \ \checkmark
$$

**与坐标 $c_3 = \frac{4}{\sqrt3}$ 完全对应**：误差就是「被丢掉的那一个坐标 × 对应的基向量」。

**第 4 步：验证正交性与勾股定理。**

$$
\mathbf{q}_1^{\mathrm{T}}\mathbf{e} = \frac{1}{\sqrt2}\Big(-\frac43 + \frac43 + 0\Big) = 0 \ \checkmark, \qquad \mathbf{q}_2^{\mathrm{T}}\mathbf{e} = \frac{1}{\sqrt6}\Big(-\frac43 - \frac43 + \frac83\Big) = 0 \ \checkmark
$$

$$
\|\mathbf{p}\|^2 = c_1^2 + c_2^2 = \frac92 + \frac{25}{6} = \frac{27+25}{6} = \frac{52}{6} = \frac{26}{3}
$$

$$
\|\mathbf{e}\|^2 = c_3^2 = \frac{16}{3}, \qquad \|\mathbf{p}\|^2 + \|\mathbf{e}\|^2 = \frac{26}{3} + \frac{16}{3} = \frac{42}{3} = 14 = \|\mathbf{b}\|^2 \ \checkmark
$$

**第 5 步：用 $P = \sum_i \mathbf{q}_i\mathbf{q}_i^{\mathrm{T}}$ 的形式写投影矩阵，并验证 $P^2 = P$。**

到 $\operatorname{span}\{\mathbf{q}_1,\mathbf{q}_2\}$ 的投影矩阵（因为是标准正交基，公式里没有 $(A^{\mathrm{T}}A)^{-1}$）：

$$
P = \mathbf{q}_1\mathbf{q}_1^{\mathrm{T}} + \mathbf{q}_2\mathbf{q}_2^{\mathrm{T}}
$$

先算两个秩 1 矩阵：

$$
\mathbf{q}_1\mathbf{q}_1^{\mathrm{T}} = \frac12\begin{bmatrix} 1 & 1 & 0 \\ 1 & 1 & 0 \\ 0 & 0 & 0 \end{bmatrix}, \qquad \mathbf{q}_2\mathbf{q}_2^{\mathrm{T}} = \frac16\begin{bmatrix} 1 & -1 & 2 \\ -1 & 1 & -2 \\ 2 & -2 & 4 \end{bmatrix}
$$

通分到分母 $6$ 相加：

$$
P = \frac16\begin{bmatrix} 3+1 & 3-1 & 0+2 \\ 3-1 & 3+1 & 0-2 \\ 0+2 & 0-2 & 0+4 \end{bmatrix} = \frac16\begin{bmatrix} 4 & 2 & 2 \\ 2 & 4 & -2 \\ 2 & -2 & 4 \end{bmatrix} = \frac13\begin{bmatrix} 2 & 1 & 1 \\ 1 & 2 & -1 \\ 1 & -1 & 2 \end{bmatrix}
$$

**验证 $P\mathbf{b} = \mathbf{p}$**：

$$
P\mathbf{b} = \frac13\begin{bmatrix} 2+2+3 \\ 1+4-3 \\ 1-2+6 \end{bmatrix} = \frac13\begin{bmatrix} 7 \\ 2 \\ 5 \end{bmatrix} = \mathbf{p} \ \checkmark
$$

**验证 $P^2 = P$**（设 $M = 3P$，则只需验证 $M^2 = 3M$）：

$$
(M^2)_{11} = 2\cdot 2 + 1\cdot 1 + 1\cdot 1 = 6 = 3M_{11} \ \checkmark, \qquad (M^2)_{12} = 2\cdot 1 + 1\cdot 2 + 1\cdot(-1) = 3 = 3M_{12} \ \checkmark
$$

$$
(M^2)_{13} = 2\cdot 1 + 1\cdot(-1) + 1\cdot 2 = 3 = 3M_{13} \ \checkmark, \qquad (M^2)_{22} = 1\cdot 1 + 2\cdot 2 + (-1)(-1) = 6 = 3M_{22} \ \checkmark
$$

对称性使其余元素自动成立（$M$ 对称）✓。故 $P^2 = P$。

**验证 $\operatorname{tr}(P)$**：

$$
\operatorname{tr}(P) = \frac{2 + 2 + 2}{3} = 2 = \dim\operatorname{span}\{\mathbf{q}_1,\mathbf{q}_2\} \ \checkmark
$$

**第 6 步：$I - P$ 就是「滤掉前两个方向、只留第三个方向」的算子。**

$$
I - P = \frac13\begin{bmatrix} 1 & -1 & -1 \\ -1 & 1 & 1 \\ -1 & 1 & 1 \end{bmatrix} = \mathbf{q}_3\mathbf{q}_3^{\mathrm{T}}
$$

直接核对：$\mathbf{q}_3\mathbf{q}_3^{\mathrm{T}} = \frac13\begin{bmatrix} -1 \\ 1 \\ 1 \end{bmatrix}\begin{bmatrix} -1 & 1 & 1 \end{bmatrix} = \frac13\begin{bmatrix} 1 & -1 & -1 \\ -1 & 1 & 1 \\ -1 & 1 & 1 \end{bmatrix}$ ✓。

于是 $\mathbf{e} = (I-P)\mathbf{b} = \mathbf{q}_3\mathbf{q}_3^{\mathrm{T}}\mathbf{b} = c_3\mathbf{q}_3$ ✓，与第 3 步一致。

> [!important] 例题 9 揭示的「标准正交基优势」
> 若基不正交，求坐标要解一个 $3\times3$ 方程组（即解 $A^{\mathrm{T}}A\mathbf{c} = A^{\mathrm{T}}\mathbf{b}$）；基一旦标准正交，**坐标就是内积，投影就是一串秩 1 矩阵之和**：
> $$P = \mathbf{q}_1\mathbf{q}_1^{\mathrm{T}} + \mathbf{q}_2\mathbf{q}_2^{\mathrm{T}}, \qquad I - P = \mathbf{q}_3\mathbf{q}_3^{\mathrm{T}}$$
> 这就是「保留某些方向、清除其余方向」的**滤波器**：$\mathbf{p} = P\mathbf{b}$ 是保留部分，$\mathbf{e} = (I-P)\mathbf{b}$ 是被滤掉的部分，而 $\operatorname{tr}(I-P) = 1$ 就是「被滤掉的维数」。信号处理、图像压缩（保留前 $k$ 个奇异方向）、PCA 降维全部用的是这套语言，见 [[4-4-标准正交基与Gram-Schmidt]]、[[7-2-图像压缩与低秩逼近]] 与 [[7-3-主成分分析PCA]]。

### 例题 10（证明题）：$(W^{\perp})^{\perp} = W$、$\dim W + \dim W^{\perp} = n$ 与 $V = W \oplus W^{\perp}$ 的完整证明

**题目**：设 $W$ 是 $\mathbb{R}^n$ 的子空间（**有限维**是这里的关键条件）。证明：

（1）$\dim W + \dim W^{\perp} = n$；

（2）$(W^{\perp})^{\perp} = W$；

（3）$\mathbb{R}^n = W \oplus W^{\perp}$（即每个 $\mathbf{x}$ 都能唯一地写成 $\mathbf{w} + \mathbf{z}$，$\mathbf{w} \in W$、$\mathbf{z} \in W^{\perp}$）；

（4）若 $W_1 \subseteq W_2$，则 $W_2^{\perp} \subseteq W_1^{\perp}$（正交补反序）。

**证明。**

*（1）* 取 $W$ 的一组基 $\boldsymbol{\alpha}_1,\dots,\boldsymbol{\alpha}_k$（$k = \dim W$），把它们作为**行**排成 $k \times n$ 矩阵 $B$：

$$
B = \begin{bmatrix} \boldsymbol{\alpha}_1^{\mathrm{T}} \\ \vdots \\ \boldsymbol{\alpha}_k^{\mathrm{T}} \end{bmatrix}
$$

$B$ 的行向量组是 $W$ 的基，故**行满秩**：$\operatorname{rank}(B) = k$。

对任意 $\mathbf{x} \in \mathbb{R}^n$：

$$
B\mathbf{x} = \mathbf{0} \iff \boldsymbol{\alpha}_i^{\mathrm{T}}\mathbf{x} = 0 \ (i = 1,\dots,k) \iff \mathbf{x}\ \text{与}\ W\ \text{的基的每个向量正交}
$$

最后一步到「$\mathbf{x} \perp W$」需要一次论证：任取 $\mathbf{w} = \sum_i c_i\boldsymbol{\alpha}_i \in W$，则

$$
\mathbf{w}^{\mathrm{T}}\mathbf{x} = \Big(\sum_i c_i\boldsymbol{\alpha}_i\Big)^{\mathrm{T}}\mathbf{x} = \sum_i c_i\big(\boldsymbol{\alpha}_i^{\mathrm{T}}\mathbf{x}\big) = \sum_i c_i\cdot 0 = 0
$$

（这一步正是定理 4.1.1。）故 $W^{\perp} = \mathbf{N}(B)$，用秩—零化度定理（见 [[3-5-四大子空间的维数]]）：

$$
\dim W^{\perp} = \dim\mathbf{N}(B) = n - \operatorname{rank}(B) = n - k = n - \dim W
$$

即 $\dim W + \dim W^{\perp} = n$。$\square$

*（2）* 分两步：先证 $W \subseteq (W^{\perp})^{\perp}$，再比较维数。

*包含关系*：任取 $\mathbf{w} \in W$，要证 $\mathbf{w} \in (W^{\perp})^{\perp}$，即证 $\mathbf{w}$ 与 $W^{\perp}$ 中每个向量正交。任取 $\mathbf{z} \in W^{\perp}$，由 $W^{\perp}$ 的定义（$\mathbf{z}$ 与 $W$ 中每个向量正交，$\mathbf{w} \in W$）直接得 $\mathbf{w}^{\mathrm{T}}\mathbf{z} = 0$ ✓。由 $\mathbf{z}$ 的任意性，$\mathbf{w} \perp W^{\perp}$，即 $\mathbf{w} \in (W^{\perp})^{\perp}$。故

$$
W \subseteq (W^{\perp})^{\perp}
$$

*维数相等*：把（1）的结论用到子空间 $W^{\perp}$ 上（注意 $W^{\perp}$ 本身也是 $\mathbb{R}^n$ 的子空间，可以直接套用）：

$$
\dim(W^{\perp})^{\perp} = n - \dim W^{\perp} = n - (n - \dim W) = \dim W
$$

两者维数相同且一个包含另一个，故 $(W^{\perp})^{\perp} = W$。$\square$

> [!warning] 「$W \subseteq (W^{\perp})^{\perp}$」与「$(W^{\perp})^{\perp} \subseteq W$」的不对称
> 前者**不需要任何有限维假设**，也不需要用（1），是纯定义的推论；后者**必须**用维数相等（或等价地用「有限维」）。在无穷维内积空间里，$(W^{\perp})^{\perp} = W$ **不一定成立**（只能得到 $W \subseteq (W^{\perp})^{\perp}$，当 $W$ 不闭时可能真包含）。**本题的结论依赖 $\mathbb{R}^n$ 是有限维**——这是「去掉条件会怎样」的一个实例，见下面例题 11。

*（3）存在性*。设 $k = \dim W$。取 $W$ 的一组基 $\boldsymbol{\alpha}_1,\dots,\boldsymbol{\alpha}_k$，再取 $W^{\perp}$ 的一组基 $\boldsymbol{\beta}_1,\dots,\boldsymbol{\beta}_{n-k}$（后者的个数由 (1) 确定为 $n - k$）。把这两组基合起来写成一列：

这 $n$ 个向量整体线性无关。理由：设 $\sum_i a_i\boldsymbol{\alpha}_i + \sum_j b_j\boldsymbol{\beta}_j = \mathbf{0}$，记左边 $= \mathbf{u} + \mathbf{v}$（$\mathbf{u} \in W$、$\mathbf{v} \in W^{\perp}$）。则 $\mathbf{u} = -\mathbf{v}$，左边在 $W$ 里、右边在 $W^{\perp}$ 里，故 $\mathbf{u} \in W \cap W^{\perp}$。而对 $\mathbf{z} \in W \cap W^{\perp}$ 有 $\mathbf{z}^{\mathrm{T}}\mathbf{z} = 0$（因为 $\mathbf{z} \in W^{\perp}$ 与 $W$ 中每个向量正交，特别地与 $\mathbf{z}$ 自己正交），由「$[\mathbf{z},\mathbf{z}] = 0 \Rightarrow \mathbf{z} = \mathbf{0}$」得 $\mathbf{z} = \mathbf{0}$，即

$$
W \cap W^{\perp} = \{\mathbf{0}\}
$$

于是 $\mathbf{u} = \mathbf{v} = \mathbf{0}$，也就是 $\sum_i a_i\boldsymbol{\alpha}_i = \mathbf{0}$ 与 $\sum_j b_j\boldsymbol{\beta}_j = \mathbf{0}$，由两组各自的线性无关得所有 $a_i = 0$、$b_j = 0$ ✓。

$n$ 个线性无关的向量构成 $\mathbb{R}^n$ 的一组基，于是每个 $\mathbf{x} \in \mathbb{R}^n$ 都能唯一地写成它们的线性组合，即

$$
\mathbf{x} = \underbrace{\sum_i a_i\boldsymbol{\alpha}_i}_{\in W} + \underbrace{\sum_j b_j\boldsymbol{\beta}_j}_{\in W^{\perp}}
$$

存在性 ✓。

*（3）唯一性*。设 $\mathbf{x} = \mathbf{u}_1 + \mathbf{v}_1 = \mathbf{u}_2 + \mathbf{v}_2$，$\mathbf{u}_i \in W$、$\mathbf{v}_i \in W^{\perp}$。两式相减：

$$
\mathbf{u}_1 - \mathbf{u}_2 = \mathbf{v}_2 - \mathbf{v}_1
$$

左边 $\in W$、右边 $\in W^{\perp}$，故这个向量 $\in W \cap W^{\perp} = \{\mathbf{0}\}$，于是 $\mathbf{u}_1 = \mathbf{u}_2$、$\mathbf{v}_1 = \mathbf{v}_2$ ✓。故 $\mathbb{R}^n = W \oplus W^{\perp}$。$\square$

*（4）* 任取 $\mathbf{z} \in W_2^{\perp}$，即 $\mathbf{z}$ 与 $W_2$ 中每个向量正交。由于 $W_1 \subseteq W_2$，$W_1$ 中的每个向量都属于 $W_2$，故 $\mathbf{z}$ 也与 $W_1$ 中每个向量正交，即 $\mathbf{z} \in W_1^{\perp}$。由 $\mathbf{z}$ 的任意性得 $W_2^{\perp} \subseteq W_1^{\perp}$ ✓。$\square$

> [!important] 例题 10 的四句话总结
> 1. $\dim W + \dim W^{\perp} = n$：**正交补把维数「补满」**（证明方法：把 $W$ 的基排成行矩阵 $B$，则 $W^{\perp} = \mathbf{N}(B)$，用秩—零化度定理）。
> 2. $(W^{\perp})^{\perp} = W$：**正交补是对合的**（两次回到自己）。包含方向容易（不用维数），反方向需要维数相等或有限维。
> 3. $\mathbb{R}^n = W \oplus W^{\perp}$：**正交补是一个特别的补空间**。一般子空间有无穷多个补空间（只要维数相加为 $n$ 且交集为零），但**正交补只有一个**。
> 4. $W_1 \subseteq W_2 \Rightarrow W_2^{\perp} \subseteq W_1^{\perp}$：**正交补反序**。小空间的正交补大（要求更少），大空间的正交补小（要求更多）。这条在[[4-2-投影与投影矩阵]]里解释 $P_1P_2 = P_1$ 时用到。
>
> 把（2）用在四个基本子空间上，立刻得到**本库最重要的两条对偶关系**：
> $$\mathbf{C}(A) = \big(\mathbf{N}(A^{\mathrm{T}})\big)^{\perp}, \qquad \mathbf{C}(A^{\mathrm{T}}) = \big(\mathbf{N}(A)\big)^{\perp}$$
> 这两条就是定理 4.1.3 与 4.1.4 的另一种写法——「零空间的正交补是行空间」「左零空间的正交补是列空间」。

### 例题 11（证明题）：去掉「有限维」条件会怎样？——对角线例子说明 $(W^{\perp})^{\perp} \neq W$

**题目**：在平方可和实数列空间

$$
\ell^2 = \Big\{ \mathbf{x} = (x_1,x_2,x_3,\dots) \ \Big|\ \sum_{k=1}^{\infty} x_k^2 < \infty \Big\}, \qquad [\mathbf{x},\mathbf{y}] = \sum_{k=1}^{\infty} x_ky_k
$$

中取子空间

$$
W = \Big\{ \mathbf{x} \in \ell^2 \ \Big|\ \text{只有有限多个 } x_k \text{ 非零} \Big\}
$$

（即「有限支撑」的数列全体）。证明：（1）$W$ 是 $\ell^2$ 的子空间；（2）$W^{\perp} = \{\mathbf{0}\}$；（3）$(W^{\perp})^{\perp} = \ell^2 \neq W$，从而例题 10(2) 的结论**在无穷维下失效**。

**证明。**

*（1）* 设 $\mathbf{x},\mathbf{y} \in W$，即存在 $N_x, N_y$ 使 $k > N_x$ 时 $x_k = 0$、$k > N_y$ 时 $y_k = 0$。取 $N = \max(N_x,N_y)$，则 $k > N$ 时 $x_k + y_k = 0$，故 $\mathbf{x} + \mathbf{y} \in W$ ✓。对任意标量 $c$，$k > N_x$ 时 $cx_k = 0$，故 $c\mathbf{x} \in W$ ✓。零元 $\mathbf{0} \in W$ ✓。$W$ 对加法与数乘封闭且非空，是子空间（注意 $\ell^2$ 中有限支撑数列的平方和显然有限，故 $W \subseteq \ell^2$ 成立）。

*（2）* 设 $\mathbf{z} \in W^{\perp}$，即 $[\mathbf{z},\mathbf{x}] = 0$ 对一切 $\mathbf{x} \in W$。对每个固定的下标 $j$，取 $\mathbf{e}_j = (0,\dots,0,1,0,\dots)$（第 $j$ 位为 $1$，其余为 $0$）——它只有有限多个非零元（只有一个），故 $\mathbf{e}_j \in W$。于是

$$
0 = [\mathbf{z},\mathbf{e}_j] = z_j, \qquad j = 1,2,3,\dots
$$

故 $\mathbf{z} = \mathbf{0}$，即 $W^{\perp} = \{\mathbf{0}\}$ ✓。

*（3）* 由（2），$W^{\perp} = \{\mathbf{0}\}$，而零空间的正交补是**整个空间**（任何向量都与 $\mathbf{0}$ 正交）：

$$
(W^{\perp})^{\perp} = \{\mathbf{0}\}^{\perp} = \ell^2
$$

而 $W \neq \ell^2$：例如 $\mathbf{x} = (1,\tfrac12,\tfrac13,\tfrac14,\dots)$ 满足 $\sum_k \frac{1}{k^2} = \frac{\pi^2}{6} < \infty$，故 $\mathbf{x} \in \ell^2$；但 $\mathbf{x}$ 有无限多个非零项，故 $\mathbf{x} \notin W$。

$$
W \subsetneq \ell^2 = (W^{\perp})^{\perp} \ \checkmark
$$

（包含关系 $W \subseteq (W^{\perp})^{\perp}$ 依然成立，只是**严格**包含。）$\square$

> [!warning] 「去掉条件会怎样」的教训
> 例题 10(2) 的证明里，「$W \subseteq (W^{\perp})^{\perp}$」是纯定义的、永远成立；而反方向靠的是
> $$\dim(W^{\perp})^{\perp} = n - \dim W^{\perp} = \dim W$$
> 这一步用了**两次数**：一次是例题 10(1) 的维数公式，一次是「维数相同 $+$ 包含 $\Rightarrow$ 相等」。**无穷维时没有「维数相加等于 $n$」这种有限维计数**，整条路就断了。
> 于是 $W$ 与 $(W^{\perp})^{\perp}$ 的差距恰好衡量了 $W$ 有多「不闭」：在 $\ell^2$ 里，$(W^{\perp})^{\perp}$ 是 $W$ 的**闭包**的推广（本例中闭包就是整个 $\ell^2$）。这个现象在泛函分析里叫「$W$ 不是闭子空间」，也是量子力学中「可观测量的定义域要小心」的技术根源。
> **本库的 $\mathbb{R}^n$ 全是有限维，所以例题 10 的四条结论永远可用**；这里给出反例只是为了说明「定理的适用条件不是装饰」——这也是本库反复强调「定理要给出适用条件」的原因。同样的现象在 [[1-2-长度与点积]] 里已经有伏笔：那里用「$\cos\theta \in [-1,1]$」定义夹角，靠的也是有限维 $\mathbb{R}^n$ 上的 Cauchy–Schwarz。


## 六、应用

**（1）最小二乘与数据拟合（第 4.3 节的主线）。** 当 $A\mathbf{x} = \mathbf{b}$ 无解时，$\mathbf{b}$ 有非零的左零空间分量。正交分解 $\mathbf{b} = \mathbf{b}_{\text{col}} + \mathbf{b}_{\text{leftnull}}$ 把「能达到的部分」与「达不到的部分」分开，而**最小二乘解就是让 $A\mathbf{x}$ 命中 $\mathbf{b}_{\text{col}}$ 的那个 $\mathbf{x}$**。这解释了一条常被误读的事实：最小二乘并不是「让误差变小」，而是**把误差强制压进 $\mathbf{N}(A^{\mathrm{T}})$**——误差向量 $A\hat{\mathbf{x}} - \mathbf{b}$ 必然与列空间正交。

**（2）信号处理中的滤波与去噪。** 把观测向量分解到「信号子空间」（列空间，由已知的波形基张成）与「噪声子空间」（其正交补）。噪声子空间方法（如 MUSIC 算法）就是利用 $(\mathbf{C}(A))^{\perp} = \mathbf{N}(A^{\mathrm{T}})$ 这一点：噪声只出现在左零空间方向，因此投影到左零空间可以「看到」噪声并估计其参数。

**（3）约束最小化与拉格朗日乘子。** 线性约束 $A\mathbf{x} = \mathbf{b}$ 要求 $\mathbf{x}$ 落在仿射集 $\mathbf{x}_p + \mathbf{N}(A)$ 上。由于 $\mathbf{N}(A) \perp \mathbf{C}(A^{\mathrm{T}})$，可行方向与「行空间的法方向」解耦，这是 KKT 条件（Karush–Kuhn–Tucker conditions）中「约束梯度与目标梯度共线」的线性代数原型。

**（4）网络流与守恒律（第 10 章）。** 对图的关联矩阵 $A$：$\mathbf{C}(A^{\mathrm{T}})$ 的元素是「电位」型向量（顶点上的势），$\mathbf{N}(A)$ 的元素是「环流」，二者正交意味着**环流的总势差为零**——能量守恒。这正是电路分析中「基尔霍夫电压定律」的线性代数表述。

**（5）统计学中的自由度与投影。** 在线性回归中，把观测 $\mathbf{y}$ 投影到设计矩阵的列空间得到拟合值 $\hat{\mathbf{y}}$，残差 $\mathbf{e} = \mathbf{y} - \hat{\mathbf{y}}$ 落在 $\mathbf{N}(A^{\mathrm{T}})$ 中。自由度分解 $m = r + (m - r)$ 直接对应「拟合所占自由度 + 残差自由度」，是 $R^2$ 与 $F$ 检验的代数基础。

**（6）数值验证的正交性检查。** 在数值代码里，投影之后的误差应当与子空间正交，这是判断实现是否正确的最快手段：

```python
import numpy as np

A = np.array([[1., 2., 3.],
              [2., 4., 7.],
              [3., 6., 10.]])
b = np.array([1., 2., 4.])

# 最小二乘解与投影
x_hat, *_ = np.linalg.lstsq(A, b, rcond=None)
p = A @ x_hat
e = b - p

print(np.linalg.matrix_rank(A))          # 2
print(A.T @ e)                           # 三个分量均约为 0 -> e 与 C(A) 正交
print(np.linalg.norm(e))                 # 残差长度，即 b 到 C(A) 的距离

# A^T A 的秩与 A 相同，但不可逆（列相关）
print(np.linalg.matrix_rank(A.T @ A))    # 2
print(np.linalg.det(A.T @ A))            # 约为 0（数值上可能是 1e-11 量级）
```

> [!warning] 数值注意
> `np.linalg.det(A.T @ A)` 在理论上为 0，浮点运算下常算出 $10^{-11}$ 或更小但不为零的数。判断可逆性要看条件数或奇异值，不要依赖行列式是否恰为 0（见第 11 章）。

## 七、易错点

> [!warning] 八个高频错误
> **1. 把 $\mathbf{N}(A)$ 与 $\mathbf{C}(A)$ 说成正交。** 正确的是 $\mathbf{N}(A) \perp \mathbf{C}(A^{\mathrm{T}})$、$\mathbf{N}(A^{\mathrm{T}}) \perp \mathbf{C}(A)$。当 $m \neq n$ 时前者连定义都无法写（不同空间）；即使 $m = n$，也只有 $A$ 对称时才偶然成立。
>
> **2. 把「正交补」与「补空间」混淆。** 任何子空间都有很多补空间（只要维数相加为 $n$、交集为零即可），但**正交补只有一个**。正交补是补空间中最特殊的一个：它与原空间垂直。
>
> **3. 认为 $V \cup V^{\perp} = \mathbb{R}^n$。** 应为 $V \oplus V^{\perp} = \mathbb{R}^n$（直和，不是并集）。并集连子空间都不是。
>
> **4. 忘记 $\mathbf{0}$ 属于每个子空间。** 于是 $V \cap V^{\perp} = \{\mathbf{0}\}$ 而不是空集；同时，「不过原点的平面」不是子空间，谈不上正交补。
>
> **5. 用「基向量互相正交」判定，却只检查了部分组合。** 需要**所有** $(i,j)$ 对都正交（定理 4.1.1）。只验证 $\mathbf{v}_1 \perp \mathbf{w}_1$ 就下结论是错的。
>
> **6. 认为 $\dim V^{\perp} = n - \dim V$ 中的 $n$ 可以换成任意数。** 这里 $n$ 是**整个空间**的维数（$V \subseteq \mathbb{R}^n$）。若 $V \subseteq \mathbb{R}^5$ 且 $\dim V = 3$，则 $\dim V^{\perp} = 2$；正交补是在同一个 $\mathbb{R}^5$ 里取的。
>
> **7. 以为 $\mathbb{R}^n = \mathbf{C}(A) \oplus \mathbf{N}(A)$。** 这是把 $A$ 的列空间与零空间硬凑在一起——两者甚至可能不在同一个 $\mathbb{R}$ 里。正确的两个分解是 $\mathbb{R}^n = \mathbf{C}(A^{\mathrm{T}}) \oplus \mathbf{N}(A)$ 与 $\mathbb{R}^m = \mathbf{C}(A) \oplus \mathbf{N}(A^{\mathrm{T}})$。
>
> **8. 混淆「$\mathbf{b} \perp \mathbf{N}(A^{\mathrm{T}})$」与「$\mathbf{b} \perp \mathbf{N}(A)$」。** 前者判定 $A\mathbf{x}=\mathbf{b}$ 是否有解（$\mathbf{b} \in \mathbf{C}(A)$）；后者一般没有意义（空间不对）。$A$ 对称时二者恰好等价，容易养成错误直觉。

## 八、练习题

**基础题 1.** 设 $V = \operatorname{span}\{(1,1,0)^{\mathrm{T}}, (0,1,1)^{\mathrm{T}}\} \subseteq \mathbb{R}^3$。求 $V^{\perp}$ 的一组基与维数，并写出 $V$ 的平面方程。

**基础题 2.** 设 $A = \begin{bmatrix} 1 & 1 & 0 \\ 0 & 1 & 1 \end{bmatrix}$。写出 $\mathbf{C}(A)$、$\mathbf{N}(A)$、$\mathbf{C}(A^{\mathrm{T}})$、$\mathbf{N}(A^{\mathrm{T}})$ 的维数与基，并验证 $\mathbb{R}^3 = \mathbf{C}(A^{\mathrm{T}}) \oplus \mathbf{N}(A)$ 与 $\mathbb{R}^2 = \mathbf{C}(A) \oplus \mathbf{N}(A^{\mathrm{T}})$。

**进阶题 3.** 设 $A$ 是 $5 \times 4$ 矩阵且 $\operatorname{rank}(A) = 3$。写出 $\mathbb{R}^4$ 与 $\mathbb{R}^5$ 的正交直和分解，说明每个分量的维数，并指出：$\mathbf{N}(A)$ 的每个向量与 $A$ 的哪三个向量正交？

**进阶题 4.** 把 $\mathbf{x} = (2, 3, 4)^{\mathrm{T}}$ 关于 $V = \operatorname{span}\{(1,1,1)^{\mathrm{T}}\}$ 做正交分解（即求出 $\mathbf{x}_{V}$ 与 $\mathbf{x}_{V^{\perp}}$），并验证勾股定理 $\|\mathbf{x}\|^2 = \|\mathbf{x}_V\|^2 + \|\mathbf{x}_{V^{\perp}}\|^2$。

**思考题 5.** 证明：若 $A$ 是 $n \times n$ 矩阵且 $A^{\mathrm{T}} = -A$（反对称矩阵），则 $\mathbf{C}(A) \perp$ 什么？（提示：对 $\mathbf{x} \in \mathbb{R}^n$，考虑 $\mathbf{x}^{\mathrm{T}}A\mathbf{x}$。）再证明反对称矩阵的对角元全为 0，且奇数阶反对称矩阵不可逆。

**思考题 6.** 设 $V, W$ 是 $\mathbb{R}^n$ 的子空间且 $V \perp W$。证明 $\dim V + \dim W \le n$，并举例说明可以严格小于 $n$。再证明：若 $\dim V + \dim W = n$ 且 $V \perp W$，则 $W = V^{\perp}$。

**思考题 7.** 用本篇的结论解释：为什么对任意 $\mathbf{b} \in \mathbb{R}^m$，方程 $A^{\mathrm{T}}A\hat{\mathbf{x}} = A^{\mathrm{T}}\mathbf{b}$ **一定**有解？（提示：用推论 4.1.8 说明 $A^{\mathrm{T}}\mathbf{b} \in \mathbf{C}(A^{\mathrm{T}}A)$。）

## 九、常见问题 FAQ

**Q1：正交和线性无关是一回事吗？**

不是。**正交 $\Rightarrow$ 线性无关**（若非零向量组 $\mathbf{v}_1,\dots,\mathbf{v}_k$ 两两正交，设 $\sum c_i\mathbf{v}_i = \mathbf{0}$，两边与 $\mathbf{v}_j$ 作内积得 $c_j\|\mathbf{v}_j\|^2 = 0$，故 $c_j = 0$），但**线性无关 $\nRightarrow$ 正交**：$(1,0)$ 与 $(1,1)$ 线性无关，夹角 $45^\circ$。正交是比线性无关更强的条件，代价是更难构造——这也是 Gram–Schmidt 正交化（第 4.4 节）存在的理由：把任意一组基「矫正」成正交基。

**Q2：为什么正交补的维数恰好是 $n - \dim V$，而不是更小？**

因为「正交」只是 $k$ 个线性约束。$V$ 的一组基给出 $k$ 个方程 $\mathbf{v}_i^{\mathrm{T}}\mathbf{x} = 0$，这 $k$ 个方程线性无关（因为 $\mathbf{v}_i$ 线性无关），所以解空间的维数是 $n - k$。直观上：$\mathbb{R}^n$ 中的每个正交条件「砍掉一维」，砍 $k$ 刀剩 $n - k$ 维。

**Q3：投影和正交分解是一回事吗？**

本质上是。给定子空间 $V$，把 $\mathbf{x}$ 分解成 $\mathbf{x} = \mathbf{x}_V + \mathbf{x}_{V^{\perp}}$ 后，$\mathbf{x}_V$ 就称为 $\mathbf{x}$ 在 $V$ 上的**投影**，$\mathbf{x}_{V^{\perp}}$ 是**误差**或**垂直分量**。本篇证明了这样的分解存在且唯一，第 4.2 节则给出**怎么算**它（投影矩阵 $P$）。所以在逻辑顺序上：4-1 建立「存在唯一性」，4-2 给出「构造与算法」。

**Q4：四个子空间的正交关系对复矩阵还成立吗？**

成立，但要把转置 $A^{\mathrm{T}}$ 全部换成**共轭转置** $A^{\mathrm{H}} = \bar{A}^{\mathrm{T}}$，把内积换成 $\mathbf{v}^{\mathrm{H}}\mathbf{w}$。此时四个空间变成 $\mathbf{C}(A)$、$\mathbf{N}(A)$、$\mathbf{C}(A^{\mathrm{H}})$、$\mathbf{N}(A^{\mathrm{H}})$，正交性与维数公式 $r$、$n-r$、$r$、$m-r$ 完全不变。注意复情形下「对称」的角色由 Hermitian 矩阵（$A^{\mathrm{H}} = A$）扮演，详见第 9 章。

> [!important] 全篇总结
> - **定义**：$\mathbf{v} \perp \mathbf{w} \iff \mathbf{v}^{\mathrm{T}}\mathbf{w} = 0$；$V \perp W$ 要求**每一个**与**每一个**正交（验证时只需验证基与基）。
> - **正交补**：$V^{\perp} = \{\mathbf{x} : \mathbf{x} \perp V\}$，$\dim V + \dim V^{\perp} = n$，$V \oplus V^{\perp} = \mathbb{R}^n$，$(V^{\perp})^{\perp} = V$。
> - **两条核心定理**：$\mathbf{N}(A) = (\mathbf{C}(A^{\mathrm{T}}))^{\perp}$、$\mathbf{N}(A^{\mathrm{T}}) = (\mathbf{C}(A))^{\perp}$。
> - **两个正交直和**：$\mathbb{R}^n = \mathbf{C}(A^{\mathrm{T}}) \oplus \mathbf{N}(A)$、$\mathbb{R}^m = \mathbf{C}(A) \oplus \mathbf{N}(A^{\mathrm{T}})$；分解唯一，且可以写成「有效分量 + 被抹掉的分量」。
> - **不要写**「$\mathbf{N}(A) \perp \mathbf{C}(A)$」；配对只有 $\mathbf{N}(A)$–$\mathbf{C}(A^{\mathrm{T}})$ 与 $\mathbf{N}(A^{\mathrm{T}})$–$\mathbf{C}(A)$。
> - **通往 4-2 与 4-3**：唯一分解给出了「投影」的概念；把 $\mathbf{b}$ 关于 $\mathbf{C}(A)$ 分解，得到的 $\mathbf{b}_{\text{col}}$ 就是最小二乘的拟合值，而误差 $\mathbf{b} - \mathbf{b}_{\text{col}} \in \mathbf{N}(A^{\mathrm{T}})$ 与列空间正交——这正是法方程 $A^{\mathrm{T}}A\hat{\mathbf{x}} = A^{\mathrm{T}}\mathbf{b}$ 的几何来源。

## 十、内积的公理化、欧氏空间与度量矩阵

> [!abstract] 本节要解决什么
> 前面九节用的都是**标准点积** $\mathbf{x}^{\mathrm{T}}\mathbf{y} = \sum_i x_iy_i$。国内教材的做法不同：先把「内积」该满足的性质写成**四条公理**，再从一个抽象内积出发定义长度、夹角、正交、正交补。这样做的好处是——**所有结论一次性对所有内积成立**（加权内积、函数空间的内积、概率空间的内积），而不必对每种内积重证一遍。
> 本节给出：内积四条公理与欧氏空间的定义、由内积导出长度与夹角、柯西—施瓦茨不等式的判别式法完整证明、三角不等式、**度量矩阵**（Gram 矩阵）的定义与四条性质、标准正交基的等价刻画、正交补与直和三定理、四大子空间与国内教材术语的完整对照表，以及三个配套例题（例题 4、6、7、10 就属于这一节的内容，请配合阅读）。

### 10.1 内积的公理化定义

> [!note] 定义 4.1.9（内积，inner product）
> 设 $V$ 是实数域 $\mathbb{R}$ 上的线性空间。若对 $V$ 中任意两个向量 $\boldsymbol{\alpha},\boldsymbol{\beta}$，都按某一法则对应一个实数，记作 $[\boldsymbol{\alpha},\boldsymbol{\beta}]$，且满足以下四条**公理**，则称 $[\boldsymbol{\alpha},\boldsymbol{\beta}]$ 为 $\boldsymbol{\alpha}$ 与 $\boldsymbol{\beta}$ 的**内积**：
>
> **（1）对称性（symmetry）**：对任意 $\boldsymbol{\alpha},\boldsymbol{\beta} \in V$，
> $$[\boldsymbol{\alpha},\boldsymbol{\beta}] = [\boldsymbol{\beta},\boldsymbol{\alpha}]$$
>
> **（2）对第一变元的线性性（linearity）**：对任意 $\boldsymbol{\alpha},\boldsymbol{\beta},\boldsymbol{\gamma} \in V$ 与任意 $k \in \mathbb{R}$，
> $$[\boldsymbol{\alpha} + \boldsymbol{\beta},\ \boldsymbol{\gamma}] = [\boldsymbol{\alpha},\boldsymbol{\gamma}] + [\boldsymbol{\beta},\boldsymbol{\gamma}], \qquad [k\boldsymbol{\alpha},\ \boldsymbol{\beta}] = k\,[\boldsymbol{\alpha},\boldsymbol{\beta}]$$
>
> **（3）对第二变元的线性性**：由 (1) 与 (2) 自动成立，即
> $$[\boldsymbol{\alpha},\ \boldsymbol{\beta} + \boldsymbol{\gamma}] = [\boldsymbol{\alpha},\boldsymbol{\beta}] + [\boldsymbol{\alpha},\boldsymbol{\gamma}], \qquad [\boldsymbol{\alpha},\ k\boldsymbol{\beta}] = k\,[\boldsymbol{\alpha},\boldsymbol{\beta}]$$
> （(2) 与 (3) 合起来称**双线性性（bilinearity）**。不同教材把两条线性性合并为一条「线性性」，**以授课教材为准**。）
>
> **（4）正定性（positive definiteness）**：对任意 $\boldsymbol{\alpha} \in V$，
> $$[\boldsymbol{\alpha},\boldsymbol{\alpha}] \ge 0, \qquad [\boldsymbol{\alpha},\boldsymbol{\alpha}] = 0 \iff \boldsymbol{\alpha} = \mathbf{0}$$
>
> 定义了内积的实线性空间 $V$ 称为**欧几里得空间（Euclidean space）**，简称**欧氏空间**。

> [!important] 为什么恰好是这四条
> 每一条公理都对应后面某一步推导的**必需品**，去掉任何一条都会立刻有结论失效：
>
> | 去掉的公理 | 立刻失效的结论 | 反例 |
> |---|---|---|
> | 对称性 | 勾股定理 $\|\boldsymbol{\alpha}+\boldsymbol{\beta}\|^2 = \|\boldsymbol{\alpha}\|^2 + \|\boldsymbol{\beta}\|^2$（交叉项变成 $[\boldsymbol{\alpha},\boldsymbol{\beta}] + [\boldsymbol{\beta},\boldsymbol{\alpha}]$，消不掉）；柯西—施瓦茨的判别式法也失效 | 取 $[\mathbf{x},\mathbf{y}] = x_1y_2$（不对称），则 $[(1,0),(1,0)] = 0$ 但 $(1,0) \neq \mathbf{0}$ |
> | 线性性 | 投影公式 $\mathbf{p} = \frac{[\mathbf{a},\mathbf{b}]}{[\mathbf{a},\mathbf{a}]}\mathbf{a}$（「与 $\mathbf{a}$ 正交」不能化为一个线性方程）；正交补不是子空间 | 取 $[\mathbf{x},\mathbf{y}] = \|\mathbf{x}\|\|\mathbf{y}\|$（不正线性），$V^{\perp}$ 连加法都不封闭 |
> | 正定性（非负） | 长度 $\|\boldsymbol{\alpha}\| = \sqrt{[\boldsymbol{\alpha},\boldsymbol{\alpha}]}$ 可能取虚数；夹角余弦可能大于 $1$ | 取 $[\mathbf{x},\mathbf{y}] = x_1y_1 - x_2y_2$（不定），则 $[(0,1),(0,1)] = -1 < 0$ |
> | 正定性（等号仅零） | 例题 10 的 $W \cap W^{\perp} = \{\mathbf{0}\}$；直和分解的唯一性 | 若存在 $\boldsymbol{\alpha} \neq \mathbf{0}$ 而 $[\boldsymbol{\alpha},\boldsymbol{\alpha}] = 0$（「迷向向量」），则 $\boldsymbol{\alpha} \perp \boldsymbol{\alpha}$，交集非零 |
>
> **一句话：四条公理不是「数学家为了抽象而抽象」，而是「把点积里真正用到的东西原封不动地留下来」。**

> [!note] 本库的两个记号
> - **$[\boldsymbol{\alpha},\boldsymbol{\beta}]$**：国内教材常用的内积记号（同济版即用方括号），本节与例题统一使用它，以便与国内教材对照。
> - **$\boldsymbol{\alpha}^{\mathrm{T}}\boldsymbol{\beta}$**：Strang 路线的记号，在本库前九节与第 4.2、4.3 节使用。
>
> 在 $\mathbb{R}^n$ 的**标准内积**下两者完全一致：$[\boldsymbol{\alpha},\boldsymbol{\beta}] = \boldsymbol{\alpha}^{\mathrm{T}}\boldsymbol{\beta} = \sum_i \alpha_i\beta_i$。但抽象的 $[\cdot,\cdot]$ 比分量的点积更广：$\mathbb{R}^n$ 上任何形如 $[\mathbf{x},\mathbf{y}] = \mathbf{x}^{\mathrm{T}}G\mathbf{y}$（$G$ 对称正定）的定义都是内积；$C[a,b]$ 上 $[f,g] = \int_a^b f(t)g(t)\,\mathrm{d}t$ 也是内积（见 [[10-4-傅里叶级数与函数空间]]）。**读公式时先确认内积是谁。**

### 10.2 由内积导出长度、距离与夹角

> [!important] 定义 4.1.10（长度、距离、夹角、单位向量）
> 在欧氏空间 $V$ 中，对任意 $\boldsymbol{\alpha},\boldsymbol{\beta} \in V$：
> **长度（length/norm）**：
> $$\|\boldsymbol{\alpha}\| = \sqrt{[\boldsymbol{\alpha},\boldsymbol{\alpha}]}$$
> **距离（distance）**：
> $$d(\boldsymbol{\alpha},\boldsymbol{\beta}) = \|\boldsymbol{\alpha} - \boldsymbol{\beta}\|$$
> **夹角（angle）**：当 $\boldsymbol{\alpha} \neq \mathbf{0}$、$\boldsymbol{\beta} \neq \mathbf{0}$ 时，
> $$\cos\theta = \frac{[\boldsymbol{\alpha},\boldsymbol{\beta}]}{\|\boldsymbol{\alpha}\|\,\|\boldsymbol{\beta}\|}, \qquad \theta \in [0,\pi]$$
> **单位向量**：$\|\boldsymbol{\alpha}\| = 1$ 的向量；把任意 $\boldsymbol{\alpha} \neq \mathbf{0}$ **单位化**为 $\dfrac{\boldsymbol{\alpha}}{\|\boldsymbol{\alpha}\|}$。

> [!warning] 为什么夹角公式「有资格」定义
> $\cos\theta$ 必须落在 $[-1,1]$ 内，否则「$\theta$ 存在」这句话就是假的。这个合法性**恰好由柯西—施瓦茨不等式保证**：
> $$\left|\frac{[\boldsymbol{\alpha},\boldsymbol{\beta}]}{\|\boldsymbol{\alpha}\|\|\boldsymbol{\beta}\|}\right| = \frac{\big|[\boldsymbol{\alpha},\boldsymbol{\beta}]\big|}{\|\boldsymbol{\alpha}\|\|\boldsymbol{\beta}\|} \le 1$$
> 所以 10.3 节的柯西—施瓦茨不等式不是「顺便一提的结论」，而是**夹角定义的前置条件**——这也是国内教材把它排在正交性之前的根本原因。（[[1-2-长度与点积]] 已从「$|\cos\theta|\le 1$」这一几何事实出发讨论过同一件事；本节从公理出发给出不必依赖几何直观的证明。）

### 10.3 柯西—施瓦茨不等式与三角不等式（完整证明）

完整证明见上文**例题 7**（判别式法，含等号条件），三角不等式的证明也在例题 7 中给出。此处只把结论与「证明的三根支柱」再排列一遍，方便背记。

> [!important] 定理 4.1.11（柯西—施瓦茨不等式，Cauchy–Schwarz inequality）
> 在欧氏空间 $V$ 中，对任意 $\boldsymbol{\alpha},\boldsymbol{\beta}$，
> $$\big|[\boldsymbol{\alpha},\boldsymbol{\beta}]\big| \le \|\boldsymbol{\alpha}\|\,\|\boldsymbol{\beta}\|$$
> 等号成立 $\iff$ $\boldsymbol{\alpha}$ 与 $\boldsymbol{\beta}$ 线性相关。
>
> **证明的三根支柱**：
> 1. **正定性**给出 $f(t) = [t\boldsymbol{\alpha}+\boldsymbol{\beta},\,t\boldsymbol{\alpha}+\boldsymbol{\beta}] \ge 0$ 对一切 $t \in \mathbb{R}$ 成立；
> 2. **双线性性**把 $f$ 展开成 $f(t) = [\boldsymbol{\alpha},\boldsymbol{\alpha}]t^2 + 2[\boldsymbol{\alpha},\boldsymbol{\beta}]t + [\boldsymbol{\beta},\boldsymbol{\beta}]$；
> 3. **对称性**把交叉项合并成 $2t[\boldsymbol{\alpha},\boldsymbol{\beta}]$（少了它就只有 $[\boldsymbol{\alpha},\boldsymbol{\beta}]+[\boldsymbol{\beta},\boldsymbol{\alpha}]$，无法配方）。
>
> 然后对开口向上的二次函数 $f \ge 0$ 用**判别式法**：$\Delta = 4[\boldsymbol{\alpha},\boldsymbol{\beta}]^2 - 4[\boldsymbol{\alpha},\boldsymbol{\alpha}][\boldsymbol{\beta},\boldsymbol{\beta}] \le 0$。等号时 $\Delta = 0$，$f$ 有唯一零点 $t_0$，由正定性得 $t_0\boldsymbol{\alpha}+\boldsymbol{\beta} = \mathbf{0}$，即线性相关。

> [!important] 定理 4.1.12（三角不等式，triangle inequality）
> 在欧氏空间 $V$ 中，对任意 $\boldsymbol{\alpha},\boldsymbol{\beta}$，
> $$\|\boldsymbol{\alpha} + \boldsymbol{\beta}\| \le \|\boldsymbol{\alpha}\| + \|\boldsymbol{\beta}\|$$
> 等号成立 $\iff$ $\boldsymbol{\alpha},\boldsymbol{\beta}$ **非负线性相关**（存在 $k \ge 0$ 使 $\boldsymbol{\beta} = k\boldsymbol{\alpha}$，或其中一个为零向量）。

**与柯西—施瓦茨等号条件的区别（易错点）**：柯西—施瓦茨只要「线性相关」（可以反向），三角不等式要求「**同向**」。验证：$\boldsymbol{\alpha}=(1,1)$、$\boldsymbol{\beta}=(-2,-2)$ 线性相关，柯西—施瓦茨取等号（$|{-4}| = \sqrt2\cdot\sqrt8 = 4$ ✓），但三角不等式严格：$\|\boldsymbol{\alpha}+\boldsymbol{\beta}\| = \sqrt2 < 3\sqrt2$ ✓。

### 10.4 度量矩阵（Gram 矩阵）

> [!note] 定义 4.1.13（度量矩阵）
> 设 $\boldsymbol{\varepsilon}_1,\dots,\boldsymbol{\varepsilon}_n$ 是 $n$ 维欧氏空间 $V$ 的一组**基**。称 $n$ 阶矩阵
> $$G = \big([\boldsymbol{\varepsilon}_i,\boldsymbol{\varepsilon}_j]\big)_{n\times n} = \begin{bmatrix} [\boldsymbol{\varepsilon}_1,\boldsymbol{\varepsilon}_1] & [\boldsymbol{\varepsilon}_1,\boldsymbol{\varepsilon}_2] & \cdots & [\boldsymbol{\varepsilon}_1,\boldsymbol{\varepsilon}_n] \\ [\boldsymbol{\varepsilon}_2,\boldsymbol{\varepsilon}_1] & [\boldsymbol{\varepsilon}_2,\boldsymbol{\varepsilon}_2] & \cdots & [\boldsymbol{\varepsilon}_2,\boldsymbol{\varepsilon}_n] \\ \vdots & \vdots & & \vdots \\ [\boldsymbol{\varepsilon}_n,\boldsymbol{\varepsilon}_1] & [\boldsymbol{\varepsilon}_n,\boldsymbol{\varepsilon}_2] & \cdots & [\boldsymbol{\varepsilon}_n,\boldsymbol{\varepsilon}_n] \end{bmatrix}$$
> 为这组基的**度量矩阵**（metric matrix），也叫 **Gram 矩阵**（Gram matrix）。
> 在 $\mathbb{R}^n$ 中，若把基向量按列排成矩阵 $B = [\boldsymbol{\varepsilon}_1\ \cdots\ \boldsymbol{\varepsilon}_n]$，则 $G = B^{\mathrm{T}}B$。

> [!important] 定理 4.1.14（度量矩阵的四条性质）
> 设 $G$ 是基 $\boldsymbol{\varepsilon}_1,\dots,\boldsymbol{\varepsilon}_n$ 的度量矩阵。
> **（1）$G$ 对称**：$G^{\mathrm{T}} = G$（由内积的对称性公理）。
> **（2）$G$ 正定**：对任意 $\mathbf{c} \neq \mathbf{0}$，$\mathbf{c}^{\mathrm{T}}G\mathbf{c} > 0$。特别地 $\det G > 0$，且 $G$ 可逆。
> **（3）坐标下的内积与长度**：若 $\boldsymbol{\alpha} = \sum_i x_i\boldsymbol{\varepsilon}_i$、$\boldsymbol{\beta} = \sum_j y_j\boldsymbol{\varepsilon}_j$（即坐标向量为 $\mathbf{x},\mathbf{y}$），则
> $$[\boldsymbol{\alpha},\boldsymbol{\beta}] = \mathbf{x}^{\mathrm{T}}G\mathbf{y}, \qquad \|\boldsymbol{\alpha}\|^2 = \mathbf{x}^{\mathrm{T}}G\mathbf{x} = \sum_{i,j}G_{ij}x_ix_j$$
> **（4）$G = I$ $\iff$ 这组基是标准正交基**。

**证明。**

*（1）* $G_{ij} = [\boldsymbol{\varepsilon}_i,\boldsymbol{\varepsilon}_j] = [\boldsymbol{\varepsilon}_j,\boldsymbol{\varepsilon}_i] = G_{ji}$ ✓（对称性公理）。

*（2）* 设 $\mathbf{c} = (c_1,\dots,c_n)^{\mathrm{T}} \neq \mathbf{0}$，令 $\boldsymbol{\gamma} = \sum_i c_i\boldsymbol{\varepsilon}_i$。由于 $\boldsymbol{\varepsilon}_i$ 是**基**，$\boldsymbol{\gamma} = \mathbf{0}$ 只有在全部 $c_i = 0$ 时才成立，故 $\boldsymbol{\gamma} \neq \mathbf{0}$。于是

$$
\mathbf{c}^{\mathrm{T}}G\mathbf{c} = \sum_{i,j}c_ic_j[\boldsymbol{\varepsilon}_i,\boldsymbol{\varepsilon}_j] = \Big[\sum_i c_i\boldsymbol{\varepsilon}_i,\ \sum_j c_j\boldsymbol{\varepsilon}_j\Big] = [\boldsymbol{\gamma},\boldsymbol{\gamma}] > 0
$$

（第二、三个等号用了双线性性，最后一步用了正定性公理的「$[\boldsymbol{\gamma},\boldsymbol{\gamma}] = 0 \iff \boldsymbol{\gamma} = \mathbf{0}$」。）故 $G$ 正定 ✓。正定矩阵的行列式 $> 0$（全部特征值为正），故可逆 ✓。

*（3）* 同样展开：

$$
[\boldsymbol{\alpha},\boldsymbol{\beta}] = \Big[\sum_i x_i\boldsymbol{\varepsilon}_i,\ \sum_j y_j\boldsymbol{\varepsilon}_j\Big] = \sum_{i,j}x_iy_j[\boldsymbol{\varepsilon}_i,\boldsymbol{\varepsilon}_j] = \sum_{i,j}G_{ij}x_iy_j = \mathbf{x}^{\mathrm{T}}G\mathbf{y}
$$

取 $\boldsymbol{\beta} = \boldsymbol{\alpha}$（即 $\mathbf{y} = \mathbf{x}$）得 $\|\boldsymbol{\alpha}\|^2 = \mathbf{x}^{\mathrm{T}}G\mathbf{x}$ ✓。

*（4）* **「$\Leftarrow$」**：若基标准正交，则 $[\boldsymbol{\varepsilon}_i,\boldsymbol{\varepsilon}_j] = \delta_{ij}$，故 $G = I$ ✓。
**「$\Rightarrow$」**：若 $G = I$，则 $[\boldsymbol{\varepsilon}_i,\boldsymbol{\varepsilon}_j] = \delta_{ij}$，即两两正交且皆为**单位**向量，正是标准正交基的定义 ✓。$\square$

> [!important] 度量矩阵的三个实用推论
> 1. **判断一组基是否标准正交，只看 $G$ 是不是 $I$**——这是国内考试最常见的用法（例题 6 第 4 步）。
> 2. **换了基，度量矩阵合同变换**：若新基 $\boldsymbol{\eta}_j = \sum_i p_{ij}\boldsymbol{\varepsilon}_i$（即 $(\boldsymbol{\eta}_1,\dots,\boldsymbol{\eta}_n) = (\boldsymbol{\varepsilon}_1,\dots,\boldsymbol{\varepsilon}_n)P$），则新度量矩阵
> $$G' = P^{\mathrm{T}}GP$$
> **这就是「合同」的定义**（合同 = 同一个内积在不同基下的度量矩阵），也是第 6 章二次型理论的入口，见 [[6-5-二次型与标准形]]。特别地，若 $P$ 是正交矩阵（即换的是标准正交基），则 $G' = P^{\mathrm{T}}GP = P^{-1}IP = I$——**标准正交性在正交变换下保持**。
> 3. **坐标公式依赖度量矩阵**：在非标准正交基下，$\boldsymbol{\alpha}$ 的坐标**不能**用内积直接读出；只有 $G = I$ 时才有 $\alpha_i = [\boldsymbol{\alpha},\boldsymbol{\varepsilon}_i]$。这正是 [[4-4-标准正交基与Gram-Schmidt]] 把基矫正为标准正交基的全部动机。

> [!warning] 度量矩阵不等于协方差矩阵，但同一个东西
> 第 12 章的**协方差矩阵** $\Sigma$ 的 $(i,j)$ 元是 $\operatorname{Cov}(X_i,X_j)$——在「随机变量视为向量、协方差视为内积」的观点下，$\Sigma$ **就是**随机变量组 $\{X_1,\dots,X_n\}$ 的度量矩阵（见 [[12-2-协方差矩阵]]）。于是「$\Sigma$ 正定 $\iff$ 各分量线性无关（没有冗余）」与本节定理 4.1.14(2) 是同一句话：**协方差矩阵的对称正定性，就是度量矩阵性质的统计学化身**。同理，第 12 章的马氏距离 $\sqrt{(\mathbf{x}-\mathbf{y})^{\mathrm{T}}\Sigma^{-1}(\mathbf{x}-\mathbf{y})}$ 就是「在 $\Sigma^{-1}$ 给定的内积下」的欧氏距离（见 [[12-3-多元高斯与加权最小二乘]]）。

### 10.5 正交补与直和（国内写法与证明）

定理的完整证明见上文**例题 10**，这里给出适用于任何欧氏空间的表述与「三条等价刻画」。

> [!important] 定理 4.1.15（正交补的三条基本性质）
> 设 $V$ 是 $n$ 维欧氏空间，$W$ 是 $V$ 的子空间，$W^{\perp} = \{\mathbf{x} \in V \mid [\mathbf{x},\mathbf{w}] = 0,\ \forall \mathbf{w} \in W\}$。则
> **（1）** $W^{\perp}$ 是 $V$ 的子空间（对加法与数乘封闭，含零向量）；
> **（2）** $\dim W + \dim W^{\perp} = n$，即 $\dim W^{\perp} = n - \dim W$；
> **（3）** $W \cap W^{\perp} = \{\mathbf{0}\}$，且 $V = W \oplus W^{\perp}$（**正交直和**）；每个 $\mathbf{x} \in V$ 有**唯一**分解
> $$\mathbf{x} = \mathbf{w} + \mathbf{z}, \qquad \mathbf{w} \in W,\ \mathbf{z} \in W^{\perp}, \qquad [\mathbf{w},\mathbf{z}] = 0$$
> **（4）** $(W^{\perp})^{\perp} = W$；且 $W_1 \subseteq W_2 \Rightarrow W_2^{\perp} \subseteq W_1^{\perp}$。
>
> **适用条件**：$V$ 必须**有限维**（(4) 的反方向依赖维数计数；无穷维反例见例题 11）。

> [!tip] 「直和」的判定三步（国内考试的标准动作）
> 要证 $V = W_1 \oplus W_2$（不要求正交），标准做法是：
> 1. 证 $W_1 + W_2$ 中每个向量都能写成 $\mathbf{w}_1 + \mathbf{w}_2$（**存在性**）；
> 2. 证 $W_1 \cap W_2 = \{\mathbf{0}\}$（**交集为零**）；
> 3. 或者更省力：证 $\dim W_1 + \dim W_2 = \dim V$ **且** $W_1 \cap W_2 = \{\mathbf{0}\}$（维数相加 + 交集为零 $\Rightarrow$ 直和）。
>
> 正交的情形多送一条：由 $[\mathbf{z},\mathbf{z}] = 0 \Rightarrow \mathbf{z} = \mathbf{0}$，**交集为零自动成立**，于是只需检查「正交」+「维数相加」两件事。这就是本库反复说的口诀：**「正交 + 维数相加 = 直和」**。

### 10.6 四大子空间与国内教材「解的结构」对照表

> [!important] 本库与国内教材的术语对照（四大子空间版）
> 这张表把第 3、4 章的核心对象与国内教材（同济版等）的说法一一对上。第 3.5 节的对照表侧重「维数」与「秩」，这里侧重**解的结构**与**正交关系**。

| 本库记号 | 本库名称 | 国内教材名称与记号 | 数学对象 | 维数 | 由什么控制 |
|---|---|---|---|---|---|
| $\mathbf{C}(A)$ | 列空间 | $A$ 的**列向量组的张成** $L(\mathbf{a}_1,\dots,\mathbf{a}_n)$；也叫**值域** | $\{A\mathbf{x}\} \subseteq \mathbb{R}^m$ | $r$ | 主元列的个数 |
| $\mathbf{N}(A)$ | 零空间 | 齐次方程组 $A\mathbf{x}=\mathbf{0}$ 的**解空间**；其基叫**基础解系** | 解集 $\subseteq \mathbb{R}^n$ | $n-r$ | 自由变量的个数 |
| $\mathbf{C}(A^{\mathrm{T}})$ | 行空间 | $A$ 的**行向量组的张成**；也叫**行空间** | 行向量的组合 $\subseteq \mathbb{R}^n$ | $r$ | 主元行的个数 |
| $\mathbf{N}(A^{\mathrm{T}})$ | 左零空间 | $A^{\mathrm{T}}\mathbf{y}=\mathbf{0}$ 的**解空间**；在解方程时给出**相容性条件** | 解集 $\subseteq \mathbb{R}^m$ | $m-r$ | 消元中被消成零行的行数 |

> [!important] 正交关系的国内写法
> 本库的两条核心定理（定理 4.1.3、4.1.4）用国内记号写成：
> $$\mathbf{C}(A^{\mathrm{T}}) = \big(\mathbf{N}(A)\big)^{\perp}, \qquad \mathbf{N}(A) = \big(\mathbf{C}(A^{\mathrm{T}})\big)^{\perp}$$
> $$\mathbf{C}(A) = \big(\mathbf{N}(A^{\mathrm{T}})\big)^{\perp}, \qquad \mathbf{N}(A^{\mathrm{T}}) = \big(\mathbf{C}(A)\big)^{\perp}$$
> 翻译成中文句子：
> - **「零空间的每个解向量与 $A$ 的每一行正交」**，而由「与一行组正交 $\Rightarrow$ 与行空间正交」，得到「解空间 $\perp$ 行空间」；
> - **「$A^{\mathrm{T}}\mathbf{y}=\mathbf{0}$ 的每个解向量与 $A$ 的每一列正交」**，得到「$A^{\mathrm{T}}\mathbf{y}=\mathbf{0}$ 的解空间 $\perp$ 列空间」。
>
> 用这两种语言各写一遍，就会发现它们说的是同一件事：
> $$A\mathbf{x} = \mathbf{0} \iff \text{第 } i \text{ 个分量 } \mathbf{r}_i^{\mathrm{T}}\mathbf{x} = 0 \iff \mathbf{x} \perp \text{每行} \iff \mathbf{x} \perp \text{行空间}$$
> 左边是国内语言（「解」，一行行看方程），右边是本库语言（「正交」，一列列看空间）。

> [!important] 解的结构定理的正交版本
> 国内教材的「通解 $=$ 特解 $+$ 齐次通解」在本篇的语言里是一次**正交直和分解**。对输入侧的 $\mathbf{x}$：
> $$\mathbb{R}^n = \mathbf{C}(A^{\mathrm{T}}) \oplus \mathbf{N}(A) \Longrightarrow \mathbf{x} = \underbrace{\mathbf{x}_{\text{row}}}_{\text{the part fixed by } A} + \underbrace{\mathbf{x}_{\text{null}}}_{\text{the free part}}$$
> （$\mathbf{x}_{\text{row}}$ 是行空间分量，被 $A$ 唯一决定；$\mathbf{x}_{\text{null}}$ 是零空间分量，即通解里可以任意变动的部分。）
> 于是「解的自由度」有了几何解释：**$\mathbf{N}(A)$ 的维数就是解可以「自由动」的方向数，而 $\mathbf{C}(A^{\mathrm{T}})$ 方向上的分量被 $A$ 唯一决定**（因为 $A$ 在行空间上是一一映射）。这句话把「$n-r$ 个自由参数」从「数的个数」升级成「几何维度」，也是最小二乘「把 $\mathbf{b}$ 拆成能达到的部分 + 达不到的部分」的同一套逻辑。
>
> 输出侧的对应关系同样重要，对右端 $\mathbf{b}$：
> $$\mathbb{R}^m = \mathbf{C}(A) \oplus \mathbf{N}(A^{\mathrm{T}}) \Longrightarrow \mathbf{b} = \underbrace{\mathbf{b}_{\text{col}}}_{\text{the reachable part}} + \underbrace{\mathbf{b}_{\text{leftnull}}}_{\text{the part causing failure}}$$
> （$\mathbf{b}_{\text{col}}$ 是列空间分量，即「可解的右端」；$\mathbf{b}_{\text{leftnull}}$ 是左零空间分量，即「造成无解的那部分」。）
> **判据**：$A\mathbf{x}=\mathbf{b}$ 有解 $\iff$ $\mathbf{b}_{\text{leftnull}} = \mathbf{0}$ $\iff$ $\mathbf{b}$ 与 $\mathbf{N}(A^{\mathrm{T}})$ 的每个向量正交（推论 4.1.6）。

### 10.7 补：标准正交基的等价刻画与「坐标 $=$ 内积」

> [!important] 定理 4.1.16（标准正交基的四个等价说法）
> 设 $\boldsymbol{\varepsilon}_1,\dots,\boldsymbol{\varepsilon}_n$ 是 $n$ 维欧氏空间 $V$ 的一组基，$B = [\boldsymbol{\varepsilon}_1\ \cdots\ \boldsymbol{\varepsilon}_n]$。则以下等价：
> **（1）** $\boldsymbol{\varepsilon}_1,\dots,\boldsymbol{\varepsilon}_n$ 两两正交且都是单位向量（**标准正交基**的定义）；
> **（2）** $[\boldsymbol{\varepsilon}_i,\boldsymbol{\varepsilon}_j] = \delta_{ij}$（Kronecker 符号）；
> **（3）** 度量矩阵 $G = B^{\mathrm{T}}B = I$（在 $\mathbb{R}^n$ 中即 $B$ 是**正交矩阵**）；
> **（4）** 对任意 $\boldsymbol{\alpha} = \sum_i x_i\boldsymbol{\varepsilon}_i$，坐标可直接用内积读出：$x_i = [\boldsymbol{\alpha},\boldsymbol{\varepsilon}_i]$，且 $\|\boldsymbol{\alpha}\|^2 = \sum_i x_i^2$。

**证明**。(1) $\iff$ (2) 是定义的改写；(2) $\iff$ (3) 是定理 4.1.14(4)；(3) $\Rightarrow$ (4)：若 $G = I$，则

$$
[\boldsymbol{\alpha},\boldsymbol{\varepsilon}_i] = \Big[\sum_j x_j\boldsymbol{\varepsilon}_j,\ \boldsymbol{\varepsilon}_i\Big] = \sum_j x_j[\boldsymbol{\varepsilon}_j,\boldsymbol{\varepsilon}_i] = \sum_j x_j\delta_{ji} = x_i \ \checkmark
$$

（求和里只有 $j = i$ 的项存活，这是 $\delta_{ij}$ 的全部作用。）再由 $\|\boldsymbol{\alpha}\|^2 = \mathbf{x}^{\mathrm{T}}G\mathbf{x} = \mathbf{x}^{\mathrm{T}}I\mathbf{x} = \sum_i x_i^2$ ✓。

(4) $\Rightarrow$ (2)：取 $\boldsymbol{\alpha} = \boldsymbol{\varepsilon}_j$，它在标准正交基下的坐标是 $x_i = \delta_{ij}$（这是「基」的含义：$\boldsymbol{\varepsilon}_j$ 是第 $j$ 个基向量）；由 (4) 的 $x_i = [\boldsymbol{\varepsilon}_j,\boldsymbol{\varepsilon}_i]$，故 $[\boldsymbol{\varepsilon}_j,\boldsymbol{\varepsilon}_i] = \delta_{ij}$ ✓。$\square$

> [!tip] 这条定理为什么是「整章的枢纽」
> 它把「几何条件（正交 + 单位）」⇔「代数条件（$G = I$ / $B^{\mathrm{T}}B = I$）」⇔「计算便利（坐标 $=$ 内积）」三者绑在一起。于是：
> - **投影**：若 $A$ 的列标准正交（$A = Q$），则 $P = QQ^{\mathrm{T}}$，且 $\hat{\mathbf{x}} = Q^{\mathrm{T}}\mathbf{b}$——法方程 $Q^{\mathrm{T}}Q\hat{\mathbf{x}} = Q^{\mathrm{T}}\mathbf{b}$ 退化成一步除法（见 [[4-4-标准正交基与Gram-Schmidt]]、[[4-3-最小二乘逼近]]）；
> - **傅里叶级数**：函数空间里 $G = I$ 的版本就是「正交函数系」，于是傅里叶系数 $c_k = \langle f,\varphi_k\rangle$ 与内积公式完全一致（见 [[10-4-傅里叶级数与函数空间]]）；
> - **正交矩阵**：$B^{\mathrm{T}}B = I$ 就是 $B$ 为正交矩阵，它的性质（$\det = \pm1$、特征值模为 $1$、保内积与长度）全部是这条定理的推论，详见 [[4-4-标准正交基与Gram-Schmidt]] 与例题 8。

### 10.8 本节三个例题的索引

| 例题 | 主题 | 与本节哪一小节对应 |
|---|---|---|
| 例题 4 | 验证一组公理化的内积，算长度、夹角与度量矩阵，并做施密特正交化 | 10.1、10.2、10.4、10.7 |
| 例题 6 | 非标准内积下的正交补、直和分解与度量矩阵（含勾股定理验证） | 10.4、10.5 |
| 例题 7 | 柯西—施瓦茨（判别式法）与三角不等式的完整证明 + 等号条件 | 10.3 |
| 例题 10 | $\dim W + \dim W^{\perp} = n$、$(W^{\perp})^{\perp} = W$、$V = W \oplus W^{\perp}$ 的完整证明 | 10.5 |
| 例题 11 | 去掉「有限维」条件后 $(W^{\perp})^{\perp} \neq W$ 的反例 | 10.5（适用条件的作用） |

## 本篇小结

> [!important] 一页纸回顾（分为「Strang 线」与「国内线」两栏，务必都能默写）
> **A. Strang 线（点积语言，前九节）**
> - **定义**：$\mathbf{v} \perp \mathbf{w} \iff \mathbf{v}^{\mathrm{T}}\mathbf{w} = 0$；$V \perp W$ 要求**每一个**与**每一个**正交（判定时只需验基与基两两正交，定理 4.1.1）。
> - **正交补**：$V^{\perp} = \{\mathbf{x} : \mathbf{x} \perp V\}$，$\dim V + \dim V^{\perp} = n$，$\mathbb{R}^n = V \oplus V^{\perp}$，$(V^{\perp})^{\perp} = V$。
> - **两条核心定理**：$\mathbf{N}(A) = (\mathbf{C}(A^{\mathrm{T}}))^{\perp}$、$\mathbf{N}(A^{\mathrm{T}}) = (\mathbf{C}(A))^{\perp}$。
> - **两个正交直和**：$\mathbb{R}^n = \mathbf{C}(A^{\mathrm{T}}) \oplus \mathbf{N}(A)$、$\mathbb{R}^m = \mathbf{C}(A) \oplus \mathbf{N}(A^{\mathrm{T}})$；分解唯一，可读作「有效分量 + 被抹掉的分量」。
> - **绝对不要写**「$\mathbf{N}(A) \perp \mathbf{C}(A)$」；配对只有 $\mathbf{N}(A)$–$\mathbf{C}(A^{\mathrm{T}})$ 与 $\mathbf{N}(A^{\mathrm{T}})$–$\mathbf{C}(A)$。
> - **关键恒等式**：$\|A\mathbf{x}\|^2 = \mathbf{x}^{\mathrm{T}}A^{\mathrm{T}}A\mathbf{x}$，它给出 $\mathbf{N}(A^{\mathrm{T}}A) = \mathbf{N}(A)$、$\operatorname{rank}(A^{\mathrm{T}}A) = \operatorname{rank}(A)$。
>
> **B. 国内线（公理化语言，第十节）**
> - **内积四条公理**：对称性、双线性性、正定性（$[\boldsymbol{\alpha},\boldsymbol{\alpha}] \ge 0$，等号仅零向量）；配内积的实线性空间叫**欧氏空间**。
> - **由内积导出**：$\|\boldsymbol{\alpha}\| = \sqrt{[\boldsymbol{\alpha},\boldsymbol{\alpha}]}$，$d(\boldsymbol{\alpha},\boldsymbol{\beta}) = \|\boldsymbol{\alpha}-\boldsymbol{\beta}\|$，$\cos\theta = \frac{[\boldsymbol{\alpha},\boldsymbol{\beta}]}{\|\boldsymbol{\alpha}\|\|\boldsymbol{\beta}\|}$。
> - **柯西—施瓦茨**：$|[\boldsymbol{\alpha},\boldsymbol{\beta}]| \le \|\boldsymbol{\alpha}\|\|\boldsymbol{\beta}\|$，**判别式法**证明（构造 $f(t) = [t\boldsymbol{\alpha}+\boldsymbol{\beta},t\boldsymbol{\alpha}+\boldsymbol{\beta}] \ge 0$），等号 $\iff$ 线性相关。
> - **三角不等式**：$\|\boldsymbol{\alpha}+\boldsymbol{\beta}\| \le \|\boldsymbol{\alpha}\| + \|\boldsymbol{\beta}\|$，等号 $\iff$ **非负**线性相关（比柯西—施瓦茨的等号条件更强）。
> - **度量矩阵**：$G = ([\boldsymbol{\varepsilon}_i,\boldsymbol{\varepsilon}_j])$，$G^{\mathrm{T}} = G$、$G$ 正定、$[\boldsymbol{\alpha},\boldsymbol{\beta}] = \mathbf{x}^{\mathrm{T}}G\mathbf{y}$、$G = I \iff$ 基标准正交；换基时 $G' = P^{\mathrm{T}}GP$（**合同**）。
> - **正交补三定理**：$\dim W + \dim W^{\perp} = n$；$(W^{\perp})^{\perp} = W$（**有限维**）；$V = W \oplus W^{\perp}$、$W_1 \subseteq W_2 \Rightarrow W_2^{\perp} \subseteq W_1^{\perp}$。
> - **术语对照**：$\mathbf{N}(A)$ = **解空间**（基 = 基础解系），$\mathbf{C}(A^{\mathrm{T}})$ = **行空间**，$\dim\mathbf{C}(A) = \dim\mathbf{C}(A^{\mathrm{T}}) = r$ = **行秩 = 列秩**。
>
> **C. 两线的接点（最容易考、也最容易混）**
> - 「$\dim W + \dim W^{\perp} = n$」在本库就是「$\mathbf{C}(A^{\mathrm{T}})$ 与 $\mathbf{N}(A)$ 拼满 $\mathbb{R}^n$」；
> - 「$\mathbf{b}$ 可解 $\iff$ $\mathbf{b} \perp \mathbf{N}(A^{\mathrm{T}})$」在国内语言里写的是「$\operatorname{rank}(A) = \operatorname{rank}([A\mid\mathbf{b}])$」，两者互为充要条件；
> - 「正交性是相对内积的」——考试里给了内积矩阵就要全程用它；本库第十节与例题 4、6 就是为这件事准备的。
>
> **D. 通往下一节**
> 唯一分解定理保证了「投影」的存在与唯一；[[4-2-投影与投影矩阵]] 给出**怎么算**（一维公式、法方程、$P$ 的两条刻画），并把「标准正交基的优势」变成 $P = QQ^{\mathrm{T}}$、$\hat{\mathbf{x}} = Q^{\mathrm{T}}\mathbf{b}$ 这样的具体算法。

## 相关笔记

- [[3-5-四大子空间的维数]]：本篇的前置，四个子空间的定义、维数公式与求基流程；本篇第十节 10.6 的对照表是那篇第十节对照表的「正交版」
- [[4-2-投影与投影矩阵]]：本篇「唯一分解」的构造性版本，给出投影矩阵 $P$、法方程，以及用度量矩阵 $G$ 做投影（本题内积非标准）的推广
- [[4-4-标准正交基与Gram-Schmidt]]：施密特正交化的完整算法、正交矩阵的性质（$A^{\mathrm{T}}A = I$、$\det = \pm1$、特征值模为 $1$、保内积与长度）与 $A = QR$
- [[1-2-长度与点积]]：正交与点积的定义、Cauchy–Schwarz 不等式与三角不等式的初等版本（具体点积、判别式法），本篇第十节把同一证法公理化
- [[6-4-对称矩阵与正定矩阵]]：度量矩阵的对称正定性、顺序主子式判据（Sylvester）与二次型的正定理论，是 10.4 节的理论后盾
- [[4-3-最小二乘逼近]]：把本篇的正交分解用于无解方程组的最近解
- [[4-3-最小二乘逼近]]：把本篇的正交分解用于无解方程组的最近解
- [[3-1-向量空间]]：子空间判定与 $\mathbb{R}^n$ 的基本性质

## 参考来源

- MIT OpenCourseWare，18.06 Linear Algebra（Spring 2010），Gilbert Strang，第 14 讲 "Orthogonal Vectors and Subspaces"：https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/
- Gilbert Strang，*Introduction to Linear Algebra*，第 5 版，Wellesley–Cambridge Press，第 4.1 节 "Orthogonality of the Four Subspaces"（教材，纸质/电子书）
- Gilbert Strang，*Linear Algebra and Its Applications*，第 4 版，第 4.1 节 "Orthogonality of the Four Subspaces"（教材）
- 同济大学数学系，《线性代数》，第五章 §1「向量的内积、长度及正交性」、第六章「线性空间与线性变换」（教材）
- SciPy 官方文档，`scipy.linalg.null_space`（验证零空间的标准正交基）：https://docs.scipy.org/doc/scipy/reference/generated/scipy.linalg.null_space.html
- MIT 数学系 Gilbert Strang 教材主页（第 5/6 版配套资源）：https://math.mit.edu/~gs/linearalgebra/
