线性代数 第 11 章 · 数值线性代数(15 题)
本章速览
3 篇 · 15 题:数值稳定性与 LU(11-1,5 题)、范数与条件数(11-2,5 题)、迭代方法与预条件(11-3,5 题)。
11-1 数值稳定性与 LU(5 题)
| 题号 | 结论 |
|---|---|
| 练习 1 | 见解析(浮点吞噬与选主元判据) |
| 练习 2 | 见解析 |
| 练习 3 | |
| 练习 4 | :、 |
| 练习 5 | 向后 ; |
练习 1 (浮点吞噬与乘子)
解
第 1 步:(a) 三个表达式。
1e16 + 1.0 - 1e16= : 的相邻浮点数间隔(ulp)为 ,加 被吞噬(舍入回原值),再减回去得 。(1e16 + 1.0) - 1e16= :同上,括号不改变「先加再减」的顺序。1e-16 + 1e-16 == 2e-16=True: 可精确表示(只是幂次的调整),故相等。
第 2 步:(b) 。 乘子
主元 正常、乘子极小,不会出问题(这恰是「好」的情形:主元远大于乘子)。
第 3 步:(c) 。 乘子
消元后
(因 ,矩阵本就奇异。)此时出现零主元,分解中断。
第 4 步:正确判据。 是否选主元不能只看「主元是否为零」,而要看主元相对于同列其余元素是否过小(即增长因子 / 条件数是否被放大)。实用判据是部分选主元:每步选该列绝对值最大的元素作主元。
答案 如上。
练习 2 (带部分选主元的 LU)
解
第 1 步:第一列选主元。 ,第一列最大绝对值在 (值 ),交换 :
第 2 步:消元。 、:
第 3 步:第二列。 :
第 4 步:验证 。 第三行: ✓;第二行: ✓
答案 如上。
练习 3 (Cholesky 与正定性)
解
第 1 步:子块结构。 正定 ⇒ 各阶顺序主子矩阵 也正定,且 ( 是 的前 阶主子块)。
第 2 步:行列式。
第 3 步:相除。
第 4 步:作为正定性判据。 若某步根号内 ,说明存在非正的顺序主子式 ⇒ 不正定(实对称矩阵正定 ⟺ 全部顺序主子式为正)。反之正定时每个 ,算法必能走完。故 Cholesky 既是分解算法、也是正定性的数值判定。
练习 4 ( 但极度病态)
解
第 1 步:构造。
第 2 步:两个指标。
第 3 步:为什么行列式不是好指标。 行列式是「体积」的整体度量,会被各方向尺度的乘积左右:把某方向缩小 、另一方向放大 ,体积不变而「扁度」剧变。条件数 才是衡量「矩阵接近奇异」的几何量——它只与最大/最小拉伸比有关,与整体缩放无关。
练习 5 (向后误差与有效数字)
解
第 1 步:向后误差量级。
第 2 步:条件数上限。 前向相对误差 :
第 3 步:与经验法则对照。 「双精度损失约 位」中
双精度约 位 ⇒ 剩约 位,与 一致 ✓(损失位数 = 前向相对误差的倒数。)
答案 ;;与经验法则一致。
11-2 范数与条件数(5 题)
| 题号 | 结论 |
|---|---|
| 练习 1 | 、、、 |
| 练习 2 | 错;对;对;对;对 |
| 练习 3 | ; 时剩约 位 |
| 练习 4 | ;(完全失真) |
| 练习 5 | 见解析 |
练习 1 (向量与矩阵范数)
解
第 1 步:向量范数()。
第 2 步:矩阵范数()。
:,,
第 3 步:条件数。 :
两数相等是本题巧合( 的列和与行和恰好都取到同一个值);一般 。
答案 如上。
练习 2 (五条判断)
解
第 1 步:(1) 错。 恒有 ,而 满足 但 ,不大于 。
第 2 步:(2) 对。 与 有相同的奇异值( 与 的非零特征值一致)。
第 3 步:(3) 对。 的倒数关系给出 。
第 4 步:(4) 对。 。
第 5 步:(5) 对。 ,其中 正交。
答案 错;对;对;对;对。
练习 3 ( vs )
解
第 1 步:(1) 行列式与逆。
第 2 步:(2) 条件数(-范数)。 ( 很小),
故
第 3 步:同步性与不普遍性。 这里 有界而 ,故 与 同步。但这不普遍:取 ,则
——行列式极小而条件数完美。可见「小行列式」既不必要也不充分地蕴含病态。
第 4 步:(3) 。 损失位数约 ,双精度约 位 ⇒ 只剩约 位有效数字。
答案 如上。
练习 4 (测量误差的放大)
解
第 1 步:误差传播。 由 :
第 2 步:病态矩阵。 时
即误差可达 ——解完全不可信。
第 3 步:物理反演的含义。 病态模型把测量噪声放大 倍:无论算法多稳定,问题本身决定了可辨识精度。实践上必须正则化(Tikhonov、截断 SVD)或改进实验设计(增加观测、改善条件数),而不是换更好的求解器。
练习 5 (正交 × 对角)
解
第 1 步:(1) 三个条件数。 的奇异值为 :
与 相似且正交相似 ⇒ 奇异值仍为 ⇒ 。
第 2 步:(2) 。 按 :
故 不满足「 且单位矩阵取 」这一直觉;它还随 增大。
第 3 步:(3) 几何 vs 非几何。 是「最大拉伸 / 最小拉伸」之比,纯几何、与 及缩放无关; 混入了 Frobenius 范数对维数的依赖(),故不能作为「扁度」的度量。
11-3 迭代方法与预条件(5 题)
| 题号 | 结论 |
|---|---|
| 练习 1 | 真解 ;、 |
| 练习 2 | 错;对;错;错;错 |
| 练习 3 | ;Jacobi 发散、GS 收敛 |
| 练习 4 | 特征值与谱半径见解析 |
| 练习 5 | 对角预条件的适用范围 |
练习 1 (两种迭代的对比)
解
第 1 步:真解。 解得 ( ✓)。
第 2 步:(1) 迭代公式。
Jacobi:
Gauss–Seidel(用最新值):
第 3 步:(2) 手算三步(初值 )。
Jacobi:,与真解的最大偏差依次 。
GS:,偏差依次 。GS 每步都用了更新的分量,通常下降更快。
第 4 步:(3) 迭代矩阵与谱半径。
而 ✓(定理:三对角 / 相容次序时 )。
第 5 步:(4) 两个条件。 对角线元素 ,行和 、 ⇒ 严格对角占优 ✓(保证两种迭代都收敛); 对称且顺序主子式 、 ⇒ 对称正定 ✓。两者都成立,故 (1) 的迭代都收敛。
答案 如上。
练习 2 (五条判断)
解
第 1 步:(1) 错。 对称正定不保证 Jacobi 收敛。反例: 的特征值为 (不定),而取 (正定)时 发散(见练习 3)。
第 2 步:(2) 对。 严格对角占优是 Jacobi 与 GS 都收敛的经典充分条件。
第 3 步:(3) 错。 迭代法有极限精度:舍入误差使残差停在地板附近,继续迭代不会更好,甚至可能变差。
第 4 步:(4) 错。 CG 的「 步收敛」是精确算术下的性质;浮点运算中它表现为迭代法,且因舍入会损失正交性,实际常用重启动/预条件。它属于迭代法(Krylov 子空间法)。
第 5 步:(5) 错。 预条件若选得差(如与 的谱结构不匹配),可能变慢(甚至破坏收敛)。好的预条件要求 的条件数更小且 易解。
答案 错;对;错;错;错。
练习 3 (正定但 Jacobi 发散)
解
第 1 步:(1) 特征值。 型:,故特征值为
全正 ⇒ 对称正定 ✓;。
第 2 步:(2) 谱半径。
其特征值为 (二重)与 ⇒ ⇒ Jacobi 发散。
——注意 只对三对角/相容次序成立,本例(满矩阵)不适用。直接计算得 ⇒ GS 收敛。
结论
「对称正定 ⇒ GS 收敛」是定理;「对称正定 ⇒ Jacobi 收敛」不是。本例正是标准反例。
第 3 步:(3) 残差曲线。 用程序各跑 步,会看到 Jacobi 的相对残差按 增长(发散)、GS 按 衰减到 量级。
第 4 步:(4) 为什么 SDS 只对 GS 够。 GS 的收敛可由「 正定 ⇒ 的能量内积下 是压缩映射」证明(, 在 -内积下非扩张);而 Jacobi 的谱可以在正定矩阵上任意接近甚至超过 ,没有这种能量结构保护。
答案 如上。
练习 4 (1D Poisson)
解
第 1 步:(1) 特征值。 取特征向量 ,代入三对角差分得
故
第 2 步:(2) 迭代谱半径。 ,
第 3 步:(3) 迭代次数。 达到固定精度 需 。由
得 ;GS 因 , ⇒ 仍为 。
而 CG 的收敛因子为 ,,故
——CG 比 Jacobi/GS 快一个量级。
练习 5 (对角预条件)
解
第 1 步:(1) 相似与正特征值。 令 ( 正定 ⇒ 正定),
即 与对称矩阵 相似。而 与 合同( 可逆)、且 正定 ⇒ 正定 ⇒ 特征值全为正实数。
第 2 步:(2) 条件数。 相似矩阵特征值相同 ⇒ 谱相同;对正定矩阵 ,故
消除量纲失衡: 的对角元全为 (),把各变量缩放到同一量级,使「对角元相差 倍」这类人为病态消失。
第 3 步:(3) 何时无效。 若 对角元相同(如 D Poisson,),则 ,
只是整体缩放,特征值比不变 ⇒ 不变、毫无帮助。这说明预条件必须针对病态的真实来源(量纲失衡用对角预条件;局部耦合造成的病态需 ILU、多重网格等)。