2-4-矩阵运算与逆矩阵
本篇讲什么
矩阵的加法、数乘、乘法、转置四条基本运算,以及把它们串起来的核心问题:什么矩阵有逆、怎么求逆。
本篇覆盖:运算的完整定义与运算律(含"乘法为什么不能交换")、逆矩阵的定义与判定、 求逆公式与伴随矩阵、矩阵的分块(分块加法/乘法/转置、分块对角与分块三角矩阵的行列式与逆)、分块初等变换及其应用(推 Schur 补、证秩不等式、化简行列式恒等式),最后是国内教材的招牌技巧——用分块初等变换证明 与 Sylvester 不等式 。
读法建议:1.x、2.x、3.x 是基础(第一次学按顺序读);第 4、5 节(分块初等变换、伴随矩阵)可以先跳过,等学完 3-4-线性无关基与维数 再回来读,收效更大。
一、定义
1.1 矩阵的加法与数乘
设 与 都是 矩阵, 是标量。加法(addition)逐元素进行:
数乘(scalar multiplication)也逐元素进行:
只有同型矩阵(行数、列数都相同)才能相加。
1.2 矩阵的乘法
设 是 矩阵, 是 矩阵,则乘积 是 矩阵,其 元素为 的第 行与 的第 列的内积(inner product):
"内维必须相等"是硬条件: 的列数必须等于 的行数,否则 无定义。乘积的形状由外维决定:。
矩阵乘法有四种等价读法,这一条是本库反复使用的主线:
| 读法 | 表述 | 用途 |
|---|---|---|
| 逐元素读法 | 手算、证明 | |
| 列读法 | 的第 列 的第 列 | 理解 |
| 行读法 | 的第 行 的第 行 | 理解消元矩阵 |
| 外积读法 | 第 列第 行 | 理解秩 1 分解、SVD |
外积(outer product)读法写成公式是
其中 是 的第 列, 是 的第 行。每一项 都是 的秩 1 矩阵。
1.3 转置
转置(transpose)把行与列互换:若 是 矩阵,则 是 矩阵,
1.4 矩阵的分块
分块(partition / blocking)就是用一个"网格"把矩阵切开。在行之间画 条横线、列之间画 条竖线,就把 分成了 个小矩阵,称为子块(submatrix / block):
注意 的双重身份:它既表示"第 块行第 块列的那个小矩阵",也可以表示" 的第 元素"——看上下文。本库在分块语境下一律用小矩阵的含义,为了区分,分块时一般会写明每块的行列数。
分块是"记账方式",不是新运算
分块没有改变矩阵本身,只是换一种方式书写同一组数。因此任何分块方式都合法,但不同的分块会让计算变难或变易。选分块的原则只有一条:让子块尽量简单,让零块尽量多。
1.5 分块矩阵的运算
(1)加法与数乘
设 与 是同型矩阵,并且采用完全相同的分块方式(切法逐条对齐),则
即逐块相加、逐块数乘,与逐元素运算完全平行。要求两块同型才能相加(这正对应" 与 同型")。
(2)乘法——分块相容条件
设 是 、 是 。把 的列按 分成 块,把 的行按同样的 分成 块。也就是说:
- 在第 条竖线处的切法与 在第 条横线处的切法数值相同( 的第 块列的列数 的第 块行的行数)。
这个条件称为分块相容(conformable for block multiplication)。在相容时:
其中
——形式上与小矩阵乘法一模一样! 这就是分块乘法存在的全部理由:只要切法相容,就可以把子块当成"数"来做乘法。
为什么可以这样"当数用"
矩阵乘法的定义是 。分块乘法只是把"对下标 求和"这件事分段做,再把结果按段相加。加法结合律保证分段求和不改变结果。所以分块乘法不是新公式,而是把同一个求和换了一种组织方式。这也是它能自动继承所有运算律的原因。
(3)转置
转置分块矩阵要做两件事
一是交换子块的位置( 与 互换),二是把每个子块自己也转置。 漏掉第二件是最常见的错误:
只有当各子块都是对称矩阵(或都是标量)时两者才恰好相同。这说明分块转置与 是同一件事:顺序颠倒 + 每项换身份。
1.6 分块对角矩阵与分块三角矩阵
(1)分块对角矩阵 若方阵 分块后非对角块全为零矩阵:
则称 为分块对角矩阵(block diagonal matrix),其中 是 阶方阵,。
四条性质(全部要会):
为什么对? 用分块乘法直接验证第三个式子:把 与 相乘, 位置得 ,非对角位置全是零块的乘积之和,等于 。得 。第四个式子(秩相加)的理由是:零空间是各块零空间的"直和拼接",,再由秩—零化度定理 相加即得。
分块对角矩阵是"解耦"的标准形状
分块对角意味着把一个 维问题拆成 个互不干扰的小问题。求逆、解方程、算行列式、算特征值都能逐块独立进行。这正是"分块"在实际计算中最有价值的用途——第 6 章讲分块对角化、第 11 章的块迭代法(block Jacobi)都建立在这一条上。
(2)分块三角矩阵
其中 是 阶、 是 阶方阵, 是相应形状的块。
定理(行列式与可逆性). 设 与 都是方阵,则
并且
证明(分块初等变换法). 只需处理"分块上三角"那种。用一次分块行变换把 消掉:
逐步核对:先右乘(列变换 ,即把第 1 块列右乘 加到第 2 块列上),右上角变成 ,其余不动;再左乘(把第 2 块行的 提出来)只是为了把右下角归一成 。两个变换矩阵都是对角块形,行列式分别是 与 ,于是
乘回去即得 。可逆性由 且 立得。另一种更朴素的证明见下面的例题 9。
(3)更一般的 分块矩阵 对
用分块消元(把第 1 块行右乘 加到第 2 块行,即 ):
左边的变换矩阵是分块下三角、对角块为 ,由上面的定理它的行列式等于 ,所以
以及
其中 称为 在 中的 Schur 补(Schur complement)。
Schur 补公式的两个陷阱
1. 必须指明"对谁取 Schur 补"。上面用的是 (对 取);若改用 可逆的前提,公式变成
其中 、 分别是 、 的阶数。多出来的 是两个块交换位置带来的符号,是本题最容易漏的一项。当 或 为偶数时这个符号是 ,容易"碰巧对",从而掩盖错误。
2. 不可逆时不能直接套公式,此时可先做块行(或块列)交换,把可逆的块换到左上角——换一次块行 / 块列都要记一个 的符号。
1.7 逆矩阵
设 是 方阵(square matrix)。如果存在 矩阵 使得
则称 可逆(invertible)或非奇异(nonsingular),称 是 的逆矩阵(inverse matrix),记作 。若这样的 不存在,称 不可逆或奇异(singular)。
唯一性定理. 若 可逆,则逆矩阵唯一。
证明. 设 与 都满足定义。由 与 得
即 ,所以逆矩阵唯一。
一个重要的事实
对方阵而言,只要单侧成立就够了: 自动蕴含 。这个结论对 方阵成立,对长方矩阵不成立。所以验证时只需验一侧,但考试中写两侧更保险。
二、几何直观
2.1 矩阵乘法 = 复合变换
把矩阵看成线性变换(linear transformation): 把 送到 。那么
意味着先做 再做 ——注意顺序是从右往左读的。这就是 的几何原因:两次变换一般不能交换次序。例如"先旋转 再沿 轴拉伸"与"先拉伸再旋转",同一个正方形会落到不同位置。
2.2 逆矩阵 = 撤销变换
是 的逆操作: 把 变成 , 就把 还原成 。
几何上:可逆的 矩阵把 一一地(不折叠、不压扁)映到 。所谓"折叠、压扁",就是把不同的向量映成同一个向量,或把整个空间压进一个更低维的子空间(例如把平面压成一条直线)。
2.3 奇异 = 把空间压扁
奇异矩阵的几何图像是降维: 奇异矩阵把整个平面压到一条过原点的直线上, 奇异矩阵把整个空间压到一个平面或一条直线上。压扁之后信息丢失了——许多不同的 有同一个像 ,所以无法"撤销",这就是没有逆的根本原因。
具体地, 的非零解 就是"被压成零"的那个方向:
两个不同的向量 与 被映到同一点,映射不是一对一的,撤销不可能。
三、性质与定理
3.1 矩阵运算定律对照表 加法与数乘(对任意同型矩阵与标量成立):
| 定律 | 表达式 | 成立? |
|---|---|---|
| 加法交换律 | ✔ 成立 | |
| 加法结合律 | ✔ 成立 | |
| 数乘结合律 | ✔ 成立 | |
| 分配律 | ✔ 成立 | |
| 分配律 | ✔ 成立 |
乘法——这是最需要小心的一张表:
| 定律 | 表达式 | 成立? | 说明 |
|---|---|---|---|
| 结合律 | ✔ 成立 | 写作 无歧义 | |
| 左分配律 | ✔ 成立 | 需维度匹配 | |
| 右分配律 | ✔ 成立 | 需维度匹配 | |
| 数乘兼容 | ✔ 成立 | ||
| 单位元 | ✔ 成立 | 是 | |
| 交换律 | ✘ 一般不成立 | 甚至可能一边有定义另一边无定义 | |
| 消去律 | ✘ 一般不成立 | 见下方反例 | |
| 零因子律 | 或 | ✘ 一般不成立 | 见下方反例 |
| 幂的展开 | ✘ 一般不成立 | 正确式见 3.2 |
转置的定律:
| 定律 | 表达式 | 成立? |
|---|---|---|
| 双重转置 | ✔ 成立 | |
| 和的转置 | ✔ 成立 | |
| 数乘的转置 | ✔ 成立 | |
| 积的转置 | ✔ 成立(顺序颠倒) | |
| 逆的转置 | ✔ 成立( 可逆时) |
反例一:交换律不成立.
。
反例二:消去律不成立.
取 (可逆,),,。这里
所以这个例子不能说明问题。改用奇异的 :
仍不够。取 :
则
两边仍不等,因为列不同。真正让消去律失效的是相同的列组合。取
则
而 。原因: 的每一列都是 的倍数,而 —— 有非平凡的零空间。
结论(重要):若 可逆,则消去律成立。因为 两边左乘 得 。所以,只有奇异矩阵才会破坏消去律。
反例三:零因子不成立.
而两个因子都不是零矩阵。
反例四: 的展开.
除非 (即 、 可交换)。
3.2 逆矩阵的运算定律
设 、 都是 可逆矩阵,:
| 定律 | 表达式 |
|---|---|
| 逆的逆 | |
| 数乘的逆 | |
| 乘积的逆 | |
| 转置的逆 | |
| 幂的逆 | |
| 单位阵 |
注意:,一般没有简单公式。这是最常见的代数错误之一。
定理:
证明. 只需验证 满足逆的定义。计算
这里第一步用了结合律(把中间的括号挪动)。再算另一侧:
两侧都是 ,所以 就是 的逆。由唯一性得 。
几何解释: 表示"先 后 ",撤销它就要"先撤销 (即 )再撤销 (即 )",即 ——顺序必须颠倒,就像穿脱衣服:先穿袜子再穿鞋,脱的时候先脱鞋再脱袜子。
推广(穿脱律):对可逆方阵 ,
证明思路. 对 归纳: 已证;设对 成立,则把 看成 ,用两次乘积极公式即可。
定理:
证明. 对 两边取转置,用积的转置公式 :
再对 取转置:
两式说明 同时是 的左右逆,故
记忆法:转置与求逆可以交换顺序,写在一起用记号 表示,含义无歧义。
3.3 逆的存在性判定 对 矩阵 ,以下命题互相等价:
逐条说明:
(1) . 行列式(determinant)是体积的伸缩率, 表示变换把 维体积压成 ,即降维,故不可逆。严格证明见第 5 章:,所以 给出 ,即 ;反之 时可用伴随矩阵显式构造出逆(见 3.6)。
(2) 列线性无关(linearly independent). 若 个列线性相关,则存在不全为零的 使
即 有非零解,由 3.4 的论证 不可逆。反之若列线性无关,则 只有零解,映射一一,有逆。
(3) 消元有 个主元(pivot). Gauss 消元每一步的主元都必须非零。若某一步主元为 ,说明该列是前面列的线性组合,最终会出现全零行, 奇异。这是最实用的判定方法:动手消元,数主元个数。
(4) 只有零解. 等价于零空间(nullspace),只含零向量。
转置不改变可逆性
可逆 可逆。因为 ,且"列无关"与"行无关"对方阵是一回事(秩相同)。
3.4 奇异矩阵为什么没有逆
核心论证(反证法). 设 奇异,即存在非零向量 使
假设 存在,两边左乘 :
这与 矛盾。所以 不存在。
这个论证为什么重要? 它一次性地说明:"有非零解 不可逆",而"有非零解"在几何上就是"把某个非零方向压成零",在代数上就是"某列是其他列的线性组合",在消元上就是"出现零主元或零行"。四条语言说同一件事。
反向命题. 若 只有零解,则 可逆。
证明思路. 只有零解意味着消元过程中 个主元全部非零,于是 Gaussi–Jordan 消元能把 化为 。把整个消元过程写成初等矩阵的乘积 ,则 是初等矩阵的乘积,而初等矩阵都可逆,故 可逆(且 )。
3.5 特殊矩阵的逆
对角矩阵(diagonal matrix). 若 且全部 ,则
对角矩阵可逆当且仅当对角线元素全部非零。这个结论可以逐元素直接验证: 的第 元素是 ,非对角元素是 。
下三角矩阵(lower triangular matrix). 若 是下三角且对角元 ,则 也下三角,且对角元为 。
证明思路一(行列式判据). 三角矩阵的行列式等于对角元之积 ,非零即 ,可逆。要说明"逆仍是三角",可以用初等行变换观察:用 解 时是前代(forward substitution),
每步只用到更小的下标,这个"只向前看"的结构正是下三角逆矩阵仍为下三角的来源。
证明思路二(显式构造). 把 分解成 ,其中 是对角部分, 是严格下三角(对角元全为 )。严格三角矩阵满足 (乘一次就"往下推一格",推 次后全部消失),于是
这个级数有限项就截断(不是无穷级数),且每一项都是下三角,所以 是下三角。这个公式在数值线性代数中很有用(例如求严格三角矩阵的逆时不需要消元)。
上三角矩阵:完全对称的结论,逆仍是上三角,对角元取倒数。
三角矩阵的逆可以"看"出来吗?
的情形可以:
但 以上就最好老老实实消元,硬背公式极易出错。
3.6 求逆公式与伴随矩阵 公式(必背). 设
则
验证. 直接乘:
两边除以 即得结论。
记忆法:主对角线 互换,副对角线 变号,整体除以行列式。若 ,则 的两列成比例(或有一列为零),此时 奇异,公式失效。
伴随矩阵(adjugate / adjoint matrix)与一般公式. 对 矩阵 ,定义代数余子式(cofactor),其中 是划去第 行第 列后的 阶行列式。余子式矩阵的转置称为伴随矩阵:
则
证明思路. 关键恒等式是
乘出来看第 元素:它是 的第 行与 的第 列的内积,即 。
- 当 时,这正是沿第 行的代数余子式展开,值等于 ;
- 当 时,它等于"把 的第 行替换成第 行后所得矩阵的行列式",而那个矩阵有两行相同,行列式为 。
于是 。当 时两边除以 得 ,即 。
对 ,,,,,所以
与上面的公式一致。
关于计算量
伴随矩阵法虽然在理论上很漂亮(并且证明了" 可逆"),但计算 个 阶行列式需要约 次运算,指数级。 时就应该改用 Gauss–Jordan。伴随矩阵的真正价值在第 5 章的克莱姆法则与理论证明中。
四、分块初等变换与分块求逆
4.1 分块初等变换
定义. 设 是分块矩阵。下面三类操作称为分块初等行变换:
- 对换两块行(或两块列);
- 用可逆方阵 左乘某一块行(即对该块行整体的每一行做同一个可逆行变换);
- 把某一块行左乘一个矩阵 后加到另一块行上(要求形状匹配)。
把"行"换成"列",把左乘换成右乘,就得到分块初等列变换。两者合称分块初等变换(block elementary transformation)。
核心定理. 分块初等变换不改变矩阵的秩。
证明. 只需说明每种变换都是"左乘或右乘一个可逆矩阵":
- 对换两块行 左乘一个置换矩阵 ,它可逆;
- 用 左乘第 1 块行 左乘 ( 可逆时它可逆);
- 左乘 ,它的逆是 。
于是每种分块行变换都等价于左乘一个可逆矩阵,而左乘或右乘可逆矩阵不改变秩(因为 时 ,两者的列空间通过可逆映射互相转化,;严格证明见 3-5-四大子空间的维数)。列变换同理。
上面第三条中" 可逆"这个要求不能去掉:用奇异矩阵去乘,秩会掉下去(例如把某块行乘以 ,整块行就消失了)。分块初等变换只允许乘可逆矩阵。
与普通初等变换的关系. 普通初等变换是分块初等变换在"每块都是 、 取非零标量"时的特例。所以分块初等变换是普通初等变换的推广:一次分块操作相当于同时做了一批普通初等变换。这就是它省力的原因。
分块初等矩阵(陈维新《线性代数》附录四)
与普通初等矩阵一样,每一类分块初等变换都对应于"左乘(或右乘)一个分块初等矩阵"。以 ( 是 块, 是 块, 是 块, 是 块)为例,三类分块初等矩阵分别是:
| 变换 | 分块初等矩阵 | 形状 | 可逆性 |
|---|---|---|---|
| 对换两块行 | | | 可逆,逆是它自己 |
| 第 1 块行左乘可逆矩阵 | | | 可逆,逆是 |
| 第 1 块行左乘 加到第 2 块行 | | | 可逆,逆是 |
注意第三行的位置: 在左下角,它实现的是 (左乘行);若要实现 ,则 在右上角:
三类分块初等矩阵都可逆(前两个的逆显然,第三个的逆就是"把 变号"),所以它们对应的变换都不改变秩——这就是"分块初等变换保持秩"的矩阵语言证明,与上面的论证完全一致。列变换的分块初等矩阵是它们的转置形式( 出现在右上角或左下角,但作用在右边)。
一句话总结:分块初等矩阵就是"把初等矩阵里的 换成单位块 、把标量 换成矩阵块 "。唯一的区别是:标量 就可逆,矩阵块 则必须是可逆方阵。
块行运算的"顺序陷阱"
普通消元中 与 只要 取对就互为逆操作;但分块时非对角块一般不交换: 的逆操作是 ,这一点没问题;然而左乘与右乘绝不能混——"把第 1 块行乘 加到第 2 块行"是 在左边,写成 就完全错了(除非 与相关块恰好可交换)。判据:矩阵乘法不交换,所以"谁乘谁"必须由维度决定,绝不能凭感觉。
4.2 用分块消元推导 Schur 补与可逆性
回到 ( 是 阶方阵)。做一次分块行变换:
这一步就是分块版的高斯消元:用第 1 块行把 位置的 消成 ,而 位置被更新为 Schur 补 。由分块初等变换不改变秩,以及 的秩公式:
这条等式把" 的秩"分解成两块各自可控的部分,是分块理论最常用的工具。由此立刻得到
(第一项""就是 可逆。)这就是 1.6(3) 那条结论的另一种说法,而且证明过程本身就是解题方法。
4.3 分块求逆公式
设 可逆、 可逆,则 可逆。下面用分块初等变换求出它的逆。
第一步:消元并因式分解。 上式的两边左乘 :
第二步:分别求 与 。 是单位分块下三角,直接把非对角块变号:
是分块上三角。用待定法设 ,由 逐块比较:
由 (4) 与 可逆得 ;由 (3) 得 ;代回 (1) 得 ,即 ;代回 (2) 得 ,即 。所以
第三步:合并。 由 得 (顺序颠倒):
乘出来:
这是分块求逆的一般公式(条件: 可逆、 可逆)。四个块都要算,而且它们由 与 两个"小逆"拼成——这正是它的价值:把 阶求逆降为两个更小的求逆。
三个常用特例(必须背下来):
记忆法:分块三角矩阵求逆时,对角块取逆放原位,非对角块"取逆后夹住原块、再加负号",即 与 ——顺序是"由外向里",与 同源。
分块求逆的三个高频错误
1. 把 写成 或 。顺序由维度唯一确定: 是 ,只有 才是 的合法块,能放在 位置。
2. 一般 分块用错公式:以为 。只有在 (分块对角)时才成立。、 非零时 那一项必须出现。
3. 忘了 里的负号,或者把 写成 ( 与 的形状必须能相乘)。
4.4 分块消元解方程组 分块理论最实用的场景是方程组天然分块的时候:
若 可逆,从第 1 式解出
代入第 2 式:
于是解方程被拆成先解一个 阶方程(用 )再解一个 阶方程(用 ),每个都更小。更妙的是:若 是对角或三角矩阵,用 消元的代价极低,整个系统可以在 量级解出,远优于直接对 阶的矩阵做消元。这就是工程中"块消元"的做法(域分解、子结构法、块迭代法都用它)。
4.5 用分块初等变换证明秩的不等式
本节的记号与国内教材一致:用 表示矩阵的秩(), 表示 阶单位矩阵。
引理:分块初等变换的三条"秩工具"
- 分块初等变换不改变秩(4.1 已证)。
- 子矩阵的秩不超过原矩阵的秩:若 是 的某个子矩阵(取若干行若干列),则 。
- 分块对角矩阵的秩相加:(见 1.6(1))。
这三条是下面所有证明的全部依据。第 2 条最常用,它的用法是:只要能在一个矩阵里"看出"某个小矩阵,就能得到秩的下界。
定理 1:
定理. 设 、 是同型矩阵,则
证明. 第 1 步:构造 。
由引理第 3 条,
第 2 步:作分块初等变换把 、 搬到一起。 先把第 2 块行加到第 1 块行(,即左乘分块初等矩阵 ):
再把第 1 块列加到第 2 块列(,即右乘分块初等矩阵 ):
(列变换只作用于第 2 块列:第 1 块列 不变;第 2 块列 加上第 1 块列得 。)
第 3 步: 的秩与 相同。 上面两个变换矩阵
都是分块上三角、对角块为单位阵,可逆,所以由引理第 1 条
第 4 步:从 中"看出" 。 的前 行、后 列构成的子矩阵正是 ( 的块):
由引理第 2 条,
第 5 步:合并 (1)(2)(3)。
即 。
这个证明的几何直觉
秩是"独立方向的个数"。 的每一列都是" 的对应列 的对应列",所以 的列空间包含在两个列空间的和 里,而
分块初等变换的证明只是把这句话"翻译"成矩阵运算。 两种说法一样好,考试中写哪一种都可以(维数版更短,分块版更"标准")。
去掉条件会怎样? 、 必须同型,否则 没有定义。另外等号不一定成立—— 时左边是 、右边是 ,差得很远。 成立的充分条件是 (列空间"直和")。
定理 2(Sylvester 不等式):
定理. 设 是 矩阵, 是 矩阵,则
证明(分块初等变换法). 记 、。
第 1 步:构造 。
由引理第 3 条(分块对角矩阵的秩相加),
第 2 步:先作分块行变换 。 即左乘分块初等矩阵 :
第 3 步:再作分块列变换 。 即右乘分块初等矩阵 :
(右上角:;左下角:;右下角:,这一步就是整个构造的目的——把 消掉。)
第 4 步: 与 的秩相同。 第 2、3 步所用的分块初等矩阵
都是分块三角、对角块为单位阵,由 1.6(2) 它们都可逆(前者是分块下三角、后者是分块上三角)。于是由引理第 1 条与 (1):
第 5 步:在 中"看出"一个 阶的可逆子块。 这是全部证明的关键。做法分两小步。下面的写法与国内教材一致,请逐字对照矩阵的形状读。
(5a) 把 、 各自化简,使非零行、非零列"集中"到一角。 由秩的定义,存在可逆矩阵 ( 阶)、( 阶)、( 阶)使
第一式的意思是"把 的非主元行全部消成零"( 是行化简的累积矩阵);第二式的意思是"把 的非主元列全部消成零"( 是列化简的累积矩阵)。这两式都是初等变换的直接结果(细节见 2-5-LU分解与转置置换)。
对 作分块初等变换:左乘可逆的分块对角矩阵 ,再右乘可逆的分块对角矩阵 。由引理第 1 条,秩不变:
这个写法又把 带了进来;为了让 保持原样,我们不右乘 ,只分别用 左乘、 右乘(即把" 的列化简"理解为"在 中选出 个线性无关的列",而不真的去乘 ):由 且 可逆可知, 的前 列(经 作用后为 的位置)线性无关。于是按"位置已经调好"的情形论证:
(5b) 取出 阶的子块 。 在 中作如下选取:
- 行:取 的前 行,加上 的全部 行,共 行;
- 列:取 的前 列,加上 的前 列(即 ),共 列。
取出的子块形如
其中 是左上角的 阶单位块, 是 在"前 行 前 列"处的子块, 是 在"前 行 前 列"之后的 列处的子块。
这里出现了前面分析的困难: 的列数只有 ,行数是 ,而要得到 阶的可逆块需要 且位置对齐。因此本节采用的做法是:先把 的秩算清楚(第 1–4 步已经做到),再用第 9–11 步的满秩分解完成证明。 这正是国内教材"两种技巧配合"的标准处理:分块初等变换负责给出秩等式,满秩分解负责给出不等式的最终形式。
第 6 步:从第 1–4 步的秩等式立即得到一条有用的引理。
}">
这条等式本身就是国内教材常用的结论,它把"一个大分块矩阵的秩"化成了" 的秩"。注意它的成立依赖 出现在 (1,2)、 出现在 (2,1)、而 的乘积结构与右下角的 相容;不要把它当成对任意 、 都成立的普遍公式(例如 时右边只有 ,而左边的秩可能更大)。
第 7 步(完成证明):对 作满秩分解。
由秩的定义,存在 矩阵 (列满秩,)与 矩阵 (行满秩,)使
(构造方法:取 的 个主元列拼成 。由"主元列张成列空间", 的每一列都是 的列的线性组合;而 列满秩保证这个组合唯一,把这些系数按列排成 即得 。这是" 的等价标准形只由秩决定"的直接推论,详见 2-5-LU分解与转置置换。)
于是
第 8 步:左乘列满秩矩阵不改变秩。
设 。因为 列满秩等价于 ,所以
即 。由秩—零化度定理,两者的秩相等。取 :
第 9 步:用维数不等式估计 。 是 的行满秩矩阵,可以看成线性映射 ,其核的维数为
把它限制在子空间 上,由秩—零化度定理:
而由矩阵乘法的列读法, 作用在 的各列上再取线性组合,就是 的列空间:
代入 、:
第 10 步:合并 (4) 与上式。
即 。
第 2–5 步与第 7–10 步的分工(重要)
- 分块初等变换(第 2–5 步) 的成果是秩等式 :。它的价值在于把 从一个"乘积"变成一个大矩阵里可以直接观察的对象——这正是国内教材要这一节的目的。
- 满秩分解 + 维数不等式(第 7–10 步) 负责给出最终的不等式。这条路线只用两条工具: 与"",两条都在本篇与 3-5-四大子空间的维数 里出现过。
- 若你的授课教材给出了" 中存在 阶非零子式,故 "的断言,那需要对子式的位置作更细致的论证( 的无关行与 的无关列要在 的"空隙"里对齐);以授课教材的表述为准。本库采用的第 7–10 步路线不依赖任何位置论证,更稳妥。
推论:
推论. 设 是 矩阵, 是 矩阵。若 ,则
证明. 在 Sylvester 不等式中代入 :
更强的说法(用子空间): 意味着 ,取维数:
这个证明只用了"列空间 零空间"这一个观察,比 Sylvester 不等式更直接——考试中推荐写这一版。
例题(秩不等式)
题目
题目. 设
(1) 求 、、,验证 ,并说明等号不成立的原因;
(2) 求 ,验证 Sylvester 不等式 (这里 )。
第 1 步:算 。
第 2 行是第 1 行的 倍,故 。
第 2 步:算 。 的两行不成比例(第 1 列分别是 与 ),故 。
第 3 步:算 。
两行线性无关(第 1 行 、化简后第 2 行 不成比例),故
第 4 步:验证定理 1。
等号不成立()的原因: 是 中过原点的直线(由 张成),而 是整个 ( 的两个列向量 与 线性无关)。两者之并/和仍是 ,但 的列只是"对应列相加",没有用上"列空间之和"的全部方向。具体地:
而 由 与 张成,恰好是 (这两个向量无关),所以本例中 取到了"可能的最大值" ,而不是 ——秩不能超过矩阵的行数 !这就是等号不成立的根本原因: 已经超过了 。
定理 1 的一个"隐藏前提"
由 ( 只有 行,秩不超过行数),所以
当 时,定理 1 的估计一定是松的。 考试中写""时,若能同时指出 的行数限制,答案会更完整。
第 5 步:算 。
先检验相容性: 是 、 是 ——内维 , 无定义!应当先确认形状。
改用能相乘的 ():
现在 是 、 是 ,可乘, 是 :
第 2 行 第 1 行,故 。
第 6 步:验证 Sylvester 不等式()。
这个例子中不等号是严格的(),说明 Sylvester 不等式不能改进成等号。秩的界通常都是"松"的,这是秩计算的常态。
第 7 步:换一个让等号成立的例子(体会"紧"的程度)。 取 ( 阶单位阵,)、 为任意 矩阵,则 ,于是
等号成立。这说明 Sylvester 不等式在" 满秩"时是等式——这也是它的典型用法:把"乘上一个满秩矩阵"看成"不改变秩"。
例题(行列式恒等式)
题目
题目. 取
(1) 直接计算 ,验证它等于 与 ;
(2) 对 验证 。
第 1 步:算 ()。
第 2 步:算 。
第 3 步:算 ()。
第 4 步:算 并求行列式。
沿第 1 列展开(只有第 2 行非零,元素 ,符号 ):
第 5 步:验证 。
这已经验证了定理 3 的两个等号中的后一个。 现在再验证 与分块行列式。注意 是没有定义的—— 是 、 是 阶,形状不匹配!定理 3 中的 里的 必须与 同阶。本题 是 、 是 ,所以 是 阶、 是 阶,第一式应写成
即两个单位阵的阶数与 、 的形状对应:左上角 、右下角 。这是本题第一个要小心的点。
第 6 步:直接算 阶分块行列式 。
作行变换 、( 的两行分别减去 的对应行):
得
交换 与 (行列式变号):
再交换 与 (再变号一次,负负得正):
这是分块三角形状(左下块为 ),行列式 对角块行列式之积:
最后那个 阶行列式有全零列(第 3 列),等于 ,所以整个行列式为 ?这与第 2 步算出的 矛盾。回头检查行变换: 得到 时, 的第 2 行是 , 的第 2 行作为 出现在原第 4 行的前两列位置吗?不是——原第 4 行是 ,前两列是 ,这是 的第 2 行 ✔。
重新核对原始矩阵。 的两行是 与 ,它们应放在左下块(第 3、4 行,前 3 列),而 的两行放在第 3、4 行的后 2 列。所以第 3 行是 、第 4 行是 ——上面写错了:我把 与 的位置写反了(写成前 2 列是 )。正确的分块行列式应为
而定理 3 的矩阵是 ,即右上块是 、左下块是 。写成分块形式时,前 列是 与 的"左侧部分"——这句话本身就不成立,因为 有 列、 只有 列,它们不在同一个块列里。
正确的分块布局:总矩阵是 ,按"前 列 / 后 列"与"前 行 / 后 行"分块:
核对各块:左上 ✔;右上 ——但原题给的 是 ,与"右上块应有 行、 列"不符。这说明本题的 、 形状虽然满足 与 都有定义,却与定理 3 要求的" 是 、 是 "在分块位置上需要仔细对应: 应是 ,放在右上块要求" 行 列"——而右上块的位置是 行 列。
结论:定理 3 的矩阵 中,右上块的 必须是 、左下块的 必须是 ,也就是与前面的写法转置对应。国内教材的写法是
(此时 是 阶、 是 阶,与两个单位阵的阶数正好对应)。按这个约定重取数据:令
则 是 阶、 是 阶,与 、 对应。这正是上一步数据的互换,所以由第 2–4 步的计算(那里已经算出 ):
第 7 步:验证第二式()。 由 与 ,
第 8 步:再用 验一次(更彻底)。
(这里 的那个 阶矩阵是 ,见第 3 步的 。)沿第 1 行展开:
而
(这里的 是 阶的那个,即第 1 步的 。)
验证:
,不相等! 说明上面的计算有误。检查 用的 :
对吗?第 1 步算出的 是 阶矩阵 ,所以第 1 步与第 3 步用的 、 顺序相反:第 1 步中 是 (记作 )、 是 (记作 ),算得 ( 阶)、( 阶)。
在第 7 步的新约定下( 取 、 取 )恰好是把两者互换:新 、新 。于是
注意新 的第 元素是 ,不是 ——上一步写成了 (把 误抄为 )。修正:
再核对 。用新 :
沿第 1 行展开:
验证第二式(,,):
仍然不等(),说明还有一处计算错误。系统复查:用秩与迹( 的系数)来交叉验证。 对 的 ,它的特征多项式为 ,其中
所以
(这与" 时为 "一致: ✔; 时为 ✔。)
对 的 ,由第二式应有
于是 时 应为 。而上面手算得 ,说明手算有误。重新计算 (新 的 元素是 ):
这个矩阵与上面的一致,所以展开式要重算。用第 1 行展开:
所以
展开式无误,结果确是 。 而由公式应为 ,矛盾。这说明第二式的系数 在本题的取值下需要重新核对: 是 , 是 ,所以 是 阶、 是 阶。定理 3 的第二式里的 、 应当是" 的列数 、 的行数 "(按定理的原始陈述: 是 、 是 , 是 阶、 是 阶)。本题中 是 阶、 是 阶,所以对应的是 、,系数应为
验证:
: ✔
: ✘ 仍然不符!
再核对一次 与 的关系。 由定理 3 的第一式( 的情形)必须有 。检验:
两者不等! 这是一个明显的警报——矩阵乘法不满足 是不可能的。所以第 3 步算出的 有错。
重算 ,其中 ()、():
✔(与 的迹 一致)。所以第 3 步的矩阵是对的,是我在第 7 步把它抄成了 (第 1 行第 1 列应为 而不是 )。
用正确的 重算 与 。
:
沿第 1 列展开(只有第 2 行元素 ,符号 ):
(与 一致,第一式验证通过。)
:
沿第 1 行展开:
而 ,。验证第二式( 是 ,、):
仍不相等()。检查第二式的形式:定理的原始陈述是
此时 是 阶、 是 阶。所以左边的单位阵阶数应是 、右边是 。本题 是 阶 ; 是 阶 。于是左边应是 ,右边是 :
:左边 ;右边 。不符。
用特征值来判断哪个对。 的特征多项式为 ,其特征值为 。 是 阶,由" 与 的非零特征值相同", 的特征值应为 、,再加一个 。于是
时: ✔(与手算 修正后的 一致)。
而 在 时给出 ✔。
所以正确的等式是
即定理 3 的第二式中, 的指数是 的阶数减去 的阶数,也就是
这与前面按" 是 "的记号写出的 方向相反——因为在那套记号里 是 阶、 是 阶,指数 是" 的阶数 的阶数",即"右边矩阵阶数 左边矩阵阶数"。本题 ( 的阶数)、( 的阶数),所以指数 ,与 冲突——问题在于本例中我把 、 的对应关系搞反了。
正本清源:在定理的记号下( 是 ), 是 阶。本例中 是 阶,所以 ; 是 阶 阶,所以 。于是
:左边 ,右边 。不符。
用代数直接验证这个等式。 我们知道 、。两者关系是
即
所以正确的指数是 " 的阶数 的阶数"。 而按 " 是 " 的记号, 的阶数是 、 的阶数是 ,所以指数是 ,不是 。也就是说
两种写法只是"把等式两边对调",都对;关键是幂的底数 的指数必须等于"左边那个单位阵的阶数减去右边那个单位阵的阶数"。
第 9 步:按修正后的公式重写本题结论。
: ✔;: ✔;:左边 ,右边 ✔。
三次验证全部通过。
本题暴露的三个"必须检查"
1. 形状对应:定理 3 中 的两个单位阵阶数由 、 的形状唯一决定(左上 的阶数 的行数 的列数 ;右下 的阶数 的行数 的列数 )。抄题时先把分块布局画清楚,再代数字。
2. 指数方向:,其中 、 分别是 、 的阶数。""而不是""。 用 与特征值的迹()可以立刻检验出方向错误。
3. 抄写错误最致命:本题中途把一个元素 抄成 ,导致 。 是最省时间的自检手段——它必须成立,一旦不成立就是计算错误,不必再往下算。
用"两套方法互检"是本例题最值得学的动作
上面第 7 步用特征多项式算 ,第 5 步用直接展开算 。这两条路算的是同一个量(把 代入前者就得到后者),所以任何不一致都只可能来自算术错误,不可能来自理论。
提醒两点:
1. 处两个结果必须相同,这是检查"行列式展开"与"特征多项式系数"最省时间的交叉验证。第 7 步的系数 来自" 的三个 阶主子式之和"(), 来自" 与 的非零特征值相同"( 的两特征值之积 ,再乘 多出来的那个 )。三条信息互相印证,结论唯一。
2. 幂次与常数项不要混: 里的 不是常数项,常数项是 。代入 时 与 都要算进去,漏掉任何一项都会得到错的数值(例如漏掉 就会把 算成 )。
定理 3:分块行列式的恒等式("行列式的 Sylvester 定理")
定理. 设 是 矩阵, 是 矩阵。则
更一般地,当 时
证明(第一式). 对分块矩阵 作分块行变换 ,即左乘 :
左边这个变换矩阵是分块下三角,对角块为 与 ,由 1.6(2) 它的行列式为 。于是两边取行列式:
(最后一步再用一次分块三角的行列式公式 。)
这就证明了第一个等号。第二个等号用对称的做法:对 作分块行变换 ,即左乘 (它也是分块三角、行列式为 ):
两个结果都等于同一个行列式,所以
证明(第二式,一般 ). 先把第一式"缩放"。对 ,考虑分块矩阵
(把 换成 , 不动)。用上面的第一个变换 得
(用了 ,其中 是 的阶数。)再用对称的变换得
两式相等,于是
这两个行列式恒等式为什么重要
1. 它是" 与 的非零特征值相同"的完整证明:把 看成变量,两边都是 的多项式,
说明(在 时) 的特征多项式乘上 就等于 的特征多项式。所以 比 多且仅多 个等于 的特征值,其余特征值完全相同。这是第 6 章" 与 特征值相同"这一结论的严格版本,也是 7-1-SVD的构造与几何意义 中讨论奇异值平方 与 关系的依据。
2. 它给出了" 与 的形状不同但行列式相关"的精确公式: 时 与 一个是 阶、一个是 阶,本来无法比较,这个恒等式把它们连了起来。
3. 它是分块初等变换"能算行列式"的最典型例子:一次块行变换就把 分块行列式降成了一个 阶行列式,而且顺便把 消掉了。
去掉条件会怎样? 第二式要求 (否则右边出现 的负幂没有意义;不过当 时 代入也是有意义的,两边都是 )。另外 与 必须是"能相乘两次"的形状( 与 )。
五、伴随矩阵的完整性质
5.1 定义与三条核心恒等式
定义. 设 是 阶方阵(), 是划去第 行第 列后的 阶行列式,代数余子式(cofactor)为
把全部 按"行变列、列变行"(即取转置)排成矩阵,称为 的伴随矩阵(adjugate matrix),记作 或 :
注意下标顺序: 的第 元素是 ,不是 。这个转置是伴随矩阵定义中最容易写错的一步。
定理(三条核心公式). 设 是 阶方阵():
核心结论(伴随矩阵的两个基本公式):若 可逆,则
这里的 就是 。
证明(第一条). 计算 的第 元素:
- 当 时, 恰好是沿第 行展开的行列式,等于 ;
- 当 时, 等于"把 的第 行替换成第 行后所得矩阵 的行列式"(因为代数余子式 与第 行元素无关,替换第 行不影响它们)。而 的第 行与第 行完全相同,故 。
所以 ,即 。对 完全同理(沿列展开)。
证明(第二条). 对 两边取行列式,用 :
分两种情形:
- 若 ,两边除以 得 ;
- 若 ,此时 。需要单独说明 :由下面的秩定理, 蕴含 ,从而 ,所以 不可逆,(注意 保证 )。
两种情形都成立。
证明(第三条). 若 可逆,则 ,把 两边除以 :
再求 :由 ,两边取逆
最后证 :把公式 用于 ,得
(第二步用了 。)
5.2 伴随矩阵的秩——三种情形
定理. 设 是 阶方阵(),则
证明(三种情形分别处理).
情形 1:。 此时 可逆、。由 , 是可逆矩阵的非零倍数,故可逆,。
情形 2:。 两步夹逼。
上界:由 知 的每一列都属于 。于是 的列空间 ,取维数:
下界: 意味着 中至少存在一个 阶非零子式(否则秩会更小)。设 ,则相应的 ,即 至少有一个非零元素,,故 。
两边合起来得 。
情形 3:。 此时 的任意 阶子式都等于 (因为若某个 阶子式非零,就会有一个 阶可逆子块,秩至少为 ,矛盾)。而 的每个元素都是某个 阶子式乘 ,所以 的每个元素都是 ,即 ,。
一句话记住
"满秩保满秩,差一点变秩一,差两点全归零。"
特别地, 时 可能不是零矩阵(情形 2),而是"秩 1 的、每列都是 的零空间向量"的矩阵。这解释了为什么 而 并不矛盾。
5.3 伴随矩阵的其他恒等式
设 、 是 阶方阵, 是标量。下面各条对一般的(可能不可逆的) 都成立:
| 恒等式 | 表达式 | 备注 |
|---|---|---|
| 乘积的伴随 | 顺序颠倒,与 、 同源 | |
| 转置的伴随 | 转置与伴随可交换顺序 | |
| 数乘的伴随 | 次数是 ,不是 | |
| 幂的伴随 | 为正整数 | |
| 伴随的伴随 | 时右边理解为 | |
| 退化情形 | 秩情形 2、3 都用它 |
证明(乘积的伴随,可逆情形). 设 、 都可逆。由 得 ,于是
一般情形用"摄动 + 取极限"补全:对任意实数 , 是关于 的多项式,至多有 个根,所以存在一列 使 全部可逆(取 为那些根之外趋于 的点列)。对每个 有 。而 的每个元素都是 的 次多项式(从而连续),令 即得 。
证明(数乘的伴随). 由定义: 的每个 阶子式都等于 的对应子式乘以 (行列式对每一行是线性的, 行共提出 )。所以每个代数余子式都乘以 ,即 。这就是为什么 时它是 (看起来"正常"), 时是 (很容易写错)。
伴随矩阵易错点汇总
1. 的元素是 而不是 ,忘记转置是最常见的错误。
2. ,顺序颠倒; 没有简单公式。
3. ,不是 ( 时)。
4. 时不能写 (分母为零),但 仍然成立。
5. 不代表 。只有 时才有 ; 时 。
6. 只有 时上述理论才完整。 时约定 , 仍然成立,但 的三分法要另行处理。
六、计算方法与步骤
6.1 Gauss–Jordan 消元求逆
原理. 对 做一系列初等行变换把它化为 ,把同样的变换记录在一个"账本"里。设这些初等矩阵的乘积为 ,则
而"账本"就是 。所以把 拼在 右边,一起做行变换:
若左边无法化成 (出现零行),则 奇异, 不存在。
步骤.
- 拼矩阵:写出增广矩阵 , 在左、 在右。
- 向下消元(前向消元):以第 1 列为目标,用第 1 行把第 2 到 行的第 1 列元素消成 ;再以第 2 列为目标,用第 2 行把下方元素消成 ;依此类推,直到左半部分成为上三角。得到 形式。若某列主元为 ,先尝试与下方某行交换;若整列全为 ,则 奇异,停止。
- 向上消元(回代 + 消去上方):从最后一行开始,用第 行把第 到 行的第 列元素消成 ;再用第 行处理第 列,依此类推。这一步把左半部分化成对角矩阵。
- 归一化:把每一行除以该行的主元,使左半部分成为 。
- 读出结果:右半部分即 。
- 检验:抽查 的某一行,或整体验证等于 。
技巧
前向与后向消元可以交替进行,不必严格分两阶段。另外,先做归一化再做后向消元有时数字更简单。原则是:让主元尽早变成 ,后续分数运算会大幅减少。
6.2 用逆矩阵解方程
若 可逆,则 有唯一解
矩阵方程. 对矩阵方程 (、 是 ),两边左乘 :
右乘形式的方程 则要右乘 ,得 。注意左乘还是右乘不能搞错。
七、例题
例题 1: 与矩阵方程 设
(1) 求 ;(2) 解 ;(3) 求满足 的 ;(4) 求 。
解 (1). 先算行列式:
因为 , 可逆。套用公式(主对角互换、副对角变号、除以行列式):
检验:
解 (2).
回代检验: ✔, ✔。
解 (3).
检验 :
解 (4). 两条路都走一遍,验证 。
另一条路:先求 。,故
于是
两者一致 ✔。同时验证了 。
例题 2:Gauss–Jordan 消元求 逆矩阵(完整不跳步) 设
求 。
解. 先拼出 :
第 1 步:处理第 1 列。 主元是 。
- :,右侧 。
- :,右侧 。
得到
第 2 步:处理第 2 列。 主元是 。先把主元归一化,:
再用它消去第 3 行的第 2 列,:
第 3 步:归一化第 3 行。 :
第 4 步:向上消元(用第 3 行消去上方第 3 列)。
:
:
第 5 步:用第 2 行消去第 1 行的第 2 列。 :
第 6 步:归一化第 1 行。 :
左半部分已是 ,于是
检验(必须做). 计算 的第 1 行:
再验证第 3 行:
发现问题! 第 3 行第 1 列应该是 ,实际得到 ,说明上面的计算有误。回到第 1 步检查。
复查第 1 步的 :原第 3 行是 ,加 得 ✔;右侧 ✔。
复查第 2 步的 ,其中 是归一化后的 :左侧 ✔;右侧 ✔。
所以增广部分没问题。问题出在左侧矩阵本身:检验 的第 3 行与求得的逆的第 1 列,若答案正确则应为 。重新独立地用行列式与伴随矩阵核对(此处只算 的第 1 列,即 的第 1 列除以 )。
的第 1 列是 :
沿第 1 行展开求 :
于是 的第 1 列应为
但上面消元得到的是 ,前两个分量不符。这说明在第 4 步"向上消元"时算错了。
重做第 4 步。 第 3 步结束时是
,左侧: ✔;右侧:
上面误写成了 ,第 1 个分量应为 。
,左侧 ✔;右侧:
(这一步原计算正确。)
重做第 5 步。 ,左侧 ✔;右侧:
重做第 6 步。 :
正确的增广终态:
所以
重新检验 .
第 1 行 × 第 1 列: ✔
第 1 行 × 第 2 列: ✔
第 1 行 × 第 3 列: ✔
第 2 行 × 第 1 列: ✔
第 2 行 × 第 2 列: ✔
第 2 行 × 第 3 列: ✔
第 3 行 × 第 1 列: ✔
第 3 行 × 第 2 列: ✔
第 3 行 × 第 3 列: ✔
九个数全部正确,。
用逆矩阵解方程. 现在解 ,其中 。由 直接读出 的第 1 列:
回代验证: ✔, ✔, ✔。
这道例题的两个教训
1. 求逆一定要检验。上面第一次计算就错了,而且错在"向上消元"这种最容易马虎的步骤;只靠肉眼很难发现。
2. 错误必须回头查,而不是把错答案抄下去。用伴随矩阵(或行列式)独立算一列做交叉验证,是最省时间的查错手段。
例题 3:分块矩阵的乘法(含"不相容"的判定) 设
(1) 按"左上角 "的方式把 分成 块,按"上方 行"把 分成 块,用分块乘法求 ,并与逐元素相乘的结果对照;
(2) 若改用"上方 行 / 下方 行"的方式把 分块,能否与 (1) 中 的分块相乘?说明理由。
题目
第 1 步:写出分块。 把 按 行 行、 列 列切开:
把 按同样的" 行 行"切开(竖线也要对齐: 列 列):
检查相容性: 的竖线在第 列之后, 的横线在第 行之后——两者都等于 ,相容 ✔。于是可以按 计算。
第 2 步:算 。
第 3 步:算 。
第 4 步:算 。
第 5 步:算 。
第 6 步:拼起来。
第 7 步:用逐元素法核对。 只抽查 与 :
用完整矩阵乘法核对第 1 行:
与分块结果完全一致。
第 8 步:(2) 的判定。 若 改按"第 行 / 第 至 行"分块,则 的块行行数分别是 与 ;而 的块列列数仍是 与 。相容要求" 的块列列数 的块行行数",即需要 ,不成立,所以这样分块后不能直接相乘。
本例题的三个结论
1. 分块乘法与逐元素乘法结果必然一致(因为分块只是对同一个求和分段组织)。
2. 相容条件只看"内维切法": 的竖线位置必须与 的横线位置相同,其他切法( 的横线、 的竖线)完全自由。
3. 能相乘 该这么乘。" 分块"也不相容,但" 不切、 随意切"总是相容的——分块的价值在于让零块或单位块出现(本题中 就直接省掉了一次乘法)。
例题 4:用分块求逆公式解 元方程组(两种 Schur 补对照) 设
(1) 用分块求逆公式(对左上角 块取 Schur 补)求 ;(2) 解 ;(3) 换一种分块方式(对右下角 块取 Schur 补)再算一次 ,验证两次结果相同。
题目
第 1 步:分块并记下四个块。
是单位下三角的变形,行列式 ,可逆,且可直接写出
第 2 步:算 Schur 补 。 先算 :
再算 :
于是
第 3 步:算 。 ,故
(用了 公式:主对角互换、副对角变号、除以行列式。)
第 4 步:按公式拼装 。 公式是
先算中间量 :
再算右上块 :
再算左下块 :
最后算左上块 ,即 不对——这里必须按公式的次序算,先算 :
拼起来:
第 5 步:检验 (抽查两行)。
第 1 行 第 1 列: ✔
第 1 行 第 4 列: ✔
第 4 行 第 1 列: ✔
第 4 行 第 3 列: ✔
第 6 步:解 ,即 。
逐行计算(列读法更快: 是 的四列按 组合):
所以
回代检验:
四个方程全部满足。
第 7 步:(3) 换用"对 取 Schur 补"再算一次。 现在按右下角 块可逆来分块(块的位置不变,只是改用另一个公式):
先算 :,故 。
,故
现在用"以 为基准"的公式(把一般公式里的 、 位置对调):
算右上块:先算 :
(与第 4 步的右上块一致。)
算左下块:,故
(与第 4 步的左下块一致。)
算右下块:
(与第 4 步的右下块 一致。)
所以两次分块得到完全相同的 :
为什么换一种分块结果必然相同
由 唯一确定(逆的唯一性),与用什么方法算无关。两种 Schur 补只是走了两条不同的路:它们分别对应分块消元时"先消 "与"先消 "。方法可以换,答案不会换。
实践中选哪个:看哪一块最容易求逆(对角块、三角块、稀疏块最优),以及哪一块的 Schur 补更容易算。本题两种都只用了 求逆,而 的 Gauss–Jordan 要处理 步消元与更多分数——这就是分块的价值。
例题 5(证明):用分块初等变换证明 Sylvester 秩不等式
题目. 设 是 矩阵, 是 矩阵。证明
题目
第 1 步:把 写成"满秩分解" 。 设 。取 的 个主元列,把它们拼成 矩阵 ;则由"主元列张成列空间", 的每一列都是这 列的唯一线性组合,把这些系数按列拼成 矩阵 ,使得
(这一步就是" 的等价标准形只由秩决定"的直接推论: 的 个列全在 维的 里,取一组基作 的列即可;细节见 2-5-LU分解与转置置换 与 3-4-线性无关基与维数。)
第 2 步:把 拆成两个因子的积。
由 ,得
这就是常用的"乘积的秩不超过任一因子"。我们要的是下界,所以要对 下手。
第 3 步:用一个线性映射的维数不等式。 设 是 的线性映射, 是任意子空间。把 限制在 上,核为 ,由秩—零化度定理
取 为"左乘 "( 列满秩 ,故 ),,得
第 4 步:关键一步——用分块初等变换算 。 因为 是 的行满秩矩阵(),它的 行线性无关。于是 中存在一个 阶可逆子式。通过交换 的列(列交换不改变秩,且对应到 上就是同时交换 的对应行),可设
把 按同样的切法分成上下两块:
于是
第 5 步:用分块初等变换把 化成"只看 "的形状。 构造分块矩阵
这个写法不便于观察;改用一个 的分块矩阵 :
是分块上三角、对角块 与 都可逆,所以 可逆。左乘可逆矩阵不改变秩,于是
第 6 步:把"块行"分开估计。 对分块矩阵 ,做分块行变换 ( 是 , 是 ,乘积 与 同型 ✔):
左边的变换矩阵是分块三角、对角块为单位阵,可逆,所以秩不变:
第 7 步:读出 的下界。
(第一个不等号:把矩阵拆成上块与下块两部分之和,秩不超过秩之和。第二个不等号: 只有 行,秩不超过行数。)
移项:
第 8 步:换成 与 。
这里用了 (因为 ,而 ),以及 。
这个估计太松了(右边变成 ,可能为负)。改成不拆 :由第 3 步已知 ;而第 6 步的矩阵里 就在第 1 块行,第 7 步的"拆成上下两块"会丢失信息。换一个拆法:把 按列处理。
第 7 步(修正):用"上块 下块"的秩加性反过来做。 对 做分块列变换: 不动,改用
这给的是下界,我们要的是 的下界——由 只能得到 ,即
这一步是对的(第 7 步原式无误)。问题出在不该再往 上走,而应当注意到:我们其实可以直接绕开 。 把第 5 步的 换成更省的一步——用 消去 :
即存在可逆的 阶矩阵 使 。于是
左乘可逆矩阵不改变秩,所以
第 8 步:合并。 结合第 3 步 :
即
这道证明的骨架(值得记住的三步)
1. 满秩分解 ( 列满秩、 行满秩):把秩 的信息"提"出来, 立刻降维;
2. 行满秩矩阵用可逆列变换化成 :这一步是分块初等变换的标准用法——"用可逆的 块把其余的块消成零"(等价于对分块矩阵做 );
3. 拆成上下两块用 ,其中 只有 行。
推论(常用):取 且 、 都可逆(),则 ,即 可逆——这就是"可逆矩阵之积可逆"的秩证明。另一端的例子: 阶方阵 、 满足 时,,这是国内考试的高频结论。(这一结论在第 4.5 节用分块初等变换再证一遍,那是国内教材的标准做法。)
例题 10:用分块初等变换(三角分块)求逆矩阵 设
求 ,并用 检验。
题目
第 1 步:按"左上 "分块。
这是分块下三角矩阵,所以逆也分块下三角,公式为
第 2 步:算 。 ,故
第 3 步:算 。 ,故 。
第 4 步:算左下块 。 先算 :
再乘 :
第 5 步:拼装。
第 6 步:检验 (抽查第 3 行与每列)。
第 3 行 第 1 列: ✔
第 3 行 第 2 列: ✔
第 3 行 第 3 列: ✔
第 1 行 第 3 列: ✔
第 2 行 第 2 列: ✔
所以 。
第 7 步(顺带):解 。
回代检验: ✔; ✔; ✔。
与 Gauss–Jordan 的对比
本题若用 Gauss–Jordan 要在 的 列上做 步消元;分块法只做了一次 求逆、一次 求逆、两次小块乘法。分块的收益来自"零块":看到整块为零(这里是右上角的 ),就该立刻改成三角分块。
八、应用
8.1 解方程组与矩阵方程
最直接的用途: 的唯一解是 。在符号推导(不代入具体数字)时,这个写法非常有力。例如最小二乘的法方程
在 可逆时给出 ,其中 就是投影矩阵——详见 4-2-投影与投影矩阵。
8.2 Sherman–Morrison 公式(低秩修正的逆)
若 可逆,、 是列向量,且 ,则
验证思路. 把右边记作 ,直接乘 ,利用 是标量这一点合并同类项,即可得到 。
数值意义:当 的逆已经算好,而 被一个秩 1 矩阵修正时,不需要重新求逆,只需一次矩阵—向量乘法(复杂度 而非 )。这在拟牛顿法(quasi-Newton method)、递推最小二乘、卡尔曼滤波中反复使用。
8.3 网络与电路
节点分析法(nodal analysis)得到的方程是 ,其中 是电导矩阵。节点间的互导使得 对角占优,通常可逆。要求某两点之间的等效电阻时,就解两次方程或用 的元素—— 的对角元有明确的物理意义(节点对地的等效电阻)。
8.4 统计学与数据
- 线性回归:,其中 出现在系数的协方差矩阵里,衡量估计的不确定度。
- 马氏距离(Mahalanobis distance):,用协方差矩阵的逆"白化"(whitening)数据,使各方向尺度可比。
- 高斯密度:多元正态的密度函数含 。
详见 12-2-协方差矩阵 与 12-3-多元高斯与加权最小二乘。
8.5 计算机图形学
三维图形中的变换(旋转、平移、缩放)用 齐次坐标矩阵表示。要把屏幕坐标反投影回世界坐标,就要用逆矩阵;法向量的变换需要用 ,否则在非均匀缩放下法线会算错。详见 10-5-图形学与密码学。
8.6 用 numpy 验证本篇结论
数值验证:逆矩阵、运算律与不交换性
本示例只需要 numpy:
```bash
pip install numpy
```
```python
import numpy as np
A = np.array([[2., 1.],
[1., 3.]])
B = np.array([[1., 2.],
[0., 1.]])
# 1) 逆的定义 A^{-1} A = I,以及 2x2 的伴随公式
Ainv = np.linalg.inv(A)
print("A^{-1}A = I ?", np.allclose(Ainv @ A, np.eye(2)))
adj = np.array([[A[1, 1], -A[0, 1]], [-A[1, 0], A[0, 0]]])
print("伴随公式一致 ?", np.allclose(Ainv, adj / np.linalg.det(A)))
# 2) 运算律:结合律成立、交换律不成立
print("(AB)C = A(BC) ?", np.allclose((A @ B) @ A, A @ (B @ A)))
print("AB = BA ?", np.allclose(A @ B, B @ A)) # 预期 False
# 3) (AB)^{-1} = B^{-1}A^{-1},且顺序不能反
lhs = np.linalg.inv(A @ B)
print("(AB)^{-1} = B^{-1}A^{-1} ?", np.allclose(lhs, np.linalg.inv(B) @ np.linalg.inv(A)))
print("(AB)^{-1} = A^{-1}B^{-1} ?", np.allclose(lhs, np.linalg.inv(A) @ np.linalg.inv(B))) # 预期 False
# 4) 转置法则 (AB)^T = B^T A^T
print("(AB)^T = B^T A^T ?", np.allclose((A @ B).T, B.T @ A.T))
# 5) 奇异矩阵没有逆:存在非零 x 使 Ax = 0
S = np.array([[1., 2.],
[2., 4.]]) # 第二行 = 2 × 第一行
print("rank(S) =", np.linalg.matrix_rank(S), " det(S) =", round(float(np.linalg.det(S)), 12))
x = np.array([2., -1.]) # 非零向量
print("Sx =", S @ x, " -> 零空间非平凡,S 不可逆")
# 6) 解方程优于先求逆
b = np.array([3., 4.])
print("两者结果一致 ?", np.allclose(np.linalg.solve(A, b), np.linalg.inv(A) @ b))
```
为什么要用数值验证
「逆矩阵存在当且仅当行列式非零」「 顺序不能反」这些结论,
用几行代码就能当场验算。手推时最容易在顺序( 还是 )
和奇异判据(是否真的存在非零零空间向量)上出错。
九、易错点
十个高频错误
1. 。 和没有简单的求逆公式。同理 。
2. ,顺序必须颠倒,写成 是错的(除非二者可交换)。
3. ,同样颠倒。转置与求逆都会"反转顺序"。
4. 非方阵没有逆。 且 时不存在双侧逆。长方矩阵要用伪逆 (第 7 章)。
5. 才可逆。只看到矩阵"长得正常"就默认可逆是危险的: 的行列式为 ,不可逆。
6. 有解不等于 可逆。可能有解但有无穷多解( 奇异且 ),也可能无解()。
7. 消去律需要 可逆。 不能直接推出 ;若 奇异,反例很容易构造。
8. 求逆过程中出现零主元时别忘了交换行。 不代表 奇异,先看该列下方是否有非零元素。
9. 计算分数时不要提前约分错误。Gauss–Jordan 的每一步都应该复核;建议最后用 检验至少一行一列。
10. 不要按元素求逆。 的元素一般不是 。只有对角矩阵才成立。反例:,而"逐元素取倒数"会得到 ,荒谬。
十、练习题
基础题 1. 设 。求 ,并解 。
基础题 2. 判断下列矩阵是否可逆,并说明理由(不必求出逆矩阵):
进阶题 3. 设 、 都是 阶可逆矩阵。证明 可逆,并化简
进阶题 4. 用 Gauss–Jordan 消元求
的逆矩阵。若消元中某一步主元为 ,说明 的性质。
思考题 5. 设 是 阶方阵且满足 。证明 可逆,并把 用 与 表示出来。(提示:把等式改写为 的形式。)
思考题 6. 若 可逆且 (对称矩阵),证明 也是对称矩阵。
十一、常见问题 FAQ
Q1:为什么 而不是 ?
A:因为 表示"先作用 ,再作用 ",撤销时要反着来:先撤销 ,再撤销 ,即 。代数上只需验证 ,而这依赖结合律:。若写成 ,乘出来是 ,一般不等于 。
Q2: 只有零解,能否直接断定 可逆?
A:对方阵可以,对长方矩阵不可以。 时"只有零解"等价于 个主元齐全,等价于列线性无关,等价于可逆。但 矩阵也可能只有零解(两列线性无关),它却没有双侧逆。"可逆"只对方阵定义。
Q3:既然有 这个公式,为什么数值计算还推荐解方程而不是求逆?
A:三个原因。
(1) 代价:求逆本质上相当于对 个不同的右端项各解一次方程,运算量约为 ,而用 LU 分解解一次只需约 。差 4 倍。
(2) 精度:显式构造 会引入额外舍入误差。NumPy 官方文档明确指出:若矩阵接近奇异,算出的"逆"可能连 都不满足,而且不报错(只给出巨大的元素值和一个很大的条件数)。
(3) 稀疏性:稀疏矩阵的逆通常是稠密的,存储与计算都会爆炸。而 LU 因子能保持稀疏。
详见 11-2-范数与条件数。
Q4:判断可逆最快的办法是什么?
A:按矩阵大小选择:
- :算 ,一秒判定。
- 或更大:扫一眼有没有"某列是其他列的线性组合"(例如第 3 列 第 1 列 第 2 列,或某列是另一列的倍数,或存在全零列)。有明显的线性关系就能立刻断定奇异。
- 没有明显关系:做一次消元数主元,或者用计算工具算行列式 / 秩。
考试中最常考的是"某两列成比例"与"某列 另两列之和"这两种。
本篇小结
核心结论
- 矩阵乘法 = 复合变换。 表示「先做 、再做 」。由此立刻得到两条最重要的定律:
两者都在「反转顺序」——这不是巧合,而是复合运算的共同特征。
- 乘法不交换:(一般)。凡是依赖「可以交换」的推理都必须先验证可交换性。
- 可逆的等价刻画( 阶方阵)——这是本篇最重要的一张表:
- 奇异的实质是降维: 不可逆 把某个非零向量压成 把 压进一个更低维的子空间,因此「信息丢失、无法撤销」。
- 伴随矩阵公式:,且对任意方阵(不要求可逆)成立 。
- 求逆必须背:
- 伴随矩阵的秩只有三种情形():
- 分块矩阵的理论价值在于「把子块当元素用」,从而把大问题拆成小问题。分块初等变换不改变秩,这给出证明秩不等式的一条干净路线。
- Schur 补判据: 可逆 可逆且 可逆(或对称地换成 与 )。
- 分块求逆公式( 可逆时):
- 秩的基本不等式(由分块初等变换证明):
- Gauss–Jordan 求逆:对 做行变换化成 。它同时是最可靠的手算方法,也是判断可逆性的过程——中途出现一整行零就说明不可逆。
- 低秩修正:Sherman–Morrison 公式给出 ,用于「已有 ,只想修一点点」的场景,避免重算整个逆。
易混概念对照
| 容易混淆的一对 | 区别 | 一句话记住 |
|---|---|---|
| 与 | 不相等,和不满足简单求逆公式 | 只有乘积才有反序公式 |
| 与 | 正确的是 ,顺序必须颠倒 | 转置、求逆都反序 |
| 可逆 与 「 有解」 | 有解不代表唯一;奇异矩阵也可能有无穷多解 | 有解看 ,唯一才看可逆 |
| 与 「矩阵元素有零」 | 行列式为 是整体性质,与个别元素是否为 无关 | 元素全非零却不可逆 |
| 消去律 | 只在 可逆时成立 | 奇异时有现成反例 |
| 伴随矩阵 与 转置 | 伴随是余子式矩阵的转置,元素是 阶行列式 | 对 恰好"看着像"转置,易误推 |
| 与 | 伴随对任意方阵都有定义,逆只对可逆矩阵有 | 伴随是构造逆的工具 |
| 分块求逆与逐块求逆 | 不能逐块取逆,必须用 Schur 补公式 | 分块矩阵的逆不是「各块的逆」 |
| 块对角矩阵 与 一般分块矩阵 | 只有块对角(或块三角)才有简单的逆与行列式公式 | 可直接相乘,逆也分块求逆 |
自学检查清单
- 为什么 而不是 ?请用「复合变换的撤销顺序」解释。
- 不看笔记,能否写出「 阶方阵可逆」的至少六条等价说法,并说明它们为什么等价?
- 给一个 矩阵,先算 判断可逆性,再用公式求逆,最后用 检验。
- 如果去掉「 可逆」这个前提, 会怎样?(答: 时分母为零,公式失效;但 仍然成立,这正是 退化的来源。)
- 用 Gauss–Jordan 求一个 矩阵的逆;若中途出现零主元,判断是「需要换行」还是「真的不可逆」。
- 分块矩阵 的逆能不能写成「各块分别求逆」?请用 Schur 补公式说明正确的做法。
- 用分块初等变换证明 ,并说明每一步用到了哪条秩工具。
- 为什么 不能取 这些中间值?(提示:从 出发讨论。)
相关笔记
- 2-3-用矩阵进行消元——初等矩阵与消元矩阵 ,本篇的 Gauss–Jordan 求逆就是"把一串 累积起来"。
- 2-1-向量与线性方程组—— 的行图像与列图像、奇异与非奇异的几何含义。
- 2-5-LU分解与转置置换——把消元过程保存成 ,是"求逆"之外的另一条路。
- 附录-矩阵分解总览——、、、 的统一对比。
- 11-2-范数与条件数——为什么"不直接求逆":条件数与误差放大。
参考来源
- Strang, Introduction to Linear Algebra, 5th Edition, §2.4 "Rules for Matrix Operations"、§2.5 "Inverse Matrices":https://math.mit.edu/~gs/linearalgebra/ila5/indexila5.html
- §2.5 原文 PDF(MIT 官方免费章节):https://math.mit.edu/~gs/linearalgebra/ila5/linearalgebra5_2-5.pdf
- MIT OCW 18.06 Linear Algebra, Spring 2010(Lecture 3: Multiplication and Inverse Matrices;Lecture 4: Factorization into A = LU):https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/
- NumPy 官方文档
numpy.linalg.inv(含"接近奇异时可能不满足 "的说明):https://numpy.org/doc/stable/reference/generated/numpy.linalg.inv.html - 同济大学数学系《线性代数》第六版,第二章"矩阵及其运算"、第三章"矩阵的初等变换与线性方程组"(文字参考)。