7C 正算子
本节概览
本节是7B 谱定理的直接应用,将谱定理的威力聚焦于自伴算子中一个特别重要的子类——正算子。正算子类比于非负实数,拥有平方根、函数演算等丰富的结构。
逻辑链条:正算子定义(Def 7.34) 平方根定义(Def 7.36) 六个等价刻画(Thm 7.38) 唯一正平方根(Thm 7.39) 记号(Notation 7.40) 平方根计算实例(Ex 7.41) (Thm 7.43)。
前置依赖:7A 自伴算子和正规算子(自伴定义、Thm 7.12 特征值为实、Thm 7.14 复空间自伴判定)、7B 谱定理(Thm 7.29 实谱定理、Thm 7.31 复谱定理)、6A 内积和范数(内积、范数)、3D 可逆性和同构(线性映射引理 3.4)。
核心主线:正算子是非负实数在算子世界中的类比——六个等价刻画从不同角度描述同一概念,唯一正平方根定理是本节最重要的结果,为后续极分解和奇异值分解奠定基础。
一、正算子的定义与刻画
正算子的定义
定义 7.34:正算子(positive operator)
算子 称为正算子,如果 是自伴的且对所有 有 如果 是复向量空间,那么”自伴”这一条件可以去掉(根据 7A 自伴算子和正规算子 的 Thm 7.14)。
定义包含两个条件:
- 自伴性():保证 是实数,使""有意义。回忆 Thm 7.14:在复向量空间上,()已经蕴含 自伴,所以复空间可以省略自伴条件。
- 非负性():限制特征值范围,稍后将看到它等价于所有特征值非负。
术语说明
正算子对应于非负数,更好的术语应该是”非负算子”。然而算子理论家们一贯称之为”正算子”,所以我们也遵循习惯。一些数学家用”正半定算子”(positive semidefinite operator),意思相同。
正算子的实例
例 7.35:正算子
(a) 令 关于标准基的矩阵为 。 是自伴的(矩阵对称),且 因此 是正算子。
(b) 如果 是 的子空间,那么正交投影 是正算子。因为 自伴(6C 正交补和正交投影),且 。
(c) 如果 是自伴的,且 使得 ,那么 是正算子(如 7.26 的证明所示)。
平方根的定义
定义 7.36:平方根(square root)
算子 称为算子 的平方根,如果 。
例 7.37:算子的平方根
定义 为 。那么 是 的一个平方根,因为 。
注意:一个算子可以有无穷多个平方根。正算子的特殊之处在于它有唯一的正平方根(Thm 7.39)。
正算子的六个等价刻画
定理 7.38:正算子的刻画
令 。那么下列等价:
- (a) 是正算子
- (b) 自伴且所有特征值非负
- (c) 关于 的某个规范正交基, 的矩阵是对角矩阵且对角线上仅有非负数
- (d) 有正平方根
- (e) 有自伴平方根
- (f) 存在某个 使得
证明思路
证明循环 。核心策略: 用特征值与二次型的关系; 直接用谱定理; 用线性映射引理在每个基向量上定义平方根; 平凡; 用 ; 用 。
: 正 自伴(定义)。设 是 的特征值, 是对应的特征向量()。
[特征值与二次型的关系]:
因为 ,所以 。于是 (b) 成立。
: 自伴且所有特征值非负。由7B 谱定理(Thm 7.29 和 7.31), 有规范正交基 由 的特征向量组成。令 是对应的特征值,每个 。 关于 的矩阵是以 为对角线元素的对角矩阵。
:设 是规范正交基,使得 关于这个基的矩阵是对角矩阵,对角线上是非负数 。
[利用线性映射引理构造平方根]: 由3D 可逆性和同构的线性映射引理(3.4),存在 使得 对任一 成立。
[验证 是正算子且 ]: 关于 的矩阵是以 为对角线元素的对角矩阵,所以 自伴且特征值非负,即 是正算子。此外 ,所以 。
:每个正算子都是自伴的(定义),所以 的正平方根 也是自伴的。
:设 是自伴算子且 。那么 (因为 )。
:设 。
[验证自伴性]: 。
[验证非负性]: 对任意 ,
因此 是正算子。
证明技巧
的关键一步是 。自伴性在这里起到了”把 从右边移到左边”的作用,将二次型转化为范数平方。这个技巧在 Thm 7.43 中会再次出现。
唯一正平方根
定理 7.39:每个正算子都有唯一正平方根
上的每个正算子都有唯一正平方根。
证明思路
设 是正算子, 是 的特征向量(,)。令 是 的正平方根,证明 ,即 在 的特征向量上的作用唯一确定。由于谱定理保证 中存在由 的特征向量组成的基,所以 唯一确定。
[设定]: 设 是正算子, 是 的特征向量,,。令 是 的正平方根。
[展开 为 的特征向量]: 由谱定理, 中存在由 的特征向量组成的规范正交基 。因为 是正算子,所有特征值非负,所以存在非负数 使得 。
将 在此基下展开:,于是
[利用 建立方程]:
同时 ,比较系数得
因此 (当 时),即
[得出 的值]:
[唯一性结论]: 在 的每个特征向量上的作用唯一确定为 。由于谱定理保证 中存在由 的特征向量组成的基,所以 在整个 上唯一确定。
注意
一个正算子可以有无穷多个平方根(但其中只能有一个是正的)。例如,当 时, 上的恒等算子就有无穷多个平方根(习题19)。
记号
记号 7.40:
对于正算子 , 表示 的唯一正平方根。
二、正算子的性质与应用
平方根的计算实例
例 7.41:正算子的平方根
在 上定义算子 为 关于标准基的矩阵为 两个矩阵都等于自身的转置,因此 和 都是自伴的。
验证正性: 因此 和 都是正算子。
计算 : 的标准基 已经是 的特征向量组成的规范正交基,对应特征值为 和 。因此 的特征值为 和 ,关于同一基的矩阵为
计算 : 的特征多项式为 ,特征值为 和 。
对应 的特征向量:,解得 ,规范化为 。
对应 的特征向量:,解得 ,规范化为 。
的特征值为 和 ,关于此规范正交基的矩阵为 。换回标准基:
可以验证 ,且 是正算子(自伴且特征值非负)。
定理 7.43:正算子的确定性条件
设 是 上的正算子且 使得 ,那么 。
证明思路
利用 的自伴性,将 转化为 ,由范数正定性得出 ,进而 。
[引入平方根改写内积]:
[由范数正定性推出]: 意味着 。
[得出最终结论]: 。
证明技巧
这个证明是平方根理论最漂亮的应用之一。关键恒等式 将”二次型为零”转化为”某个向量为零”。这个技巧在证明正算子单调性、矩阵不等式等方面有广泛应用。
三、知识结构总览
graph TD A["定义7.34: T自伴且内积非负"] --> B["定理7.38: 六个等价刻画"] B --> B1["a: T正"] B --> B2["b: 自伴且特征值非负"] B --> B3["c: 规范正交基下对角矩阵"] B --> B4["d: 有正平方根"] B --> B5["e: 有自伴平方根"] B --> B6["f: T等于R星R"] B1 --> B2 B2 --> B3 B3 --> B4 B4 --> B5 B5 --> B6 B6 --> B1 B4 --> C["定理7.39: 唯一正平方根"] C --> D["记号7.40: 根号T"] D --> E["例7.41: 平方根计算"] C --> F["定理7.43: 内积为零推出零向量"]
四、核心思想与证明技巧
本节核心思想
正算子 = 非负实数的算子类比:正算子在算子世界中扮演的角色完全类比于非负实数在实数世界中的角色——非负数有平方根,正算子也有;非负数可以表示为 ,正算子可以表示为 。
六个等价刻画提供多角度理解:Thm 7.38 从定义、特征值、矩阵表示、平方根存在性、分解形式等六个角度刻画正算子,不同场景下使用不同条件最为方便。
唯一正平方根是本节最重要的结果:存在性依赖谱定理(在每个特征空间上取平方根再拼回来),唯一性依赖特征值的非负性(排除了”负平方根”的可能性)。
记号使算子运算更丰富:有了唯一正平方根,我们可以像对待非负数一样对正算子取平方根,这为极分解 奠定了基础。
核心证明技巧
特征值与二次型的关系:(当 是特征向量时)。将特征值条件转化为二次型条件(或反过来),是正算子理论中最基本的技巧。
谱定理的”分而治之”模式:将算子限制到各个特征空间上,在每个特征空间上做简单操作(取平方根),然后通过直和拼回来。 的证明就是这一模式的典型应用。
:当 自伴时,这个恒等式将二次型转化为范数平方。 和 Thm 7.43 的证明都依赖于此。
线性映射引理(3.4)的灵活运用: 中,在已知基向量的像之后,用线性映射引理”延拓”为整个空间上的算子,这是构造性证明的标准手法。
五、补充理解与易混淆点
正算子与非负数的类比
正算子在算子理论中的地位完全类比于非负实数在实数中的地位。下表总结了这一类比的各个层面:
| 非负实数 | 正算子 | 对应定理 |
|---|---|---|
| 自伴且 | Def 7.34 | |
| 有非负平方根 | 正 有正平方根 | Thm 7.38 (a)(d) |
| 有实平方根 | 正 有自伴平方根 | Thm 7.38 (a)(e) |
| 使得 | 正 使得 | Thm 7.38 (a)(f) |
| 唯一 | 唯一 | Thm 7.39 |
这一类比不仅是直觉上的,而且是数学上精确的。UC Berkeley EE 127 的讲义明确指出:“Positive semi-definite matrices are kind of the matrix analogue to nonnegative numbers”,并引入 Loewner 偏序 来强化这一类比。MIT 18.700 的讲义也强调:“These should really be called nonnegative operators. Blame the French!”
来源:UC Berkeley EE 127 讲义(Laurent El Ghaoui)、MIT 18.700 线性代数讲义。
正定矩阵与协方差矩阵
在有限维空间中,正算子关于规范正交基的矩阵就是正半定矩阵(positive semidefinite matrix)。正算子理论与统计学中的协方差矩阵有深刻的联系。
协方差矩阵的正半定性:设 是随机变量,协方差矩阵 的第 元素为 。对任意向量 , 因为方差总是非负的。因此 是正半定矩阵,对应的算子是正算子。
正定 vs 正半定: 是正定的(所有特征值严格为正)当且仅当不存在非零向量 使得 几乎必然为常数——即随机变量之间没有线性冗余关系。当某些 可以被其他 的线性组合完美表示时, 是奇异的(有零特征值),但仍为正半定。
Cholesky 分解:当 正定时,存在唯一的下三角矩阵 使得 ,这就是 Cholesky 分解。它对应于 Thm 7.38 中条件 (f) 的一个特殊构造——取 ,则 (实数情形下 )。UCLA ECE 133A 的讲义详细讨论了 Cholesky 分解与正定矩阵的关系。
来源:UC Berkeley EE 127 讲义(Laurent El Ghaoui)、UCLA ECE 133A 讲义(L. Vandenberghe)、UBC CPSC 440 讲义(Danica Sutherland)。
正算子与内积的关系
正算子与内积之间有一个优美而深刻的双向联系。
正算子生成新内积:设 是 上的可逆正算子,定义 则 是 上的一个内积(习题 23(a))。正定性由 保证,严格正定性由 可逆保证(Thm 7.43)。
所有内积都可由正算子生成:反过来, 上的任一内积都具有 的形式,其中 是某个可逆正算子(习题 23(b))。这意味着改变内积等价于乘以一个可逆正算子。
应用:这一联系在多个领域有重要应用。在黎曼几何中,度量张量就是一个正定矩阵场;在机器学习中,核方法通过正定核函数定义新的内积空间(再生核希尔伯特空间);在广义相对论中,时空度规由一个非正定的对称双线性形式给出。
来源:UC Berkeley EE 127 讲义(Laurent El Ghaoui)、UBC CPSC 440 讲义(Danica Sutherland)。
常见误区
误区1:"正算子就是正定矩阵"
❌ 错误认知:正算子等同于正定矩阵,即特征值必须严格大于零。 ✅ 正确理解:正算子允许特征值为零(半正定),只要所有特征值 即可。正定(特征值 )是正算子的真子类——正定算子恰好是可逆的正算子。例如,正交投影 是正算子,但当 时 不可逆(有零特征值)。
误区2:"正算子的平方根是唯一的"
❌ 错误认知:正算子只有一个平方根。 ✅ 正确理解:Thm 7.39 保证的是唯一的正平方根。正算子可以有无穷多个非正平方根。例如恒等算子 的正平方根只有 本身,但它有无穷多个自伴平方根(习题19),还有更多非自伴的平方根。
误区3:" 正"
❌ 错误认知:只要二次型非负, 就是正算子。 ✅ 正确理解:在实数域上,()不能推出 自伴,因此不能推出 正。反例: 满足 ,但 。在复数域上,Thm 7.14 保证 ()蕴含 自伴,所以复空间中 确实蕴含 正。
误区4:"正算子的乘积还是正算子"
❌ 错误认知:如果 和 都是正算子,那么 也是正算子。 ✅ 正确理解: 正 和 可交换(习题18)。问题在于 未必自伴:(一般情况)。只有当 时, 才成立,此时还需要验证特征值非负。
六、习题精选
本节习题
习题号 标题 核心考点 难度 1 和 都正 正算子定义 低 2 三对角矩阵正性验证 正算子判定与可逆性 中 5 规范正交基下对角线非负 Thm 7.38(c) 的等价形式 中 9 正性 Thm 7.38(f) 的应用 中 13 正性 特征值条件 特征值与正算子的关系 高 18 正 和 可交换 正算子乘积 高 21 希尔伯特矩阵正性 格拉姆矩阵方法 高
习题1: 和 都正则
习题1
设 。证明:如果 和 都是正算子,那么 。
查看解答
解题思路: 正 ; 正 ,即 。两者结合得 对所有 成立,由 Thm 7.43 得 。
完整解答:
正 对所有 ,。
正 对所有 ,,即 ,亦即 。
因此 对所有 成立。由 Thm 7.43, 对所有 成立,即 。
习题2:三对角矩阵正性验证
习题2
设算子 (关于标准基)的矩阵为 证明: 是可逆正算子。
查看解答
解题思路:(1) 验证自伴性(矩阵对称);(2) 验证正性(展开 为完全平方和);(3) 验证可逆性()。
完整解答:
自伴性:矩阵是实对称的,所以 自伴。
正性:对 ,
可逆性: 当且仅当 ,,,,,即 。由 Thm 7.43, 的零空间为 , 可逆。
习题5:规范正交基下对角线非负
习题5
设 是自伴的。证明: 是正算子,当且仅当对于 的任一规范正交基 ,都有 的对角线元素全为非负数。
查看解答
解题思路:必要性: 正 ,而对角线元素恰好是 。充分性:对任意 展开 ,利用自伴性。
完整解答:
必要性( 正 对角线非负): 正 对每个 。而 的第 个对角线元素为 ,所以对角线元素全非负。
充分性(对角线非负 正):设对 的任一规范正交基, 的矩阵对角线元素非负。对任意 ,,将 扩充为规范正交基 。则 因为 是 关于基 的第一个对角线元素,由假设非负。因此 是正算子。
习题9: 的正性
习题9
设 是正算子,。证明: 是 上的正算子。
查看解答
解题思路:利用 Thm 7.38(f) 的形式。 正 (取 ),则 ,由 (f)(a) 得 正。
完整解答:
是正算子,由 Thm 7.38(f),存在 使得 (可取 )。
令 ,则
由 Thm 7.38(f)(a), 是 上的正算子。因此 是正算子。
习题13: 的正性条件
习题13
设 是自伴的,。 (a) 证明: 是正算子,当且仅当 小于或等于 的每个特征值。 (b) 证明: 是正算子,当且仅当 大于或等于 的每个特征值。
查看解答
解题思路: 的特征值是 ,其中 是 的特征值。 正 所有 。
完整解答:
(a) 自伴(因为 )。
由 Thm 7.38(b), 正 的所有特征值非负。
的特征值为 (),其中 是 的不同特征值。
对所有 对所有 。
(b) 。 正 所有特征值 。
习题18: 正当且仅当 和 可交换
习题18
设 和 是 上的正算子。证明: 是正算子,当且仅当 和 可交换。
查看解答
解题思路:必要性: 正 自伴 。充分性: 自伴,且可交换自伴算子可同时对角化。
完整解答:
必要性( 正 ):
是正算子 自伴 。
但 (因为 自伴)。所以 。
充分性( 正):
自伴性:(因为 自伴且可交换)。
特征值非负:由于 和 是可交换的自伴算子,由7B 谱定理的推论,存在 的规范正交基使得 和 关于该基的矩阵都是对角矩阵。设 的对角元素为 , 的对角元素为 。则 的对角元素为 。
由 Thm 7.38(b), 是正算子。
习题21:希尔伯特矩阵的正性
习题21
设 是正整数。 的希尔伯特矩阵(Hilbert matrix)第 行第 列元素为 。设算子 关于 的某个规范正交基的矩阵是 希尔伯特矩阵。证明: 是可逆正算子。
查看解答
解题思路:(1) 验证自伴性(矩阵对称);(2) 将希尔伯特矩阵表示为格拉姆矩阵 ,其中 ,内积为 上的积分内积;(3) 利用多项式性质证明可逆性。
完整解答:
自伴性:,矩阵实对称, 自伴。
正性:定义 上的内积 。令 ()。则 所以 是函数组 的格拉姆矩阵。由 Thm 7.38(f),(其中 的列是 在某组基下的坐标),因此 是正算子。
可逆性:设 ,令 。则
若 ,则 ,蕴含 在 上几乎处处成立。由于 是多项式, 恒为零,即 。由 Thm 7.43, 可逆。
七、视频学习指南
视频资源
暂无对应视频
视频精要
暂无对应视频