内积空间(Inner Product Space)
一句话定义
内积空间是带有内积 的向量空间,内积赋予空间”长度”(范数)和”角度”(正交)等几何概念。这是线性代数从代数走向几何的关键一步。
形式定义(定义 6.2)
设 为 上的向量空间。内积 满足:
| 公理 | 内容 |
|---|---|
| 正性 | |
| 定性 | |
| 第一位置可加性 | |
| 第一位置齐次性 | |
| 共轭对称性 |
注意:第二位置是共轭线性的——。这使得复内积空间上的计算与实内积空间保持一致。
导出概念
范数(定义 6.7)
正交(定义 6.10)
核心定理
柯西-施瓦兹不等式(定理 6.14)
这是数学中最重要的不等式之一,是内积空间一切几何的基石。
正交分解(命题 6.13)
设 ,则任意 可唯一分解为:
其中第一项是 在 方向上的”投影”。
格拉姆-施密特正交化(定理 6.32)
从任意线性无关向量组 出发,构造规范正交向量组 :
每一步:减去在已构造正交向量上的投影,剩余的就是正交分量。
推论(定理 6.35):每个有限维内积空间都有规范正交基。
里斯表示定理(定理 6.42)
每个线性泛函 唯一对应 :。
这是内积空间区别于一般向量空间的本质特征——对偶空间 与 通过内积自然等同。
正交补与直和分解
- 正交补 (定义 6.46)
- 直和分解 (定理 6.49)
- 正交投影 :保留 分量,丢弃 分量(定义 6.55)
最短距离定理(定理 6.61)
最小的 恰为 。
这统一了最小二乘法、函数逼近等应用问题的理论基础。
与其他概念的联系
- operator:在内积空间上研究算子,得到谱定理等强结果
- spectral-theorem:谱定理依赖内积结构(规范正交基)
- svd-theorem:SVD 是内积空间算子理论的自然延伸
- gram-schmidt:Gram-Schmidt 是构造规范正交基的算法
章节定位
第 6 章引入内积,赋予抽象向量空间以几何直觉。谱定理(SVD、最小二乘、极分解)都依赖内积结构。