1 范数(norm)&距离
1.1 p范数通项
2 点积&正交
2.1 点积性质
2.2 勾股定理(pythagorean theorem)
2.3 菱形的两条对角线正交
3 正交补
向量集S的正交补是一组向量,这组向量垂直于S中的任意一个向量
3.1 正交补性质
1) 正交补是一个子空间
利用定义i证明,满足加法和数乘封闭
2)对于任何一个非空向量集S,S张成的子空间的正交补和S的正交补相同
3)如果W是一个子空间,B是W的一组基,那么B的正交补和W的正交补相同
4)S和S的正交补的交集是零向量
5)
举个例子
6)
4 正交投影
4.1 正交投影定义
4.2 正交投影是一个线性操作
4.3 一条线的正交投影
4.4 一个子空间的正交投影
因为矩阵C的列空间组成了这个子空间的基,所以u-w和这些组成基的向量都垂直,也就是说,C的每一列,也就是C的转置中每一行都和(u-w)垂直,即
b相当于基每个向量的系数,这些系数乘以对应的基向量,就组成了投影
证明可逆 ——>那么也就是要说明b=0,只有零解b=0
举个例子
5 正交基
5.1 正交系
这是一个很直观的结论,一组正交基两两正交,那么任意n个向量都不可能线性表出另外一个
证明如下
5.2 标准正交系
(两个英文单词怎么区分呢?标准正交基的单词更长一点,说明它相比于正交基,多了归一化这一步操作,步骤更长,所以单词的长度也更长)
每一组向量中每一个的的长度为1
5. 3 (标准)正交基
6 正交分解理论
例子(dot是对应位置相乘)
7 施密特正交化
将一组基转换成一组正交基
不断地对已经变成正交基的部分做投影,把投影的部分减去,结果就是正交基
8 正交矩阵
8.1 norm-preserving
这两个例子都是norm-preserving的
8.2 正交矩阵
列组成一组正交基
注意!正交矩阵,他的列是标准正交基!!
如果一个操作是norm-preserving的,那么它对应的矩阵是正交矩阵
证明正交矩阵无非是要证明两件事
1)
2)
8.2.1 正交矩阵自身的几个等价性质
1->2:
2->3 易证
3->4 (保持点乘)
4->5 令v=u
8.2.2 正交矩阵之间的几个性质
结论4易见