李宏毅线性代数11: 正交(Orthogonality)

1 范数(norm)&距离

李宏毅线性代数11: 正交(Orthogonality)

 1.1 p范数通项 

李宏毅线性代数11: 正交(Orthogonality)

2 点积&正交

李宏毅线性代数11: 正交(Orthogonality)

2.1 点积性质 

李宏毅线性代数11: 正交(Orthogonality)

 2.2 勾股定理(pythagorean theorem)

李宏毅线性代数11: 正交(Orthogonality)

2.3 菱形的两条对角线正交 

李宏毅线性代数11: 正交(Orthogonality)

 3 正交补

向量集S的正交补是一组向量,这组向量垂直于S中的任意一个向量

李宏毅线性代数11: 正交(Orthogonality)

 3.1 正交补性质

1)  正交补是一个子空间

利用定义i证明,满足加法和数乘封闭

2)对于任何一个非空向量集S,S张成的子空间的正交补和S的正交补相同

3)如果W是一个子空间,B是W的一组基,那么B的正交补和W的正交补相同

4)S和S的正交补的交集是零向量

5)

李宏毅线性代数11: 正交(Orthogonality)

举个例子

 李宏毅线性代数11: 正交(Orthogonality)

 6)

李宏毅线性代数11: 正交(Orthogonality)

 4 正交投影

4.1 正交投影定义

李宏毅线性代数11: 正交(Orthogonality)

李宏毅线性代数11: 正交(Orthogonality)

 4.2 正交投影是一个线性操作

李宏毅线性代数11: 正交(Orthogonality)

4.3 一条线的正交投影 

李宏毅线性代数11: 正交(Orthogonality)

 4.4 一个子空间的正交投影

李宏毅线性代数11: 正交(Orthogonality)

 李宏毅线性代数11: 正交(Orthogonality)

         因为矩阵C的列空间组成了这个子空间的基,所以u-w和这些组成基的向量都垂直,也就是说,C的每一列,也就是C的转置中每一行都和(u-w)垂直,即李宏毅线性代数11: 正交(Orthogonality)        

        b相当于基每个向量的系数,这些系数乘以对应的基向量,就组成了投影

证明李宏毅线性代数11: 正交(Orthogonality)可逆 ——>那么也就是要说明李宏毅线性代数11: 正交(Orthogonality)b=0,只有零解b=0

李宏毅线性代数11: 正交(Orthogonality)

举个例子

李宏毅线性代数11: 正交(Orthogonality)

李宏毅线性代数11: 正交(Orthogonality)

 5 正交基

5.1 正交系

李宏毅线性代数11: 正交(Orthogonality)

这是一个很直观的结论,一组正交基两两正交,那么任意n个向量都不可能线性表出另外一个

证明如下

李宏毅线性代数11: 正交(Orthogonality)

 5.2 标准正交系

(两个英文单词怎么区分呢?标准正交基的单词更长一点,说明它相比于正交基,多了归一化这一步操作,步骤更长,所以单词的长度也更长)

每一组向量中每一个的的长度为1

李宏毅线性代数11: 正交(Orthogonality)

5. 3 (标准)正交基

李宏毅线性代数11: 正交(Orthogonality)

 6 正交分解理论

李宏毅线性代数11: 正交(Orthogonality)

 例子(dot是对应位置相乘)

李宏毅线性代数11: 正交(Orthogonality)

 7 施密特正交化

将一组基转换成一组正交基

不断地对已经变成正交基的部分做投影,把投影的部分减去,结果就是正交基李宏毅线性代数11: 正交(Orthogonality)

 李宏毅线性代数11: 正交(Orthogonality)

8 正交矩阵 

8.1 norm-preserving

李宏毅线性代数11: 正交(Orthogonality)

 这两个例子都是norm-preserving的

8.2 正交矩阵

列组成一组正交基

注意!正交矩阵,他的列是标准正交基!!

李宏毅线性代数11: 正交(Orthogonality)

 如果一个操作是norm-preserving的,那么它对应的矩阵是正交矩阵

证明正交矩阵无非是要证明两件事

1)

李宏毅线性代数11: 正交(Orthogonality)

 2)

李宏毅线性代数11: 正交(Orthogonality)

 8.2.1 正交矩阵自身的几个等价性质

李宏毅线性代数11: 正交(Orthogonality)

 1->2:

李宏毅线性代数11: 正交(Orthogonality)

2->3 易证

3->4 (保持点乘)

李宏毅线性代数11: 正交(Orthogonality)

4->5 令v=u

 8.2.2 正交矩阵之间的几个性质

李宏毅线性代数11: 正交(Orthogonality)

 李宏毅线性代数11: 正交(Orthogonality)

 李宏毅线性代数11: 正交(Orthogonality)

 李宏毅线性代数11: 正交(Orthogonality)

 结论4易见 

 李宏毅线性代数11: 正交(Orthogonality)

 

上一篇:一文详解深度学习中的Normalization


下一篇:使用pyqt5的日期控件做一个小日历方便查看