『科学计算_理论』PCA主成分分析

数据降维

为了说明什么是数据的主成分,先从数据降维说起。数据降维是怎么回事儿?假设三维空间中有一系列点,这些点分布在一个过原点的斜面上,如果你用自然坐标系x,y,z这三个轴来表示这组数据的话,需要使用三个维度,而事实上,这些点的分布仅仅是在一个二维的平面上,那么,问题出在哪里?如果你再仔细想想,能不能把x,y,z坐标系旋转一下,使数据所在平面与x,y平面重合?这就对了!如果把旋转后的坐标系记为x’,y’,z’,那么这组数据的表示只用x’和y’两个维度表示即可!当然了,如果想恢复原来的表示方式,那就得把这两个坐标之间的变换矩阵存下来。这样就能把数据维度降下来了!但是,我们要看到这个过程的本质,如果把这些数据按行或者按列排成一个矩阵,那么这个矩阵的秩就是2!这些数据之间是有相关性的,这些数据构成的过原点的向量的最大线性无关组包含2个向量,这就是为什么一开始就假设平面过原点的原因!那么如果平面不过原点呢?这就是数据中心化的缘故!将坐标原点平移到数据中心,这样原本不相关的数据在这个新坐标系中就有相关性了!有趣的是,三点一定共面,也就是说三维空间中任意三点中心化后都是线性相关的,一般来讲n维空间中的n个点一定能在一个n-1维子空间中分析!

上一段文字中,认为把数据降维后并没有丢弃任何东西,因为这些数据在平面以外的第三个维度的分量都为0。现在,假设这些数据在z’轴有一个很小的抖动,那么我们仍然用上述的二维表示这些数据,理由是我们可以认为这两个轴的信息是数据的主成分,而这些信息对于我们的分析已经足够了,z’轴上的抖动很有可能是噪声,也就是说本来这组数据是有相关性的,噪声的引入,导致了数据不完全相关,但是,这些数据在z’轴上的分布与原点构成的夹角非常小,也就是说在z’轴上有很大的相关性,综合这些考虑,就可以认为数据在x’,y’ 轴上的投影构成了数据的主成分!

课堂上老师谈到的特征选择的问题,其实就是要剔除的特征主要是和类标签无关的特征。而这里的特征很多是和类标签有关的,但里面存在噪声或者冗余。在这种情况下,需要一种特征降维的方法来减少特征数,减少噪音和冗余,减少过度拟合的可能性。

PCA的思想是将n维特征映射到k维上(k<n),这k维是全新的正交特征。这k维特征称为主成分,是重新构造出来的k维特征,而不是简单地从n维特征中去除其余n-k维特征。

PCA实例

现在假设有一组数据如下:

『科学计算_理论』PCA主成分分析

行代表了样例,列代表特征,这里有10个样例,每个样例两个特征。可以这样认为,有10篇文档,x是10篇文档中“learn”出现的TF-IDF,y是10篇文档中“study”出现的TF-IDF。

第一步,分别求x和y的平均值,然后对于所有的样例,都减去对应的均值。这里x的均值是1.81,y的均值是1.91,那么一个样例减去均值后即为(0.69,0.49),得到

『科学计算_理论』PCA主成分分析

     第二步,求特征协方差矩阵,如果数据是3维,那么协方差矩阵是

『科学计算_理论』PCA主成分分析

这里只有x和y,求解得

『科学计算_理论』PCA主成分分析

对角线上分别是x和y的方差,非对角线上是协方差。协方差是衡量两个变量同时变化的变化程度。协方差大于0表示x和y若一个增,另一个也增;小于0表示一个增,一个减。如果x和y是统计独立的,那么二者之间的协方差就是0;但是协方差是0,并不能说明x和y是独立的。协方差绝对值越大,两者对彼此的影响越大,反之越小。协方差是没有单位的量,因此,如果同样的两个变量所采用的量纲发生变化,它们的协方差也会产生树枝上的变化。

第三步,求协方差的特征值和特征向量,得到

『科学计算_理论』PCA主成分分析

上面是两个特征值,下面是对应的特征向量,特征值0.0490833989对应特征向量为,这里的特征向量都归一化为单位向量。

第四步,将特征值按照从大到小的顺序排序,选择其中最大的k个,然后将其对应的k个特征向量分别作为列向量组成特征向量矩阵。

这里特征值只有两个,我们选择其中最大的那个,这里是1.28402771,对应的特征向量是(-0.677873399, -0.735178656)T。

第五步,将样本点投影到选取的特征向量上。假设样例数为m,特征数为n,减去均值后的样本矩阵为DataAdjust(m*n),协方差矩阵是n*n,选取的k个特征向量组成的矩阵为EigenVectors(n*k)。那么投影后的数据FinalData为

FinalData(10*1) = DataAdjust(10*2矩阵) x 特征向量(-0.677873399, -0.735178656)T

得到的结果是

『科学计算_理论』PCA主成分分析

这样,就将原始样例的n维特征变成了k维,这k维就是原始特征在k维上的投影。

上面的数据可以认为是learn和study特征融合为一个新的特征叫做LS特征,该特征基本上代表了这两个特征。上述过程如下图2描述:

『科学计算_理论』PCA主成分分析

正号表示预处理后的样本点,斜着的两条线就分别是正交的特征向量(由于协方差矩阵是对称的,因此其特征向量正交),最后一步的矩阵乘法就是将原始样本点分别往特征向量对应的轴上做投影。

整个PCA过程貌似及其简单,就是求协方差的特征值和特征向量,然后做数据转换。但是有没有觉得很神奇,为什么求协方差的特征向量就是最理想的k维向量?其背后隐藏的意义是什么?整个PCA的意义是什么?

PCA推导

先看下面这幅图:

『科学计算_理论』PCA主成分分析

在第一部分中,我们举了一个学生成绩的例子,里面的数据点是六维的,即每个观测值是6维空间中的一个点。我们希望将6维空间用低维空间表示。

先假定只有二维,即只有两个变量,它们由横坐标和纵坐标所代表;因此每个观测值都有相应于这两个坐标轴的两个坐标值;如果这些数据形成一个椭圆形状的点阵,那么这个椭圆有一个长轴和一个短轴。在短轴方向上,数据变化很少;在极端的情况,短轴如果退化成一点,那只有在长轴的方向才能够解释这些点的变化了;这样,由二维到一维的降维就自然完成了。

上图中,u1就是主成分方向,然后在二维空间中取和u1方向正交的方向,就是u2的方向。则n个数据在u1轴的离散程度最大(方差最大),数据在u1上的投影代表了原始数据的绝大部分信息,即使不考虑u2,信息损失也不多。而且,u1、u2不相关。只考虑u1时,二维降为一维。

椭圆的长短轴相差得越大,降维也越有道理。

1. 最大方差理论

在信号处理中认为信号具有较大的方差,噪声有较小的方差,信噪比就是信号与噪声的方差比,越大越好。如前面的图,样本在u1上的投影方差较大,在u2上的投影方差较小,那么可认为u2上的投影是由噪声引起的。

因此我们认为,最好的k维特征是将n维样本点转换为k维后,每一维上的样本方差都很大

比如我们将下图中的5个点投影到某一维上,这里用一条过原点的直线表示(数据已经中心化):

『科学计算_理论』PCA主成分分析

假设我们选择两条不同的直线做投影,那么左右两条中哪个好呢?根据我们之前的方差最大化理论,左边的好,因为投影后的样本点之间方差最大(也可以说是投影的绝对值之和最大)。

计算投影的方法见下图5:

『科学计算_理论』PCA主成分分析

图中,红色点表示样例,蓝色点表示在u上的投影,u是直线的斜率也是直线的方向向量,而且是单位向量。蓝色点是在u上的投影点,离原点的距离是<x,u>(即xTu或者uTx)。

2. 最小二乘法

step1:

我们使用最小二乘法来确定各个主轴(主成分)的方向。

对给定的一组数据(下面的阐述中,向量一般均指列向量):

『科学计算_理论』PCA主成分分析

其数据中心位于:

『科学计算_理论』PCA主成分分析

数据中心化(将坐标原点移到样本点的中心点):

『科学计算_理论』PCA主成分分析

中心化后的数据在第一主轴u1方向上分布散的最开,也就是说在u1方向上的投影的绝对值之和最大(也可以说方差最大),计算投影的方法上面已经阐述,就是将x与u1做内积,由于只需要求u1的方向,所以设u1也是单位向量。

在这里,也就是最大化下式:

『科学计算_理论』PCA主成分分析

由矩阵代数相关知识可知,可以对绝对值符号项进行平方处理,比较方便。所以进而就是最大化下式:

『科学计算_理论』PCA主成分分析

两个向量做内积,可以转化成矩阵乘法:

『科学计算_理论』PCA主成分分析

所以目标函数可以表示为:

『科学计算_理论』PCA主成分分析

括号里面就是矩阵乘法表示向量内积,由于列向量转置以后是行向量,行向量乘以列向量得到一个数,一个数的转置还是其本身,所以又可以将目标函数化为:

『科学计算_理论』PCA主成分分析

去括号:

『科学计算_理论』PCA主成分分析

又由于u1和i无关,可以拿到求和符外面,上式化简为:

『科学计算_理论』PCA主成分分析

学过矩阵代数的同学可能已经发现了,上式括号里面求和后的结果,就相当于一个大矩阵乘以自身的转置,其中,这个大矩阵的形式如下:

『科学计算_理论』PCA主成分分析

X矩阵的第i列就是xi

于是有:

『科学计算_理论』PCA主成分分析

所以目标函数最终化为:

『科学计算_理论』PCA主成分分析

其中的『科学计算_理论』PCA主成分分析就是一个二次型。

step2:

我们假设『科学计算_理论』PCA主成分分析的某一特征值为λ,对应的特征向量为ξ,有

『科学计算_理论』PCA主成分分析

所以『科学计算_理论』PCA主成分分析『科学计算_理论』PCA主成分分析是半正定的对称矩阵,即『科学计算_理论』PCA主成分分析是半正定阵的二次型,由矩阵代数知识得出,目标函数存在最大值!

step3:

下面我们求解最大值、取得最大值时u1的方向这两个问题。

先解决第一个问题,对于向量x的二范数平方为:

『科学计算_理论』PCA主成分分析

同样,目标函数也可以表示成映射后的向量的二范数平方:

『科学计算_理论』PCA主成分分析

把二次型化成一个范数的形式,由于u1取单位向量,最大化目标函数的基本问题也就转化为:对一个矩阵,它对一个向量做变换,变换前后的向量的模长伸缩尺度如何才能最大?我们有矩阵代数中的定理知,向量经矩阵映射前后的向量长度之比的最大值就是这个矩阵的最大奇异值,即:

『科学计算_理论』PCA主成分分析

式中,『科学计算_理论』PCA主成分分析是矩阵A的最大奇异值(亦是矩阵A的二范数),它等于『科学计算_理论』PCA主成分分析(或『科学计算_理论』PCA主成分分析)的最大特征值开平方。

针对本问题来说,『科学计算_理论』PCA主成分分析是半正定对称阵,也就意味着它的特征值都大于等于0,且不同特征值对应的特征向量是正交的,构成所在空间的一组单位正交基。

再解决第二个问题,对一般情况,设对称阵『科学计算_理论』PCA主成分分析的n个特征值分别为:

『科学计算_理论』PCA主成分分析

相应的单位特征向量为:

『科学计算_理论』PCA主成分分析

任取一个向量x,用特征向量构成的空间中的这组基表示为:

『科学计算_理论』PCA主成分分析

则:

『科学计算_理论』PCA主成分分析

所以:

『科学计算_理论』PCA主成分分析

针对第二个问题,我们取上式中的『科学计算_理论』PCA主成分分析,目标函数『科学计算_理论』PCA主成分分析取得最大值,也就是『科学计算_理论』PCA主成分分析的最大特征值时,对应的特征向量的方向,就是第一主成分u1的方向!(第二主成分的方向为『科学计算_理论』PCA主成分分析的第二大特征值对应的特征向量的方向,以此类推)。

证明完毕。

主成分所占整个信息的百分比可用下式计算:

『科学计算_理论』PCA主成分分析

式中分母为『科学计算_理论』PCA主成分分析所有奇异值平方和,分子为所选取的前k大奇异值平方和。

有些研究工作表明,所选的主轴总长度占所有主轴长度之和的大约85% 即可,其实,这只是一个大体的说法,具体选多少个,要看实际情况而定。

结论:

目标函数最大值是最大值是『科学计算_理论』PCA主成分分析的最大特征值;

取得最大值时u1的方向最大特征值对应特征向量的方向。

补充:

这里验证了一下推导中的目标函数实际上就是实践中的目标函数:协方差矩阵(三样本数为例)

『科学计算_理论』PCA主成分分析

python实现:

import numpy as np
import matplotlib.pyplot as plt def pca(dataMat, topNfeat=5):
data_mean = np.mean(dataMat, axis=0)
data_remove = dataMat - data_mean # 中心化处理
covMat = data_remove.T.dot(data_remove) # 协方差矩阵计算
eigVal, eigVects = np.linalg.eig(covMat) # 特征值&向量分解
# 直观来说,特征向量返回表达如下:
# v1,v2,... ...
# [ [a1, b1, ... ...],
# ... ...
# [an, bn, ... ...]]
# 所以使用v[:,i]来选取特征向量。
eig_sort = np.argsort(eigVal)[::-1][:topNfeat] # 选取主特征
lowdataMat = data_remove.dot(eigVects[:,eig_sort]) # 投影主特征方向 reconMat = lowdataMat.dot(eigVects[:,eig_sort].T) + data_mean
reducedata = lowdataMat + data_mean
return reducedata,reconMat N = 100
x = np.linspace(2,4,N)
y = x*3-4 x1 = x+(np.random.rand(N)-0.5)*1.5
y1 = y+(np.random.rand(N)-0.5)*1.5 data = np.array([x1,y1])
a,b = pca(data.T,1) plt.plot(x,y,color='g',linestyle='-',marker='',label='ideal')
plt.plot(x1,y1,color='b',linestyle='',marker='o',label='noise')
plt.plot(b[:,0],b[:,1],color='r',linestyle='',marker='>',label='recon')
plt.plot(a[:,0],np.zeros(N),color='k',linestyle='',marker='*',label='lowD') plt.legend()
plt.axis('equal')
plt.ylim(ymin=-1) plt.show()

把蓝色的点取主成分(绿线方向)后降维成黑色的点,利用黑色点还原出红色的点:

『科学计算_理论』PCA主成分分析

上一篇:SCRIPT7002: XMLHttpRequest: 网络错误 0x2ef3, 由于出现错误 00002ef3 而导致此项操作无法完成,浏览器中的Keep-Alive


下一篇:NO.14 两个div并排,左边为绝对宽度,右边为相对宽度