一、具体方法

1.主成分分析的具体方法

主成分分析是一类常用的针对连续变量的降维方法,选取能够最大化解释数据变异的成分,将数据从高维降到低维,同时 保证各个维度之间正交。 对变量的协方差矩阵或相关系数矩阵求取特征值和特征向量,经证明,对应最大特征值的特征向量,其方向正是协方差矩 阵变异最大的方向。依次类推,第二大特征值对应的特征向量,是与第一个特征向量正交且能最大程度解释数据剩余变异 的方向,而每个特征值则能够衡量各方向上变异的程度。因此,进行主成分分析时,选取最大的几个特征值对应的特征向 量,并将数据映射在这几个特征向量组成的参考系中,达到降维的目的(选择的特征向量数量低于原始数据的维数)。

二、算法解析

1.主成分分析算法解析

主成分分析算法认为,数据的信息是包含在其方差当中的,如果一个随机变量的方差很小,说明其不确定性较低,或者说即便我们没有获 得这个变量的抽样值,也几乎可以用一个确定的值(例如其期望值)来代替它,因此引入它只能消除很少的不确定性,即该变量包含的信 息较少。相反,一个方差很大的变量,如果能够获得它的抽样值,则可以帮助我们消除很大一部分不确定性,因此它包含的信息较多。 从主成分分析的观点出发,我们就知道下图中投影到哪个轴更加合适了,显然将原始坐标轴旋转到左图当中的U1位置更好,因为数据在 这个方向上的变异(方差)更大,而样本在右图的U1方向显然变异更小(图中阴影用于示意离散程度,并不代表方差大小)。

如何看懂主成分分析pca图(数据分析师知识点汇总)(1)

如何看懂主成分分析pca图(数据分析师知识点汇总)(2)

如何看懂主成分分析pca图(数据分析师知识点汇总)(3)

我们的目标是优化上式,求满足该函数最大化的 u,可以使用拉格朗日乘数法,即求满足下式最大的 u:

如何看懂主成分分析pca图(数据分析师知识点汇总)(4)

我们的目标是优化上式,求满足该函数最大化的 u,可以使用拉格朗日乘数法,即求满足下式最大的 u:

如何看懂主成分分析pca图(数据分析师知识点汇总)(5)

如何看懂主成分分析pca图(数据分析师知识点汇总)(6)

三、应用

1.何时采用相关系数计算方法和协方差矩阵计算方法

在实际研究中,有时单个指标的方差对研究目的起关键作用,为了达到研究目的,此时用协方差矩阵进行主成分分析恰 到好处。相关系数矩阵就是随机变量标准化后的协方差矩阵。通过随机变量的标准化,相关系数矩阵剥离了单个指标的 方差,仅保留指标间的相关性,用相关系数矩阵计算主成分,其优势效应仅体现在相关性大、相关指标数多的一类指标上。

2.主成分法的应用

大致分为三个方面:

(1)对数据做综合打分

(2)降维以便对数据进行描述

(3)为聚类或回归等分析提供变量压缩 在应用时要能够判断主成分法的适用性,能够根据需求选取合适的主成分数量。

四、例题精讲

1.主成分分析计算在选择相关系数计算法时,确定主成分个数的大致原则包括( )?

A.特征根值大于1

B. 特征根值大于0.5

C.累积特征根值加总占总特征根值的80%以上

D. 累积特征根值加总占总特征根值的50%以上

答案:AC 解析:主成分分析主要考核得到软件的计算结果后如何选择主成分个数,由于主成分一般不具有 明确的意义,因此不考核主成分的解释,这会放在因子分析考核。该题是一个很标准的题目,答 案可以从任何一本教科书上找到。请注意题干中的“大致原则”,说明该原则在不同的运用场合 下选择标准会略有改变

2.主成分分析计算分为根据相关系数和协方差矩阵两种方式,以下哪种情况适合用相关系数计算( )?

A.变量的量纲不同

B. 变量的方差不同

C. 变量的标准差不同

D. 变量的均值不同

如何看懂主成分分析pca图(数据分析师知识点汇总)(7)

,