9主成分分析

Posted 2021-02-21 chuichuichui1998

---

一、用自己的话描述出其本身的含义：

1、特征选择

根据需求，选择具有价值的样本特征，即减少不必要的样本特征。

减少特征具有重要的现实意义，不仅减少过拟合、减少特征数量（降维）、提高模型泛化能力，而且还可以使模型获得更好的解释性，增强对特征和特征值之间的理解，加快模型的训练速度，一般的，还会获得更好的性能。

2、PCA

PCA，也称为主成成分分析，

是一种使用最广泛的数据降维算法。PCA的主要思想是将n维特征映射到k维上，这k维是全新的正交特征也被称为主成分，是在原有n维特征的基础上重新构造出来的k维特征。PCA的工作就是从原始的空间中顺序地找一组相互正交的坐标轴，新的坐标轴的选择与数据本身是密切相关的。其中，第一个新坐标轴选择是原始数据中方差最大的方向，第二个新坐标轴选取是与第一个坐标轴正交的平面中使得方差最大的，第三个轴是与第1,2个轴正交的平面中方差最大的。依次类推，可以得到n个这样的坐标轴。通过这种方式获得的新的坐标轴，我们发现，大部分方差都包含在前面k个坐标轴中，后面的坐标轴所含的方差几乎为0。于是，我们可以忽略余下的坐标轴，只保留前面k个含有绝大部分方差的坐标轴。事实上，这相当于只保留包含绝大部分方差的维度特征，而忽略包含方差几乎为0的特征维度，实现对数据特征的降维处理。

二、并用自己的话阐述出两者的主要区别

PCA是指 Principal Components Analysis,译为主要成分分析。用于减少数据集的维度，同时保持数据集中使方差贡献最大的特征。改变了原来特征的形式。 
特征选取是从包含多个特征的数据集中挑选出几个特征作为实际使用的数据集，用于训练模型。没有改变特征的形式。