主成分分析PCA

Posted 2023-05-18

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了主成分分析PCA相关的知识，希望对你有一定的参考价值。

参考技术A

先放一张PCA图

主成分分析（Principal Component Analysis）
是不是听起来就一脸懵,下面就让我们来看看PCA是何方神圣！

降维？

主成分分析的字面意思就是用主成分来分析数据呗！阔是，什么是主成分？这就不得不聊一个关于“降维”的故事了。

“学医要考研，考研要复试，复试要…要…要…复试不仅让考生心痛更让导师眼花缭乱。”这不，A导就纠结着到底选5个复试学生里的哪一个来当自己的关门弟子？

A导最终决定用数据说话！设置了“绩点，考研分数，科研能力，笔试成绩，面试表现，英语水平，奖学金，学科竞赛，部门任职”9个指标（相当于从9个维度去评价这5位考生）。
9个指标=9个变量=9个维度

我的三维大脑是搞不定的
看来9维是不行了，那怎么把维度降低，用简单的方法表示复杂的数据分析？

当然是用降维了！降维是通过减少数据中的指标（或变量）以化简数据的过程。这里的减少指标，并不是随意加减，而是用复杂的数理知识，得到几个 “综合指标” 来代表整个数据。

PS：降维的原理涉及复杂数理知识且大多由计算机完成

那么问题来了！这个“综合指标”是什么？为什么它们就可以代表整个数据？

Why

主成分？

综合指标=主成分

你没有看错，这个综合指标就是我们今天的重点：主成分。它不是原来的指标中的任何一个，而是由所有原有指标数据线性组合而来。

比如A导的故事中的主成分就可这样表示：

认识了“主成分”以后，PCA的概念就很容易理解了！

PCA——就是以“降维”为核心，把多指标的数据用少数几个综合指标（主成分）替代，还原数据最本质特征的数据处理方式。

可是， 主成分为什么拽到可以代替所有数据？
认真看看可以发现 部分指标其实是相互关联的！ （比如奖学金也可以反映绩点情况），这就会造成 数据冗余。 而降维就可以帮助我们 去除这些指标中重叠、多余的信息，把数据最本质和关键的信息提取出来。

A导终于可以一眼就区分这5位考生的水平并“理智”地做出选择了！

将学生成绩表示为矩阵形式，一行代表一个学生，每一列代表一门课的成绩

假设找到了一个线性组合(命名为特征矩阵(Yn, k))，其中k<n
得到一组新变量Pm, k = Xm, n Yn, k，并且新变量的协方差矩阵(Dm, m)为对角阵。
设我们有m个n维数据记录，将其按列排成n乘m的矩阵X，设

优化目标变成了寻找一个矩阵Y，满足YTCY是一个对角矩阵，并且对角元素按从大到小依次排列，那么Y的前K列就是要寻找的基，用Y的前K列组成的矩阵乘以X就使得X从M维降到了K维并满足上述优化条件。

A导可是只有5位考生，9个指标而已！在我们医学中！那可是上千的样本量，上万的基因数据......
在医学领域中，我们可以用PCA图来进行 疾病危险因素分析，肠道菌群聚类分析，推断肿瘤亚群之间的进化关系......还用它来观察样本的分组、趋势、剔除异常数据。

所以PCA图在文献中出现率还是蛮高的！！！不过遇到它我们怎么看？
深入了解PCA
识图秘籍

样本点连线 距离长 =样本之间差异性大

样本点连线 距离短 =样本之间差异性小

1、各样本点连线的距离：体现各国家蛋白摄入习惯的相似性。

2、主成分与原变量之间的关系：箭头对应的原始变量在投影到水平和垂直方向上后的值，可以分别体现该变量与PC1和PC2的相关性（正负相关性及其大小）（例如，Eggs对PC1具有较大的贡献，而Nuts则与PC1之间呈较大的负相关性）。

3、样本点和箭头之间的距离：反映样本与原始变量的关系。（对于图中用蓝色粗箭头所指的样本点而言，该国的蛋白质来源主要为Fruits and Vegetables）。
怎么样？有没有一种豁然开朗的感觉？

什么？还是懵？

没关系，继续看例子

主成分分析法

主成分分析法

主成分分析法

主成分分析法：(Principle Component Analysis, PCA)，是一个非监督机器学习算法，主要用于数据降维，通过降维，可以发现便于人们理解的特征，其他应用：可视化和去噪等。

一、主成分分析的理解

技术图片

? 先假设用数据的两个特征画出散点图，如果我们只保留特征1或者只保留特征2。那么此时就有一个问题，留个哪个特征比较好呢？

技术图片

? 通过上面对两个特征的映射结果可以发现保留特征1比较好，因为保留特征1，当把所有的点映射到x轴上以后，点和点之间的距离相对较大，也就是说，拥有更高的可区分度，同时还保留着部分映射之前的空间信息。那么如果把点都映射到y轴上，发现点与点距离更近了，这不符合数据原来的空间分布。所以保留特征1相比保留特征2更加合适，但是这是最好的方案吗？

技术图片

? 也就是说，我们需要找到让这个样本间距最大的轴？那么如何定义样本之间的间距呢？一般我们会使用方差（Variance），Var(x)=\frac1m\sum_i=1^m(x_i-\overlinex)^2,找到一个轴，使得样本空间的所有点映射到这个轴的方差最大。

第一步：将样本进行均值归0，此时$Var(x)=\frac1m\sum_i=1^m(x_i)^2$，此时计算过程就少一项，这就是为什么要进行样本均值归0。

技术图片

第二步：需要定义一个轴的方向w=(w1, w2),使得我们的样本，映射到w以后，有：

Var(X_project) = \frac1m\sum_i=1^m(X_project^(i) - \overlinexproject)^2最大。其实括号中的部分是一个向量，更加准确的描述应该是Var(Xproject) = \frac1m\sum_i=1^m\lVertX_project^(i) - \overlinexproject\lVert^2，因为前面已经去均值，所以，这里只需Var(Xproject) = \frac1m\sum_i=1^m\lVertX_project^(i) \lVert^2最大

技术图片

X^(i) \cdot w = \lVert X^(i) \lVert \cdot \lVert w \lVert \cdot cos\theta

设w为单位向量，X^(i) \cdot w = \lVert X^(i) \lVert \cdot cos\theta

最终，X^(i) \cdot w = \lVert X_project^(i) \lVert

所以，最终只需Var(X_project) = \frac1m\sum_i=1^m\lVert X^(i) \cdot w \lVert^2最大

技术图片

目标：求w，使得Var(X_project) = \frac1m\sum_i=1^m( X^(i) \cdot w )^2最大

Var(X_project) = \frac1m\sum_i=1^m( X_1^(i)w_1 +X_2^(i)w_2+\dots+X_n^(i)w_n)^2

Var(X_project) = \frac1m\sum_i=1^m( X^(i) \cdot w )^2

一个目标函数优化问题，使用梯度上升法解决。

二、使用梯度上升法求解PCA

技术图片

首先生成一组数据：

import numpy as np
import matplotlib.pyplot as plt

X = np.empty((100, 2))
X[:, 0] = np.random.uniform(0., 100., size=100)
X[:, 1] = 0.75 * X[:, 0] + 3. + np.random.normal(0., 10., size=100) 

plt.scatter(X[:, 0], X[:, 1])
plt.show()

def demean(X):
    # 不使用standardscale标准化数据，求解PCA需要方差，只去均值。
    return X - np.mean(X, axis=0) # axis=0表示最终求得的均值是一个行向量，也就是说将每一列求和 
x_demean = demean(X)
plt.scatter(x_demean[:,0], x_demean[:,1])
plt.show()
np.mean(x_demean[:,0])
np.mean(x_demean[:,1])

def f(w ,x):
    return np.sum((x.dot(w) ** 2)) / len(x)

def df_math(w, x):
    return x.T.dot(x.dot(w)) * 2. / len(x)

def df_denug(w, x, epsilon=0.0001):
    res = np.empty(len(w))
    for i in range(len(w)):
        w_1 = w.copy()
        w_1[i] += epsilon
        w_2 = w.copy()
        w_2[i] -= epsilon
        res[i] = (f(w_1, x) - f(w_2, x)) / (2 * epsilon)
    return res

def direction(w):
    return w / np.linalg.norm(w)

def gradient_ascent(df, x, init_w, eta, n_iters=1e-4, epsilon=1e-8):
    
    w = direction(init_w)
    cur_iter = 0
    while cur_iter < n_iters:
        gradient = df(w, x)
        last_w = w
        w = w + eta * gradient
        w = direction(w)
        if (abs(f(w, x) - f(last_w, x)) < epsilon):
            break
        cur_iter += 1
    return w

测试：

init_w = np.random.random(X.shape[1])    # 不能0向量开始
init_w
eta = 0.001
gradient_ascent(df_denug, x_demean, init_w, eta)

输出结果：array([0.84612666, 0.53298187])

w = gradient_ascent(df_math, x_demean, init_w, eta)
plt.scatter(x_demean[:, 0], x_demean[:,1])
plt.plot([0, w[0]*30], [0, w[1]*30], color='r')
plt.show()

这只是一个从2维降到1维的情况，但在实际应用中往往都不这么简单。

三、求数据的前n个主成分

求出第一主成分以后，如何求出下一个主成分？数据进行改变，将数据在第一个主成分上的分量去掉。然后在新的数据上求第一主成分。

技术图片

第一步：先求出第一主成分

import numpy as np
import matplotlib.pyplot as plt

X = np.empty((100, 2))
X[:, 0] = np.random.uniform(0., 100., size=100)
X[:, 1] = 0.75 * X[:, 0] + 3. + np.random.normal(0., 10., size=100) 

def demean(X):
    return X - np.mean(X, axis=0)

X = demean(X)
plt.scatter(X[:,0], X[:,1])
plt.show()

def f(w ,x):
    return np.sum((x.dot(w) ** 2)) / len(x)

def df(w, x):
    return x.T.dot(x.dot(w)) * 2. / len(x)

def direction(w):
    return w / np.linalg.norm(w)

def first_component(df, x, init_w, eta, n_iters=1e-4, epsilon=1e-8):
    
    w = direction(init_w)
    cur_iter = 0
     
    while cur_iter < n_iters:
        gradient = df(w, x)
        last_w = w
        w = w + eta * gradient
        w = direction(w)
        if (abs(f(w, x) - f(last_w, x)) < epsilon):
            break
        cur_iter += 1
        
    return w

init_w = np.random.random(X.shape[1])
init_w
eta = 0.01
w = first_component(df, X, init_w, eta)
w

输出结果: array([0.71849226, 0.69553495])

第二步：去掉第一主成分

X2 = np.empty(X.shape)
for i in range(len(X)):
    X2[i] = X[i] - np.dot(X[i], w) * w
# X2 = X - X.dot(w).reshape(-1, 1) * w

plt.scatter(X2[:,0], X2[:,1])
plt.show()

第三步：求第二主成分

init_w2 = np.random.random(X2.shape[1])
eta = 0.01
w2 = first_component(df, X2, init_w2, eta)
w2

输出结果: array([ 0.98482183, -0.17356834])

第四步：画出主成分

plt.scatter(X2[:,0], X2[:,1])
plt.plot([0, w[0]*30], [0, w[1]*30])
plt.plot([0, w2[0]*30], [0, w2[1]*30])
plt.show()

技术图片

import numpy as np
import matplotlib.pyplot as plt

X = np.empty((100, 2))
X[:, 0] = np.random.uniform(0., 100., size=100)
X[:, 1] = 0.75 * X[:, 0] + 3. + np.random.normal(0., 10., size=100) 

def demean(X):
    return X - np.mean(X, axis=0)

X = demean(X)

def direction(w):
    return w / np.linalg.norm(w)

def df(w, x):
    return x.T.dot(x.dot(w)) * 2. / len(x)

def f(w ,x):
    return np.sum((x.dot(w) ** 2)) / len(x)

ef gradient_ascent(df, x, init_w, eta, n_iters=1e-4, epsilon=1e-8):
        
    w = direction(init_w)
    cur_iter = 0
    while cur_iter < n_iters:
        gradient = df(w, x)
        last_w = w
        w = w + eta * gradient
        w = direction(w)
        if (abs(f(w, x) - f(last_w, x)) < epsilon):
            break
        cur_iter += 1
    return w

def fisrt_n_component(n, x, eta=0.01, n_iters=1e-4, epsilon=1e-8):
    x_pca = x.copy()
    x_pca = demean(x_pca)
    res = []
    for i in range(n):
        init_w = np.random.random(x_pca.shape[1])
        w = gradient_ascent(df, x_pca, init_w, eta)
        res.append(w)
        
        x_pca = x_pca - x_pca.dot(w).reshape(-1, 1) * w
        
    return res    

fisrt_n_component(2, X)

输出结果：[array([0.75978266, 0.65017714]), array([ 0.96416996, -0.26528531])]

四、将高维数据向低维数据映射

? 假设有数据矩阵X，通过主成分分析法得到前k个主成分对应的轴的单位方向向量之后，我们就可以将数据从高维向低维映射，同样也可以从低维在映射回高维空间。

技术图片

import numpy as np

class PCA(object):

    def __init__(self, n_components):
        assert n_components >= 1, "n_component must be valid"
        self.n_components = n_components
        self.components_ = None

    def fit(self, x, eta=0.01, n_iters=1e-4):
        assert self.n_components <= x.shape[1], "n_components must be greater than the feature number of x"

        def demean(x):
            return x - np.mean(x, axis=0)

        def f(w, x):
            return np.sum((x.dot(w) ** 2)) / len(x)

        def df(w, x):
            return x.T.dot(x.dot(w)) * 2. / len(x)

        def direction(w):
            return w / np.linalg.norm(w)

        def gradient_ascent(df, x, init_w, eta, n_iters=1e-4, epsilon=1e-8):

            w = direction(init_w)
            cur_iter = 0
            while cur_iter < n_iters:
                gradient = df(w, x)
                last_w = w
                w = w + eta * gradient
                w = direction(w)
                if (abs(f(w, x) - f(last_w, x)) < epsilon):
                    break
                cur_iter += 1
            return w

        x_pca = demean(x)
        self.components_ = np.empty(shape=(self.n_components, X.shape[1]))
        for i in range(self.n_components):
            init_w = np.random.random(x_pca.shape[1])
            w = gradient_ascent(df, x_pca, init_w, eta, n_iters)
            self.components_[i, :] = w

            x_pca = x_pca - x_pca.dot(w).reshape(-1, 1) * w

        return self

    def transform(self, x):
        "将给定的x，映射到各个主成分分量中"
        assert x.shape[1] == self.components_.shape[1]
        return x.dot(self.components_.T)

    def inverse_transform(self, x):
        assert x.shape[1] == self.components_.shape[0]
        return x.dot(self.components_)

    def __repr__(self):
        return "PCA(n_components=%d)" % self.n_components

if __name__ == '__main__':
    import numpy as np
    import matplotlib.pyplot as plt

    X = np.empty((100, 2))
    X[:, 0] = np.random.uniform(0., 100., size=100)
    X[:, 1] = 0.75 * X[:, 0] + 3. + np.random.normal(0., 10., size=100)

    pca = PCA(n_components=1)
    pca.fit(X)
    print(pca.components_)

    x_reduction = pca.transform(X)
    print(x_reduction.shape)

    x_restore = pca.inverse_transform(x_reduction)
    print(x_restore.shape)

    plt.scatter(X[:, 0], X[:, 1], color='b', alpha=0.5)
    plt.scatter(x_restore[:, 0], x_restore[:, 1], color='r', alpha=0.5)
    plt.show()

技术图片

? 蓝色的点是随机初始生成，红色的点就是由pca降维之后，在从低维映射到高维的描述。其实完全可以只有一个轴来表示这些红色的点，也就完成了降维。

五、scikit-learn中的PCA

from sklearn.decomposition import PCA
import numpy as np
import matplotlib.pyplot as plt

X = np.empty((100, 2))
X[:, 0] = np.random.uniform(0., 100., size=100)
X[:, 1] = 0.75 * X[:, 0] + 3. + np.random.normal(0., 10., size=100) 

def demean(X):
    return X - np.mean(X, axis=0)

X = demean(X)

pca = PCA(n_components=1)
pca.fit(X)
pca.components_

输出结果：array([[-0.7896098, -0.6136093]])

x_reduction = pca.transform(X)
x_reduction.shape
x_restore = pca.inverse_transform(x_reduction)
x_restore.shape
plt.scatter(X[:,0], X[:,1], color='b', alpha=0.5)
plt.scatter(x_restore[:,0], x_restore[:,1], color='r', alpha=0.5)
plt.show()

技术图片

接下来使用真实的数据集进行测试：

import numpy as np
import matplotlib.pyplot as plt
from sklearn import datasets
from sklearn.model_selection import train_test_split

digits = datasets.load_digits()
x = digits.data
y = digits.target

x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.2, random_state=666)
x_train.shape

接下来使用KNN先进行一个简单的测试：

%%time
from sklearn.neighbors import KNeighborsClassifier
knn_clf = KNeighborsClassifier()
knn_clf.fit(x_train, y_train)

输出结果：Wall time: 4.88 ms

knn_clf.score(x_test, y_test)

输出结果：0.9888888888888889

接下来使用降维：

from sklearn.decomposition import PCA
pca = PCA(n_components=2)
pca.fit(x_train)
#PCA(copy=True, iterated_power='auto', n_components=2, random_state=None,svd_solver='auto', tol=0.0, whiten=False)
x_train_reduction = pca.transform(x_train)
x_test_reduction = pca.transform(x_test)

%%time
knn_clf = KNeighborsClassifier()
knn_clf.fit(x_train_reduction, y_train)

输出结果：Wall time: 976 μs 相比降维之前速度快了很多。

knn_clf.score(x_test_reduction, y_test)

输出结果：0.6055555555555555,但是测试结果的准确率大打折扣。这是因为直接从64维降到2维，损失了太多信息。在sklearn中封装了一个函数，可以看出损失的详细信息。

pca.explained_variance_ratio_

输出结果：array([0.1450646 , 0.13714246])，可以看出这两个主成分分别损失了14.51%和13.71%，加和共损失28.22%。显然这不是想要的效果。

那么我们查看一个64个主成分分别损失情况：

pca = PCA(n_components=x_train.shape[1])
pca.fit(x_train)
pca.explained_variance_ratio_

输出结果：

array([1.45064600e-01, 1.37142456e-01, 1.19680004e-01, 8.43768923e-02,
       5.87005941e-02, 5.01797333e-02, 4.34065700e-02, 3.61375740e-02,
       3.39661991e-02, 3.00599249e-02, 2.38906921e-02, 2.29417581e-02,
       1.81335935e-02, 1.78403959e-02, 1.47411385e-02, 1.41290045e-02,
       1.29333094e-02, 1.25283166e-02, 1.01123057e-02, 9.08986879e-03,
       8.98365069e-03, 7.72299807e-03, 7.62541166e-03, 7.09954951e-03,
       6.96433125e-03, 5.84665284e-03, 5.77225779e-03, 5.07732970e-03,
       4.84364707e-03, 4.34595748e-03, 3.73352381e-03, 3.57655938e-03,
       3.30727680e-03, 3.18129431e-03, 3.06969704e-03, 2.89170006e-03,
       2.51205204e-03, 2.27743660e-03, 2.22760483e-03, 2.00065017e-03,
       1.89529684e-03, 1.56877138e-03, 1.42740894e-03, 1.39115781e-03,
       1.20896097e-03, 1.10149976e-03, 9.81702199e-04, 8.82376601e-04,
       5.69898729e-04, 4.10322729e-04, 2.32125043e-04, 8.49807543e-05,
       5.37426557e-05, 5.27990816e-05, 1.03398093e-05, 6.20749843e-06,
       5.03430895e-06, 1.15881302e-06, 1.09689390e-06, 5.51564753e-07,
       5.65215369e-08, 1.78867947e-33, 8.83490979e-34, 8.55393580e-34])

从上面结果可以看出，64个主成分损失从大到小排列，最大14.5%，最小8.55393580e-34可以忽略不计。接下来使用曲线图绘制一下：

plt.plot([i for i in range(x_train.shape[1])],
        [np.sum(pca.explained_variance_ratio_[:i+1]) for i in range(x_train.shape[1])])
plt.show()

技术图片

从图中，可以大概看出当降到30维的时候，保留信息大概在96%左右，因此可以考虑降到30为左右比较合适，既能保证精度又能保证速度。其实，sklearn中已经封装好了能够实现类似功能。

pca = PCA(0.95)
pca.fit(x_train)
pca.n_components_

输出结果：28,可以发现当损失信息为5%时，可以将数据从64维降到28维。

x_train_reduction = pca.transform(x_train)
x_test_reduction = pca.transform(x_test)

%%time
knn_clf = KNeighborsClassifier()
knn_clf.fit(x_train_reduction, y_train)

输出结果：Wall time: 2.93 ms

knn_clf.score(x_test_reduction, y_test)

输出结果：0.9833333333333333

对比降维前后：

时间上，降维前：Wall time: 4.88 ms，降维后：Wall time: 2.93 ms
精度上，降维前：0.9888888888888889，降维后0.9833333333333333

通过以上对比，可以发现在精度损失0.5%的情况下速度能提高一倍。这是一个比较的维度，如果维度很大，效果会更加优秀。

在整个测试的过程中，曾尝试把数据降到2维，精度损失很大，但并不能说明这样做没有意义，通常情况下，我们会将高维数据降到3维或者2维进行可视化。

pca = PCA(n_components=2)
pca.fit(x)
x_reduction = pca.transform(x)
x_reduction.shape
for i in range(10):
    plt.scatter(x_reduction[y==i, 0], x_reduction[y==i, 1], alpha=0.8)
plt.show()

技术图片

通过对数据进行可视化，可以发现有蓝色、红色、紫色这些点在降到2维的情况下，依旧可以实现很高的识别度。这说明这些样本在原来的高维空间中差异就比较大。所以，一般会将数据进行可视化，进行一些简单的分析。

六、对真实数据集MNIST使用PCA

首先下载MNIST数据集的时候有个坑？

import numpy as np
from sklearn.datasets import fetch_mldata

mnist = fetch_mldata("MNIST original", data_home='./datasets')

如果直接运行会一直报错，反正就是下载不下来，但是会在datasets目录下生成一个文件夹，./datasets/mldata。所以需要下载数据集放在这个文件夹下，再次运行就可以了。

数据集地址：

链接：https://pan.baidu.com/s/15k6Sykf5TICN40KeEc6xgQ
提取码：ujrq

mnist

'DESCR': 'mldata.org dataset: mnist-original',
 'COL_NAMES': ['label', 'data'],
 'target': array([0., 0., 0., ..., 9., 9., 9.]),
 'data': array([[0, 0, 0, ..., 0, 0, 0],
        [0, 0, 0, ..., 0, 0, 0],
        [0, 0, 0, ..., 0, 0, 0],
        ...,
        [0, 0, 0, ..., 0, 0, 0],
        [0, 0, 0, ..., 0, 0, 0],
        [0, 0, 0, ..., 0, 0, 0]], dtype=uint8)

x, y = mnist['data'], mnist['target']
x.shape
y.shape

输出结果：(70000, 784) (70000,)

x_train = np.array(x[:60000], dtype=float)
y_train = np.array(y[:60000], dtype=float)
x_test = np.array(x[60000:], dtype=float)
x_test = np.array(y[60000:], dtype=float)

from sklearn.neighbors import KNeighborsClassifier

knn_clf = KNeighborsClassifier()
%time knn_clf.fit(x_train, y_train)

输出结果：

Wall time: 28 s

KNeighborsClassifier(algorithm='auto', leaf_size=30, metric='minkowski',
           metric_params=None, n_jobs=None, n_neighbors=5, p=2,
           weights='uniform')

%time knn_clf.score(x_test, y_test)

输出结果：

Wall time: 11min 6s

0.9688

在这里，值得一提的是，之前讨论knn的时候，由于相比较样本之间距离，所以通常会对数据进行归一化。但是这里没用使用standardscale，因为这是图像。因为图像的像素点都在0-255，所以进行距离的比较是有意的，只有当尺度不一致时，才会考虑使用归一化。

接下来使用PCA进行降维：

from sklearn.decomposition import PCA

pca = PCA(0.9)
pca.fit(x_train)
x_train_reduction = pca.transform(x_train)
x_train.shape

输出结果：(60000, 87) 可以发现通过降维实现了只有87维代替原来的784维，能够保留90的信息。

from sklearn.neighbors import KNeighborsClassifier

knn_clf = KNeighborsClassifier()
%time knn_clf.fit(x_train_reduction, y_train)

输出结果：Wall time: 436 ms 降维前使用了28s完成现在只需436ms。

x_test_reduction = pca.transform(x_test)
%time knn_clf.score(x_test_reduction, y_test)

Wall time: 1min 17s
0.9728

将降维前后进行对比：

时间上：
- 训练时间-降维前：28 s，降维后：436 ms
- 测试时间-降维前：11min 6s，降维后：1min 17s
精度上：降维前：0.9688，降维后：0.9728

经过上面的对比，发现经过降维之后速度提高了很多很多，而且准确率反而高了，这是为什么呢？这是因为其实降维还有另外一个作用，就是去噪。

七、使用PCA降噪

import numpy as np
import matplotlib.pyplot as plt

X = np.empty((100, 2))
X[:, 0] = np.random.uniform(0., 100., size=100)
X[:, 1] = 0.75 * X[:, 0] + 3. + np.random.normal(0, 5, size=100)
plt.scatter(X[:,0], X[:,1])
plt.show()

from sklearn.decomposition import PCA
pca = PCA(n_components=1)
pca.fit(X)
x_reduction = pca.transform(X)
x_restore = pca.inverse_transform(x_reduction)
plt.scatter(x_restore[:, 0], x_restore[:, 1])
plt.show()

技术图片

通过这个例子，发现pca还可以降噪，将高维数据降低到低维数据，这个过程中也可以理解成降低了维度，丢失了信息，同时也去除了噪音。为了更加直观，接下来使用手写数字识别数据集。

from sklearn import datasets

digits = datasets.load_digits()
x = digits.data
y = digits.target
# 手动添加噪声
noisy_digits = x + np.random.normal(0, 4, size=x.shape)
# 取出部分数据做可视化
example_digits = noisy_digits[y==0,:][:10]
for num in range(1, 10):
    x_num = noisy_digits[y==num,:][:10]
    example_digits = np.vstack([example_digits, x_num])
example_digits.shape

def plot_digits(data):
    fig, axes = plt.subplots(10, 10, figsize=(10,10), 
                            subplot_kw='xticks':[], 'yticks':[], 
                            gridspec_kw=dict(hspace=0.1, wspace=0.1))
    for i, ax in enumerate(axes.flat):
        ax.imshow(data[i].reshape(8, 8),
                 cmap='binary', interpolation='nearest',
                 clim=(0, 16))
    plt.show()
    
 plot_digits(example_digits)

技术图片

接下来使用pca去噪，

from sklearn.decomposition import PCA

pca = PCA(0.5)
pca.fit(noisy_digits)
pca.n_components_

输出结果：12，可以看出保留50%的信息，只需要12维。

components = pca.transform(example_digits)
filterd_digits = pca.inverse_transform(components)
plot_digits(filterd_digits)

技术图片

通过这个例子，可以对pca降维有一个感性的认识。

八、PCA与人脸识别

技术图片

假设X一张人脸图像，W是钱k个主成分组成的矩阵，其实可以把W看做X的一些比较明显的特征。这就是特征脸（Eigenface）。

首先下载数据集，sklearn中的lfw_people数据集：

import numpy as np
import matplotlib.pyplot as plt
from sklearn.datasets import fetch_lfw_people

faces = fetch_lfw_people()

这里依旧有个小坑，就是数据下载不下来，不过没事，我们可以手动下载，复制这个网址 https://ndownloader.figshare.com/files/5976015 到迅雷中，下载到完整的lfwfunneded.tgz文件。并把这个文件放在C:\Users\Mogul\scikit_learn_data\lfw_home路径下，解压。然后再次运行就可以了。

faces
faces.keys()
faces.data.shape
#(13233, 2914)，数据集中一共13233个样本，每个样本维度2914
faces.images.shape
# (13233, 62, 47)，每个图片的大小（62， 47）
random_indexes = np.random.permutation(len(faces.data))
# 将数据集的顺序打乱
X = faces.data[random_indexes]
# 从中取除前36个
example_faces = X[:36, :]
example_faces.shape

def plot_faces(faces):
    fig, axes = plt.subplots(6, 6, figsize=(10, 10),
                            subplot_kw='xticks':[], 'yticks':[],
                            gridspec_kw=dict(hspace=0.1, wspace=0.1))
    for i, ax in enumerate(axes.flat):
        ax.imshow(faces[i].reshape(62, 47), cmap='bone')
        
    plt.show()
plot_faces(example_faces)

技术图片

faces.target_names
# array(['AJ Cook', 'AJ Lamas', 'Aaron Eckhart', ..., 'Zumrati Juma',
       'Zurab Tsereteli', 'Zydrunas Ilgauskas'], dtype='<U35')
len(faces.target_names)
# 5749,数据集中一共有5749个人物，一共有13233张图片，差不多每个人2张。
# 但实际情况并不是这样，因为样本并不均衡，有些可能只有一张，有些可能很多张。

%%time
from sklearn.decomposition import PCA
pca = PCA(svd_solver='randomized')
pca.fit(X)

输出结果：Wall time: 18.4 s

pca.components_.shape
# (2914, 2914)
# 取出前36个特征脸进行可视化
plot_faces(pca.components_[:36, :])

技术图片

刚刚提到这个数据集的样本分布是不均衡的，那么接下来看看具体：

faces2 = fetch_lfw_people(min_faces_per_person=60)
faces2.data.shape
# (1348, 2914)
faces2.target_names

输出结果：

array(['Ariel Sharon', 'Colin Powell', 'Donald Rumsfeld', 'George W Bush',
       'Gerhard Schroeder', 'Hugo Chavez', 'Junichiro Koizumi',
       'Tony Blair'], dtype='<U17')

根据输出结果可以发现，最少有60张图像的数据集一共有1348张图片，只有8个人的图像大于60，使用这样的数据进行人脸识别相对就比较合理了。