机器学习： 特征脸算法 EigenFaces

Posted 2022-12-23 Matrix_11

人脸识别是机器学习和机器视觉领域非常重要的一个研究方向，而特征脸算法是人脸识别里非常经典的一个算法，EigenFaces 是基于PCA (principal component analysis) 即主分量分析的。

一张尺寸为 $w \\times h$ 的人脸图像 $I_i$可以看成是一个 $D \\times 1$ 的列向量, $\\mathbfx \\in R^D$，其中 $D=w \\times h$， 那么，给定一个训练集 $S$， 含有 $m$ 张人脸图像, 即: $S=\\\\mathbfx_i\\, i=1,2,...m$， 简单来说，我们希望通过一些线性映射，将原始向量 $\\mathbfx$ 从高维空间 $R^D$ 变换到一个低维空间 $R^K$， $K \\ll D$.

利用PCA 分析：
1: 先求训练集 $S$ 的均值向量 $\\bar\\mathbfx=\\frac1m\\sum_i=1^m\\mathbfx_i$

2: 向量去均值：$\\Phi_i=\\mathbfx_i-\\bar\\mathbfx$

3: 求协方差矩阵 $C=\\frac1m\\sum_i=1^m \\Phi_i \\Phi_i^T$, 如果我们定义 $A=[\\Phi_1, \\Phi_2, ..., \\Phi_m]$, $A \\in R^D \\times m$, 那么 $C=AA^T$

4: 特征值分解: $C\\boldsymbolu_i=\\gamma_i \\boldsymbolu_i$

我们知道协方差矩阵是一个高维矩阵 $C\\in R^D \\times D$. 如果直接进行特征分解，无疑是非常消耗资源也很费时的。特征脸算法做了一个非常巧妙的变换，我们先来看 $A^TA$ 的特征值分解，因为 $A^TA \\in R^m \\times m$，比起 $C$ 来说，维度要小得多。我们可以得到：

$A^TA \\boldsymbolv_i = \\lambda_i \\boldsymbolv_i$ 进一步可以得到:

$AA^T A \\boldsymbolv_i = \\lambda_i A\\boldsymbolv_i$ 即：

CAvi=λiAv人脸检测——基于机器学习3AdaBoost算法

opencv人脸识别用哪种方法比较好？Eigenfaces？Fisherfaces？LBP？

机器学习实战应用案例100篇（二十五）-强联通分量算法应用案例

协方差矩阵在图像处理之特征脸处理中的应用

京东金融大数据竞赛猪脸识别- 图像特征提取之一

opencv学习之路（40）人脸识别算法——EigenFaceFisherFaceLBPH