矩阵分解与PCA应用

PCA人脸识别
MATLAB实现分析
论文
基于人脸检测算法的移动支付识别技术
论文
基于人脸检测算法的移动支付识别技术
随着移动互联网的广泛应用，移动应用的安全 性越来越受到重视。身份认证是应用安全的核心技术之 一，目前主要采用用户密码，短信等措施。但是，由于 这些措施与用户自身的生物特征无关，因此存在被盗的 风险。因此，迫切需要开发结合生物识别技术的移动智 能认证技术，这是移动应用安全的发展趋势。
第一步
第二步
第三步
构造训练样本预处理
将人脸像素按列展开，排列 成数据矩阵，求均值向量， 得出平均脸
第四步
第五步
选择主成分
方差矩阵特征值按贡献率排 序，取前n个特征值和特征 向量，得到投影矩阵
PCA人脸识别
PCA人脸识别实例
问题描述
在一个人脸库中，有15个 人。要求选定每一个人的 若干幅图像组成样本库， 由样本库得到特征库。再 任取人脸库的一张图片， 识别它的身份。
以上介绍的三个不同矩阵作用下，整个 空间发生了不同变化，但是原点没有改 变，直线依然是直线，平行还是平行， 这就是线性变换的性质
可以看到整个空间向左倾斜转动 面积为原来的3.5倍，Det（A） =3,5
特征值
特征值和特征向量的几何意义
奇异值
奇异值的几何意义
奇异值
奇异值的几何意义
简单说对于任意矩阵，通过SVD可以可以将一个 相互垂直的网格变换到另一个相互垂直的网格
降维
直观地好处是维度降低了，便于计算 和可视化，其更深层次的意义在于有 效信息的提取综合及无用信息的摈弃。
感谢批评指正
SVD得出的奇异向量是从奇异值由大 到小排列的，矩阵的主成分是由其 协方差矩阵的特征向量，按照对应 的特征值大小排序得到的。最大的 特征值就是第一主成分，第二大的 特征值就是第二主成分，以此类推。
PCA
PCA降维
01 特征标准化
02 计算协方差矩阵
05 完成降维
样本点投影到选取 的特征向量上
03 04 选择新的特征向量构成投影矩阵
论文
基于人脸检测算法的移动支付识别技术
面部区域划分
尺度变换算法的缺点之一是特 征向量具有128维，在特征点 的匹配过程中需要交叉匹配由 于人脸的独特性基本上集中在 一些特征区域，如眼睛和鼻子， 眼睛和鼻子区域特征向量的交 叉匹配没有意义。
本文主要从匹
配策略上进行 改进
论文
基于人脸检测算法的移动支付识别技术
人脸识别是目前广泛研究和应用的一种生物识 别技术。例如，通过主成分分析（PCA）和线性判别分 析（LDA）来获得整个面部的统计值并识别面部器官的 大小和位置，例如眼睛，鼻子和嘴巴。当人与监视摄像 机之间的距离增加时，大多数摄像机目前会降低图像质 量。因此，当现有的人脸识别算法应用于智能监控系统 时，识别效率随着摄像头与人之间的距离而迅速降低。 由于该技术主要基于用户的脸部照片或视频流，无需用 户过多的合作，因此具有非接触性，直接性，方便，友 好，真实，可靠等优点; 同时，手机终端目前普遍配备 高清摄像头，因此将人脸识别技术作为手机终端的应用 安全识别手段是一个很自然的想法。
P C A 人 脸 识 别 PCA人脸识别步骤
人脸图像标准化处理
将待训练的样本图像进行标 准化处理，去除背景信息， 转化为一致的灰度图像。
求协方差矩阵协方差矩阵
维数高，通过SVD奇异值分解 降低维数，求出协方差矩阵的 特征值和特征向量。
测试人脸投影遍历匹配
将测试集中的每一幅降维图像 与降维的训练集进行匹配，然 后将其分类到距离最小的训练 集头像中。
方向的数据就可以
协方差
协方差的意义
协方差：度量各个维度偏离其均值的程
度。协方差的值如果为正值，则说明两 者是正相关的(从协方差可以引出“相关 系数”的定义)，结果为负值就说明负相 关的，如果为0，也是就是统计上说的 “相互独立”
而协方差也只能处理二维问题，
那维数多了自然就需要计算多 个协方差，比如n维的数据集 就需要计算 n! / ((n-2)!*2) 个协 方差，那自然而然的我们会想 到使用矩阵来组织这些数据。
协方差
协方差的意义
协方差矩阵是一个对称的矩阵， 而且对角线是各个维度上的方 差（能量）其他元素是两两维 度间的协方差(即相关性)，协 方差计算的是不同维度之间的 协方差，而不是不同样本之间
协方差
协方差的应用
信息量保存能力最大的基向量 一定是样本矩阵X的协方差矩阵 的特征向量，并且这个特征向
量保存的信息量就是它对应的 特征值的绝对值。
然而，由于移动智能手机系统，如Android / iOS手机系统，都是新兴的终端系统，它们有自己的计 算能力和存储空间限制，并且由于用户的操作习惯，通 常的智能训练集手机通常是小尺寸的样本集，当传统的 人脸识别算法直接应用于智能手机时会导致效果不佳。 因此，为了在移动终端中实现有效的移动人脸识别，有 必要对传统算法进行改进，并进行相应的实施研究。基 于此背景，本文提出了一种改进的动态异方差算法，并 且在移动终端上的小尺寸样本的情况下，采用自适应测 试样本添加到训练样本集的方法，同时提出了一种基于 Android系统的实现方案。实现了轻量级人脸识别系统， 并在ORL人脸数据库和耶鲁人脸数据库中对算法进行了 测试。基于研究结果，本文进一步提出了一种基于云架 构的改进方案。
奇异值分解的几何 含义为：对于任何 的一个矩阵，我们 要找到一组两两正 交单位向量序列， 使得矩阵作用在此 向量序列上后得到 新的向量序列保持 两两正交。
奇异值的几何含 义就是：这组变 换后的新向量序 列长度
奇异值
奇异值分解（SVD）
SVD是对矩阵进行分解,它 跟我们特征值分解中的特 征值类似，在奇异值矩阵 中奇异值是按照从大到小 排列，而且奇异值的减少 特别的快，在很多情况下， 前10%甚至1%的奇异值的 和就占了全部的奇异值之 和的99%以上的比例。也 就是说，我们也可以用最 大的k个的奇异值和对应 的左右奇异向量来近似描 述矩阵。
矩阵分解与PCA应用
云南大学信息学院 (禁止网络传播)
目录
Contents
奇异值及分解
协方差
论文总结
线性变换
SVD用于PCA
PCA人脸识别
特征值和特征向量
Biblioteka Baidu
矩阵几何变换的性质
向量（1，1.5）在变换后的位置， 其实就是变换后基向量的线性表 示，（-1，-3）也是一样
特征值和特征向量
线性变换的性质
其中k比n小很多， 也就是一个大的矩 阵可以用三个小矩 阵近似描述
奇异值分解（SVD）
SVD图像压缩实例
奇异值
奇异值分解（SVD）用于PCA
PCA 的 问 题 其 实 是 一个基的变换，使 得变换后的数据有 着最大的方差。方 差的大小描述的是 一个变量的信息量
这P个CA假的设全是部一工个作摄简像单机点采说集，就是 一对个原物始体的运空动间得中到顺的序图片地，找 一 组 上相面互的正点交表的示坐物标体轴运，动的第位一 个 轴 置是，使假得如方我差们最想大要的用，一条第直二 个 轴 线是去在拟与合第这一些个点轴，正那交我们的会平 面 中 选使择得什方么差方最向大的的线，呢第？三 个 轴 是 在与第1、2个轴正交的平面中 方差最大的，这样假设在N维空
论文
基于人脸检测算法的移动支付识别技术
论文
基于人脸检测算法的移动支付识别技术
论文答辩
总结
人脸识别
社会快速发展对于高效快速 的自动身份识别验证要求日 益增加，人脸识别的精确可 靠依然有很大的空间。
SVD奇异值分解
解决维数过高的问题。
35%
PCA
20%
25% 10%
PCA主成分分析
主成分分析是图像压缩中 的最优正交变换。
间中，我们可以找到N个这样的
一般来说，方差大的方向是信 坐标轴，我们取前r个去近似这 号的方向，方差小的方向是噪 个空间，这样就从一个N维的空 声的方向，在数据挖掘和信号 间压缩到r维的空间了，但是我 处理中，需要提高信号与噪声 们选择的r个坐标轴能够使得空 的比例，上图只需要保留signal 间的压缩使得数据的损失最小。