利用K-L变换法进行人脸识别
基于推广形式的K-L变换的人脸识别方法
摘 要 ： 提 出了一种 图像预 处理 方 法 ， 不 同光 照条 件 下 的 图像 甚 至是 负像 处理 成 亮度 、 将 对
比度与 参考 图像 基本相 同的 图像 ， 且调 整后 的 图像 与原 图像保 持较 高的相 关性 ， 而有效 降低 从
了光 照对人 脸识 别结 果的影 响． 根据 随机 矩 阵的 主行 列分 析 法给 出 了推 广形 式 的 Ｋ Ｌ 变换 ， —
将 此变 换应 用于 人脸识 别 ， 明 了其有 效性 ． 证
ｌ 图像 的预 处 理
在 进行 图像 识别 时 ， 由于 图像 经 常受到 环境 的 影 响 ， 光线强 弱 的变化 、 如 光源位 置 的变化 等 ， 会 都
使 图像质 量 比较 差 ， 需要对 图像 进行 处理 以增 强和
维普资讯
３６ ７
西 安 上 业 大 学 学 报
第 ２ ６卷
一 一
（）参 考 图像 ａ
（ ）原 始 图像 ｂ
（ ）处理 后 图像 ｃ
一
，
图 １ 原始 图像 及 复 原 图 像
Ｆｉ Ｏｒｇｉ ｌｉ ｇｅ ａ ｄ ｉｓｒ ｓｏｒ ｄ ｉ ａ ｇ．１ ｉ ｎａ ｍａ ｎ ｔ ｅ ｔ ｅ ｍ ｇｅ
一 一
人脸 识别 技术 是 模 式 识 别研 究 领 域 中一 个 非 常重要 的研究 内容 ， 在商 业 、 司法 、 监控 等方 面有广 泛的应 用． （ ｒ ｕ ｅ— ｏ ｖ ） 换在 模 式 识别 Ｋ Ｉ Ｋａｈ ｎ ｎＬ ｅ ｅ 变 中是常 用 的一种 方法 ｊ 在实 际运 用 中 ， — ． Ｋ Ｌ变换 需要计 算 大维数 矩 阵的特 征值 与特征 向量 ， 虽然 可 以利用 奇 异值 分 解 定 理 （ Ｖ 定 理 ） 但 运 算 量仍 Ｓ Ｄ ， 然很 大 ， 因此维 数 压缩 也 是 研 究 的一 个 重 要 内容．
对运用2DPCA技术进行人脸识别的简介
对运用2DPCA技术进行人脸识 别的简介
指导老师：彭进业 报告人：邓楠 时间：2005。5。25
一：导论
PCA技术(基于K_L变换)，即主要成分分 析，是一种经典的特征提取和数据表示 技术，广泛用于模式识别和计算机视觉 的领域中。在基于PCA的人脸识别中， 2D的人脸图象矩阵首先先转变成1D的图 象向量，然后再利用均值图象得到协方 差矩阵，求出此矩阵的特征值和相应的 正交归一化特征向量即特征脸。这样，
二：2DPCA的思想和算法
1：
2:根据图象的类内散步矩阵和类间散布 矩阵，求出图象的最优化投影轴（相当 于PCA方法的最大的第一个本征值）。 具体算法如下：
3:图象的特征提取，求出图象样本的特 征图象或特征矩阵。
4：通过这种特征提取（即广义K_L变 换），对于每付图象都得到一个特征矩 阵。这样，就可以用最近邻分类器来进 行分类
一：导论
4：可以用两种方法求出本征值和本征向 量。1）[V,D]=eig(A*A‘) ；2）奇异值分 解[U,E,V] = svd(A,0) 5：求出主成分矩阵P
eigVals = diag(E) ；P = U(:,1:Mp) 6:生成训练样本空间 train_wt = ：recog_wt = P'*A2 8：利用欧几里得距离进行人脸识别
一：导论
任何一副人脸图像都可以表示成这组 “特征脸”的线性组合，其加权系数即 K_L变换的展开系数，即该图象的代数特 征。 具体算法如下：
1：X = [x1 x2 ... xm]
图像处理实验报告
图像处理实验报告实验⼀基于matlab 的⼈脸识别技术⼀、实验⽬的1．熟悉⼈脸识别的⼀般流程与常见识别⽅法；2．熟悉不同的特征提取⽅法在⼈脸识别的应⽤；3．了解在实际的⼈脸识别中，学习样本数等参数对识别率的影响；4．了解⾮⼈脸学习样本库的构建在⼈脸识别的重要作⽤。
使⽤MATLAB 平台编程，采⽤K-L 变换、特征提取及图像处理技术，实现⼈脸识别⼆、实验内容与实验仪器、设备1．构建⾮⼈脸学习样本库；2．观测不同的特征提取⽅法对⼈脸识别率的影响；3．观测不同的学习样本数对⼈脸识别率的影响；1． PC 机－系统最低配置 512M 内存、P4 CPU ；2． Matlab 仿真软件－ 7.0 / 7.1 / 2006a 等版本的Matlab 软件。
3． CBCL ⼈脸样本库三、实验原理1.⼈脸特征提取的算法通过判别图像中所有可能区域是否属于“⼈脸模式”的⽅法来实现⼈脸检测。
这类⽅法有：特征脸法、⼈⼯神经⽹络法、⽀持向量机法；积分图像法。
本次使⽤的是PCA(主成分分析法)其原理是：利⽤K-L 变换抽取⼈脸的主要成分，构成特征脸空间，识别时将测试图像投影到此空间，得到⼀组投影系数，通过与各个⼈脸图像⽐较进⾏识别。
对于⼀幅M*N 的⼈脸图像，将其每列相连构成⼀个⼤⼩为D=M*N 维的列向量。
D 就是⼈脸图像的维数，即是图像空间的维数。
设n 是训练样本的数⽬；X j 表⽰第j 幅⼈脸图像形成的⼈脸向量，则所需样本的协⽅差矩阵为：1()()m Ti i i S x u x u ==--∑ （1）其中U 为训练样本的平均图像向量：11mi i u x n ==∑ （2）令A=[x 1-u,x 2-u,...x n -u]，则有S r =AA T ，其维数为D ×D 。
根据K-L 变换原理，需要求得的新坐标系由矩阵AA T 的⾮零特征值所对应的特征向量组成。
直接计算的计算量⽐较⼤，所以采⽤奇异值分解(SVD)定理，通过求解A T A 的特征值和特征向量来获得AA T 的特征值和特征向量。
基于K-L变换的人脸识别系统
华 东 交 通 大 学 学 报 456789: 5; <9=> ?@A89 4A95>58B C8ADE7=A>F
G5:* !) H5 * + IJ> * ，!" "#
此， 我 们需 要引 入 & ! & 节 的算 法 ! " !"
［ $］ 矩阵 分解 算法
本 文采 用 训 练 样 本 集 的 类 间 散 布 矩 阵 作 为 , 为 了 求 0& ’ 0& 维 矩 阵 的 特 . - 变 换 的产 生 矩 阵， 征 值 和 正 交 归 一 的 特 征 矢 量， 引出奇异 值分解 定 理! 定理 （ %&’） 设 1 是一 秩 为 2 的 3 ’ 2 维 矩 阵 ， 则 存在两个 正 交矩 阵： ［ 4 (， … 42 +4/ ， ! . /］ 53 ’ 2 + *+ - 6
基 于
,-. 变
赵
换 的 人 脸 识 别 系 统
敏， 舒
俭
（华东交通大学 电气与电子工程学院， 江 西 南 昌 ))""%) ）
摘要： 围绕人脸识别问题对人脸特征提取及识别技术进行了研究 * 主要有： 运 用灰度投影 提取出在 简单背景中 的人脸图 像， 进 行归一化操作； 以类间散布矩阵作为产生矩阵， 通过 , $ . 变换降维并提取出代数特征， 为了 减少计算量， 运用 了奇异值分 解， 最后用最小距离分类器分类对图像进行分类 * 实验结果表明本方法的有效 性 * 并且 对人脸姿 态， 表 情， 光照 等都具有 一定的免 疫性 * 关 键 词： 人脸识别； 特征提取； 眼睛定位； , $ . 变换； 模式识别 文献标识码： 1 中图分类号： /0)’ % * &%
k变换
K_L变换，SVD变换在图像处理中实际应用讨论一．K_L变换在人脸识别中的实际应用模式识别中一个最基本的问题就是特征抽取, 抽取有效的鉴别特征是解决识别问题的关键。
K-L 变换是特征抽取的最有效的方法之一。
基于K -L 变换的特征抽取有四种最为经典和常用的技术, 其中主分量分析( PCA, 或称以总体散布矩阵为产生矩阵的K-L 变换) 被广泛地应用在人脸等图像识别领域。
主分量分析在处理图像识别问题时, 其弱点也很明显: 首先, 将图像矩阵转化为图像向量后, 造成图像向量的维数一般较高, 比如, 图像的分辨率为100×100, 所得图像向量的维数高达10000, 在如此高维的图像向量上完成PCA 是非常耗时的。
尽管在PCA 中利用奇异值分解定理可加速总体散布矩阵的本征向量的求解速度, 但整个特征抽取过程所耗费的计算量相当可观; 其次, 主分量分析的训练是非监督的，即PCA 无法利用训练样本的类别信息。
另一种经典的K-L 变换方法, 即包含在类平均向量中判别信息的最优压缩技术, 其识别性能优于非监督的主分量分析方法。
受Hong代数特征抽取思想的启发, 本研究提出了一种直接基于图像矩阵的包含在类平均图像中判别信息的最优压缩方法——广义K-L 变换, 它克服了传统主分量分析的弱点。
在ORL 标准人脸库上的试验结果表明, 广义K-L变换方法不仅在识别性能上优于Eigenfaces 方法和Fisherfaces 方法, 且特征抽取的速度提高了近19 倍。
1. 1基本思想定义1: 设X 表示n 维列向量, 将m×n 的图像矩阵A 通过以下线性变换直接投影到X 上。
Y= A X ( 1)得到一个m 维列向量Y, X 为投影轴, Y 为图像A的投影特征向量。
设有C 个已知的模式类别, ni 表示第i 类的训练样本数, N 表示各类的训练样本总数。
第i 类的第j 个训练样本图像为m×n 的矩阵Aj ( i=1, 2, ⋯, C; j = 1, 2, ⋯, ni) 。
K-L变换的一些典型应用
K-L变换的性质。
归结起来，它消除了各分量之间的相关性，因而用它来描述事物时，可以减少描述量的冗余性，做到用最经济有效的方法描述事物。
下面结合一些应用实例来说明如何运用K-L变换的这一性质。
1．降维与压缩以人脸图象这个例子看，K-L变换的降维效果是十分明显的。
对一幅人脸图象，如果它由M行与N到象素组成，则原始的特征空间维数就应为M×N。
而如果在K-L变换以及只用到30个基，那么维数就降至30，由此可见降维的效果是极其明显的。
另一方面降维与数据压缩又是紧密联系在一起的。
譬如原训练样本集的数量为V，而现采用30个基，每个基实质上是一幅图象，再加上每幅图象的描述参数(式(补4-3)中的C)，数据量是大大降低，尤其是图象数很大时，压缩量是十分明显的。
2．构造参数模型使用K-L变换不仅仅起到降维与压缩数据的作用，更重要的是每个描述量都有明确的意义，因而改变某一个参数就可让图象按所需要的方向变化。
在没有使用K-L变换的原数据集中对图象的描述量是每个象素的灰度值，而弧立地改变某个象素的灰度值是没有意义的。
而在使用K-L变换后，每个描述量都有其各自的作用。
因此通过改变这些参数的值就可实现对模型的有效描述，这在图象生成中是很有用的。
因此利用K-L变换构造出可控制的，连续可调的参数模型在人脸识别与人脸图象重构采方面的应用是十分有效的。
3．人脸识别利用K-L变换进行人脸图象识别是一个著名的方法。
其原理十分简单，首先搜集要识别的人的人脸图象，建立人脸图象库，然后利用K-L变换确定相应的人脸基图象，再反过来用这些基图象对人脸图象库中的有人脸图象进行K-L变换，从而得到每幅图象的参数向量(试问用哪个公式？)并将每幅图的参数向量存起来。
在识别时，先对一张所输入的脸图象进行必要的规范化，再进行K-L变换分析，得到其参数向量。
将这个参数向量与库中每幅图的参数向量进行比较，找到最相似的参数向量，也就等于找到最相似的人脸，从而认为所输入的人脸图象就是库内该人的一张人脸, 完成了识别过程。
人脸识别实验
matlab实现基于PCA的人脸识别算法实验者：guodw3一、问题描述在一个yale人脸库中，有15个人，每人有11幅图像。
要求选定每一个人的若干幅图像组成样本库，由样本库得到特征库。
再任取yale图像库的一张图片，识别它的身份。
对于一幅图像可以看作一个由像素值组成的矩阵，也可以扩展开，看成一个矢量。
如一幅N*N象素的图像可以视为长度为N2的矢量，这样就认为这幅图像是位于N2维空间中的一个点，这种图像的矢量表示就是原始的图像空间，但是这个空间仅是可以表示或者检测图像的许多个空间中的一个。
不管子空间的具体形式如何，这种方法用于图像识别的基本思想都是一样的，首先选择一个合适的子空间，图像将被投影到这个子空间上，然后利用对图像的这种投影间的某种度量来确定图像间的相似度，最常见的就是各种距离度量。
因此，本次采用PCA算法确定一个子空间，最后使用最小距离法进行识别，并用matlab实现。
二、PCA原理和人脸识别方法1）K-L变换K-L变换以原始数据的协方差矩阵的归一化正交特征矢量构成的正交矩阵作为变换矩阵，对原始数据进行正交变换，在变换域上实现数据压缩。
它具有去相关性、能量集中等特性，属于均方误差测度下，失真最小的一种变换，是最能去除原始数据之间相关性的一种变换。
PCA则是选取协方差矩阵前k个最大的特征值的特征向量构成K-L变换矩阵。
2）主成分的数目的选取保留多少个主成分取决于保留部分的累积方差在方差总和中所占百分比(即累计贡献率)，它标志着前几个主成分概括信息之多寡。
实践中，粗略规定一个百分比便可决定保留几个主成分；如果多留一个主成分，累积方差增加无几，便不再多留。
3）人脸空间建立假设一幅人脸图像包含N个像素点，它可以用一个N维向量Γ表示。
这样，训练样本库就可以用Γi（i=1，...，M）表示。
协方差矩阵C的正交特征向量就是组成人脸空间的基向量，即特征脸。
将特征值由大到小排列：λ1≥λ2≥...≥λr,其对应的特征向量为μk。
基于KL变换的人脸识别报告
模式识别大作业班级：09030901题目：基于KL变换的人脸识别姓名：黎照学号：2009302320姓名：陈升富学号：2009302313姓名：益琛学号：2009302311日期：2012/4/25【摘要】本次实验论述了K_L变换在人脸识别中的应用，主要介绍人脸识别过程中的每个环节，整个过程包括人脸图像的采集、预处理、特征提取到训练和识别。
一、基本要求从网上下载人脸图像，构建人脸训练数据库和测试数据库，采用K-L变换进行特征脸提取，并实现人脸识别。
通过K-L变换在人脸识别中的应用，加深对所学内容的理解和感性认识。
二、主要思想基于特征脸的人脸识别方法是基于K-L变换的人脸识别方法，K-L变换是图像压缩的一种最优正交变换。
高维的图像空间经过K-L变换后得到一组新的正交基，保留其中重要的正交基，由这些基可以转成低维线性空间。
如果假设人脸在这些低维线性空间的投影具有可分性，就可以将这些投影用作识别的特征矢量，这就是特征脸方法的基本思想三、 实验原理1、K-L 变换设n 维随机向量()12,,...,Tnx x x x =其均值向量E x u ⎡⎤=⎢⎥⎣⎦，相关矩阵xTE R xx =⎡⎤⎣⎦，协方差矩阵()()Tx E C x u x u →→→→→=--⎡⎤⎢⎥⎣⎦，x 经正交变换后产生向量()12,,...,T ny y y y =。
设有标准正交变换矩阵T ，（即 T'T=I ）1212'()'(,)'n n y T x t t t x y y y ===，'i i y t x = (1,2,)i n =11(')ni i i x T y T y y t -====∑ （称为x 的K-L 展开式）取前m项为x 的估计值1ˆmi i i x y t ==∑ 1m n ≤<其均方误差为2T ˆˆ()()()m E x x x x ε⎡⎤=--⎣⎦2'11[][]n ni i i i m i m E y E y y =+=+==∑∑ 2()m ε211[][]nn ii ii m i m E yE y y =+=+'==∑∑11()nniiix ii m i m t E xx tt R t =+=+'''==∑∑在T‘T=I 的约束条件下，要使均方误差21ˆˆ()[()'()]'min nix ii m m E x xx x t R tε=+=--=→∑为此设定准则函数11'('1)n ni x i i i i i m i m J t R t t t λ=+=+=--∑∑由 0iJt ∂=∂得()0x i i R I t λ-= 1,...,i m n =+，即x i i i R t t λ= 1,...,i m n =+表明: λi 是x R 的特征值，而i t 是相应的特征向量。
人脸算法公式
人脸算法公式
人脸识别算法涉及多个步骤和公式，但具体公式取决于所使用的算法。
以下是其中两种常用的人脸识别算法及其相关公式：
1. 主成分分析（PCA，也被称为特征脸方法）：
PCA是一种以较少数量的特征对样本进行描述以达到降低特征空间维数的
方法，其基础是Karhunen-Loeve展开式，简称KL展开式。
具体来说，对于一个输入的测试样本x，可以求出它与平均脸之间的偏差y = x - x’，y在特征脸空间的投影可以表示为系数向量z = W(T)y，z就是KL变换的展开系数向量。
2. Gabor小波变换+图形匹配：
Gabor滤波器将Gaussian网络函数限制为一个平面波的形状，并且在滤波器设计中有优先方位和频率的选择，表现为对线条边缘反应敏感。
这种方法精确抽取面部特征点以及基于Gabor引擎的匹配算法，具有较好的准确性，能够排除由于面部姿态、表情、发型、眼镜、照明环境等带来的变化。
请注意，以上仅为简要介绍，并无法涵盖所有的人脸识别算法公式。
在实际应用中，建议根据具体需求和场景选择适合的算法，并深入学习相关算法和公式。
人脸识别系统报告解析
摘要文章具体讨论了主成分分析( PCA)人脸识别算法的原理及实现。
它具有简单、快速和易行等特点,能从整体上反映人脸图像的灰度相关性具有一定的实用价值。
人脸识别是目前较活跃的研究领域, 本文详细给出了基于主成分分析的人脸特征提取的原理与方法。
并使用matlab 作为工具平台, 实现了一个人脸自动识别的系统原型。
实验结果表明, 该系统识别率为100%, 达到预期的效果。
如果想进一步提高人脸识别率, 可以考虑与其他方法结合。
仅单独使用任何一种现有的方法一般都不会取得很好的识别效果, 将其他人脸识别方法组合是今后研究的一种趋势。
也可以考虑改进分类决策的方法。
本系统采用的最小距离分类法属于线性的分类器, 而利用神经网络这类学习能力更强的非线性分类器对高维人脸识别问题可能会有更好的解决。
目录1. 引言 (1)2．需求分析 (1)2.1 课题的来源 (1)2.2 人脸识别技术的研究意义 (2)2.2.1 面部关键特征定位及人脸2D形状检测技术 (2)2.2.2 面部感知系统的重要内容 (2)2.3 人脸识别的国内外发展概况 (3)2.3.1 国外的发展概况 (3)2.3.2 国内的发展概况 (4)3．概要设计 (5)3.1 问题描述 (5)3.2 模块设计 (5)3.3 主成分的一般定义 (6)3.4 主成分的性质 (7)3.5 主成分的数目的选取 (7)4. 详细设计--PCA 算法的功能实现 (8)4.1 引言 (8)4.2 K-L 变换 (8)4.3 PCA 方法 (9)4.4 利用PCA进行人脸识别 (10)5. 实验及结果分析 (11)6. 总结 (14)7. matlab 源码 (15)参考文献 (19)1.引言人脸识别是机器视觉和模式识别领域最富有挑战性的课题之一，同时也具有较为广泛的应用意义。
人脸识别技术是一个非常活跃的研究领域，它覆盖了数字图像处理、模式识别、计算机视觉、神经网络、心理学、生理学、数学等诸多学科的内容。
kl变换报告
博士□兽医硕士专业学位□硕士□农业推广硕士专业学位□同等学力在职申请学位□中职教师攻读硕士学位□工程硕士专业学位□高校教师攻读硕士学位□风景园林硕士专业学位□西北农林科技大学研究生课程考试试卷封面（课程名称：）学位课□选修课□补修课□研究生年级、姓名所在学院及专业任课教师姓名考试日期考试成绩评卷教师签字处K-L 变换实验报告摘要K-L 变换，又称霍特林（Hotelling ）变换或者主成分分析(PCA)是均方差意义下的最佳变换，其突出优点是相关性好，得到的主成分是互相线性不相关的。
该方法是很多方面的常用算法，如人脸识别、图像压缩和信号传输等，其基本原理就是用较少数量的特征对样本进行描述以达到降低特征空间维数的方法，方法的基础是Karhunen-Loeve 展开式简称K-L 展开式。
本报告介绍了K-L 变换的基本原理，及其应用该方法进行人脸识别的基本步骤，并比较了基于总体散布矩阵和类间散布矩阵做为产生矩阵的K-L 变换进行的人脸识别，并对识别率进行了统计。
1. K-L 变换的基本原理特征脸方法是基于K-L 变换的人脸识别方法，K-L 变换是图像压缩的一种最优正交变换。
高维的图像空间经过K-L 变换后得到一组新的正交基，保留其中重要的正交基，由这些基可以张成低维线性空间。
如果假设人脸在这些低维线性空间的投影具有可分性，就可以将这些投影用作识别的特征矢量，这就是特征脸方法用于人脸识别的基本思想。
在人脸识别中，可以用离散K-L 变换对人脸图像的原始空间进行转换，即构造人脸图像数据集的协方差矩阵，对之进行正交变换，求出协方差矩阵的特征向量，再依据特征值的大小对这些特征向量进行排序，每一个向量表示人脸图像中一个不同数量的变量，这些特征向量表示特征的一个集合，它们共同表示一个人脸图像。
在人脸识别领域，人们常称这些特征向量为特征脸。
每一个体人脸图像都可以确切地表示为一组特征脸的线性组合。
这样我们首先通过有指导的训练（给定训练样本集已知分类）得到样本集在特征脸空间中的坐标。
KL变换与主成分分析
。由大于
的
对应的特征向量构成主成分，主成分构成的变换矩阵为：
这样每一幅为M×d。有了这样一个降维的子空间，任何一幅人脸图像都可以向其作投影
，即并获得一组坐标系数，即低维向量y，维数d×1,为称为KL分解系数。这组系数表明了图像在子空间的位置，从而可以作为人脸识别的依据。
矩阵形式：
上式两边乘以U的转置，得
向量y就是变换（降维）后的系数向量，在人脸识别Eigenface算法中就是用系数向量y代替原始特征向量x进行识别。
下面，我们来看看相关矩阵R到底是什么样子。
因此，我们可以看出相关矩阵R是一个实对称矩阵（或者严谨的讲叫正规矩阵），正规矩阵有什么特点呢？？学过《矩阵分析》的朋友应该知道：
若矩阵R是一个实对称矩阵，则必定存在正交矩阵U，使得R相似于对角形矩阵，即：
因此，我们可以得出这样一个结论：
降维后的系数向量y的相关矩阵是对角矩阵，即通过K-L变换消除原有向量x的各分量间的相关性，从而有可能去掉那些带有较少信息的分量以达到降低特征维数的目的。
2、主成分分析（PCA)
主成分分析（PCA）的原理就是将一个高维向量x,通过一个特殊的特征向量矩阵U，投影到一个低维的向量空间中，表征为一个低维向量y，并且仅仅损失了一些次要信息。也就是说，通过低维表征的向量和特征向量矩阵，可以基本重构出所对应的原始高维向量。
这个公式由来我想应该是任一n维欧式空间V均存在正交基，利用施密特正交化过程即可构建这个正交基。
现在我们希望用d个有限项来估计向量x，公式如下：
计算该估计的均方误差如下：
要使用均方误差最小，我们采用Langrange乘子法进行求解：
因此，当满足上式时，
取得最小值。
现代数字信号处理及其应用论文――KL变换的应用.
Karhunen-Loeve变换的应用摘要：本文对Karhunen-Loeve变换的原理进行了说明，重点分析了K-L变换的性质，结合K-L变换的性质，对K-L变换的具体应用进行了展示。
利用K-L变换在人脸识别、遥感图像特征提取、地震波噪声抑制、数字图像压缩、语音信号增强中的具体利用，深入总结了K-L变换在模式识别、噪声抑制和数据压缩领域的重要性。
关键字： Karhunen-Loeve变换 K-L变换 K-L展开1、Karhunen-Loeve变换定义1.1Karhunen-Loeve变换的提出在模式识别和图像处理等现实问题中，需要解决的一个主要的问题就是降维，通常我们选择的特征彼此相关，而在识别这些特征时，数据量大且效率低下。
如果我们能减少特征的数量，即减少特征空间的维数，那么我们将以更少的存储和计算复杂度获得更好的准确性。
于是我们需要一种合理的综合性方法，使得原本相关的特征转化为彼此不相关，并在特征量的个数减少的同时，尽量不损失或者稍损失原特征中所包含的信息。
Karhunen-Loeve变换也常称为主成分变换(PCA或霍特林变换，就可以简化大维数的数据集合，而且它的协方差矩阵除对角线以外的元素都是零，消除了数据之间的相关性。
所以可以用于信息压缩、图像处理、模式识别等应用中。
Karhunen-Loeve变换，是以矢量信号X的协方差矩阵Ф的归一化正交特征矢量q 所构成的正交矩阵Q，来对该矢量信号X做正交变换Y=QX，则称此变换为K-L 变换（K-LT或KLT），K-LT是Karhuner-Loeve Transform的简称，有的文献资料也写作KLT。
可见，要实现KLT，首先要从信号求出其协方差矩阵Ф，再由Ф求出正交矩阵Q。
Ф的求法与自相关矩阵求法类似。
1.2Karhunen-Loeve展开及其性质设零均值平稳随机过程u(n构成的M维随机向量为u(n,相应的相关矩阵为R，则向量u(n可以表示为R的归一化特征向量的线性组合，即，此式称为u(n的Karhunen-Loeve展开式，展开式的系数是由内积定义的随机变量，且有，。
(完整word版)超全的最新的人脸识别特征点定位方法
1.2 人脸特征点定位方法综述目前为止，国内外学者们已经提出了人脸特征点定位的方法[3]，依据定位所需要的基本信息的类型，人脸特征点定位的方法可以大致分为以下六类：(1)灰度信息的方法；(2)先验规则的方法；(3)几何形状的方法；(4)统计模型的方法；(5)小波的方法；(6)3D 方法。
1.2.1 基于灰度信息的方法几何投影法：几何投影方法是利用人脸特征灰度与其他部分的差异，先统计出不同方向上的灰度值和，根据和的变化找出特定的变化点，然后利用投影灰度值基于统计的方法将不同方向上的变化点位置相结合，找到人脸特征点的位置。
投影的方法计算量较低，但当姿态变化较大或者背景较复杂时容易失效。
谷分析：图像中亮度比周围像点暗的区域就称作谷，通过亮度比较的方法，就可以对人脸的各个关键部位如眼睛、眉毛、鼻子、嘴巴等相对较暗的区域进行定位。
虽然其受光照影响比较大，但考虑到计算量低的优势也在定位方法中常见。
1.2.1先验规则的方法根据人脸特征的一般特点总结出一些经验规则就称作基于先验规则的方法。
人脸图像有一些明显的基本特征，比如人脸的长度比例，满足“三庭五眼”，脸部区域的双眼、鼻子和嘴巴等脸部特征处的亮度一般低于其周边区域；两眼间的对称以及眼睛与鼻子的三角分布规律，都是人脸识别的重要根据。
此方法虽然简单，但是远远不能满足复杂的人脸结构的正确定位，于是该方法一般只用于粗定位，精定位还要结合其他的方法来实现。
镶嵌图法：我们可以用一组相同大小的方格去划分图像，每个方格的灰度取格中各像素灰度的均值，根据一定的规则确定哪些可能是人脸的方格区域，将确定的可能存在人脸的方格的变长减半，重新构建镶嵌图，重复第一步的工作，找到眼睛，鼻子，嘴巴等脸部特征所在的位置，然后对这两次得到的脸部区域二值化，利用边缘检测最终精确定位各个特征的位置。
二值化定位：得到图像的直方图，选择合适的阀值将图像二值化，二值化后区域的相对位置和面积形状等几何信息就可以用来确定瞳孔的位置，再通过眼睛与其他特征点的位置关系和几何关系等对其他的人脸特征点进行定位。
人脸识别的主要方法
1.1 人脸识别的主要方法目前，国内外人脸识别的方法很多，并且不断有新的研究成果出现。
人脸识别的方法根据研究角度的不同，有不同的分类方法。
根据输入图像中人脸的角度不同，可以分为正面，侧面，倾斜的人脸图像的识别；根据图像来源的不同，可分为静态和动态的人脸识别；根据输入图像的特点，又可分为灰度图像和彩色图像的人脸识别等等。
本文重点研究基于正面的、静态的灰度图像的识别方法。
对于静态的人脸识别方法从总体上看可以分为三大类：一是基于统计的识别方法，主要包括特征脸(Eigenface)方法和隐马尔科夫模型(Hidden Markov Model 简称HMM)方法等；二是基于连接机制的识别方法，包括人工神经网路(Artifical Neural Network 简称ANN)方法和弹性图匹配(Elastic Bunch Graph Matching 简称EBGM)方法等；三是一些其他的综合方法及处理非二维灰度图像的方法。
下面分别进行介绍。
1.1.1 基于特征脸的方法特征脸方法[5]，又称为主成份分析法(Principal Component Analysis 简称PCA)，它是20 世纪90 年代初期由Turk 和Pentland 提出的，是一种经典的算法。
它根据图像的统计特征进行正交变换(即K-L 变换)，以消除原有向量各个分量之间的相关性。
变换得到对应特征值依次递减的特征向量，即特征脸。
特征脸方法的基本思想是将图像经过K-L 变换后由高维向量转换为低维向量，并形成低维线性向量空间，利用人脸投影到这个低维空间所得到的投影系数作为识别的特征矢量。
这样，就产生了一个由“特征脸”矢量张成的子空间，称为“人脸子空间”或“特征子空间”，每一幅人脸图像向其投影都可以获得一组坐标系数，这组坐标系数表明了人脸在子空间中的位置，因此利用特征脸方法可以重建和识别人脸。
通过人脸向量向特征子空间作投影得到的向量称之为主分量或特征主分量。
基于K—L变换的人脸识别技术的探讨
的 脸 部 特 征 规 律 建 立 一 个 立 体 可 调 的 模 型 框 架 ， 在 定 位 出 人 的 脸 部 位 置 后 用 模 正 交 变 换 ， 人 们 将 它 用 于 统 计 特 征 提 型框架定 位和调整 人的脸部特征 部位， 取 ， 从 而 形 成 了子 空 间 法 模 式 识 别 的 基 — Ｌ 变 换 用 于 人 脸 识 别 ， 则 需 解 决 人 脸 识 别 过 程 中 的 观 察 角 度 、遮 挡 础 ， 若 将 Ｋ
１ ． 引言
物 特 征 一 样 与 生 俱 来 ，它 们 所 具 有 的 唯 的 形 状 、 大 小 和 结 构 上 的 各 种 差 异 才 使
一
个 立 体 可 调 的模 型 框 架 ，在 定位 出人 性 和 不 易 被 复 制 的 良好 特 性 为 身 份 鉴 得 世 界 上 每 个 人 脸 千 差 万 别 ， 因 此 对 这 的脸 部 位 置 后 用 模 型 框 架 定 位 和 调 整 人 别 提 供 了 必 要 的 前提 。随 着 计 算 机 技 术 些 部 件 的 形状 和 结 构 关 系 的 几 何 描 述 ， 的脸 部 特 征 部 位 ，着 重 于 解 决 人 脸 识 别 的 飞 速 发 展 ，人 脸 识 别 技 术 逐 渐 发 展 壮 可 以作 为 人 脸 识 别 的重 要 特 征 。 几 何 特 过 程 中 的 观 察 角 度 、遮 挡 和 表 情 变 化 等
的特 征 提 取 。 ３ ． Ｋ － Ｌ 变换 在 人脸 识 别 中 的应 用 Ｋ － Ｌ 变 换 是 图 象 压 缩 中 的 一 种 最 优
ａ ｔ １ ａ ｂ ／ Ｓ ｉ ｍ Ｌ ｌ １ ｉ ｎ ｋ 建 面对系 统的随机干扰 ，ｏ ｕ ｔ １ 则 代 表 簧 载 制 效 果 ，对 于 外 界 干 扰 的 变 化 具 有 良好 行 了 设 计 ， 并 利 用 Ｍ 的适应能力。 立 了１ ／ ４ 半 主 动 空 气 悬 架 车 辆 模 型 及 随 质 量 垂 直 方 向加 速 度 响 应 。 三 、１ ／ ４ 车 辆 模 型 仿 真 及 结 果 分 析 根据动载荷仿 真图形５ 和６ 可 知 ， 添 机 路 面 模 型 。根 据 仿 真 结 果 分 析 可 知 ， 本文采 用亚星牌Ｙ Ｂ Ｌ ６ ８ ９ ｌ Ｈ 大 型 客 车 加 模 糊 控 制 算 法 后 对 空 气 悬 架 的动 载 荷 在 以动 行 程 为 约 束 的 条件 下 ，空 气 悬 架 满 载 时 的 基 本 数 据 ， 所 设 定 的 约 束 条 件 衰 减 也 起 了 一 定 作 用 ， 对 动 载 荷 的 分 析 采 用 了模 糊 控 制 算 法 后 簧 载 质 量 垂 直 加 速 度 和 悬 架 动 载 荷 均 有 下 降 ，减 少 了对 是 悬 架 的 动 行 程 ， 悬 架 的 最 大 允 许 动 行 可 以 通 过 表 ２ 来做进一步分析说 明。
有遮挡人脸识别方法综述
2020，56（9）⦾热点与综述⦾1引言近几十年来，由于人脸图像中含有丰富的特征信息，人脸识别方法一直是最容易进行特征提取的生物识别方法，因此人脸识别顺势成为计算机视觉与模式识别领域内的一个研究热点。
人脸识别是生物识别技术的一种形式，涉及到计算机视觉、机器学习、模式识别和心理学等多个方面，是基于人独特的特征进行身份验证的有效手段。
人脸识别具有图像获取途径简单、成本较低，而且用于身份鉴定的过程中完全不需要接触目标等优点，所以人脸识别的应用范围越来越广，例如：罪犯识有遮挡人脸识别方法综述董艳花，张树美，赵俊莉青岛大学数据科学与软件工程学院，山东青岛266071摘要：现实人脸识别系统的图像采集过程中往往存在光照、姿态、遮挡等不确定性因素，传统的人脸识别方法识别效果不佳，有效地处理这些问题提高识别效率仍是人脸识别系统中的难点。
回顾了传统的人脸识别的相关方法，重点针对人脸遮挡的处理方法，从遮挡区域如何重构地生成模型，如何检测遮挡位置的判别模型及鲁棒特征提取三个方面进行了详细的综述，比较了各自的优缺点及应用场合，总结分析了目前有遮挡人脸识别存在的问题和未来研究方向。
关键词：遮挡人脸识别；子空间回归；遮挡字典；鲁棒误差编码；特征提取文献标志码：A中图分类号：TP391.41doi ：10.3778/j.issn.1002-8331.2001-0029董艳花，张树美，赵俊莉.有遮挡人脸识别方法综述.计算机工程与应用，2020，56（9）：1-12.DONG Yanhua,ZHANG Shumei,ZHAO Junli.Review of occlusion face recognition puter Engineering and Applications,2020,56（9）：1-12.Review of Occlusion Face Recognition MethodDONG Yanhua,ZHANG Shumei,ZHAO JunliSchool of Data Science and Software Engineering,Qingdao University,Qingdao,Shandong 266071,ChinaAbstract ：In the process of image acquisition in real face recognition system,there are always uncertain factors such as illumination,attitude and occlusion,and the recognition effect of traditional face recognition method is not good.Therefore,effectively handling these problems and improving recognition efficiency are still difficulty in part of face recognition systems.This article reviews the traditional methods of face recognition,focusing on the processing methods of face occlusion,this paper makes a detailed review from three aspects ：how to reconstruct the generation model of occlusion image,how to detect the discrimination model of occlusion position and robust feature extraction,their advantages,disad-vantages and application occasions are compared,the existing problems and future research directions of occluded face recognition are summarized.Key words ：occlusion face recognition;subspace regression;occlusion dictionary;robust error coding;feature extraction基金项目：国家自然科学基金（No.61702293，No.41506198）；虚拟现实应用教育部工程研究中心开发基金课题（No.MEOB-NUEVRA201601）。
K-L变换及例题
x2
t1
5
-5
5
x1
-5
t2
0
y
两组二维空间的数据（a）（b）如图所示， 试用K-L变 换来做一维的特征提取。
2
x2
2
1
2
x2
2
1
1
-2 -1
x1
12
-1
1
-2
-1
1
x1
2
-1
-2
-2
（a）
（b）
解：这两种情况下的期望向量 E [ x]0
对于数据（a），有
xa E ( x-E( x))( x-E( x))T
试用K-L变换做一维特征提取。
解：（1）
m
1 5
5 i 1
xi(1)
1 5
5 i 1
xi(2)
0
Pˆ (1) Pˆ (2 ) 5 /10 1/ 2
（2）
2
R E[xx']
i 1
Pˆ (i )E[x(i) x(i) ']
1 [1 25
5 i 1
xi(1) xi(1) ' ]
设 n 维随机向量 xr ( x1, x2,L , xn )T ，其均
[ ] 值向量 xr E[xr ]，相关矩阵 Rxr E xr xr T ，协方 [ ] 差矩阵Cxr E (xr - xr )(xr - xr )T ，xr 经正交变换后
产生向量 yr ( y1, y2 ,L , yn )T
DKLT的性质
(1)y的变自换相后关各矩特阵征和协分方量差不矩相阵关为
1
[ ] Ry E
yyT
E[(T 'x)(T 'x)'] T 'RxT
PCA算法详解
PCA算法详解主成分分析法主成分分析（Principal Component Analysis，简称PCA）方法是目前应用很广泛的一种代数特征提取方法，可以说是常用的一种基于变量协方差矩阵对样本中的信息进行处理、压缩和抽提的有效方法，主要通过K-L （Karhunen-Loeve）变换展开式从人脸数据库中提取人脸的主要特征[i]，构成特征脸空间，在识别时将待测试的人脸图像投影到特征脸空间，得到一组投影系数，与数据库中各个人脸图像进行比对识别。
这种方法保留了原向量在与其协方差矩阵最大特征值相对应的特征向量方向上的投影，即主分量(Principal Components)，因此被称为主成分分析。
由于PCA方法在进行降维处理和人脸特征提取方面的有效性，在人脸识别领域得到了广泛的应用。
它的核心思想是：利用较少数据的特征对样本进行描述以达到降低特征空间维数的目的，根据样本点在多维空间的位置分布，以样本点在空间中变化最大方向，即方差最大方向，作为差别矢量来实现数据的特征提取。
利用K-L变换抽取人脸的主要成分，利用特征脸法进行人脸识别的过程由训练阶段和识别阶段两个阶段组成。
3.1.1 K-L变换概述K-L变换是Karhunen-Loeve变换的简称，是一种特殊的正交变换。
它是建立在统计特性基础上的一种变换，它的突出优点是它能去相关性，而且是均方误差(Mean Square Error，MSE)意义下的最佳变换。
K-L变换的基本思想是在一个新的特征空间中将样本数据沿其特征矢量用对齐的方式进行旋转变换。
这个变换有效地克服了样本数据向量间的相关性，从而去除那些只带有较少信息的数据以达到降低特征空间维数的目的。
经过以上K-L变换得到的特征是原图像向量的正交分解，其图像信息的总能量不变，不损失任何信息。
在这个互相正交、可测量的特征空间中进行图像的特征提取可以有效地利用图像之间的差异，提取有效信息。
K-L特征空间中，较大特征值所对应的特征向量体现原图像的总体趋势以及低频分量，较小特征值所对应特征向量体现原图像的细节变化以及高频分量所以人们用PCA法提取图像总体特征，其目的是用较少数量的特征对样本进行描述，同时又能保留所需要的识别信息。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
y的相关矩阵，对角矩阵 Ry AT Rx A diag (1, 2 ,, n ) Rx的特征根，且λ1≥λ2≥…≥λn
Rx ai i ai
若Rx是正定的, 则它的特
征值是正的。 此时变换
式称为K-L变换。
λi的正交化、 归一化特征向量,
aiTai=1, aiTaj=0(i≠j; i, j=1, 2, …, n)
1 x （1）计算训练样本集的平均图像向量： N
x
i 1
N
i
利用K-L变换法进行人脸识别
（2）计算协方差矩阵： E
x xห้องสมุดไป่ตู้ x x
T
1 N T 或 xi x xi x N i 1
利用K-L变换法进行人脸识别 （3）求出其特征值λi及对应的正交化、归一化特征向量ai ，将
可以选取最大的前K个特征向量，使得
i 1 i 1 d
K
i
a
i
在上式中，可以选取a=99%。这说明样本集在前K个轴上
的能量占全部能量的99%以上。
（6）将待识别人脸的系数向量与已知人脸图像在特征子空间 中的投影系数相比较，判断人的身份。
利用K-L变换法进行人脸识别
两点说明：1、如何判决非人脸图像？
对于任意待识别样本 f , 亦可通过向“特征脸”子空间
投影获得其系数向量：
y (a1, a2 ,, ad )T f
2 2
其重现图像为
f (a1, a2 ,, ad ) y
特征值按照从大到小进行排序λ1≥λ2≥…≥λn 。
（4）取出前 d 个最大特征值及其对应的正交化、归一化特征 向量a1, a2, …, ad 。分别将这 d 个特征向量化为 p 行 q 列矩阵， 得到 d 幅图像，称为“特征脸”。由“特征脸” a1, a2, …, ad 张成一个降维的特征子空间。
对应前30个最大特 征值的特征向量的
（2）原理详解（包括详细步骤）
利用K-L变换法进行人脸识别
K-L变换的重要应用——人脸识别
分类器设计： – 搜集要识别的人的人脸图像，建立人脸图像库； – 利用K-L变换确定人脸基图像； – 用这些基图像对人脸图像库中的有人脸图像进行K-L变换， 从而得到每幅图像的参数向量，并将每幅图的参数向量存 起来，形成人脸分类器。 识别: – 对所输入的待识别人脸图像进行必要的规范化； – 进行K-L变换分析，得到其参数向量； – 将这个参数向量与库中每幅图的参数向量进行比较，找到 最相似的参数向量，也就等于找到最相似的人脸，从而认 为所输入的人脸图像就是库内该人的一张人脸，完成了识 别过程。
d
O
0.5d
1.5d
d
d
利用K-L变换法进行人脸识别
由于人脸结构的相似性，当把很多人脸图像规一化后， 这些图像在这一超高维空间中不是随机或散乱分布的，而是 存在某种规律。因此，可以通过K-L变换用一个低维子空间
描述人脸图像，同时又能保存所需要的识别信息。
利用K-L变换法进行人脸识别
第二步：利用K-L变换进行人脸识别 – 设训练样本集为 X {x1, x2 ,, xN } ,包含N 个人脸图像。 N为训练样本的总数，xi 为第i个训练样本图像向量。
选择相关矩阵Rx的d个最大的特征值对应的特征向量构成变换 矩阵A, 得到的均方误差将会最小, 是n-d个极小特征值之和。
利用K-L变换法进行人脸识别
上述分析中采用的是样本的相关矩阵, 也可 以采用样本的协方差矩阵进行分析。
利用K-L变换法进行人脸识别
K-L变换的重要应用——人脸识别
（1）方法概述
图像——“特征脸”
利用K-L变换法进行人脸识别
（5）对于任意待识别样本 f , 通过向“特征脸”子空间投影获
y 得其系数向量 (a1 , a2 ,, ad ) f
T
。
– 任何一幅人脸图像 f 都可以向a1, a2, …, ad做投影并获得一组 坐标系数，这组系数表明了该图像在子空间中的位置，从而 可以作为人脸识别的依据。 – 换句话说，任何一幅人脸图像都可以表示为这组“特征脸” 的线性组合，其加权系数即是K-L变换的展开系数，也可以 称为该图像的代数特征。 – 这样，每一幅人脸图像对应于该子空间中的一个点。同样， 这个空间中的任一点也对应于一幅图像。
它可以被看为 p×q 维空间中的一个点。
利用K-L变换法进行人脸识别
利用K-L变换法进行人脸识别
第一步：图像的预处理：得到标准图像
– 步骤： • 旋转: 人脸方向一致性 • 剪裁：O(0.5d,d) 人脸平移不变性 • 比例：128×128 人脸尺度不变性 – 规一化：统一人脸图像的大小， 消除头发和背景的影响。 – 灰度拉伸：改善图像对比度 – 直方图修正：统一的均值和 方差，部分消除光照强度影响。
RSN 10lg f f f
其重建图像的信噪比为
若小于某一阈值 ，则可判决不是人脸图像。利用这一点，
可以做人脸检测。
利用K-L变换法进行人脸识别
两点说明：2、特征向量的选取如何控制？ 我们总共得到了d 个特征向量。虽然d 比p×q小很多，但 通常情况下d 仍然会太大。而事实上，根据应用的要求，并非 所有的ai 都有很大的保留意义。
利用K-L变换法进行人脸识别
x=(x1, x2, …, xn)T ：n维随机向量
y AT x
x的相关矩阵, 对称矩阵
A =(a1, a2, …, an), ：标准正交矩阵
y=(y1, y2, …, yn)T ：x经正交变换后的向量
Ry E( yyT ) E[AT xxT A] AT Rx A
利用K-L变换法进行人脸识别
主分量分析(PCA)
利用K-L变换法进行人脸识别
一种处理多维的方法是采用组合特征的方法来降 低维数, 其中, 特征的线性组合计算简单且能够进行解 析分析。 从本质上来说, 线性变换就是将高维空间的 数据投影到低维空间的过程。 主分量分析是一种有效
的特征线性变换方法, 也称为K-L变换。 K-L变换是一
种基于目标统计特性的最佳正交变换, 它的最佳性体
现在变换后产生的新的分量正交或不相关。
利用K-L变换法进行人脸识别
4.4.1 Karhunen-Loeve变换
K-L变换方法：以样本特征向量在特征空间分布为原始数据，
通过实行K-L变换，找到维数较少的组合特征，达到降维的
目的。 何谓最佳？几点说明： – 原特征空间是n 维的，现希望降至d 维，d<n 。 – d+1 维以上的成分略去，显然原信号会因此受到一些损失， 存在误差。 – 在给定一个训练样本集条件下要找一个最好的正交变换， 将原信号用一组正交变换基 ai 表示，使这种误差从总体上 来说是最小。最常用的指标是均方误差最小，或称均方误 差的期望值最小。
利用K-L变换法进行人脸识别
K-L变换进行人脸识别的原理
设一幅p×q大小的人脸图像, 可以将它看成是一个矩阵 (fij)p×q, fij为图像在该点的灰度级。 若将该矩阵按列相连构成 一个p×q维向量，即 x=(f11, f21, …, fp1, f12, f22, …, fp2, …, f1q, f2q, …, fpq)T
估计的均方误差为
2 2 ˆ (d ) E x x E
i d 1
ya
n
2
i i
n n n 2 T T E[ yi ] ai E[ xx ]ai i i d 1 i d 1 i d 1
利用K-L变换法进行人脸识别
yA x
T
x ( AT ) 1 y Ay y1 n y2 =(a1 , a2 , , an ) yi ai i 1 yn
d 选择x关于ai的展开式的前d项 ˆ x yi ai , (1 m n) 在最小均方误差准则下估计x i 1