一种基于改进高斯过程隐变量模型的多角度人脸识别算法

根据式(8)，对超参数 F 求满足式(9)的最优解， 从而得到 GP 的最优参数。
3
本文算法
3.1 建立模型 从流形的角度，认为人脸属于一个流形 (Face Manifold, FM)， 任意两个 FM 之间必然存在着一定 的相关性，且又各自具有独立性，假设Y 和 Z 代表 X Z 代表 Z 的 任意两个 FM， 则 XY 代表Y 的独有性， 独有性， 即两个独有信息子空间， 称其为 PGP-LVM (Private GP-LVM), XS 代表Y 与 Z 的相关性，即共 有 信 息 子 空 间 ， 称 其 为 SGP-LVM(Shared GPLVM)，其空间关系如图 1 所示。 由图 1 可知，FM 与子空间是互为映射关系， 即 FM (PGP - LVM) + (SGP - LVM) 。 3.2 SGP-LVM (Shared GP-LVM) 根据 CCA(Canonical Correlation Analysis)算
图 1 FM 与子空间关系图
第9期
刘
剑等： 一种基于改进高斯过程隐变量模型的多角度人脸识别算法
K æ ö 1 i i T 1 ç ÷ C QY QY CY ÷ V = lVY ç ( ) å Y ÷ ç ÷ Y ç è ø i =1 1 VY
2035
法，Y 和 Z 可以通过降维方式，从高维人脸流形映 射到同一个低维流形，假设低维流形为 X ，则 X 与 Y , Z 的关系如图 2 所示。
2013-04-01 收到，2013-06-13 改回 国家自然科学基金 (61272253) 和国家住建部科技计划项目 (2010K9-22)资助课题 *通信作者：刘剑 jeanliu10@163.com
人[5]提出局部线性嵌入(LLE)算法，利用流形降维的 方式区别各类数据；Cevikalp 等人[6]提出相似度量 Liu 等 比较模型(SMCM)算法对不同人脸进行识别； [7] 人 提出线性优化在图像中的识别 (OLRM) 算法； Wright 等人[8]提出使用稀疏表示(SP)算法，利用稀 疏表示对人脸识别，这些算法主要针对无角度人脸 识别，在正脸识别中取得较好的结果，但由于其对 人脸样本要求较高，造成无法解决多角度人脸识别 的问题。 针对多角度人脸识别问题，Hamm 等人[9]提出 使用 Grassmann 流形判别分析对不同角度的人脸进 Wang 等人[10]结合 GDA 算法提出核 行识别(GDA)； Grassmann 流形判别分析(KGDA)，对 GDA 算法
(College of Information Science and Engineering, Northeastern University, Shenyang 110004, China)
(College of Information and Control Engineering, Shenyang Jianzhu University, Shenyang 110168, China)
p (Y X , F ) =
F
ò p (Y
f )p ( f X , F ) df
(8) (9)
= arg max p(Y | X , F) F
2
预备知识
2.1 高斯过程(GP) 任何一个 D 维的高斯分布可以定义为一个 D 行的均值向量和一个 D ´ D 的协方差矩阵， GP 不是 通过固定多个复杂矩阵的维数，而是利用均值 u(x ) 和协方差函数 k (x , x' ) 做式(1)的定义： GP = GP(u(x ), k (x , x' )) (1) 其中，由于协方差函数需要指定有效的协方差矩阵 计算在其域中的任何有限子集，则要求同一功能函 数作为 Mercer 核的协方差函数。 GP 可以认为是无限尺寸的高斯分布， 假设 f 是 输入范围 X 与目标范围Y 的功能函数，且 X Î R D , Y Î R ，则关联函数为 yi = f (x i ) (2) 其中 x i Î X , yi Î Y ，且 i = 1, 2, , N ，利用先验分 布将式(2)与 GP 建立联系，记为 f GP (u, k ) 。设 关联函数的分布情况满足正态分布，则输出值 y 满 足式(3)所示的条件： (y1, y2 ) N (u, S) (3) 其中 u 表示均值， S 表示 y1, y2 的协方差矩阵，将式 (3)进一步表示为 ì ï ïy1 N (u1, S11 ) N (u, S ) ï (4) í ï y N (u2 , S22 ) ï ï î 2
结合式(3)和式(4)可以得到 y 的高斯分布。 为了使关联函数 f 更加接近真实情况，通常加 入外界噪声干扰因素，则式(2)重新定义为 yi = f (x i ) + e (5) 其中 e 表示噪声因素，且 e N (wk.baidu.com, b ) 。 根据协方差函数的定义，可以将协方差函数与 Mercer 核进行关联，表示为 k (x , x' ) = E éëê( f (x - u(x ))) ( f (x' ) - u (x' ))ùûú (6) 由式(6)可得，协方差函数可以由 Mercer 核进行表 示。 2.2 概率模型 通常选取径向基函数 (Radial Basis Function, RBF)核作为协方差函数的关联核函数：
2034
电 子 与 信 息 学 报
第 35 卷
进行改进；Harandi 等人[11]提出在 Grassmann 流形 上使用图嵌入判别分析进行人脸识别。 文献[9-11]提出的算法都是基于谱算法， 而谱算 法存在矩阵变化求取特征值和特征向量的过程，造 成 计 算 复 杂 度 高 的 问 题 。 GP-LVM(Gaussian Process Latent Variable Mode) [12-15] 是一种非线性 降 维 技 术 ， 是 PPCA(Probabilistic Principal Component Analysis)的对偶形式。 GP-LVM 利用高 斯过程对数据空间进行分析，建立从低维隐空间到 高维空间的映射关系，通过最大化观测数据的联合 密度，优化出数据在隐变量空间中的坐标位置，从 而进行数据降维，回避传统谱方法求取特征值和特 征向量的过程。基于高斯过程隐变量模型的优势， 笔者提出一种改进 GP-LVM 的多角度人脸识别算 法 (Shared and Private GP-LVM, SPGP-LVM), Shared GP-LVM 得到不同角度人脸的共有特征， 利 用共有特征解决不同角度人脸识别问题； Private GP-LVM 得到不同角度人脸的独有特征，进一步判 断待识别人脸的角度区间。使用 Yale 数据集与 JAFFE 数据集验证算法在无角度人脸识别中的应 FERET 数据集与 CMU-PIE 数据集验证了算法 用； 在多角度人脸识别中的优势。
A Multi-angle Face Recognition Algorithm Based on Modified Gaussian Process Latent Variable Mode
Liu Jian
① ② ①②
Gong Zhi-heng
②
Wu Cheng-dong
①
Gao En-yang
②
②
(东北大学信息科学与工程学院
沈阳 沈阳
(沈阳建筑大学信息与控制工程学院
摘
要：针对传统谱算法在人脸识别中的局限，该文提出一种基于改进高斯过程隐变量模型(GP-LVM)的多角度人
脸识别算法。首先，通过高斯过程(GP)对人脸流形建立概率模型，得到高斯过程隐变量模型(GP-LVM)；其次，分 析 GP-LVM 得到共有信息(shared information)和独有信息(private information)，利用概率最大化与拉格朗日乘子 法得到参照矩阵和参照值；最后，实现多角度人脸识别。选取 Yale, JAFFE, FERET, CMU-PIE 4 类数据集进行 对比实验，实验结果表明：该文提出的算法可以有效地识别多角度人脸，针对无角度人脸识别也具有良好的效果。 关键词：人脸识别；高斯过程；谱算法；隐变量模型；共有信息；独有信息 中图分类号： TP391.41 DOI: 10.3724/SP.J.1146.2013.00412 文献标识码： A 文章编号： 1009-5896(2013)09-2033-07
Abstract: The traditional spectrum algorithms are limited in face recognition issue. For its characteristics of issue, a novel multi-angle face recognition method based on modified Gaussian Process Latent Variable Mode (GP-LVM) is proposed. Firstly, the probabilistic model of face manifold is established with the Gaussian Process (GP), and the GP-LVM can be gotten. Secondly, the shared information and private information can be gotten by analyzing the GP-LVM. Thereafter, the reference matrices and the reference values are calculated with maximum probability and Lagrange algorithm. Finally, the multi-angle face recognition can be achieved. The four classes of data sets are selected as the experimental data, which consist of Yale, JAFFE, FERET and CMU-PIE. The experiment results show that the proposed method not only has a great effect to recognize multi-angle face, but it can be applied to no angle face recognition. Key words: Face recognition; Gaussian Process (GP); Spectrum algorithm; Latent Variable Mode (LVM); Shared information; Private information
k (x i , x j ) = q1e
q2 xi -x j 2
2 2
-1
(7)
在模型建立过程中，涉及多个 RBF ，将多个 RBF 中的变量 {q1, q2 , } ，噪声因素方差 b -1 作为 GP 的超参数 F = (q1, , b ) ，将 f 与 F 进行关联，可 以得到先验的概率模型：
1
引言
近年来，人脸识别问题是模式识别领域较为热 点问题，一些特定算法与支持向量机(SVM)[1]结合， 如尺度不变特征变换 (SIFT)[2] 、梯度方向直方图 (HOG)[3]、主成分分析(PCA)[4]等，其本质是特征提 取后，对其进行分类，从而对人脸进行识别。但这 些代表算法只能对是否为人脸进行识别，无法判断 不同人脸间的区别。 不同人脸间识别问题具有其特殊性，Roweis 等
第 35 卷第 9 期 2013 年 9 月
电 子 与 信 息 学 报 Journal of Electronics & Information Technology
Vol.35No.9 Sept. 2013
一种基于改进高斯过程隐变量模型的多角度人脸识别算法
刘
① ②
剑
*①②
龚志恒
②
吴成东
①
高恩阳
110004) 110168)