最小二乘积的最优化方法和应用
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
邓智明：1982－，男，广东高要人，在读硕士研究生。国家自然科学基金资助项目（批准号：60472083）
在虹膜识别系统当中，虹膜定位的精确度影响着虹膜特征提取的性能。在虹膜定位的一些研究 当中，Daugman提出了搜索虹膜的中心和半径的方法来定位虹膜的边缘[1]。该算法的速度很大程度上 依赖于对虹膜图像库的先验统计信息。另一个因素是以圆心候选集的每一个点为圆心,沿半径方向搜 寻圆形模板,这是一个很耗时的搜索过程。Wildes提出了一种基于Hough变换的方法来定位虹膜边界 [2]。Hough变换具有四个明显的缺点：第一，Hough变换的计算量很大，因为每个边缘点必须投影到 参数空间的曲面上，是一对多的投影。第二，运算时占用内存大。第三，提取的参数受参数空间的 量化间隔影响。第四,要求二值图像在参数空间进行全空间投票,才能得到虹膜内外边缘的参数[3]。 D.Zhang提出了用改进的RANSAC(Random Sample Consensus)方法定位虹膜[3]。该算法的缺点是速度 很大程度上依赖选取的随机样本集的质量，有可能经过很多次随机样本集的选取才找到合适的目标 模型，大大影响了整个系统的速度。而且该算法并不稳定，它的每次定位结果都依赖于候选点集中 选取的点。
图 5 是通过以上方法求出的外边缘候选点的结果，图 5 中依旧存在受眼睑和眼睫毛造成的大量 的非外边缘点的影响，但不影响运用非线性最小二乘法对虹膜外边缘拟合的效果。虹膜外边缘的拟 合结果如图 6 所示。
图 5 候选外边缘点 Fig. 5 Edge Points on Outer Boundary
图 6 虹膜外边缘定位结果 Fig. 6 Result of Outer Boundary Localization
d = ( x − x o ) 2 + ( y − y o ) 2 − r ， (x, y) ∈{(xi , yi ) | i = 1, 2,..., m} （3）
因为(3)式中有根号不便于求解，所以对（3）式进行变形，方便求得结果。 d 是变量 d 的均值。
d
≈
1 2r
((x − xo )2
+ (y −
式的矩阵形式：
d = F (w) = awT w + bT w + c
（5）
利 用 (5) 式 可 以 导 出 （6）
⎧ ⎪Po ⎪
=
(xo ,
yo )
=
ቤተ መጻሕፍቲ ባይዱ
⎛ ⎜⎝
−
b1 2a
,
⎨
⎪ ⎪⎩ r
=
b 2 −c 4a2 a
−
b2 2a
⎞ ⎟⎠
∑ ∑ 所有的边缘点的代数距离平方和为： D =
m
2
di
=
Kμ 2 =
图 3. 通过 Canny 算子边缘检测的图像 Fig. 3 Contour of Iris by using Canny Edge Detection Operator
图 4 灰度值垂直投影
Fig. 4 Vertical Projection of Gray Level
3.2.2 基于候选边缘点集，用最小二乘法定位虹膜外边缘
2 非线性最小二乘法的理论
设定存在一组输入序列{ X n }和{Yn }，分别对应候选点的 x，y 坐标向量，输出序列{D},用最小
二乘法拟合圆。已知输入与输出的函数关系为
d(xi , yi , C) = | (xi - xo )2 + (yi - yo )2 - r2 |
（1）
当中 d(xi , yi , C) 是点 (xi , yi ) 到圆上的距离。系数向量 C = [ xo yo r ]未知。现在要求出 C =
Abstract- Iris localization is very important for all the iris recognition system. In previous research, the accuracy and the speed of locating algorithm are constrained by each other. Most accurate locating algorithm can’t satisfy the time require of iris recognition system. In this paper, we propose a nonlinear method using the nonlinear data which are the candidate edge pixels of iris to fit the iris boundaries by least squares. The experiments of the proposed algorithm has been compared among other implemented algorithms on the CASIA iris image database, and experiment results demonstrated that the proposed algorithm has the fastest speed while ensure the locating accuracy. Key words － iris recognition; iris localization; nonlinear data fitting; least squares
Fitting Iris Boundaries by Improved Non-linear Least Squares Algorithm
Deng Zhiming, Lu Chenhong
（National Key Lab. of Integrated Services Networks, Xidian University,Xi’an,710071)
表 1. 各个虹膜定位算法在速度和准确率上的比较
Tab.1 Comparison of Localization Speed and Accuracy with Other Method
Daugman 的算 基于 Hough 变 改进的 RANSAC 非线性最小二
法
换的方法
方法
乘法
平均时间(秒)
2.67
蚀和膨胀的操作后，标记出的最大的连通域，定位瞳孔区域。对瞳孔做数学形态学的处理后，候选 的内边缘点如图 1 所示。用非线性最小二乘法拟合的虹膜内边缘结果如图 2 所示。
图 1 虹膜内边缘点
图 2 虹膜内边缘定位结果
Fig. 1 Inner Boundary
Fig. 2 Result of inner boundary Localization
[ xo yo r ]，使得以下(2)式成立
∑ min
1 2
||
D
−
Dn
||2
=
min
1 2
i
(d (x, y, C) − Dn )2
（2）
当中 D = {d (xi , yi , C)} , i = 1, 2, …, K { Dn = 0}为序列{D}的输出期望序列。
在此，设定理想圆心为 Po (xo , yo ) ,半径为 r，则边缘点距离圆的代数距离方程为
在此，为了改善虹膜定位算法的速度，本文引入非线性最小二乘法的方法来定位虹膜。最小二 乘法是数学估计实验中一种十分好的方法，可以很简单的找出数据之间不确定的关系，是一个很简 单的求解方程的过程，不存在耗时的搜索过程因而可以在复杂的环境下快速准确地定位虹膜。本文 提出的最小二乘法是在一个约束条件下实现的，该约束条件可以提高最小二乘法的准确度和速度， 从而避免了计算量很大的迭代方法。同时，采用了灰度垂直投影方法求出虹膜外半径的大概范围来 去掉不准确的边缘点，，从而简单的获取到一个候选边缘点点集，进一步提升了算法的准确度。
在此，利用 Canny 边缘检测算子对图像进行边缘检测，图 3 所示的是虹膜图像的边缘检测结果。 虹膜外边缘点的选取是很重要的。由图 3 可以看到边缘检测后包含大量的非边缘点，过量的非 边缘点是会影响非线性最小二乘法的拟合效果的，为使得外边缘的候选边缘点更接近真正的外边界 边缘点更集中，通过虹膜图像的灰度垂直投影大概求得虹膜外半径的范围来尽量去掉外半径范围外 的非边缘点。灰度的垂直投影如图 4 所示。
正常 边界
眼睫毛阻挡
运动模 眼睛没 虹膜区域
质量 比较
糊
有完全 中具有黑
1.72
2.20
0.81
最少时间(秒)
2.59
1.59
1.91
0.54
最多时间(秒)
2.85
1.97
2.78
1.02
准确率
98.1%
94.7%
95.7%
96.3%
表 2. 各种图像质量下的定位准确率
Tab.2 Accurate Rate between Different Quality Images in CASIA
改进的非线性最小二乘法拟合虹膜内外边界
邓智明，路陈红
（西安电子科技大学 ISN 国家重点实验室，西安，710071）
摘 要： 虹膜定位在虹膜识别系统中有十分重要的作用。在现有的研究当中，定位算法的准确度和速度是相互 约束的。大部分准确的定位算法都不能满足虹膜识别系统的实时要求。本文提出了一种新颖的非线性方法，利用虹 膜边缘候选点作为非线性数据，用最小二乘法来拟合出虹膜的边缘。本文对该算法进行了实验，并与其他现有的算 法在 CASIA 虹膜图像库上进行比较，实验结果显示本文提出的算法在保证准确率的基础上具有最快的速度。 关键词： 虹膜识别；虹膜定位；非线性数据拟合；最小二乘法
yo )2
−r2) ，
(x,
y)
∈
{( xi ,
yi
)
|
i
=
1,
2 , ...,
m}
（4）
在此,令
a= 1 , 2r
w=⎛⎜ ⎝
xy⎞⎟⎠,
b=⎝⎜⎛bb12
⎞⎟, ⎠
c= xo2 +yo2 −r2 , 2r
当中
ìïïïï íïïïïïî
b1 b2
= =
− xo r
− yo r
（4）式可以简化为(5)
1 引言
在现今生活中，个人身份识别变得越来越重要，个人身份识别系统其实就是生物特征识别系统， 例如指纹，脸型，声音，虹膜等。对比于各种各样的识别系统，虹膜识别技术因为具有比于其他的 生物识别技术更快，更简单，更准确的特点，因而引起了人们广泛的关注。虹膜识别技术采用人类 当中具有唯一性的虹膜进行认证与鉴别，它已经广泛的被认为是生物识别技术中最可靠的方法[5]。
b12 + b22 − 4ac = 1
（8）
在约束条件(8)下引入拉格朗日乘算子，求取 D 的极小值，从而求出最合适的 μ 。利用 μ ，可以
求出圆心 Po (xo , yo ) 和半径 r,就得到用于拟合虹膜边缘的参数。
3 最小二乘法定位虹膜内外边界
3.1 虹膜的内边缘定位 根据瞳孔和虹膜边缘的灰度突变特征，选取适当阈值将原始图像转为二值化图像。然后通过腐
3.2 虹膜的外边缘定位
虹膜外边缘也可以运用非线性最小二乘法来拟合，但比拟合虹膜的内边缘难度要大，因为虹膜 的外边缘在灰度变化上比较平缓和较模糊，而虹膜的内边缘则十分明显。因而在外边缘上很难获取 比较好的外边缘候选点集，会存在比较多的非边缘干扰点。
3.2.1 利用灰度值的垂直投影，去掉大部分非边缘点
m
[(xi2 + yi2 , xi , yi ,1) μ]2
i =1
i =1
（7）
当中 μ = (a, b1, b2 , c)T , ki = [xi2 + yi2 , xi , yi ,1]T , K = [k1, k2 ,...km ]T 只要从（7）式求得最小的 D,就可以满足（2）式。从而可以求出需要的 μ 值。同时为了避免得 到无意义的计算结果 μ(0, 0, 0, 0) ，本文通过加上约束条件的思想，引入了系数约束条件式(8)
4 实验结果
实验当采用了由中科院采集的 CASIA 虹膜图像库，当中具有 756 幅虹膜图像。算法只对其中 16
幅图像定位不准确，准确率为 96.3%。该算法和其他算法的比较可以见表 1。实验是在 PIII 750 的 计算机上通过 MATLAB 完成的。
从表 1 可以看出基于 Daugman 的算法有最好的定位准确率但是它却花费了最多的时间去定位虹 膜。基于 Hough 变换的方法和改进的 RANSAC 方法的准确率都满足要求，但定位虹膜边缘需要较长时 间，而本文提出的算法具有很好的准确率和最快的速度。从表 2 可看出该算法在各种质量的虹膜图 像下的定位准确率。
在虹膜识别系统当中，虹膜定位的精确度影响着虹膜特征提取的性能。在虹膜定位的一些研究 当中，Daugman提出了搜索虹膜的中心和半径的方法来定位虹膜的边缘[1]。该算法的速度很大程度上 依赖于对虹膜图像库的先验统计信息。另一个因素是以圆心候选集的每一个点为圆心,沿半径方向搜 寻圆形模板,这是一个很耗时的搜索过程。Wildes提出了一种基于Hough变换的方法来定位虹膜边界 [2]。Hough变换具有四个明显的缺点：第一，Hough变换的计算量很大，因为每个边缘点必须投影到 参数空间的曲面上，是一对多的投影。第二，运算时占用内存大。第三，提取的参数受参数空间的 量化间隔影响。第四,要求二值图像在参数空间进行全空间投票,才能得到虹膜内外边缘的参数[3]。 D.Zhang提出了用改进的RANSAC(Random Sample Consensus)方法定位虹膜[3]。该算法的缺点是速度 很大程度上依赖选取的随机样本集的质量，有可能经过很多次随机样本集的选取才找到合适的目标 模型，大大影响了整个系统的速度。而且该算法并不稳定，它的每次定位结果都依赖于候选点集中 选取的点。
图 5 是通过以上方法求出的外边缘候选点的结果，图 5 中依旧存在受眼睑和眼睫毛造成的大量 的非外边缘点的影响，但不影响运用非线性最小二乘法对虹膜外边缘拟合的效果。虹膜外边缘的拟 合结果如图 6 所示。
图 5 候选外边缘点 Fig. 5 Edge Points on Outer Boundary
图 6 虹膜外边缘定位结果 Fig. 6 Result of Outer Boundary Localization
d = ( x − x o ) 2 + ( y − y o ) 2 − r ， (x, y) ∈{(xi , yi ) | i = 1, 2,..., m} （3）
因为(3)式中有根号不便于求解，所以对（3）式进行变形，方便求得结果。 d 是变量 d 的均值。
d
≈
1 2r
((x − xo )2
+ (y −
式的矩阵形式：
d = F (w) = awT w + bT w + c
（5）
利 用 (5) 式 可 以 导 出 （6）
⎧ ⎪Po ⎪
=
(xo ,
yo )
=
ቤተ መጻሕፍቲ ባይዱ
⎛ ⎜⎝
−
b1 2a
,
⎨
⎪ ⎪⎩ r
=
b 2 −c 4a2 a
−
b2 2a
⎞ ⎟⎠
∑ ∑ 所有的边缘点的代数距离平方和为： D =
m
2
di
=
Kμ 2 =
图 3. 通过 Canny 算子边缘检测的图像 Fig. 3 Contour of Iris by using Canny Edge Detection Operator
图 4 灰度值垂直投影
Fig. 4 Vertical Projection of Gray Level
3.2.2 基于候选边缘点集，用最小二乘法定位虹膜外边缘
2 非线性最小二乘法的理论
设定存在一组输入序列{ X n }和{Yn }，分别对应候选点的 x，y 坐标向量，输出序列{D},用最小
二乘法拟合圆。已知输入与输出的函数关系为
d(xi , yi , C) = | (xi - xo )2 + (yi - yo )2 - r2 |
（1）
当中 d(xi , yi , C) 是点 (xi , yi ) 到圆上的距离。系数向量 C = [ xo yo r ]未知。现在要求出 C =
Abstract- Iris localization is very important for all the iris recognition system. In previous research, the accuracy and the speed of locating algorithm are constrained by each other. Most accurate locating algorithm can’t satisfy the time require of iris recognition system. In this paper, we propose a nonlinear method using the nonlinear data which are the candidate edge pixels of iris to fit the iris boundaries by least squares. The experiments of the proposed algorithm has been compared among other implemented algorithms on the CASIA iris image database, and experiment results demonstrated that the proposed algorithm has the fastest speed while ensure the locating accuracy. Key words － iris recognition; iris localization; nonlinear data fitting; least squares
Fitting Iris Boundaries by Improved Non-linear Least Squares Algorithm
Deng Zhiming, Lu Chenhong
（National Key Lab. of Integrated Services Networks, Xidian University,Xi’an,710071)
表 1. 各个虹膜定位算法在速度和准确率上的比较
Tab.1 Comparison of Localization Speed and Accuracy with Other Method
Daugman 的算 基于 Hough 变 改进的 RANSAC 非线性最小二
法
换的方法
方法
乘法
平均时间(秒)
2.67
蚀和膨胀的操作后，标记出的最大的连通域，定位瞳孔区域。对瞳孔做数学形态学的处理后，候选 的内边缘点如图 1 所示。用非线性最小二乘法拟合的虹膜内边缘结果如图 2 所示。
图 1 虹膜内边缘点
图 2 虹膜内边缘定位结果
Fig. 1 Inner Boundary
Fig. 2 Result of inner boundary Localization
[ xo yo r ]，使得以下(2)式成立
∑ min
1 2
||
D
−
Dn
||2
=
min
1 2
i
(d (x, y, C) − Dn )2
（2）
当中 D = {d (xi , yi , C)} , i = 1, 2, …, K { Dn = 0}为序列{D}的输出期望序列。
在此，设定理想圆心为 Po (xo , yo ) ,半径为 r，则边缘点距离圆的代数距离方程为
在此，为了改善虹膜定位算法的速度，本文引入非线性最小二乘法的方法来定位虹膜。最小二 乘法是数学估计实验中一种十分好的方法，可以很简单的找出数据之间不确定的关系，是一个很简 单的求解方程的过程，不存在耗时的搜索过程因而可以在复杂的环境下快速准确地定位虹膜。本文 提出的最小二乘法是在一个约束条件下实现的，该约束条件可以提高最小二乘法的准确度和速度， 从而避免了计算量很大的迭代方法。同时，采用了灰度垂直投影方法求出虹膜外半径的大概范围来 去掉不准确的边缘点，，从而简单的获取到一个候选边缘点点集，进一步提升了算法的准确度。
在此，利用 Canny 边缘检测算子对图像进行边缘检测，图 3 所示的是虹膜图像的边缘检测结果。 虹膜外边缘点的选取是很重要的。由图 3 可以看到边缘检测后包含大量的非边缘点，过量的非 边缘点是会影响非线性最小二乘法的拟合效果的，为使得外边缘的候选边缘点更接近真正的外边界 边缘点更集中，通过虹膜图像的灰度垂直投影大概求得虹膜外半径的范围来尽量去掉外半径范围外 的非边缘点。灰度的垂直投影如图 4 所示。
正常 边界
眼睫毛阻挡
运动模 眼睛没 虹膜区域
质量 比较
糊
有完全 中具有黑
1.72
2.20
0.81
最少时间(秒)
2.59
1.59
1.91
0.54
最多时间(秒)
2.85
1.97
2.78
1.02
准确率
98.1%
94.7%
95.7%
96.3%
表 2. 各种图像质量下的定位准确率
Tab.2 Accurate Rate between Different Quality Images in CASIA
改进的非线性最小二乘法拟合虹膜内外边界
邓智明，路陈红
（西安电子科技大学 ISN 国家重点实验室，西安，710071）
摘 要： 虹膜定位在虹膜识别系统中有十分重要的作用。在现有的研究当中，定位算法的准确度和速度是相互 约束的。大部分准确的定位算法都不能满足虹膜识别系统的实时要求。本文提出了一种新颖的非线性方法，利用虹 膜边缘候选点作为非线性数据，用最小二乘法来拟合出虹膜的边缘。本文对该算法进行了实验，并与其他现有的算 法在 CASIA 虹膜图像库上进行比较，实验结果显示本文提出的算法在保证准确率的基础上具有最快的速度。 关键词： 虹膜识别；虹膜定位；非线性数据拟合；最小二乘法
yo )2
−r2) ，
(x,
y)
∈
{( xi ,
yi
)
|
i
=
1,
2 , ...,
m}
（4）
在此,令
a= 1 , 2r
w=⎛⎜ ⎝
xy⎞⎟⎠,
b=⎝⎜⎛bb12
⎞⎟, ⎠
c= xo2 +yo2 −r2 , 2r
当中
ìïïïï íïïïïïî
b1 b2
= =
− xo r
− yo r
（4）式可以简化为(5)
1 引言
在现今生活中，个人身份识别变得越来越重要，个人身份识别系统其实就是生物特征识别系统， 例如指纹，脸型，声音，虹膜等。对比于各种各样的识别系统，虹膜识别技术因为具有比于其他的 生物识别技术更快，更简单，更准确的特点，因而引起了人们广泛的关注。虹膜识别技术采用人类 当中具有唯一性的虹膜进行认证与鉴别，它已经广泛的被认为是生物识别技术中最可靠的方法[5]。
b12 + b22 − 4ac = 1
（8）
在约束条件(8)下引入拉格朗日乘算子，求取 D 的极小值，从而求出最合适的 μ 。利用 μ ，可以
求出圆心 Po (xo , yo ) 和半径 r,就得到用于拟合虹膜边缘的参数。
3 最小二乘法定位虹膜内外边界
3.1 虹膜的内边缘定位 根据瞳孔和虹膜边缘的灰度突变特征，选取适当阈值将原始图像转为二值化图像。然后通过腐
3.2 虹膜的外边缘定位
虹膜外边缘也可以运用非线性最小二乘法来拟合，但比拟合虹膜的内边缘难度要大，因为虹膜 的外边缘在灰度变化上比较平缓和较模糊，而虹膜的内边缘则十分明显。因而在外边缘上很难获取 比较好的外边缘候选点集，会存在比较多的非边缘干扰点。
3.2.1 利用灰度值的垂直投影，去掉大部分非边缘点
m
[(xi2 + yi2 , xi , yi ,1) μ]2
i =1
i =1
（7）
当中 μ = (a, b1, b2 , c)T , ki = [xi2 + yi2 , xi , yi ,1]T , K = [k1, k2 ,...km ]T 只要从（7）式求得最小的 D,就可以满足（2）式。从而可以求出需要的 μ 值。同时为了避免得 到无意义的计算结果 μ(0, 0, 0, 0) ，本文通过加上约束条件的思想，引入了系数约束条件式(8)
4 实验结果
实验当采用了由中科院采集的 CASIA 虹膜图像库，当中具有 756 幅虹膜图像。算法只对其中 16
幅图像定位不准确，准确率为 96.3%。该算法和其他算法的比较可以见表 1。实验是在 PIII 750 的 计算机上通过 MATLAB 完成的。
从表 1 可以看出基于 Daugman 的算法有最好的定位准确率但是它却花费了最多的时间去定位虹 膜。基于 Hough 变换的方法和改进的 RANSAC 方法的准确率都满足要求，但定位虹膜边缘需要较长时 间，而本文提出的算法具有很好的准确率和最快的速度。从表 2 可看出该算法在各种质量的虹膜图 像下的定位准确率。