基于单目视觉的移动机器人跟随
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
2 基于卡尔曼预测的目标跟踪实现
在均值漂移算法的推导过程中,对描述目标模型与 目标候选之间相似程度的Bhattacharyya系数进行了泰勒 展开,而泰勒展开是通过在分析点的领域内展开来逼近 原函数的 万,方所数以 据 算法假设了一个目标点在连续两帧中偏
移量不大的前提,即偏移量不能超过核函数的带宽,本系 统所对应的任务决定了目标在图像平面移动快速,无法 满足这一前提条件,传统算法的跟踪很可能失败,引入卡 尔曼滤波器能很好的解决这个问题。卡尔曼滤波器u纠 用于估计线性系统的状态,它能利用测量值修正估计的 状态,提供可靠的状态估计,使用卡尔曼滤波器作为预测 器,需要建立系统的状态方程,不同于以往单纯对目标点 的运动进行建模u6|,必须把机器人自身的运动一起加以 考虑,本文提出了室外环境下移动机器人对目标跟随时, 目标在摄像机像平面运动的状态方程,描述如下:
收稿日期 万:方20数09-据03
Received Date:2009-03
主性,扩展了应用范围,例如:交通警察、军用机器人、服 务机器人等,但这样改变的结果是目标检测变得极具挑 战,因为机器人的移动使得目标在像平面不连续,而且相 对应的背景不可预知,针对静止视频序列的目标跟踪方 法显然不适用,要实现图像平面上目标跟踪有两种思路 一种是跟踪模板的建立独立于背景,Christian Schlegel等 提出了结合颜色和边缘的跟踪算法‘4|,要求被跟随的人 衣服从预设的4种颜色中选择,在背景复杂的情况下,边 缘匹配容易失败;另外一种是先补偿视觉传感器运动造
移,输出为目标点在像平面上的位置,丁为采样周期,职
为处理噪声,%为测量噪声,均为零均值高斯白噪声,相
应的方差记作盯训和盯舯 摄像机的旋转运动引起目标在像平面水平方向的偏
移,摄像机在与目标连线方向上的移动则引起垂直方向 的偏移。对于第一个运动,假设摄像机与机器人重心所 在纵轴线重合,即摄像机旋转角度等同于机器人的旋转 角度,文献[4]给出了像平面目标位置与投影线和光轴
述子和形状直方图的间接景深计算方法。室外实验表明该算法具有很好的实时性和鲁棒性,能有效实现复杂室外环境下对人
的跟随。
关键词:卡尔曼滤波器;均值漂移;景深;主颜色描述子;形状直方图
中图分类号:TP242.6
文献标识码:A
国家标准学科分类代码:510.4050
Person following of mobile robot using monocular camera
the image plane.To compensate the offset of the target appearing in the image sequences caused by the motion of the
‘1
1‘
1‘^
‘1
1一一1
… ●
‘1
●
●
camera.an algorithm that combines the mean shitt algorithm and Kalman filter IS proposed.with the state estimation
பைடு நூலகம்
摘 要:针对室外环境下移动机器人基于单目视觉对目标人实时跟随问题进行了研究,提出通过均值漂移算法对像平面目标
的跟踪来实现目标定位。为了补偿摄像机运动造成目标在像平面的偏移,提出了以卡尔曼滤波器的估计值作为均值漂移算法
的启动点,然后利用均值漂移算法获得最终位置;为了估计单目视觉下目标与机器人之间的距离,提出了一种借助于主颜色描
此位移转移到目标上,距离s引起目标在像平面纵向的
偏移,如图1所示,k时刻目标距机器人d玉,相应的投影
线与水平线夹角为仪孟,在图像上的投影点是Y孟,k+1时
刻分别用dM,仪M和YⅢ表示,YB表示像平面纵向拥有
的像素个数,垂直方向的视场角用yv表示,则由距离s引 起目标在像平面纵向偏移的计算方法同式(2),如下:
Yu Danl”,Wei Wei2,Zhang Yuanhui2 (J College of Logistical Engineering,Shanghai Maritime University,Shanghai 201306,China;
2 College of Electrical Engineering,Zhefiang University,Hangzhou 310027,China)
^,
仪仪戈k戈+l一三=(戈M一下XB一戈一五+%)y戈/xOl 戈=L戈五+1一■■一戈五十
-K- /J
y戈
= /XB=
(戈五+1一戈五)y戈/xB=臼
(2)
对于第二个运动,假设在一个周期内机器人前后移
动的距离是s,为了便于分析,以机器人作为参照物,把
第3期
虞旦等:基于单目视觉的移动机器人跟随
661
1‘
results in current trame. 1n order to estimate the distance between the obj ect and robot.an indirect depth computa一
●
tlon
approach
that
adopts
‘
dominant
‘
1‘
●
color descriptor and shape histogram IS
1’一
‘
‘
1‘
proposed.Experiment results indicate that
the proposed algorithm is robust,and has good tracking performance and real—time characteristic on person following
(L仪 仪vvk¨一一仪仪v/vkJ)Y8
Yk+1一y五= 1y
(L仪仪五M+一1一仪仪五五/)J yyBB
1y
鱼畋一
yB 1,y后
/七+1
YB/2
/’ Image
图1摄像头透视模型的侧面图 Fig.1 The side elevation of perspective projection
为了获取观测值,需建立系统的观测模型,以一步预 测的结果为中心,在2倍于目标大小的区域R内,利用直 方图后投影计算概率图M o来估计目标的位置,具体就是 在初始化目标模型时,建立目标传统的颜色直方图:
通过在概率密度空间中求解概率密度极值的均值漂 移(Mean shift)算法属于第一种思路,D Comanicin等 人u2 o把非刚性物体的跟踪问题近似为最优化问题后,均 值漂移在目标跟踪领域内得到了很好的应用,特征分布 标识了目标,通过对目标点赋大权值,对背景点赋小权 值,使目标区域成为密度极值区,从而将目标跟踪同均值 漂移算法联系起来,算法实时性好,对于目标的旋转、部 分阻挡、变形以及背景运动都不敏感,但是在跟踪连续性 上存在很大问题,如果目标在连续的两帧种偏移较大,传 统算法使得跟踪不能得以继续,本文提出了将卡尔曼滤 波器融于均值漂移算法,把滤波器对于目标点在像平面 位置的最优估计作为每一帧中均值漂移的起始点,相当 于对目标位置进行全局的预估计,最终位置由均值漂移 算法在起始点的领域内迭代得到,并以最终位置替代滤 波器中的后验估计值,用于下一帧的滤波估计,两种算法 交替使用,相互补充。另外为了恢复单目视觉下的景深 信息,用于保持机器人与目标之间的距离,本文提出了基 于先验知识约束的景深计算方法,其中目标在像平面高 度信息的获取借助了主颜色描述子u3。14 o和形状直方图等 方法,主颜色描述子能有效的概括目标躯干部分,形状直 方图通过投影把离散的前景目标点映射到目标直方图 中,从而获取目标的高度信息,最后依据像平面透视模型 估计目标的实际景深。
^… ‘
●
●●
^1
1‘^
‘1
‘
^1
1‘^
1‘
ot filtering as the starting position ot the mean shitt and with the converge location ot the mean shitt as the tracking
●
“
T
●
1‘
‘
‘
第3 1卷第3期 2010年3月
仪器仪 表学 报
Chinese Journal of Scientific Instrument
VoL 31 No.3 Mar.2010
基于单目视觉的移动机器人跟随
虞 旦1’,韦 巍2,张远辉2
(1 上海海事大学物流工程学院上海201306;2浙江大学电气工程学院杭州310027)
戈玉=垃型L— y玉=垃型L一 ∑xI(x,y)
660
仪器仪表学报
第3 1卷
成的偏移,再用针对背景静止的方法进行目标检测,文献 [5]提到利用特征点匹配获取偏移信息来补偿摄像机的 造成的背景偏移,再利用粒子滤波器检测目标,但是粒子 滤波器计算复杂度降低了算法的实时}生。
除此之外,也有较多关于移动机器人跟随的文章发 表,方法主要是基于测距传感器∞。7 o和视觉传感器∞。1 0|, 其中的大部分都假设了一个前提:人脸面向机器人,这就 使得大量人脸检测和肤色检测的方法能够在这里得到应 用,另外这些方法对实时性的要求都不是很高,其中的文 献[8]采用的方法是两步式的:先锁定目标,再驱动机器 人至目标处。文献[1 1]采用的是另外一类目前研究较 热的红外视觉传感器,它能够有效的解决可见光传感器 上经常会遇到的一些问题:光照变化、目标的非刚性及可 变性等,但是如果不借助于其他传感器,基于红外的系统 不能区分被跟踪目标和周围行人,因为两者在红外图像 中没有显著区别。
Abstract:The method for person following of mobile robot using monocular camera in outdoor environment iS re—
searched,the location of object is achieved through using the mean shift algorithm,which realizes object tracking in
戈五+1
Yk+1
戈五+1
Yk+1
0 T 0] 戈五
1 0 T Yk
+
●
01
0
戈五
00
1J
●
Yk
厂
戈B臼
百
l(arctan万hi-arctan瓦h)yB 手砺÷
yy
0
L
0
玩=[三 ? 言 言]x五+K
其中状态变量X孟=[戈五Y五戈五克]1。,分别表示目
标在像平面上的位置和速度,输入配孟=[臼s]1。为机器 人在前一个周期中旋转的角度和在目标连线方向上的位
under complex outdoor environment.
Key words:Kalman filter;mean shift;depth;dominant color descriptor;shape histogram
1引
___jL_ 仁j
传统的基于视觉对行人跟踪的研究是为了安全监 控u J、人体运动分析心。等,静止的摄像头使得动态目标的 检测易于实现,比如背景剪除方法旧。就可以取得很好的 效果,如果将人体运动视觉分析的研究结合到移动机器 人平台上,基于视觉实现对人的全自主智能跟随,这被认 为是移动机器人的未来,利用移动机器人的灵活性和自
据颜色值的索引把像素点的值替换成相应的直方图概
率值:
,(戈,Y)={H(配)l h(戈,Y)=配},(戈,Y)∈R (5)
得到的后投影图表示图像中像素点属于被跟随目标
的概率,对投影图进行简单的滤波,滤去概率低的点,最
终目标位置的估计通过计算区域内投影图的质心获得,
并被作为目标的观测值名五=(戈五,Y五):
日(配)=∑6(无(戈,Y)一u)/l R l,配=1,2,…,m
(石,y)∈R
(4)
式中:配为颜色向量,被量化成m级,h(戈,Y)为像素点
(戈,Y)色度分量日量化后的值,6为Kronecker Delta函
数,l R l为区域R内像素点的个数,用于直方图的归
一化。
为了定位目标,把直方图投影到选定的区域内,即依
夹角之间的对应关系Ol石=(戈一戈B/2)y戈/xB,其中y戈表 示水平方向的视场角,戈8表示像平面横向拥有的像素个 数,戈是目标位置,对应投影线和光轴夹角为Ol%,假设k
时刻分别用戈五和Ol三表示,k+1时刻用戈M和仪三“表示, 可以得到像平面目标偏移量与机器人一个周期内旋转角 度目的对应关系式:
在均值漂移算法的推导过程中,对描述目标模型与 目标候选之间相似程度的Bhattacharyya系数进行了泰勒 展开,而泰勒展开是通过在分析点的领域内展开来逼近 原函数的 万,方所数以 据 算法假设了一个目标点在连续两帧中偏
移量不大的前提,即偏移量不能超过核函数的带宽,本系 统所对应的任务决定了目标在图像平面移动快速,无法 满足这一前提条件,传统算法的跟踪很可能失败,引入卡 尔曼滤波器能很好的解决这个问题。卡尔曼滤波器u纠 用于估计线性系统的状态,它能利用测量值修正估计的 状态,提供可靠的状态估计,使用卡尔曼滤波器作为预测 器,需要建立系统的状态方程,不同于以往单纯对目标点 的运动进行建模u6|,必须把机器人自身的运动一起加以 考虑,本文提出了室外环境下移动机器人对目标跟随时, 目标在摄像机像平面运动的状态方程,描述如下:
收稿日期 万:方20数09-据03
Received Date:2009-03
主性,扩展了应用范围,例如:交通警察、军用机器人、服 务机器人等,但这样改变的结果是目标检测变得极具挑 战,因为机器人的移动使得目标在像平面不连续,而且相 对应的背景不可预知,针对静止视频序列的目标跟踪方 法显然不适用,要实现图像平面上目标跟踪有两种思路 一种是跟踪模板的建立独立于背景,Christian Schlegel等 提出了结合颜色和边缘的跟踪算法‘4|,要求被跟随的人 衣服从预设的4种颜色中选择,在背景复杂的情况下,边 缘匹配容易失败;另外一种是先补偿视觉传感器运动造
移,输出为目标点在像平面上的位置,丁为采样周期,职
为处理噪声,%为测量噪声,均为零均值高斯白噪声,相
应的方差记作盯训和盯舯 摄像机的旋转运动引起目标在像平面水平方向的偏
移,摄像机在与目标连线方向上的移动则引起垂直方向 的偏移。对于第一个运动,假设摄像机与机器人重心所 在纵轴线重合,即摄像机旋转角度等同于机器人的旋转 角度,文献[4]给出了像平面目标位置与投影线和光轴
述子和形状直方图的间接景深计算方法。室外实验表明该算法具有很好的实时性和鲁棒性,能有效实现复杂室外环境下对人
的跟随。
关键词:卡尔曼滤波器;均值漂移;景深;主颜色描述子;形状直方图
中图分类号:TP242.6
文献标识码:A
国家标准学科分类代码:510.4050
Person following of mobile robot using monocular camera
the image plane.To compensate the offset of the target appearing in the image sequences caused by the motion of the
‘1
1‘
1‘^
‘1
1一一1
… ●
‘1
●
●
camera.an algorithm that combines the mean shitt algorithm and Kalman filter IS proposed.with the state estimation
பைடு நூலகம்
摘 要:针对室外环境下移动机器人基于单目视觉对目标人实时跟随问题进行了研究,提出通过均值漂移算法对像平面目标
的跟踪来实现目标定位。为了补偿摄像机运动造成目标在像平面的偏移,提出了以卡尔曼滤波器的估计值作为均值漂移算法
的启动点,然后利用均值漂移算法获得最终位置;为了估计单目视觉下目标与机器人之间的距离,提出了一种借助于主颜色描
此位移转移到目标上,距离s引起目标在像平面纵向的
偏移,如图1所示,k时刻目标距机器人d玉,相应的投影
线与水平线夹角为仪孟,在图像上的投影点是Y孟,k+1时
刻分别用dM,仪M和YⅢ表示,YB表示像平面纵向拥有
的像素个数,垂直方向的视场角用yv表示,则由距离s引 起目标在像平面纵向偏移的计算方法同式(2),如下:
Yu Danl”,Wei Wei2,Zhang Yuanhui2 (J College of Logistical Engineering,Shanghai Maritime University,Shanghai 201306,China;
2 College of Electrical Engineering,Zhefiang University,Hangzhou 310027,China)
^,
仪仪戈k戈+l一三=(戈M一下XB一戈一五+%)y戈/xOl 戈=L戈五+1一■■一戈五十
-K- /J
y戈
= /XB=
(戈五+1一戈五)y戈/xB=臼
(2)
对于第二个运动,假设在一个周期内机器人前后移
动的距离是s,为了便于分析,以机器人作为参照物,把
第3期
虞旦等:基于单目视觉的移动机器人跟随
661
1‘
results in current trame. 1n order to estimate the distance between the obj ect and robot.an indirect depth computa一
●
tlon
approach
that
adopts
‘
dominant
‘
1‘
●
color descriptor and shape histogram IS
1’一
‘
‘
1‘
proposed.Experiment results indicate that
the proposed algorithm is robust,and has good tracking performance and real—time characteristic on person following
(L仪 仪vvk¨一一仪仪v/vkJ)Y8
Yk+1一y五= 1y
(L仪仪五M+一1一仪仪五五/)J yyBB
1y
鱼畋一
yB 1,y后
/七+1
YB/2
/’ Image
图1摄像头透视模型的侧面图 Fig.1 The side elevation of perspective projection
为了获取观测值,需建立系统的观测模型,以一步预 测的结果为中心,在2倍于目标大小的区域R内,利用直 方图后投影计算概率图M o来估计目标的位置,具体就是 在初始化目标模型时,建立目标传统的颜色直方图:
通过在概率密度空间中求解概率密度极值的均值漂 移(Mean shift)算法属于第一种思路,D Comanicin等 人u2 o把非刚性物体的跟踪问题近似为最优化问题后,均 值漂移在目标跟踪领域内得到了很好的应用,特征分布 标识了目标,通过对目标点赋大权值,对背景点赋小权 值,使目标区域成为密度极值区,从而将目标跟踪同均值 漂移算法联系起来,算法实时性好,对于目标的旋转、部 分阻挡、变形以及背景运动都不敏感,但是在跟踪连续性 上存在很大问题,如果目标在连续的两帧种偏移较大,传 统算法使得跟踪不能得以继续,本文提出了将卡尔曼滤 波器融于均值漂移算法,把滤波器对于目标点在像平面 位置的最优估计作为每一帧中均值漂移的起始点,相当 于对目标位置进行全局的预估计,最终位置由均值漂移 算法在起始点的领域内迭代得到,并以最终位置替代滤 波器中的后验估计值,用于下一帧的滤波估计,两种算法 交替使用,相互补充。另外为了恢复单目视觉下的景深 信息,用于保持机器人与目标之间的距离,本文提出了基 于先验知识约束的景深计算方法,其中目标在像平面高 度信息的获取借助了主颜色描述子u3。14 o和形状直方图等 方法,主颜色描述子能有效的概括目标躯干部分,形状直 方图通过投影把离散的前景目标点映射到目标直方图 中,从而获取目标的高度信息,最后依据像平面透视模型 估计目标的实际景深。
^… ‘
●
●●
^1
1‘^
‘1
‘
^1
1‘^
1‘
ot filtering as the starting position ot the mean shitt and with the converge location ot the mean shitt as the tracking
●
“
T
●
1‘
‘
‘
第3 1卷第3期 2010年3月
仪器仪 表学 报
Chinese Journal of Scientific Instrument
VoL 31 No.3 Mar.2010
基于单目视觉的移动机器人跟随
虞 旦1’,韦 巍2,张远辉2
(1 上海海事大学物流工程学院上海201306;2浙江大学电气工程学院杭州310027)
戈玉=垃型L— y玉=垃型L一 ∑xI(x,y)
660
仪器仪表学报
第3 1卷
成的偏移,再用针对背景静止的方法进行目标检测,文献 [5]提到利用特征点匹配获取偏移信息来补偿摄像机的 造成的背景偏移,再利用粒子滤波器检测目标,但是粒子 滤波器计算复杂度降低了算法的实时}生。
除此之外,也有较多关于移动机器人跟随的文章发 表,方法主要是基于测距传感器∞。7 o和视觉传感器∞。1 0|, 其中的大部分都假设了一个前提:人脸面向机器人,这就 使得大量人脸检测和肤色检测的方法能够在这里得到应 用,另外这些方法对实时性的要求都不是很高,其中的文 献[8]采用的方法是两步式的:先锁定目标,再驱动机器 人至目标处。文献[1 1]采用的是另外一类目前研究较 热的红外视觉传感器,它能够有效的解决可见光传感器 上经常会遇到的一些问题:光照变化、目标的非刚性及可 变性等,但是如果不借助于其他传感器,基于红外的系统 不能区分被跟踪目标和周围行人,因为两者在红外图像 中没有显著区别。
Abstract:The method for person following of mobile robot using monocular camera in outdoor environment iS re—
searched,the location of object is achieved through using the mean shift algorithm,which realizes object tracking in
戈五+1
Yk+1
戈五+1
Yk+1
0 T 0] 戈五
1 0 T Yk
+
●
01
0
戈五
00
1J
●
Yk
厂
戈B臼
百
l(arctan万hi-arctan瓦h)yB 手砺÷
yy
0
L
0
玩=[三 ? 言 言]x五+K
其中状态变量X孟=[戈五Y五戈五克]1。,分别表示目
标在像平面上的位置和速度,输入配孟=[臼s]1。为机器 人在前一个周期中旋转的角度和在目标连线方向上的位
under complex outdoor environment.
Key words:Kalman filter;mean shift;depth;dominant color descriptor;shape histogram
1引
___jL_ 仁j
传统的基于视觉对行人跟踪的研究是为了安全监 控u J、人体运动分析心。等,静止的摄像头使得动态目标的 检测易于实现,比如背景剪除方法旧。就可以取得很好的 效果,如果将人体运动视觉分析的研究结合到移动机器 人平台上,基于视觉实现对人的全自主智能跟随,这被认 为是移动机器人的未来,利用移动机器人的灵活性和自
据颜色值的索引把像素点的值替换成相应的直方图概
率值:
,(戈,Y)={H(配)l h(戈,Y)=配},(戈,Y)∈R (5)
得到的后投影图表示图像中像素点属于被跟随目标
的概率,对投影图进行简单的滤波,滤去概率低的点,最
终目标位置的估计通过计算区域内投影图的质心获得,
并被作为目标的观测值名五=(戈五,Y五):
日(配)=∑6(无(戈,Y)一u)/l R l,配=1,2,…,m
(石,y)∈R
(4)
式中:配为颜色向量,被量化成m级,h(戈,Y)为像素点
(戈,Y)色度分量日量化后的值,6为Kronecker Delta函
数,l R l为区域R内像素点的个数,用于直方图的归
一化。
为了定位目标,把直方图投影到选定的区域内,即依
夹角之间的对应关系Ol石=(戈一戈B/2)y戈/xB,其中y戈表 示水平方向的视场角,戈8表示像平面横向拥有的像素个 数,戈是目标位置,对应投影线和光轴夹角为Ol%,假设k
时刻分别用戈五和Ol三表示,k+1时刻用戈M和仪三“表示, 可以得到像平面目标偏移量与机器人一个周期内旋转角 度目的对应关系式: