一种基于无人机位姿信息的航拍图像拼接方法-程争刚
合集下载
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
2016.20150567. CHENG Zhenggang,ZHANG Li.An Aerial Image Geodaetica
et
Mosaic Method Based
on
uAV Position and Attitude
InformationEJ].Acta
Cartographica
Sinica,2016,45(6):698—705.DOI:10.11947/j.AGCS.2016.20150567.
Fig.1
J冬1
小M视角的航扪H像
Aerial image from different angles of view
度。文献[14]通过分块Harris角点的方法均匀
提取图像中的角点,然后采用金字塔光流算法进 行角点配准,缩短了航拍图像的匹配时间。这些 方法对于航拍图像的配准和一般图像的配准相 同,首先是对航拍图像进行特征点的提取,然后通 过相似性度量进行特征点匹配,最后根据得到的 两幅图像中对应特征点的坐标关系,采用 RANSAC算法[1明计算出最佳匹配的变换矩阵,
阱疆。1[:;:]
X。
㈤
1两幅航拍图像的配准
1.1
航拍图像间的单应变换矩阵 如图1所示,无人机在位置0。和0。对地面
乙肾卜t, =皿阱…,
L
Z。 1
万方数据
700
June 2016 V01.45 No.6 AGCS
http://xb.sinomaps.com
中姿态角可以通过无人机上装有的惯性导航单元 (IMU)获得,坐标可由GPS获得,飞行高度可由 气压计获得。但是一般情况下,得到的测量结果 会受到误差的干扰,这对于单应变换矩阵的计算 影响较大。因此要得到准确的单应变换矩阵,就
间3个姿态角的变化量叭0、妒和两个视点的坐标
例),其中图(a)为直接测量得到的80组结果,图 (b)为对应的计算结果,对比这两组结果并计算 出测量误差如图(c)所示。由试验结果可以得到
驴㈦00三0;] 胪㈠霸 驴胃训
t一[z 2一zl
Y 2--yl
z
测量值与测量误差之间的相关系数为0.902 6,说 明这两个量是高度相关的。通过RANSAC算 法[1钉拟合出测量误差与测量结果的关系为
毛[:}]=蚓
÷0 dx
K===
0 0
㈣
厂
“o
÷口o
dy O
,
(3)
1
并没有利用航拍图像特有的优势。文献[16—17]
结合了航拍时的参数信息进行图像配准,提高了 航拍图像拼接的速度,但是还没有完全发挥航拍 参数对图像配准的作用。文献[18]针对机载传感 器的精度问题,提出了一种混合的方法,利用基于 图像的方法校正由位姿计算带来的拼接误差。本 文结合无人机航拍的特点,利用航拍时获得的航 拍参数来计算图像问的变换矩阵,然后通过变换 矩阵的分解推导出多幅图像连续拼接的变换矩 阵,基本不依赖拍摄图像的质量情况,提出了一种 快速的航拍图像配准方法。
一种基于无人机位姿信息的航拍图像拼接方法
程争刚,张利
清华大学电子工程系,北京100084
An
Aerial
Image
Mosaic
Method
Based
on
UAv
Position
and
Attitude
Informat ion
CHENG Zhenggang,ZHANG Li
Deportment of Electronic Engineering,Tsinghua University,Beijing 100084,Chino
P=厂(c)一0.057
O.083 2
lc 3--0.160 9c 2+0.484 9c—
(13)
式中,c为当前的测量结果;e为测量误差。这样 就得到了测量结果的误差补偿量,从而就能对测 量的航拍参数进行校正,保证了单应变换矩阵计 算的精度。
(12)
2--2:1]1
从而两幅航拍图像之间的变换矩阵就可以通 过这6个参数计算得到。由式(9)中可以看出本 文对航拍图像间单应变换矩阵的推导要求图像中 所有点的d相同,也就是要保证O。视点下图像 里所有的场景都要在一个成像深度中,否则图像 之间就不能满足单应变换。 1.2测量参数的校正 由1.1节可知,通过对航拍参数的测量就可 以计算得到对应航拍图像间的单应变换矩阵。其
a can
Fi rstly,the coordinates
be
obtained
by
ai rborne
GPS and
inertial
measurement unit(IMU),and each aerial image has homography matrix between
two
corresponding position and attitude information.The the positions and attitude information
场景进行拍摄,得到图像J。和J:。M(X。,Y。,
Z。)T为场景中的一点,M。(X叫Y叫Z,,)T和 M。(X∥yf。,Z,,)T表示M在两个位置的相机坐
标。m1(“l,ul,1)T和m 2(“2,u2,1)T分别为M在 图像j,和f:上对应的点。如果矩阵H能满足
m 2一shinl (1)
则称矩阵H为图像j。到j:的单应变换矩阵。 其中s为非零常数项。
由上节可知根据航拍图像对应的坐标和姿态 角可以直接计算出图像间的单应变换矩阵,因此 H。.。可直接算出,进而可以得到第1次的拼接结果 J。.。但图像J。,并没有对应的航拍参数信息,因此 J。.和J。的变换矩阵H。.,无法直接得到。所以要 实现多幅图像的连续拼接,关键就是要知道上一次 的拼接图像与下一幅航拍图像之间的变换矩阵。 2.2单应矩阵的分解 设无人机在位置0,和O。分别拍摄到图像 j。和f。,J。到,。的单应变换矩阵为HⅢ。从O。 到o。可以看作是首先从0。到0。,然后再从0。 到O。,如图3所示。若J。为无人机在O。拍摄到
万方数据
第6期
程争刚,等:一种基于无人机位姿信息的航拍图像拼接方法
701
得到第2次的拼接结果J。。,直到拼接完所有的 图像。这样不断变换基准图的拼接策略可以减少
拼接误差的累积Ⅲ屯引。
帧序歹
(a)
帧序列
(b)
帧序列
(c)
图2偏航角的校正
Fig.2 Correction results of yaw angle
Abstract:As the existing methods for aerial algorithm based
on
image mosaic take high computational,a fast and effective
the position and attitude information of unmanned aerial vehicles(UAV)is proposed. and attitude angles of UAV
can
be stitched and the whole panorama got。A large number of experiments
demonstrate this algorithm is efficient. Key words.aerial image;position and attitude;image registration;homography matrix;panorama Foundation support:The NationaI NaturaI Science Foundation Of China(Nos.61172125;61132007)
第45卷第6期
2016年6月测源自绘学报Cartographica Sinica
VoI.45,No.6 June,2016
Acta Geodaetica et
引文格式:程争刚,张利.一种基于无人机位姿信息的航拍图像拼接方法EJ].测绘学报,2016,45(6):698—705.DOI:10.11947/j.AGCS.
nT-一1 一1
x-#)7((7)
需要对测量的参数进行校正。 根据式(9),如果已知两幅图像的单应变换矩 阵H和相机的内参数矩阵K,通过奇异值分解的
[莘]一象KR(J一号nT)K一1[三:]
方法就可以计算出摄像机参数[2…。本文首先在
c8,
离线情况下对测量系统进行校准,得到参数测量 误差的补偿量,然后再通过航拍参数进行图像的 配准。参数校准的具体步骤如下: (1)在离线情况下通过特征点匹配的方法对 航拍图像进行配准,得到图像之间的单应变换矩
2多幅图像的拼接
2.1
多幅图像的拼接方法 多幅图像的拼接一般就是多次图像的两两拼
接。假设有待拼接的图像J。~J。,首先拼接图像 j。和J:,得到第一次的拼接结果J。。。图像I。, 包含两部分内容,一部分是f。变换后的图像J,.: (假设以J:作为基准图像),另一部分则是完整的 图像I:,两部分的重叠区域进行加权平均,从而 就将J。和J。融合为f。,。然后再拼接I。,和f。
基金项目:国家自然科学基金(61172125;61132007)
近几年无人机受到了人们越来越多的关注,无 人机图像拼接方法也随之得到了快速发展。无人机 图像拼接是指在无人机平台上对多幅在不同时刻、 从不同视角获得的航拍图像经过对齐处理后,然后 无缝地融合在一起,从而得到一幅视野更大、分辨率 更高的全景图像。目前被广泛应用于数字地图绘 制、城市建设规划以及战场态势评估等领域。 航拍图像的拼接一般包括4个步骤:待拼接 图像的获取、图像畸变校正、图像配准以及图像融 合。其中图像配准是整个图像拼接技术的核心部 分,它直接关系到图像拼接的质量[1],其主要目的
是得到两幅图像之间的变换矩阵。目前无人机图 像配准技术主要是基于特征点匹配的方法,该方 法利用图像中提取到的局部特征进行匹配,其关 键步骤是图像特征的提取和匹配[2],其中基于 SIFT特征点匹配的方法被广泛地应用于航拍图 像的配准。该方法能够有效地适应航拍图像间存
在的视角和尺度变化,由文献[3—4]在1999年提
can
aeriaI
images
with
be
calculated.Then the registration of the mosaic images is obtained by the operation of homography matrix. Finally,the multiple images
出,并在2004年又对该算法进行了完善口_]。后 来又出现了很多改进的SIFT算法应用到图像配 准中[5-9]。文献E5-1提出的PCA—SIFT方法,采用 主成分分析对SIFT算子进行降维操作,大大减
万方数据
第6期
程争刚,等:一种基于无人机位姿信息的航拍图像拼接方法
699
少了计算时间。文献l-6-1提出的尺度和仿射不变 量兴趣点检测的GLOH算法,采用一种SIFT变 体的描述子,用对数极坐标分级结构替代SIFT 使用的4象限,之后再做PCA将其降维,因此保 有和SIFT一样精简的表示方法。文献[7-1提出 的SURF算法,采用快速Hessian方法进行特征 点检测,是SIFT算法的加速版。文献[8]提出扩 展SURF描述符,采用邻域采样点的局部归一化
灰度统计信息以及二阶梯度值细节信息,增强了
描述符的约束性与独特性。文献[9]提出的 ASIFT算法,通过模拟不同经纬度的图像,克服 了SIFT算法的不完全仿射性。但是上述图像配 准方法的一个明显不足就是提取特征点比较耗 时,从而导致图像拼接速度较慢。为了提高航拍 图像的拼接速度,近几年国内外研究者提出了多 种拼接方法n0。14’16。1 8|。文献[10]中估计变换矩阵 以及图像间关系的不确定性,并考虑如何消除图 像拼接中的累积误差。文献[11—12]通过预测拼 接图像的重叠区域减少拼接的时间消耗。文献 [13]提出的F-SIFT图像拼接算法,采用基于子 图像块的频域相位相关算法提高图像拼接的速
H—KR(J一号聘T)K‘1一KRK叫一i1躲细TK。1
阵H。
(2)根据文献E20]的方法由H计算出航拍
参数。 (3)将直接测量的航拍参数与参数的计算结 果进行对比(试验选择比较80组结果),然后通过 多项式拟合的方法得到测量参数的误差补偿量 (本文选择3次多项式)。 试验结果如图2所示(以偏航角的校正为
摘
要:针对现有航拍图像拼接方法处理速度较慢的问题,提出一种基于无人机位姿信息的快速拼接方
法。首先从机栽GPS和惯性导航单元获得无人机航拍时的坐标和姿态角,根据每一幅航拍图像对应的 无人机坐标和姿态角计算它们之间的单应变换矩阵,实现航拍图像之间的快速配准。然后通过单应变 换矩阵的运算得到拼接图像之间的配准,最后完成多幅图像的拼接得到整个区域的全景图。试验结果 证明该方法快速有效。 关键词:航拍图像;位置和姿态;图像配准;单应矩阵;全景图 中图分类号:P231 文献标识码:A 文章编号:1001—1595(2016)06.0698—08
et
Mosaic Method Based
on
uAV Position and Attitude
InformationEJ].Acta
Cartographica
Sinica,2016,45(6):698—705.DOI:10.11947/j.AGCS.2016.20150567.
Fig.1
J冬1
小M视角的航扪H像
Aerial image from different angles of view
度。文献[14]通过分块Harris角点的方法均匀
提取图像中的角点,然后采用金字塔光流算法进 行角点配准,缩短了航拍图像的匹配时间。这些 方法对于航拍图像的配准和一般图像的配准相 同,首先是对航拍图像进行特征点的提取,然后通 过相似性度量进行特征点匹配,最后根据得到的 两幅图像中对应特征点的坐标关系,采用 RANSAC算法[1明计算出最佳匹配的变换矩阵,
阱疆。1[:;:]
X。
㈤
1两幅航拍图像的配准
1.1
航拍图像间的单应变换矩阵 如图1所示,无人机在位置0。和0。对地面
乙肾卜t, =皿阱…,
L
Z。 1
万方数据
700
June 2016 V01.45 No.6 AGCS
http://xb.sinomaps.com
中姿态角可以通过无人机上装有的惯性导航单元 (IMU)获得,坐标可由GPS获得,飞行高度可由 气压计获得。但是一般情况下,得到的测量结果 会受到误差的干扰,这对于单应变换矩阵的计算 影响较大。因此要得到准确的单应变换矩阵,就
间3个姿态角的变化量叭0、妒和两个视点的坐标
例),其中图(a)为直接测量得到的80组结果,图 (b)为对应的计算结果,对比这两组结果并计算 出测量误差如图(c)所示。由试验结果可以得到
驴㈦00三0;] 胪㈠霸 驴胃训
t一[z 2一zl
Y 2--yl
z
测量值与测量误差之间的相关系数为0.902 6,说 明这两个量是高度相关的。通过RANSAC算 法[1钉拟合出测量误差与测量结果的关系为
毛[:}]=蚓
÷0 dx
K===
0 0
㈣
厂
“o
÷口o
dy O
,
(3)
1
并没有利用航拍图像特有的优势。文献[16—17]
结合了航拍时的参数信息进行图像配准,提高了 航拍图像拼接的速度,但是还没有完全发挥航拍 参数对图像配准的作用。文献[18]针对机载传感 器的精度问题,提出了一种混合的方法,利用基于 图像的方法校正由位姿计算带来的拼接误差。本 文结合无人机航拍的特点,利用航拍时获得的航 拍参数来计算图像问的变换矩阵,然后通过变换 矩阵的分解推导出多幅图像连续拼接的变换矩 阵,基本不依赖拍摄图像的质量情况,提出了一种 快速的航拍图像配准方法。
一种基于无人机位姿信息的航拍图像拼接方法
程争刚,张利
清华大学电子工程系,北京100084
An
Aerial
Image
Mosaic
Method
Based
on
UAv
Position
and
Attitude
Informat ion
CHENG Zhenggang,ZHANG Li
Deportment of Electronic Engineering,Tsinghua University,Beijing 100084,Chino
P=厂(c)一0.057
O.083 2
lc 3--0.160 9c 2+0.484 9c—
(13)
式中,c为当前的测量结果;e为测量误差。这样 就得到了测量结果的误差补偿量,从而就能对测 量的航拍参数进行校正,保证了单应变换矩阵计 算的精度。
(12)
2--2:1]1
从而两幅航拍图像之间的变换矩阵就可以通 过这6个参数计算得到。由式(9)中可以看出本 文对航拍图像间单应变换矩阵的推导要求图像中 所有点的d相同,也就是要保证O。视点下图像 里所有的场景都要在一个成像深度中,否则图像 之间就不能满足单应变换。 1.2测量参数的校正 由1.1节可知,通过对航拍参数的测量就可 以计算得到对应航拍图像间的单应变换矩阵。其
a can
Fi rstly,the coordinates
be
obtained
by
ai rborne
GPS and
inertial
measurement unit(IMU),and each aerial image has homography matrix between
two
corresponding position and attitude information.The the positions and attitude information
场景进行拍摄,得到图像J。和J:。M(X。,Y。,
Z。)T为场景中的一点,M。(X叫Y叫Z,,)T和 M。(X∥yf。,Z,,)T表示M在两个位置的相机坐
标。m1(“l,ul,1)T和m 2(“2,u2,1)T分别为M在 图像j,和f:上对应的点。如果矩阵H能满足
m 2一shinl (1)
则称矩阵H为图像j。到j:的单应变换矩阵。 其中s为非零常数项。
由上节可知根据航拍图像对应的坐标和姿态 角可以直接计算出图像间的单应变换矩阵,因此 H。.。可直接算出,进而可以得到第1次的拼接结果 J。.。但图像J。,并没有对应的航拍参数信息,因此 J。.和J。的变换矩阵H。.,无法直接得到。所以要 实现多幅图像的连续拼接,关键就是要知道上一次 的拼接图像与下一幅航拍图像之间的变换矩阵。 2.2单应矩阵的分解 设无人机在位置0,和O。分别拍摄到图像 j。和f。,J。到,。的单应变换矩阵为HⅢ。从O。 到o。可以看作是首先从0。到0。,然后再从0。 到O。,如图3所示。若J。为无人机在O。拍摄到
万方数据
第6期
程争刚,等:一种基于无人机位姿信息的航拍图像拼接方法
701
得到第2次的拼接结果J。。,直到拼接完所有的 图像。这样不断变换基准图的拼接策略可以减少
拼接误差的累积Ⅲ屯引。
帧序歹
(a)
帧序列
(b)
帧序列
(c)
图2偏航角的校正
Fig.2 Correction results of yaw angle
Abstract:As the existing methods for aerial algorithm based
on
image mosaic take high computational,a fast and effective
the position and attitude information of unmanned aerial vehicles(UAV)is proposed. and attitude angles of UAV
can
be stitched and the whole panorama got。A large number of experiments
demonstrate this algorithm is efficient. Key words.aerial image;position and attitude;image registration;homography matrix;panorama Foundation support:The NationaI NaturaI Science Foundation Of China(Nos.61172125;61132007)
第45卷第6期
2016年6月测源自绘学报Cartographica Sinica
VoI.45,No.6 June,2016
Acta Geodaetica et
引文格式:程争刚,张利.一种基于无人机位姿信息的航拍图像拼接方法EJ].测绘学报,2016,45(6):698—705.DOI:10.11947/j.AGCS.
nT-一1 一1
x-#)7((7)
需要对测量的参数进行校正。 根据式(9),如果已知两幅图像的单应变换矩 阵H和相机的内参数矩阵K,通过奇异值分解的
[莘]一象KR(J一号nT)K一1[三:]
方法就可以计算出摄像机参数[2…。本文首先在
c8,
离线情况下对测量系统进行校准,得到参数测量 误差的补偿量,然后再通过航拍参数进行图像的 配准。参数校准的具体步骤如下: (1)在离线情况下通过特征点匹配的方法对 航拍图像进行配准,得到图像之间的单应变换矩
2多幅图像的拼接
2.1
多幅图像的拼接方法 多幅图像的拼接一般就是多次图像的两两拼
接。假设有待拼接的图像J。~J。,首先拼接图像 j。和J:,得到第一次的拼接结果J。。。图像I。, 包含两部分内容,一部分是f。变换后的图像J,.: (假设以J:作为基准图像),另一部分则是完整的 图像I:,两部分的重叠区域进行加权平均,从而 就将J。和J。融合为f。,。然后再拼接I。,和f。
基金项目:国家自然科学基金(61172125;61132007)
近几年无人机受到了人们越来越多的关注,无 人机图像拼接方法也随之得到了快速发展。无人机 图像拼接是指在无人机平台上对多幅在不同时刻、 从不同视角获得的航拍图像经过对齐处理后,然后 无缝地融合在一起,从而得到一幅视野更大、分辨率 更高的全景图像。目前被广泛应用于数字地图绘 制、城市建设规划以及战场态势评估等领域。 航拍图像的拼接一般包括4个步骤:待拼接 图像的获取、图像畸变校正、图像配准以及图像融 合。其中图像配准是整个图像拼接技术的核心部 分,它直接关系到图像拼接的质量[1],其主要目的
是得到两幅图像之间的变换矩阵。目前无人机图 像配准技术主要是基于特征点匹配的方法,该方 法利用图像中提取到的局部特征进行匹配,其关 键步骤是图像特征的提取和匹配[2],其中基于 SIFT特征点匹配的方法被广泛地应用于航拍图 像的配准。该方法能够有效地适应航拍图像间存
在的视角和尺度变化,由文献[3—4]在1999年提
can
aeriaI
images
with
be
calculated.Then the registration of the mosaic images is obtained by the operation of homography matrix. Finally,the multiple images
出,并在2004年又对该算法进行了完善口_]。后 来又出现了很多改进的SIFT算法应用到图像配 准中[5-9]。文献E5-1提出的PCA—SIFT方法,采用 主成分分析对SIFT算子进行降维操作,大大减
万方数据
第6期
程争刚,等:一种基于无人机位姿信息的航拍图像拼接方法
699
少了计算时间。文献l-6-1提出的尺度和仿射不变 量兴趣点检测的GLOH算法,采用一种SIFT变 体的描述子,用对数极坐标分级结构替代SIFT 使用的4象限,之后再做PCA将其降维,因此保 有和SIFT一样精简的表示方法。文献[7-1提出 的SURF算法,采用快速Hessian方法进行特征 点检测,是SIFT算法的加速版。文献[8]提出扩 展SURF描述符,采用邻域采样点的局部归一化
灰度统计信息以及二阶梯度值细节信息,增强了
描述符的约束性与独特性。文献[9]提出的 ASIFT算法,通过模拟不同经纬度的图像,克服 了SIFT算法的不完全仿射性。但是上述图像配 准方法的一个明显不足就是提取特征点比较耗 时,从而导致图像拼接速度较慢。为了提高航拍 图像的拼接速度,近几年国内外研究者提出了多 种拼接方法n0。14’16。1 8|。文献[10]中估计变换矩阵 以及图像间关系的不确定性,并考虑如何消除图 像拼接中的累积误差。文献[11—12]通过预测拼 接图像的重叠区域减少拼接的时间消耗。文献 [13]提出的F-SIFT图像拼接算法,采用基于子 图像块的频域相位相关算法提高图像拼接的速
H—KR(J一号聘T)K‘1一KRK叫一i1躲细TK。1
阵H。
(2)根据文献E20]的方法由H计算出航拍
参数。 (3)将直接测量的航拍参数与参数的计算结 果进行对比(试验选择比较80组结果),然后通过 多项式拟合的方法得到测量参数的误差补偿量 (本文选择3次多项式)。 试验结果如图2所示(以偏航角的校正为
摘
要:针对现有航拍图像拼接方法处理速度较慢的问题,提出一种基于无人机位姿信息的快速拼接方
法。首先从机栽GPS和惯性导航单元获得无人机航拍时的坐标和姿态角,根据每一幅航拍图像对应的 无人机坐标和姿态角计算它们之间的单应变换矩阵,实现航拍图像之间的快速配准。然后通过单应变 换矩阵的运算得到拼接图像之间的配准,最后完成多幅图像的拼接得到整个区域的全景图。试验结果 证明该方法快速有效。 关键词:航拍图像;位置和姿态;图像配准;单应矩阵;全景图 中图分类号:P231 文献标识码:A 文章编号:1001—1595(2016)06.0698—08