基于SIFT的遥感图像配准技术综述
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
1)生成 高斯 差 (difference of Gaussians,DoG)尺 度 空 间 。图像 的尺度 空 间 L( ,Y, )由一 个 变 尺 度 的高斯 函数 G( ,Y,o r)和图像 ,( ,Y)卷 积得 到 ,即
L( ,Y, ): G( ,Y,o r):l=,( ,Y) , (1)
SIFT算 法 主 要 用 于 描 述 与检 测 图像 中 的局 部 性特 征 ,它在 空 问尺度 中寻 找极值 点 ,并提 取 出其 位 置 、尺 度 和旋转 不 变 量 。该 算 法 由 Lowe在 1999年 提 出 J,2004年 完 善 J。SIFT 遥 感 图像 配准 的基 本 步骤 包括 :① 特征 提取 ;② 特征 匹 配 ;③ 配 准模 型确定 ;④图像重采样。具体流程见图 1。
基 于 SIFT的遥 感 图像 配 准 技 术综 述
李孚 煜 ,叶发茂
(南 昌大学计算机科学与技术系,南 昌 330031)
摘要 :遥感 图像 配准是 图像 融合 、变化检测 、图像镶嵌等应 用 中不可缺少 的步骤 。近年来 ,出现 了大量基于尺度不 变特征变换 (scale invariant feature transform,SIFT)的遥感 图像配 准方 法。在对 已有基于 SIFT的遥感 图像 配准文 献 的调研分析基础上 ,对 各种 SIF T 遥 感图像配准技术进行 了系统性评述 ,将各 种改进方 法分为 SIFT 提 升算法 、针对 遥感 图像性 质的改进 、混合 方法以及 针对算法流程 的改进等 4类 ;分析 了不 同类型 改进方法 的适用 范围和优缺点 ; 指 出了 SIFT遥感 图像 配准技术存在 的主要 问题和难点 ,对其未来 的发展方 向进行 了展望 ,为后续研究 提供参 考。 关键 词 :尺度不变特征变换 (SIF T );遥感 图像 ;图像配准 ;特征 提取 中 图 法分 类 号 :TP 79 文 献 标 志码 :A 文 章 编 号 :1001—070X(2016)02—0014—07
0 引言
1 SIFT图像 配准
图像配准是对 同一场景从不 同视角、用不同传 感器 获取 的 ,有重 叠 区域 的 2景 图 像 进行 几 何 配准 的过程 ¨』。在 遥感 图像 的 实 际应 用 中 ,配准 是 图像 融 合 、目标 变化 检测 、地 物识 别 以及 图像镶 嵌过 程 中 必 不可少 的步骤 。近 年 来 ,基 于 图 像 特 征 的配 准方 法 得 到 了较 快 的发 展 ,其 中尺 度 不 变 特 征 (scale in. variant features,SIF)是 图像 特 征 中一 种 重 要 特 征 ; 尺度 不变特 征 变换 (scale invariant features transform, SIFT)是 Lowe 在 总结 现有 基 于不 变 量技 术 的 特征 检测 算法 基 础上 提 出 的一 种 基于 尺度 空 间对 图像缩 放 、平移 、旋 转 、仿 射 变换 、视 角变换 和 光照 变换 保持 不变的特征提取算法 。由于其 匹配能力强 ,提取 出 的特征稳定 ,所以从各种 图像局部不变特征描述子 (discripter)中脱 颖 而 出 ,近 年来 在 遥 感 图 配 准 领域 得 到 了越 来 越 多 的 应 用 。本 文 对 SIFT遥 感 图 像 配准技 术 的研 究情 况进 行 了系 统评 述 。首先 简单 描述 了一般性 的 SIFT图像配 准方 法 ;然后介绍 了 为提高遥感 图像 配准的准确度近年对 SIFT 提 出的 一 些改进算法 ,并分析 了各种改进算法的适用 范围 和优缺 点 ;最 后 总 结 了 SIF T 遥 感 图 像 配 准 技 术 目 前存在的主要问题和缺陷 ,并对其未来的发展 方向 进 行 了展望 。
2016年 06月
REM OTE SENSING FOR LAND & RESOURCES
doi:10.6046/gtzyyg.2016.02.03
引用格式 :李孚煜 ,叶发茂.基于 SIFT的遥感 图像配 准技术综 述 [J1.国土资源遥 感 ,2016,28(2):14—20.(Li F Y,Ye F M. Summar ization of SIF T —based remote sensing image registration techniques[J].Remote Sensing for Land and Resources,2016,28 (2):14—20.)
键点。每个检测点都跟与其同尺度的 8个相邻点以
及上 下 相邻 尺 度 的 9个点 (共 8+9 X 2=26个 点 )
进行 比较 ,只保 留局部极值点 。这样得到 的局部极
值 点 即为粗 略特征 点 。
3)精 化 关 键 点 检 测 结 果 。通 过 子像 元 插 值 得
到特 征点 的精 确尺 度 ,删 除 受边 缘 效 应 影 响较 大 的
第 2期
李孚煜 ,等 : 基于 SIFT的遥感 图像配准技术综述
其 中特征 提 取 及 特征 匹 配 主 要 包 括 关 键 点 检 测 、局部 特征 描述 子生成 和特 征点 匹配 。 1.1 关键点检 测
SIFT算法是基于点的匹配算法,所 以首先要找 出具 有 代 表 性 和 稳 定 性 的 关 键 点 。SIFT算 法 关 键 点 检测 的 目的就 是在 图像 的尺度 空间 中找 出对 图像 缩 放 、旋 转 以及一 定 程度 的 噪声 保持 不 变 的点 的精 确 位置 ,并对 这些 点进行 筛选 ,为 后续处 理搜 集足 够 多 的信 息 。SIF T 的关键 点检测 分为 以下 4个 步骤 :
2)对特 征矢 量进 行 归 一化 处 理 ,以使 其 拥 有 一 定程 度 的光 照强 度不 变性 。 1.3 特 征点 匹 配
SIFT算法 根 据 描 述 子 之 间 的 欧 氏距 离 来 判 断 其相似性 ,并 根据相似性 的大小进行 特征点 匹配 。 为减少误匹配 ,通常先使 用 比值提纯法对 匹配结果 进行提纯。除查询最近邻 的描述子之外 ,还要考虑 次 近邻 ;当次近邻 距 离与 最近 邻距 离 的 比值 小 于 阈 值 时 ,则认 为 这 个 SIFT图 像 配 准 基 本 流 程 不 够 显 著 ,剔 除该 匹配对 。匹配对 比值 提纯 之后 ,一 般还 要 使用 随 机 抽 样 一 致 性 (random sample consensns, RANSAC)方法剔除离群匹配对 ,以进一步减少误匹配。
针对 SIFT 描述子维数高 (128维 )导致计算 量
2 遥感 图像 配准
传统 SIFT算 法是 为解 决 不 同视 角 之 间 目标 或 场景 的可 靠 匹配 而提 出 的。该方 法针 对 同一种 传感 器 图像之 间 的图像 匹配 效 果 较好 ,但 直 接 用 于不 同 性质遥感图像之间的配准可能会失效 ;在复杂场景 或相似场景下 ,SIFT算法容易出现误匹配 ;同时 ,传 统 SIFT算法也存在生成 128维 的描述子速度慢等 问题 。为 了使 SIFT算 法 能 更 好 地 应 用 于 遥 感 图配 准 ,很 多 研 究 者 提 出 了 不 同 的 改 进 方 案 ,可 分 为 4 类 :①SIFT提升算法 ;② 针对遥感 图像性 质 的改 进 ;③ 混 合方法 ;④针 对算 法流 程 的改进 。 2.1 SIFT提 升算 法
的关键点之后 ,SIFT 为每一个关键点的主方 向和每
个 辅方 向生成 一个 描 述 子 ,并 让 这些 描 述 子 拥 有 尽
可能 多的不变 性 :
1)根 据 关 键 点 所 在 尺 度 ,选 择 相 应 大 小 的 邻 域 ,分为 4×4个子 区域 ,每个子 区域有 4像元 X4 像元。以主方向为基准对齐后 ,对每个 子区域 的梯 度方向进行统计 ,形成 8个方 向的直方 图。因存在 4 X4个子 区域 ,每个 子 区域 的 梯度 直 方 图有 8个 方 向 ,故 SIFT特 征矢 量 有 4×4×8=128维 。 由于直 方图只有局部小 区域的灰度统计信息 ,而仿射变换 对 灰 度频率 的影 响甚 微 ,所 以如 此 产 生 的 描述 子 对 仿 射 变换 也具 有一定 程度 的不 变性 。
间的图像相减得到。实际算法 中,DoG通过构建 图
像金字塔来实现 ,即将图像金字塔分成 O组 ,每组 s
层 ,下 一组 的图 像 由上 一 组 图像 隔 点 降 采 样 取 得 。
将 每组 上下相 邻 2层 的高 斯 尺度 空 间 的 图 像相 减 ,
得 到 DoG。
2)寻找 尺 度 空 间 中的 局 部 极 值 点 作 为 候 选 关
1
一r…2 2、
式 中 :G( ,Y, )= e ; 为 尺 度 参 数 ;
盯 o r
为 卷积运 算符 。
如果 把 or看 成 是 尺 度 变 量 ,那 么 在 尺 度 空 间
中 ,不 同 or 的 G( ,Y,or)就 组 成 一 个 组 (Octave)。
DoG响应值图像 D( ,Y, )由2个相邻 高斯尺度空
在 计算 机视 觉领 域 ,继 SIFT后 又有 大 量 提升 算 法 ,有 些 已 经 被 应 用 于 遥 感 图 像 配 准 。 Bay 等 _20 借鉴 了 SIFT的思想 ,于 2008提 出加速鲁棒特 征 (speeded—up robust features,SURF)描述 子 ,用 图 像积分代替卷积运算 ,提高了特征提取 的速度 ;Liu 等 _2 把 SURF应用于 SAR图像 匹配 ,获得了高匹配 率。Morel等 提 出了仿射无 关 的 ASIFT(affine— SIFT)算法 ;Yang等 将 ASIFT应用 于图像 配准 问题 ;Lin等u 借鉴 ASIFT的思 想 ,改进 了 SURF, 提出了仿射无关的 ASURF(affine—SURF)算法 。
…
特璧 秆 L—回 匪L— ;
童 J生成局部描述子l I生成局部描述子『j
,… … … … … 一t… …
一
…
…
一
根 据 描 述 子 相 似 性 进 行 匹 配
特征 匹配
对 匹配 对 比值 提 纯
… … … … 寸… … … … 一
RANSAC ̄方 法 剔 除 离 群 匹 配 对
点 ,通过子像元插值和去边缘效应 ,精化关键点检测
结果 。
4)生 成 关 键 点 的 主 方 向。根 据 关 键 点 所 在 的
尺度 选取 邻域 ,在该邻 域 内分 36个方 向统计 所有 点
的梯 度方 向 ,取 方 向统计 直方 图 中主 峰 的对 应 方 向
为主 方 向。若存 在相 当于 主峰 80% 以上 的方 向 ,则
将这 些方 向取 为辅方 向 。每个关 键点 只有 一个 主方
向 ,大 约 20% 的关键 点有 1 或多 个辅 方 向 。每 个
探测到的关键点都包括位置信息、所在尺度及主方
向信息 ,可以用 1个 4维向量来描述。
1.2 局部 特征描 述子 生成
得 到 在尺 度 空 间 中对 图像 缩 放 、旋 转保 持 不 变
+
配准模型 的确定 (参数估计)
① RANSAC为随机抽样一致性(random sample consensus)算法 。 图 1 基于 SIFT的图像配准流程 图
Fig.1 Flowchart of SⅡ1T —based image registration
收稿 日期 :2014—12—17;修订 日期 :2015—03—18 基金项 目:国家 自然科学基金项 目“基于人工禁 忌免疫 原理的多源遥感 图像 自动配准研究 ”(编号 :41261091)资助 。
L( ,Y, ): G( ,Y,o r):l=,( ,Y) , (1)
SIFT算 法 主 要 用 于 描 述 与检 测 图像 中 的局 部 性特 征 ,它在 空 问尺度 中寻 找极值 点 ,并提 取 出其 位 置 、尺 度 和旋转 不 变 量 。该 算 法 由 Lowe在 1999年 提 出 J,2004年 完 善 J。SIFT 遥 感 图像 配准 的基 本 步骤 包括 :① 特征 提取 ;② 特征 匹 配 ;③ 配 准模 型确定 ;④图像重采样。具体流程见图 1。
基 于 SIFT的遥 感 图像 配 准 技 术综 述
李孚 煜 ,叶发茂
(南 昌大学计算机科学与技术系,南 昌 330031)
摘要 :遥感 图像 配准是 图像 融合 、变化检测 、图像镶嵌等应 用 中不可缺少 的步骤 。近年来 ,出现 了大量基于尺度不 变特征变换 (scale invariant feature transform,SIFT)的遥感 图像配 准方 法。在对 已有基于 SIFT的遥感 图像 配准文 献 的调研分析基础上 ,对 各种 SIF T 遥 感图像配准技术进行 了系统性评述 ,将各 种改进方 法分为 SIFT 提 升算法 、针对 遥感 图像性 质的改进 、混合 方法以及 针对算法流程 的改进等 4类 ;分析 了不 同类型 改进方法 的适用 范围和优缺点 ; 指 出了 SIFT遥感 图像 配准技术存在 的主要 问题和难点 ,对其未来 的发展方 向进行 了展望 ,为后续研究 提供参 考。 关键 词 :尺度不变特征变换 (SIF T );遥感 图像 ;图像配准 ;特征 提取 中 图 法分 类 号 :TP 79 文 献 标 志码 :A 文 章 编 号 :1001—070X(2016)02—0014—07
0 引言
1 SIFT图像 配准
图像配准是对 同一场景从不 同视角、用不同传 感器 获取 的 ,有重 叠 区域 的 2景 图 像 进行 几 何 配准 的过程 ¨』。在 遥感 图像 的 实 际应 用 中 ,配准 是 图像 融 合 、目标 变化 检测 、地 物识 别 以及 图像镶 嵌过 程 中 必 不可少 的步骤 。近 年 来 ,基 于 图 像 特 征 的配 准方 法 得 到 了较 快 的发 展 ,其 中尺 度 不 变 特 征 (scale in. variant features,SIF)是 图像 特 征 中一 种 重 要 特 征 ; 尺度 不变特 征 变换 (scale invariant features transform, SIFT)是 Lowe 在 总结 现有 基 于不 变 量技 术 的 特征 检测 算法 基 础上 提 出 的一 种 基于 尺度 空 间对 图像缩 放 、平移 、旋 转 、仿 射 变换 、视 角变换 和 光照 变换 保持 不变的特征提取算法 。由于其 匹配能力强 ,提取 出 的特征稳定 ,所以从各种 图像局部不变特征描述子 (discripter)中脱 颖 而 出 ,近 年来 在 遥 感 图 配 准 领域 得 到 了越 来 越 多 的 应 用 。本 文 对 SIFT遥 感 图 像 配准技 术 的研 究情 况进 行 了系 统评 述 。首先 简单 描述 了一般性 的 SIFT图像配 准方 法 ;然后介绍 了 为提高遥感 图像 配准的准确度近年对 SIFT 提 出的 一 些改进算法 ,并分析 了各种改进算法的适用 范围 和优缺 点 ;最 后 总 结 了 SIF T 遥 感 图 像 配 准 技 术 目 前存在的主要问题和缺陷 ,并对其未来的发展 方向 进 行 了展望 。
2016年 06月
REM OTE SENSING FOR LAND & RESOURCES
doi:10.6046/gtzyyg.2016.02.03
引用格式 :李孚煜 ,叶发茂.基于 SIFT的遥感 图像配 准技术综 述 [J1.国土资源遥 感 ,2016,28(2):14—20.(Li F Y,Ye F M. Summar ization of SIF T —based remote sensing image registration techniques[J].Remote Sensing for Land and Resources,2016,28 (2):14—20.)
键点。每个检测点都跟与其同尺度的 8个相邻点以
及上 下 相邻 尺 度 的 9个点 (共 8+9 X 2=26个 点 )
进行 比较 ,只保 留局部极值点 。这样得到 的局部极
值 点 即为粗 略特征 点 。
3)精 化 关 键 点 检 测 结 果 。通 过 子像 元 插 值 得
到特 征点 的精 确尺 度 ,删 除 受边 缘 效 应 影 响较 大 的
第 2期
李孚煜 ,等 : 基于 SIFT的遥感 图像配准技术综述
其 中特征 提 取 及 特征 匹 配 主 要 包 括 关 键 点 检 测 、局部 特征 描述 子生成 和特 征点 匹配 。 1.1 关键点检 测
SIFT算法是基于点的匹配算法,所 以首先要找 出具 有 代 表 性 和 稳 定 性 的 关 键 点 。SIFT算 法 关 键 点 检测 的 目的就 是在 图像 的尺度 空间 中找 出对 图像 缩 放 、旋 转 以及一 定 程度 的 噪声 保持 不 变 的点 的精 确 位置 ,并对 这些 点进行 筛选 ,为 后续处 理搜 集足 够 多 的信 息 。SIF T 的关键 点检测 分为 以下 4个 步骤 :
2)对特 征矢 量进 行 归 一化 处 理 ,以使 其 拥 有 一 定程 度 的光 照强 度不 变性 。 1.3 特 征点 匹 配
SIFT算法 根 据 描 述 子 之 间 的 欧 氏距 离 来 判 断 其相似性 ,并 根据相似性 的大小进行 特征点 匹配 。 为减少误匹配 ,通常先使 用 比值提纯法对 匹配结果 进行提纯。除查询最近邻 的描述子之外 ,还要考虑 次 近邻 ;当次近邻 距 离与 最近 邻距 离 的 比值 小 于 阈 值 时 ,则认 为 这 个 SIFT图 像 配 准 基 本 流 程 不 够 显 著 ,剔 除该 匹配对 。匹配对 比值 提纯 之后 ,一 般还 要 使用 随 机 抽 样 一 致 性 (random sample consensns, RANSAC)方法剔除离群匹配对 ,以进一步减少误匹配。
针对 SIFT 描述子维数高 (128维 )导致计算 量
2 遥感 图像 配准
传统 SIFT算 法是 为解 决 不 同视 角 之 间 目标 或 场景 的可 靠 匹配 而提 出 的。该方 法针 对 同一种 传感 器 图像之 间 的图像 匹配 效 果 较好 ,但 直 接 用 于不 同 性质遥感图像之间的配准可能会失效 ;在复杂场景 或相似场景下 ,SIFT算法容易出现误匹配 ;同时 ,传 统 SIFT算法也存在生成 128维 的描述子速度慢等 问题 。为 了使 SIFT算 法 能 更 好 地 应 用 于 遥 感 图配 准 ,很 多 研 究 者 提 出 了 不 同 的 改 进 方 案 ,可 分 为 4 类 :①SIFT提升算法 ;② 针对遥感 图像性 质 的改 进 ;③ 混 合方法 ;④针 对算 法流 程 的改进 。 2.1 SIFT提 升算 法
的关键点之后 ,SIFT 为每一个关键点的主方 向和每
个 辅方 向生成 一个 描 述 子 ,并 让 这些 描 述 子 拥 有 尽
可能 多的不变 性 :
1)根 据 关 键 点 所 在 尺 度 ,选 择 相 应 大 小 的 邻 域 ,分为 4×4个子 区域 ,每个子 区域有 4像元 X4 像元。以主方向为基准对齐后 ,对每个 子区域 的梯 度方向进行统计 ,形成 8个方 向的直方 图。因存在 4 X4个子 区域 ,每个 子 区域 的 梯度 直 方 图有 8个 方 向 ,故 SIFT特 征矢 量 有 4×4×8=128维 。 由于直 方图只有局部小 区域的灰度统计信息 ,而仿射变换 对 灰 度频率 的影 响甚 微 ,所 以如 此 产 生 的 描述 子 对 仿 射 变换 也具 有一定 程度 的不 变性 。
间的图像相减得到。实际算法 中,DoG通过构建 图
像金字塔来实现 ,即将图像金字塔分成 O组 ,每组 s
层 ,下 一组 的图 像 由上 一 组 图像 隔 点 降 采 样 取 得 。
将 每组 上下相 邻 2层 的高 斯 尺度 空 间 的 图 像相 减 ,
得 到 DoG。
2)寻找 尺 度 空 间 中的 局 部 极 值 点 作 为 候 选 关
1
一r…2 2、
式 中 :G( ,Y, )= e ; 为 尺 度 参 数 ;
盯 o r
为 卷积运 算符 。
如果 把 or看 成 是 尺 度 变 量 ,那 么 在 尺 度 空 间
中 ,不 同 or 的 G( ,Y,or)就 组 成 一 个 组 (Octave)。
DoG响应值图像 D( ,Y, )由2个相邻 高斯尺度空
在 计算 机视 觉领 域 ,继 SIFT后 又有 大 量 提升 算 法 ,有 些 已 经 被 应 用 于 遥 感 图 像 配 准 。 Bay 等 _20 借鉴 了 SIFT的思想 ,于 2008提 出加速鲁棒特 征 (speeded—up robust features,SURF)描述 子 ,用 图 像积分代替卷积运算 ,提高了特征提取 的速度 ;Liu 等 _2 把 SURF应用于 SAR图像 匹配 ,获得了高匹配 率。Morel等 提 出了仿射无 关 的 ASIFT(affine— SIFT)算法 ;Yang等 将 ASIFT应用 于图像 配准 问题 ;Lin等u 借鉴 ASIFT的思 想 ,改进 了 SURF, 提出了仿射无关的 ASURF(affine—SURF)算法 。
…
特璧 秆 L—回 匪L— ;
童 J生成局部描述子l I生成局部描述子『j
,… … … … … 一t… …
一
…
…
一
根 据 描 述 子 相 似 性 进 行 匹 配
特征 匹配
对 匹配 对 比值 提 纯
… … … … 寸… … … … 一
RANSAC ̄方 法 剔 除 离 群 匹 配 对
点 ,通过子像元插值和去边缘效应 ,精化关键点检测
结果 。
4)生 成 关 键 点 的 主 方 向。根 据 关 键 点 所 在 的
尺度 选取 邻域 ,在该邻 域 内分 36个方 向统计 所有 点
的梯 度方 向 ,取 方 向统计 直方 图 中主 峰 的对 应 方 向
为主 方 向。若存 在相 当于 主峰 80% 以上 的方 向 ,则
将这 些方 向取 为辅方 向 。每个关 键点 只有 一个 主方
向 ,大 约 20% 的关键 点有 1 或多 个辅 方 向 。每 个
探测到的关键点都包括位置信息、所在尺度及主方
向信息 ,可以用 1个 4维向量来描述。
1.2 局部 特征描 述子 生成
得 到 在尺 度 空 间 中对 图像 缩 放 、旋 转保 持 不 变
+
配准模型 的确定 (参数估计)
① RANSAC为随机抽样一致性(random sample consensus)算法 。 图 1 基于 SIFT的图像配准流程 图
Fig.1 Flowchart of SⅡ1T —based image registration
收稿 日期 :2014—12—17;修订 日期 :2015—03—18 基金项 目:国家 自然科学基金项 目“基于人工禁 忌免疫 原理的多源遥感 图像 自动配准研究 ”(编号 :41261091)资助 。