第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原

0
(10-4)
在实际运算中,通常在三种约束条件下解决稀疏表示这个
问题。第一种是以稀疏度L为约束条件：
min D - X 2 s. t. 0 L

2
0
第二种是以求解信号残差为约束条件：
(10-5)
min 0 s.t. D X 2 2

0
2
(10-6)
第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原
10.1 概 述
10.1.1 信号的稀疏表示及其研究现状 在信号处理中,人们希望把信号变换到适当的域,然后利用信号在这个
域的稀疏逼近替代原始信号。信号的稀疏表示有两方面的作用：一方面 能够提供数字信号的压缩特性;另一方面能够有效地抓住信号的本质特征, 为后续的信号处理提供便利。传统的信号处理通常将已知信号在给定的 函数集上进行分解。例如,将信号在余弦函数上进行分解,得到该信号在频 域上的展开;将信号在小波函数上进行分解,得到该信号小波域的展开。然 而对于自然信号,采用单一的函数集或者函数集的联合往往不能有效地模 拟出信号的结构。因此,一直以来,人们希望找到一种更为灵活的方式,它不 仅能有效地表示出自然信号的结构,同时使用尽可能少的基函数。在数字 信号处理领域,这种简洁、 有效的信号表示方式,能够有效地降低信号处理 成本,提高信号压缩率,具有重要的意义。
第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原
基于超完备字典的信号稀疏分解成为近年来研究的热点。 这种新的信号表示理论用一种称为字典的超完备基去代替传 统的正交基,由于字典的选择没有任何限制,它能够更加有效地 表达出原始信号的结构。字典的每一列元素称为一个原子,信 号的稀疏分解就是从给定的或者自适应建立的字典中选择最 佳线性组合的一定数量原子,去稀疏逼近或者非线性逼近原始 信号。对于哺乳类动物的视觉系统的一系列研究表明,视觉皮 层对刺激的表达符合超完备稀疏表示的原则。在非线性逼近 理论中,超完备系统能得到比传统正交基更好的逼近也得到了 证明。
给定一个集合D={dr, r=1,2,3…,K},它的每一个元素是张 成希尔伯特空间Η=RN的单位矢量,其中K>>N,D称为超完备字 典,它的每一列元素称为一个原子。对于任意给定的信号X,希 望在字典中自适应地选择一定数量的原子对信号进行逼近,即 信号表示为字典原子的一组线性组合：
X=D α
(10-3)
(10-2)
第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原
10.1.3 超完备字典的基本概念 1993年由Mallat 和Zhang首次提出了超完备字典的概念,
它实质是一种超完备基。超完备字典的优越性能引起了人们 的重视,并在最近几年得到了快速的发展。目前超完备字典的 研究主要集中在超完备字典学习算法、 基于超完备字典信号 稀疏分解算法及它们的应用领域上。
第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原
其中,α为稀疏系数矩阵,它只包含少量的非零元素。从示意图 10-1中可以看到,信号X可以由字典D中三个原子的线性组合来 稀疏表示,此时可以用只包含三个非零项的稀疏表示矩阵α来 描述信号X。在数学上,可通过最小化l0范数问题求解稀疏表示：
min s.t X D
对于RM中的任意给定信号X∈RM,都可以用{Ψi}Ni的线性组合
来表示：
N
X = aii i 1
(10-1)
由于张成空间RM的基向量{Ψi}Ni是线性独立的,这样的展开式是 唯一确定的。进一步说,如果Ψi⊥Ψj,i≠j,则{Ψi}Ni称为一组正交基。 同样的,可以得到下式的矩阵形式：
X=源自文库 α
图10-1 信号在超完备字典上的稀疏表示
第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原
第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原
10.1.2 信号稀疏性表示
稀疏性是信号表示的一种普遍属性。在信号表示中,信号
常常由大量疑似因素中的少量因素决定。一种信号的稀疏性
表示与表示手段和度量方式有着密不可分的联系。考虑空间
RM由一组线性独立的矢量Θ={Ψi}Ni组成基,它们张成整个空间。
第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原
第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原
10.1 概述 10.2 信号稀疏分解算法 10.3 超完备字典学习算法 10.4 基于图像稀疏表示的单幅图像超分辨率算法 10.5 实验结果及分析 10.6 本章小结
第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原
第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原
基于超完备字典的信号稀疏分解算法复杂、 计算量巨大, 阻碍了其在工程实践中的应用。目前信号超完备稀疏分解研 究主要集中于以下几个方面：① 设计逼近程度更好且时间效 率更高的信号稀疏表示算法; ② 根据信号结构,设计超完备字 典学习算法,字典对于原始信号的稀疏表示能够得到更高的信 噪比,能够得到更快的收敛。目前已经出现很多优秀的超完备 字典学习算法,例如K-SVD算法、 在线字典学习(Online Dictionary Learning,ODL)算法和优化方向方法(Method of Optimized Directions, MOD)等。
第十章 基于超完备字典的图像稀疏表示理论的超分辨率复原
皮层对刺激的表达符合超完备稀疏表示的原则。在非线 性逼近理论中,超完备系统能得到比传统正交基更好的逼近也 得到了证明。
基于超完备字典的信号稀疏分解理论出现于20世纪90年 代, Mallat和Zhang在1993年首次提出了这种信号分解思想并 引入了一种贪婪算法——匹配跟踪(Marching Pursuit,MP)算法 来求解这个问题。随后出现了基于MP算法的各种改进,例如 正交匹配跟踪(Orthogonal Matching Pursuit, OMP)算法等。 1999年,Donoho等人巧妙地用l1范数代替l0范数问题求解,提出 了基追踪(Basis Pursuit, BP)算法,并在2001年给出了利用BP算 法对信号进行稀疏分解唯一解的边界条件。