压缩感知理论综述

压缩感知理论综述摘要：信号采样是模拟的物理世界通向数字的信息世界之必备手段。

多年来，指导信号采样的理论基础一直是著名的Nyquist采样定理，但其产生的大量数据造成了存储空间的浪费。

压缩感知(Compressed Sen si ng)提出一种新的采样理论，它能够以远低于Nyquist采样速率采样信号。

本文详述了压缩感知的基本理论，着重介绍了信号稀疏变换、观测矩阵设计和重构算法三个方面的最新进展，并介绍了压缩感知的应用及仿真，举例说明基于压缩感知理论的编解码理论在一维信号、二维图像处理上的应用。

关键词：压缩感知；稀疏表示；观测矩阵；编码；解码
一、引言
Nyquist采样定理指出，采样速率达到信号带宽的两倍以上时，才能由采样信号精确重建原始信号。

可见，带宽是Nyquist采样定理对采样的本质要求。

然而随着人们对信息需求量的增加，携带信息的信号带宽越来越宽，以此为基础的信号处理框架要求的采样速率和处理速度也越来越高。

解决这些压力常见的方案是信号压缩。

但是，信号压缩实际上是一种资源浪费，因为大量的不重要的或者只是冗余信息在压缩过程中被丢弃。

从这个意义而言，我们得到以下结论：带宽不能本质地表达信号的信息，基于信号带宽的Nyquist采样机制是冗余的或者说
是非信息的。

于是很自然地引出一个问题：能否利用其它变换空间描述信号，建立新的信号描述和处理的理论框架，使得在保证信息不损失的情况下，用远低于Nyquist 采样定理要求的速率采样信号，同时又可以完全恢复信号。

与信号带宽相比，稀疏性能够直观地而且相对本质地表达信号的信息。

事实上，稀疏性在现代信号处理领域起着至关重要的作用。

近年来基于信号稀疏性提出一种称为压缩感知或压缩采样的新兴采样理论，成功实现了信号的同时采样与压缩。

简单地说，压缩感知理论指出：只要信号是可压缩的或在某个变换域是稀疏的，那么就可以用一个与变换基不相关的观测矩阵将变换所得高维信号投影到一个低维空间上，然后通过求解一个优化问题就可以从这些少量的投影中以高概率重构出原信号，可以证明这样的投影包含了重构信号的足够信息。

在该理论框架
下，采样速率不再取决于信号的带宽，而在很大程度上取决于两个基本准则：稀疏性
和非相干性，或者稀疏性和等距约束性。

事实上，压缩感知理论的某些抽象结论源于Kashir创立的范函分析和逼近论⑺，最近由CandeS3], Romberg⑷，Tao⑸ 和Don oho⑹等人构造了具体的算法并且通过研究表明了这一理论的巨大应用前景。

目前国内已经有科研单位的学者对其展开研究。

如西安电子科技大学课题组基于该理论提出采用超低速率采样检测超宽带回波信号[11]。

显然，在压缩感知理论中，图像/ 信号的采样和压缩同时以低速率进行，使传感器的采样和计算成本大大降低，而信号的恢复过程是一个优化计算的过程．因此，该理论指出了将模拟信号直接采样压缩为数字形式的有效途径。

从理论上讲任何信号都具有可压缩性，只要能找到其相应的稀疏表示空间，就可以有效地进行压缩采样。

当前，压缩感知理论主要涉及三个核心问题：
(1)具有稀疏表示能力的过完备字典设计；
(2)满足非相干性或等距约束性准则的测量矩阵设计；
(3)快速鲁棒的信号重建算法设计。

压缩感知理论必将给信号采样方法带来一次新的革命。

这一理论的引人之处还在于它对应用科学的许多领域具有重要的影响，如统计学、信息论、编码[8]等。

目前，学者们已经在模拟- 信息采样、合成孔径雷达成像、遥感成像、核磁共振成像、深空探测成像、无线传感器网络、信源编码、人脸识别、语音识别、探地雷达成像等诸多领域对压缩感知展开了广泛的应用研究。

Rice大学已经成功设计
出了一种基于压缩感知的新型单像素相机，在实践中为取代传统相机迈出了实质性的一步。

本文围绕稀疏字典设计、测量矩阵设计、重建算法设计三个核心问题，综述了压缩感知理论以及与之相关的信号稀疏变换、观测矩阵设计、重构算法等一系列最新理论成果和应用研究，描述了国内外的研究进展。

本文结构安排如下：第 2 部分阐述了压缩感知的理论框架；第3 部分系统介绍了压缩感知的三个核心问题，即信号的稀疏表示、信号的观测矩阵、信号重构算法；第 4 部分指出压缩感知有待解决的若干关键问题；第 5 部分介绍了压缩感知的应用及仿真；第6部分对全文作了总结。

二、压缩感知理论框架
传统的信号采集、编解码过程如图I所示：编码端先对信号进行采样，再对所有
采样值进行变换，并将其中重要系数的幅度和位置进行编码，最后将编码值进行存储或传输：信号的解码过程仅仅是编码的逆过程，接收的信号经解压缩、反变换后得到恢复信号。

采用这种传统的编解码方法，由于信号的采样速率不得低于信号带宽的2倍，使得硬件系统面临着很大的采样速率的压力。

此外在压缩编码过程中，大量变换计算得到的小系数被丢弃，造成了数据计算和内存资源的浪费。

图1传统编解码理论的框图
压缩感知理论对信号的采样、压缩编码发生在同一个步骤，利用信号的稀疏性，以远低于Nyquist采样率的速率对信号进行非自适应的测量编码。

测量值并非信号本身，而是从高维到低维的投影值，从数学角度看，每个测量值是传统理论下的每个样本信号的组合函数，即一个测量值已经包含了所有样本信号的少量信息。

解码过程不是编码的简单逆过程，而是在盲源分离中的求逆思想下。

利用信号稀疏分解中已有的重构方法在概率意义上实现信号的精确重构或者一定误差下的近似重构⑶。

解码所需测量值的数目远小于传统理论下的样本数。

图2压缩感知理论的编解码框图
三、压缩感知的基本理论及核心问题
假设有一信号f(f R N
)，长度为N ，基向量为i (i 1,2，…,N)，对信号进 行变换：
N
f a i i 或 f
i 1
显然f 是信号在时域的表示， 是信号在 域的表示。

信号是否具有稀疏
性或者近似稀疏性是运用压缩感知理论的关键问题，若
(1)式中的只有K 个是 非零值(N K)者仅经排序后按指数级衰减并趋近于零，可认为信号是稀疏的。

T X ，假如对于0 p 2和R 0 ,这些系数满足:
II li p ( I i l p )1/p R 则说明系数向量 在某种意义下是稀疏的•文献［1］给出另一种定义：如果 变换系数
信号的可稀疏表示是压缩感知的先验条件
感知过程可分为两步：
(1)
设计一个与变换基不相关的
M
测，得到M 维的测量向量。

(2) 由M 维的测量向量重构信号。

3.1信号的稀疏表示
在已知信号是可压缩的前提下，压缩 N(M N )维测量矩阵对信号进行观 X 在正交基 下的变换系数向量为
i X，i的支撑域｛i； i 0｝的势小于等于K,则可以说信号X是K项稀疏。

如何找到信号最佳的稀疏域?这是压缩感知理论应用的基础和前提，只有选择合适的基表示信号才能保证信号的稀疏度, 从而保证信号的恢复精度。

在研究信号的稀疏表示时,可以通过变换系数衰减速度来衡量变换基的稀疏表示能力。

Can de列Tao研究表明，满足具有幕次(power-law )速度衰减的信号，可利用压缩感知理论得到恢复。

最近几年，对稀疏表示研究的另一个热点是信号在冗余字典下的稀疏分解．这是一种全新的信号表示理论：用超完备的冗余函数库取代基函数，称之为冗余字典，字典中的元素被称为原子．字典的选择应尽可能好地符合被逼近信号的结构，其构成可以没有任何限制．从从冗余字典中找到具有最佳线性组合的K 项原子来表示一个信号，称作信号的稀疏逼近或高度非线性逼近[12,13]。

目前信号在冗余字典下的稀疏表示的研究集中在两个方面：(1)如何构造一
个适合某一类信号的冗余字典；(2)如何设计快速有效的稀疏分解算法．这两个问题也一直是该领域研究的热点，学者们对此已做了一些探索，其中以非相干字典为基础的一系列理论证明得到了进一步改进．西安电子科技大学的石光明教授也对稀疏表示问题进行了认真研究，并基于多组正交基级联而成的冗余字典提出一种新的稀疏分解方法[17]。

3.2信号的观测矩阵
用一个与变换矩阵不相关的M N(M N)测量矩阵对信号进行线性投
影，得到线性测量值y ：
yf
测量值y是一个M维向量，这样使测量对象从N维降为M维。

观测过程是非自适应的即测量矩阵少的选择不依赖于信号 f 。

测量矩阵的设计要求信号从 f 转换为y的过程中，所测量到的K个测量值不会破坏原始信号的信息，保证信号的精确重构。

由于信号 f 是是可稀疏表示的，上式可以表示为下式：
其中是一个M N矩阵。

上式中，方程的个数远小于未知数的个数，方程
无确定解，无法重构信号。

但是，由于信号是K稀疏，若上式中的满足有限等距性质(Restricted Isometry Property,简称RIP)，即对于任意K稀疏信号f和常数
k (0,1)，矩阵满足:
2
|| f||2 1
Ilf II2
则K个系数能够从M个测量值准确重构。

RIP性质的等价条件是测量矩阵和稀疏基不相关。

目前，用于压缩感知的测量矩阵主要有以下几种：高斯随机矩阵，二值随机矩阵(伯努力矩阵)，傅立叶随机矩阵，哈达玛矩阵，一致球矩阵
3.3信号的重构算法
当矩阵满足RIP准则时。

压缩感知理论能够通过对上式的逆问题先求解稀
疏系数T x，然后将稀疏度为K的信号x从M维的测量投影值y中正确地恢复出来。

解码的最直接方法是通过〔0范数下求解的最优化问题：
min || ||0 航y
从而得到稀疏系数的估计。

由于上式的求解是个NP—HARD问题。

而该最
优化问题与信号的稀疏分解十分类似，所以有学者从信号稀疏分解的相关理论中寻找更有效的求解途径。

文献［10］表明，h最小范数下在一定条件下和I。

最小范
数具有等价性，可得到相同的解。

那么上式转化为I1最小范数下的最优化问题:
min 11 ||1 “ y
I1最小范数下最优化问题又称为基追踪(BP)，其常用实现算法有：内点法和梯度投影法。

内点法速度慢，但得到的结果十分准确：而梯度投影法速度快，但没有内点法得到的结果准确［14］。

二维图像的重构中，为充分利用图像的梯度结构。

可修正为整体部分(Total Variation, TV)最小化法。

由于h最小范数下的算法
速度慢，新的快速贪婪法被逐渐采用，如匹配追踪法(MP)和正交匹配追踪法(OMP)。

此外，有效的算法还有迭代阈值法以及各种改进算法。

四、有待研究的关键问题压缩感知经过近年来的迅猛发展，已基本形成了自己的
理论框架，包括基础
理论、实现方法和实际应用。

但是，压缩感知理论还有很多亟待解决的问题，为此本文列出了压缩感知有待解决的关键问题。

基于非正交稀疏字典的压缩感知信号重建理论。

在等距约束性准则驱动的可压缩信号压缩感知定理中，关于稀疏字典囁口测量矩阵①仅要求两者乘积© =①W 满足RIP。

但是，测量矩阵设计部分关于压缩测量个数M的界定还额外附加了假设条件，即稀疏字典W是正交基。

当测量矩阵①依然通过三种方式生成，但是稀疏字典3不再正交时，0 =①W是否满足RIP?压缩测量个数M的下限是否不变？由于过完备的稀疏字典才能保证表示系数具有足够的稀疏性或衰减性，进而能够在减少压缩测量的同时保证压缩感知的重建精度，所以需要设计鲁棒的测量矩阵①使之与过完备稀疏字典依然满足RIP，同时需要重新估计压缩测量个数M 的下限，这时所需的压缩测量定会减少。

五、总结本文主要阐述了压缩感知理论框架，基于压缩感知理论的编解码模型，以
及
压缩感知技术的三大核心问题。

通过对一维信号编解码的仿真实验说明了压缩感知理论是一种能够使用少量测量值实现信号准确恢复的数据采集、编解码理论。

由于压缩感知理论对处理大规模稀疏或可压缩数据具有十分重要的意义。

所以该理论提出后在许多研究领域得到了关注。

目前，国外研究人员已开始将压缩感知理论用于压缩成像、医学图像、模数转换、雷达成像、天文学、通信等领域。

作为国外刚出现的新理论，压缩感知理论的研究方兴未艾，将有着更广泛的应用前景。

【参考文献】
[1]石光明.刘丹华.高大化.刘哲.林杰.王良君压缩感知理论及其研究进展-ACTA Electronica Sinica 2009 ，37(5)
[2]张锐基于压缩感知理论的图像压缩初步研究- Computer Knowledge And Technology 2010，6(4)
[3]Candes E, Romberg J, Tao T. Robust uncertainty principles: Exact signal reconstruction from highly incomplete frequency information[J]. IEEE Trans. Information Theory, 2006, 52(4): 489-509．
[4]E Candes and J Romberg, Quantitative robust uncentainty principles and optimally sparse decompositions[J]. Foundations of Comput Math, 2006, 6(2): 227-254 ．
[5]E Cand E.T Tao Near optimal signal recovery from random projections:Universal encoding strategies 2006(12)
[6]D L Donoho Compressed sensing 2006(04)
[7]B Kashin.The widths of certain finite dimensional sets and classes of smooth functions[J] ．Izv Akad Nauk SSSR.1977, 41(2):334-351 ．
[8]E Cand seCompressive sampling 2006
[9]喻玲娟.谢晓春压缩感知理论简介-Video Engineering 2008 ，32(12)
[10]DONOHO D.TSAIG Y Extensions of compressed sensing 2006(03)
[11]Guangming Shi.Jie Lin.Xuyang Chen.Fei Qi,Danhua Liu Li Zhang UWB echo signal detection with ultra low rate sampling based on compressed sensing 2008(04)
[12]张春梅. 尹忠科. 肖明霞基于冗余字典的信号超完备表示与稀疏分解- 科学通报
2006(06)
[13]V Temlyakov Nonlinear Methods of Approximation[IMI Research Reports] 2001
[14]F IGUEIREDO M A T.NOWAK R D.WRIGHT S J Gradient projection for sparse reconstruction:application to compressed sensing and other inveme problems 2007(04)
[15]S Mallat. 杨力华.戴道清.黄文良信号处理的小波导引2002
[16]覃凤清.数字图像压缩综述[J] .宜宾学院学报,2006(6)
[17]刘丹华.石光明.周佳社一种冗余字典下的信号稀疏分解新方法-西安电子科技大学
学报(自然科学版) 2008(02)。