压缩感知理论综述(原创)

压缩感知理论综述摘要：信号采样是模拟的物理世界通向数字的信息世界之必备手段。

多年来，指导信号采样的理论基础一直是著名的Nyquist采样定理，但其产生的大量数据造成了存储空间的浪费。

压缩感知（Compressed Sensing）提出一种新的采样理论，它能够以远低于Nyquist采样速率采样信号。

本文详述了压缩感知的基本理论，着重介绍了信号稀疏变换、观测矩阵设计和重构算法三个方面的最新进展，并介绍了压缩感知的应用及仿真，举例说明基于压缩感知理论的编解码理论在一维信号、二维图像处理上的应用。

关键词：压缩感知；稀疏表示；观测矩阵；编码；解码一、引言Nyquist采样定理指出，采样速率达到信号带宽的两倍以上时，才能由采样信号精确重建原始信号。

可见，带宽是Nyquist采样定理对采样的本质要求。

然而随着人们对信息需求量的增加，携带信息的信号带宽越来越宽，以此为基础的信号处理框架要求的采样速率和处理速度也越来越高。

解决这些压力常见的方案是信号压缩。

但是，信号压缩实际上是一种资源浪费，因为大量的不重要的或者只是冗余信息在压缩过程中被丢弃。

从这个意义而言，我们得到以下结论：带宽不能本质地表达信号的信息，基于信号带宽的Nyquist采样机制是冗余的或者说是非信息的。

于是很自然地引出一个问题：能否利用其它变换空间描述信号，建立新的信号描述和处理的理论框架，使得在保证信息不损失的情况下，用远低于Nyquist 采样定理要求的速率采样信号，同时又可以完全恢复信号。

与信号带宽相比，稀疏性能够直观地而且相对本质地表达信号的信息。

事实上，稀疏性在现代信号处理领域起着至关重要的作用。

近年来基于信号稀疏性提出一种称为压缩感知或压缩采样的新兴采样理论，成功实现了信号的同时采样与压缩。

简单地说，压缩感知理论指出：只要信号是可压缩的或在某个变换域是稀疏的，那么就可以用一个与变换基不相关的观测矩阵将变换所得高维信号投影到一个低维空间上，然后通过求解一个优化问题就可以从这些少量的投影中以高概率重构出原信号，可以证明这样的投影包含了重构信号的足够信息。

在该理论框架下，采样速率不再取决于信号的带宽，而在很大程度上取决于两个基本准则：稀疏性和非相干性，或者稀疏性和等距约束性。

事实上，压缩感知理论的某些抽象结论源于Kashin创立的范函分析和逼近论]7[，最近由Candes]3[，Romberg]4[,Tao]5[和Donoho]6[等人构造了具体的算法并且通过研究表明了这一理论的巨大应用前景。

目前国内已经有科研单位的学者对其展开研究。

如西安电子科技大学课题组基于该理论提出采用超低速率采样检测超宽带回波信号]11[。

显然，在压缩感知理论中，图像/信号的采样和压缩同时以低速率进行，使传感器的采样和计算成本大大降低，而信号的恢复过程是一个优化计算的过程．因此，该理论指出了将模拟信号直接采样压缩为数字形式的有效途径。

从理论上讲任何信号都具有可压缩性，只要能找到其相应的稀疏表示空间，就可以有效地进行压缩采样。

当前，压缩感知理论主要涉及三个核心问题：(1) 具有稀疏表示能力的过完备字典设计；(2) 满足非相干性或等距约束性准则的测量矩阵设计；(3) 快速鲁棒的信号重建算法设计。

压缩感知理论必将给信号采样方法带来一次新的革命。

这一理论的引人之处还在于它对应用科学的许多领域具有重要的影响，如统计学、信息论、编码]8[等。

目前，学者们已经在模拟-信息采样、合成孔径雷达成像、遥感成像、核磁共振成像、深空探测成像、无线传感器网络、信源编码、人脸识别、语音识别、探地雷达成像等诸多领域对压缩感知展开了广泛的应用研究。

Rice大学已经成功设计出了一种基于压缩感知的新型单像素相机，在实践中为取代传统相机迈出了实质性的一步。

本文围绕稀疏字典设计、测量矩阵设计、重建算法设计三个核心问题，综述了压缩感知理论以及与之相关的信号稀疏变换、观测矩阵设计、重构算法等一系列最新理论成果和应用研究，描述了国内外的研究进展。

本文结构安排如下：第2 部分阐述了压缩感知的理论框架；第3 部分系统介绍了压缩感知的三个核心问题，即信号的稀疏表示、信号的观测矩阵、信号重构算法；第4 部分指出压缩感知有待解决的若干关键问题；第5 部分介绍了压缩感知的应用及仿真；第6部分对全文作了总结。

二、压缩感知理论框架传统的信号采集、编解码过程如图l所示：编码端先对信号进行采样，再对所有采样值进行变换，并将其中重要系数的幅度和位置进行编码，最后将编码值进行存储或传输：信号的解码过程仅仅是编码的逆过程，接收的信号经解压缩、反变换后得到恢复信号。

采用这种传统的编解码方法，由于信号的采样速率不得低于信号带宽的2倍，使得硬件系统面临着很大的采样速率的压力。

此外在压缩编码过程中，大量变换计算得到的小系数被丢弃，造成了数据计算和内存资源的浪费。

图1 传统编解码理论的框图压缩感知理论对信号的采样、压缩编码发生在同一个步骤，利用信号的稀疏性，以远低于Nyquist采样率的速率对信号进行非自适应的测量编码。

测量值并非信号本身，而是从高维到低维的投影值，从数学角度看，每个测量值是传统理论下的每个样本信号的组合函数，即一个测量值已经包含了所有样本信号的少量信息。

解码过程不是编码的简单逆过程，而是在盲源分离中的求逆思想下。

利用信号稀疏分解中已有的重构方法在概率意义上实现信号的精确重构或者一定误差下的近似重构]3[。

解码所需测量值的数目远小于传统理论下的样本数。

图2 压缩感知理论的编解码框图三、压缩感知的基本理论及核心问题假设有一信号)(N R f f ∈，长度为N ，基向量为),...,2,1(N i i =ψ，对信号进行变换：αψψ==∑=f a f i Ni i 或1显然f 是信号在时域的表示，α是信号在ψ域的表示。

信号是否具有稀疏性或者近似稀疏性是运用压缩感知理论的关键问题，若(1)式中的α只有K 个是非零值)(K N >>者仅经排序后按指数级衰减并趋近于零，可认为信号是稀疏的。

信号的可稀疏表示是压缩感知的先验条件。

在已知信号是可压缩的前提下，压缩感知过程可分为两步：(1)设计一个与变换基不相关的)(N M N M <<⨯维测量矩阵对信号进行观测，得到M 维的测量向量。

(2)由M 维的测量向量重构信号。

3.1信号的稀疏表示文献[4]给出稀疏的数学定义：信号X 在正交基ψ下的变换系数向量为X T ψ=Θ，假如对于20<<p 和0>R ，这些系数满足：R p p ii p ≤≡Θ∑/1)||(||||θ则说明系数向量Θ在某种意义下是稀疏的．文献[1]给出另一种定义：如果变换系数>ψ=<i i X ,θ的支撑域}0;{≠i i θ的势小于等于K ，则可以说信号X 是K项稀疏。

如何找到信号最佳的稀疏域?这是压缩感知理论应用的基础和前提，只有选择合适的基表示信号才能保证信号的稀疏度，从而保证信号的恢复精度。

在研究信号的稀疏表示时，可以通过变换系数衰减速度来衡量变换基的稀疏表示能力。

Candes 和Tao 研究表明，满足具有幂次(power-law)速度衰减的信号，可利用压缩感知理论得到恢复。

最近几年，对稀疏表示研究的另一个热点是信号在冗余字典下的稀疏分解．这是一种全新的信号表示理论：用超完备的冗余函数库取代基函数，称之为冗余字典，字典中的元素被称为原子．字典的选择应尽可能好地符合被逼近信号的结构，其构成可以没有任何限制．从从冗余字典中找到具有最佳线性组合的K 项原子来表示一个信号，称作信号的稀疏逼近或高度非线性逼近]13,12[。

目前信号在冗余字典下的稀疏表示的研究集中在两个方面：(1)如何构造一个适合某一类信号的冗余字典；(2)如何设计快速有效的稀疏分解算法．这两个问题也一直是该领域研究的热点，学者们对此已做了一些探索，其中以非相干字典为基础的一系列理论证明得到了进一步改进．西安电子科技大学的石光明教授也对稀疏表示问题进行了认真研究，并基于多组正交基级联而成的冗余字典提出一种新的稀疏分解方法]17[。

3.2信号的观测矩阵用一个与变换矩阵不相关的)(N M N M <<⨯测量矩阵φ对信号进行线性投影，得到线性测量值y ：f y φ=测量值y 是一个M 维向量，这样使测量对象从N 维降为M 维。

观测过程是非自适应的即测量矩阵少的选择不依赖于信号f 。

测量矩阵的设计要求信号从f 转换为y 的过程中，所测量到的K 个测量值不会破坏原始信号的信息，保证信号的精确重构。

由于信号f 是是可稀疏表示的，上式可以表示为下式：ααφΘ=ψΦ==f y其中Θ是一个N M ⨯矩阵。

上式中，方程的个数远小于未知数的个数，方程无确定解，无法重构信号。

但是，由于信号是K 稀疏，若上式中的Θ满足有限等距性质(Restricted Isometry Property ，简称RIP)，即对于任意K 稀疏信号f 和常数)1,0(∈k δ，矩阵Θ满足：k k f f δδ+≤Θ≤-1||||||||12222则K 个系数能够从M 个测量值准确重构。

RIP 性质的等价条件是测量矩阵φ和稀疏基ψ不相关。

目前，用于压缩感知的测量矩阵主要有以下几种：高斯随机矩阵，二值随机矩阵(伯努力矩阵)，傅立叶随机矩阵，哈达玛矩阵，一致球矩阵等。

3.3信号的重构算法当矩阵Θ满足RIP 准则时。

压缩感知理论能够通过对上式的逆问题先求解稀疏系数x T ψ=α，然后将稀疏度为K 的信号x 从M 维的测量投影值y 中正确地恢复出来。

解码的最直接方法是通过0l 范数下求解的最优化问题：αααΦψ=y t s l .||||0min从而得到稀疏系数的估计。

由于上式的求解是个NP —HARD 问题。

而该最优化问题与信号的稀疏分解十分类似，所以有学者从信号稀疏分解的相关理论中寻找更有效的求解途径。

文献[10]表明，1l 最小范数下在一定条件下和0l 最小范数具有等价性，可得到相同的解。

那么上式转化为1l 最小范数下的最优化问题：αααΦψ=y t s l .||||1min1l 最小范数下最优化问题又称为基追踪(BP)，其常用实现算法有：内点法和梯度投影法。

内点法速度慢，但得到的结果十分准确：而梯度投影法速度快，但没有内点法得到的结果准确]14[。

二维图像的重构中，为充分利用图像的梯度结构。

可修正为整体部分(Total Variation ，TV)最小化法。

由于1l 最小范数下的算法速度慢，新的快速贪婪法被逐渐采用，如匹配追踪法(MP)和正交匹配追踪法(OMP)。

此外，有效的算法还有迭代阈值法以及各种改进算法。

四、有待研究的几个关键问题压缩感知经过近年来的迅猛发展，已基本形成了自己的理论框架，包括基础理论、实现方法和实际应用。