0一种冗余字典下的信号稀疏分解新方法

收稿日期：２００７—０５—１７ 基金项目：国家自然科学基金资助（６０６７２１２５，６０７３６０４３，６０７７６７９５），教育部长江学者和创新团队支持计划（ＩＲＴ０６４５）－国家部委预研基金
资助 作者简介：刘丹华（１９７８一），女，讲师，西安电子科技大学博士研究生，Ｅ－ｍａｉｌ：ｄｈ．１ｉｕ＠ｍａｉｌ．ｘｉｄｉａｎ．ｅｄｕ ｃｒｔ，
图１是文中算法的分解过程示意图．设Ｎ为信号，的长度，Ｄ＝｛Ｂ，，Ｂｚ，…，ＢＬ），Ｂｔ＝｛反，Ｊ＝１，２，…， Ｎ），ｉ＝１，２，…，Ｌ，Ｅ为第ｉ个标准正交基组，则Ｄ为Ｌ组正交基级联而成的字典．希望找到Ｋ（Ｋ《Ｎ）个
Ｋ
系数来对厂进稀疏逼近，Ａ＝∑ｃｊｇｊ．
第１次分解：首先，分别利用标准正交基Ｂ；（ｉ＝１，２，…，Ｌ）对信号厂进行正交分解，将得到Ｎ个系数，选
２００８年４月 第３５卷第２期
西安电子科技大学学报（自然科学版） ＪｏＵＲＮＡＬ ＯＦ ＸＩＤＩＡＮ ＵＮＩＶＥＲＳＩＴＹ
Ａｐｒ．２００８ ＶｏＬ ３５ ＮＯ．２
一种冗余字典下的信号稀疏分解新方法
刘丹华，石光明，周佳社
（西安电子科技大学电子工程学院，陕西西安７１００７１）
摘要：针对目前冗余字典下信号稀疏分解紫用算法计算复杂度高的问题，提出一种分组匹配追踪算法．
ＩＩＲ‘０＝ ｍｉｎ 钏Ｒ钏）．
（６）
ｉ－７６ｉＩ’…ｔｉ≠ｉｌ－－１
依次类推，直到找到第Ｌ组系数牛，ｑｓｌ．，…，ｅ一。，砖．至此，共得到Ｌ组分解系数０，０，…，哇一。，Ｃ屯＇Ｉ，膏，
．Ｌ
｜Ｌ
１
。Ｉ
莺’．．·，圣一。，之＇．．·，ｃ｝，毒’．．·，毫一。，毫，将它们合并起来记作Ｃｌ，龟’．．·，ｃＫ．最终得到信号ｆ的稀疏分解，即
号结构的一个原子而构建的一种逼近过程口’１引．但是，由于每次迭代字典中的所有剩余原子都需与信号作内
积，以找到最能匹配信号结构的一个原子，所以ＭＰ算法计算量仍十分巨大．笔者提出新算法的目的就是在
完成信号稀疏分解的同时，降低计算复杂度，并尽可能克服过匹配现象．
２基于多组正交基级联字典的分组匹配追踪算法
２．１文中算法描述 基于多组正交基级联字典的分组匹配追踪算法的基本思想是：根据信号特性，选择多组正交基构造冗余
Ｇａｂｒｉｅｌ Ｐｅｙｒ６ｔ７］提出在某个正交基字典里，自适应地寻找可以逼近某一种信号特征的最优正交基，根据不 同的信号可以寻找最适合信号特性的一个基，然后对信号进行变换以得到较低计算复杂度下的信号稀疏表示．
但一组固定的正交基仍然不可能对所有具有多种奇异特性的信号都能够达到稀疏分解．因此笔者从降 低计算复杂度的角度出发，提出基于多组正交基级联字典［８］的分组匹配追踪算法．通过与ＭＰ算法的仿真实 验比较，结果表明该算法是快速而有效的．
ＩＩＲｌ ０＝ｍｉｎ．｛Ｉ｜Ｒ圳｝．
（４）
Ｉ－ｌ●Ｚ●…●Ｌ
即找到与信号ｆ匹配程度最高的标准正交基Ｂｉｌ’并得到第一组系数ｃ｝，ｃ≥＇．．‘，哇，一。，ｆ．；：ｔ１．，同时将Ｂｔ。这组正
交基从字典中删去．
第ｚ次分解：对残余信号ＲＨ作上述同样的分解过程，可得
Ｒ‘＝ＲＨ一∑ｔ ｇ？ ，
（５）
』＝１
其中尉满足下式（同样删去相应的一组正交基）
１信号稀疏分解与匹配追踪（ＭＰ）算法
基于冗余字典的信号稀疏分解的数学描述：设集合Ｄ＝（ｇ。，ｉ＝１，２’．．·，Ｍ），且Ｈｉｌｂｅｒｔ空间
ＲⅣ＝ｓｐａｎ（Ｄ），Ｍ》Ｎ．由于Ｍ》Ｎ，称Ｄ为冗余字典，其元素因为不再满足正交性称为原子，并且原子都作 了归一化处理．对于信号，∈ＲⅣ，在Ｄ中选取Ｋ（Ｋ《Ｎ）个原子对信号，作Ｋ项逼近：
（３）
ｆ＝１
其中ｌＩｃ｜Ｉ。是序列ｑ（ｉ＝１，２，…，Ｋ）中非零项的个数．对于冗余字典Ｄ来说，这是一个ＮＰ难问题［９］．
人们转而采用能够求解局部最优的ＭＰ贪婪算法以取代求忙０。的全局最优，以降低计算的复杂度．ＭＰ
算法在每一次迭代过程中，用原始信号或残余信号跟冗余字典中所有原子做内积，从字典里选择最能匹配信
Ａｂｓｔｒａｃｔ： Ｆｏｒ ｔｈｅ ｅｘｔｒｅｍｅｌｙ ｈｉｇｈ ｃｏｍｐｌｅｘｉｔｙ ０ｆ ｕｓｕａｌ ａｌｇｏｒｉｔｈｍｓ ｆｏｒ ｓｐａｒｓｅ ｄｅｃｏｍｐｏｓｉｔｉｏｎ，ａ ｎｅｗ ｇｒｏｕｐ
ｍａｔｃｈｉｎｇ ｐｕｒｓｕｉｔ ａｌｇｏｒｉｔｈｍ ｉｓ ｐｒｅｓｅｎｔｅｄ ｂａｓｅｄ ｏｎ ａ ｒｅｄｕｎｄａｎｔ ｄｉｃｔｉｏｎａｒｙ ｗｉｔｈ ｓｅｖｅｒａｌ ｏｒｔｈｏｎｏｒｍａｌ ｂａｓｅｓ．Ｔｈｅ
２００４年由Ｃａｎｄｅｓ，Ｒｏｍｂｅｒｇ，Ｔａｏ和Ｄｏｎｏｈｏ［２３建立起来的压缩传感（Ｃｏｍｐｒｅｓｓｉｖｅ ｓｅｎｓｉｎｇ，ＣＳ）理论进 一步将稀疏分解思想提升到了一个新的高度．ＣＳ理论的基础就是要求信号在某个空间具有稀疏性，因此稀 疏分解的研究有极其重要而深远的理论意义和广泛的应用价值．
至今已经发展了多种稀疏分解算法．常用的有匹配追踪（ｍａｔｃｈｉｎｇ ｐｕｒｓｕｉｔ，ＭＰ）算法［１］、基追踪（ｂａｓｉｓ ｐｕｒｓｕｉｔ，ＢＰ）算法‘引、框架方法（ｍｅｔｈｏｄ ｏｆ ｆｒａｍｅｓ，ＭＯＦ）算法ＬｌＪ、最佳正交基（ｂａｓｉｓ ｏｒｔｈｏｇｏｎａｌ ｂｅｓｔ，ＢＯＢ） 算法Ｉｓ］、正交匹配追踪（ｏｒｔｈｏｇｏｎａｌ ｍａｔｃｈｉｎｇ ｐｕｒｓｕｉｔ，ＯＭＰ）算法［６］．其中ＢＰ算法、ＭＰ算法是目前最常用
ｌｉ
出志ｉ个大系数ｃｉ，ｃ；，…，ｃ～ｉ一。，ｃ气ｉ作分解，则分解后所得的残余Ｒｉｌ＝厂一∑ｑｉ ｇ；，在Ｌ组这样的大系数中选
万方数据
２３０
西安电子科技大学学报（自然科学版）
第３５卷
（·）稀疏分解过程
（ｂ）重构过程
图１基于多组正交基级联字典的分组匹配追踪算法的分解及重构过程
出一组系数ｃＩｌ，巳ｓ１’．．·，ｃ２一，，毫满足
该算法首先利用多组正交基构造冗余字典，然后采用迭代式分组匹配追踪，每次迭代从字典中选出一组
和原始信号或残余最匹配的正交基，采用正交分解快速算法进行正交分解得到少量重要系数。多次迭代
后逐渐稀疏逼近原始信号．实验结果表明，基于小波正交基级联冗余字典进行信号稀疏分解时，在同等
稀疏条件下，与匹配追踪（ＭＰ）算法相比，该算法的计算速度提高了大约３０倍，而且可避免过匹配现象．
ｅｖｅｎｔｕａｌｌｙ．Ｓｉｍｕｌａｔｉｏｎ ｒｅｓｕｌｔｓ ｓｈｏｗ ｔｈａｔ ｔｈｅ ｃａｌｃｕｌａｔｉｎｇ ｓｐｅｅｄ ｏｆ ｔｈｅ ａｌｇｏｒｉｔｈｍ ｉｎ ｔｈｉｓ ｐａｐｅｒ ｉｎｃｒｅａｓｅｓ ｂｙ ａｂｏｕｔ
ｔｈｉｒｔｙ ｔｉｍｅｓ ｃｏｍｐａｒｅｄ ｗｉｔｈ ＭＰ’Ｓ．Ｍｏｒｅｏｖｅｒ。ｔｈｉｓ ａｌｇｏｒｉｔｈｍ ｃａｎ ａｖｏｉｄ ｏｖｅｒ－ｍａｔｃｈｉｎｇ．
Ｋｅｙ Ｗｏｒｄｓ： ｓｐａｒｓｅ ｄｅｃｏｍｐｏｓｉｔｉｏｎ；ｒｅｄｕｎｄａｎｔ ｄｉｃｔｉｏｎａｒｙ；ｍａｔｃｈｉｎｇ ｐｕｒｓｕｉｔ ａｌｇｏｒｉｔｈｍ；ｓｉｇｎａｌ ｃｏｍｐｒｅｓｓｉｏｎ
在信号与信息处理中，如何用空间变换有效地表达信号，是一个很重要的问题．传统的信号表示方法是基 于“基”的展开，如Ｆｏｕｒｉｅｒ变换和小波变换等．但这种建立在正交基上的信号分解有一定的局限性，往往不总能 够达到好的稀疏表示效果，尤其是对于时频变化范围很广的信号，效果更差．一种更好的信号分解方式应该是 根据信号的特点，自适应地选择合适的基函数，来完成信号的分解．因此近年来非正交分解引起人们极大的研 究兴趣．Ｍａｌｌａｔ和Ｚｈａｎｇ于１９９３年提出基于冗余字典（ｒｅｄｕｎｄａｎｔ ｄｉｃｔｉｏｎａｒｙ）的稀疏分解思想［１］．
万方数据
第２期
刘丹华等：一种冗余字典下的信号稀疏分解新方法
２２９
的两种算法．在众多稀疏分解算法中ＭＰ算法的速度是最快的，但其计算量仍然巨大．这是由于ＭＰ每一步 都要完成信号或残余信号在冗余字典中的每一个原子上的投影计算．ＭＰ算法还有另两个缺点：（１）在已选 原子组成的子空间上，信号的展开可能不是最好的；（２）极易造成过匹配现象［３］．
关键词：稀疏分解；冗余字典；匹配追踪算法，信号压缩
中图分类号：ＴＮ９１１．７２
文献标识码：Ａ
文章编号：１００１－２４００（２００８）０２－０２２８－０５
Ｎｅｗ ｍｅｔｈｏｄ ｆｏｒ ｓｉｇｎａｌ ｓｐａｒｓｅ ｄｅｃｏｍｐｏｓｉｔｉｏｎ ｏｖｅｒ ａ ｒｅｄｕｎｄａｎｔ ｄｉｃｔｉｏｎａｒｙ
Ｌ儿，Ｄａｎ—ｈｕａ，ＳＨＩ Ｇｕａｎｇ－ｍｉｎｇ，ＺＨＯＵ Ｊ ｉａ—ｓｈｅ （Ｓｃｈｏｏｌ ｏｆ Ｅｌｅｃｔｒｏｎｉｃ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｘｉｄｉａｎ Ｕｎｉｖ．，Ｘｉ７ａｎ ７１００７１，Ｃｈｉｎａ）
ｆＫ＝
芝：
＜厂，ｇ；＞ｇｉ ，
（１）
ｉＥｋ·亿Ｉ＝Ｋ
其中ｋ是ｇ；Байду номын сангаас下标集合．定义逼近误差 仃一ｉｎｆ ＩＩ厂一Ａ ０ ．
（２）
，Ｋ
从稀疏逼近的角度出发，希望在满足条件（２）的前提下，从各种可能的组合中，挑选出分解系数最为稀疏
的一组原子．要找到最稀疏的信号表示，等同于解决０一范数问题［１］
Ｘ
ｒａｉｎ…ｌ ｏ，ｓ．ｔ．ｆ＝２：ｃｌｇｉ，
另外，当原始信号恰好包含冗余字典中两个原子的线性组合时，采用ＭＰ算法极易造成过匹配现象．文 中算法则克服了过匹配现象，实验结果也证明了这一点．
万方数据
第２期
刘丹华等：一种冗余字典下的信号稀疏分解新方法
２３１
３实验结果分析
３．１ 小波基下正交分解的逼近误差对比 以一维语音信号（图２（ａ））为例，取Ｎ＝１ ０２４，用Ｄａｕｂｅｃｈｉｅｓ系列小波基ｄｂｌ—ｄｂｌ０构造正交级联字典．
ｍａｔｃｈｉｎｇ ａｌｇｏｒｉｔｈｍ ａｄｏｐｔｓ ｔｈｅ ｔｈｅ ｉｄｅａ ｏｆ ｉｔｅｒａｔｉｖｅ ｇｒｏｕｐ
ｐｕｒｓｕｉｔ ａｎｄ ｓｅｌｅｃｔｓ ｔｈｅ ｏｐｔｉｍａｌ ｂａｓｉｓ ｆｒｏｍ ｔｈｅ
ｍａｔｃｈｉｎｇ ｄｉｃｔｉｏｎａｒｙ ｂｙ ｃｏｍｐａｒｉｎｇ ｔｈｅ
ｓｉｇ越ｏｒ ｄｅｇｒｅｅ ｂｅｔｗｅｅｎ ｔｈｅ
字典，将各组正交基与信号进行匹配程度比较，选择在与信号，最匹配的一组基下进行分解，得到第一批重 要系数，然后从字典中将最匹配的这组基删掉．接下来对残余信号Ｒｉ进行同样分解，将Ｒ与字典中剩余正交 基的匹配程度进行比较，在最匹配的一组基下将残余信号Ｒ‘分解，得到下一批重要系数．依次类推，直到完 成残余信号Ｒｉ的精度要求（或分解系数个数要求）为止． ２．２文中算法分解过程
．２
１
’Ｌ
‘Ｌ
●１
１２
ｋＬ
Ｋ
，≈＾＝∑ｑ１ ｇ；＋∑勺２ ｇ；＋…＋∑ｏＬ ｇ；＝∑ｑｇ』．
（７）
由分解过程可以看出发现：文中算法和ＭＰ算法的思想相似，但不同的是ＭＰ算法每次迭代从原子库选 择一个最佳原子，而文中算法则是选择一组最佳正交基进行分解．
笔者提出的算法的改进之处在于：（１）在一定条件下可以保证其收敛性，且易于编制算法；（２）它每一次 迭代过程都是在正交基下进行分解（常用正交变换大都有快速算法），极大地降低了计算复杂度．当选择的字 典是Ｄ＝（Ｂ。，Ｂ：，…，Ｂ。）时，如果Ｅ的正交变换和重构有快速算法（如小波基），此时该算法的计算复杂度 为０（Ｎ），而ＭＯＦ算法、ＢＯＢ算法的算法复杂度均为Ｏ（Ｎｌｏｇ Ｎ），ＢＰ算法比ＭＯＦ算法、ＢＯＢ算法还要 慢，只有ＭＰ算法是准线性的，然而其速度却极大地依赖于字典中原子的数量Ｍ（通常Ｍ》Ｎ）．所以当冗余 字典是由多组正交基级联而成时，该算法在计算复杂度方面优于ＭＰ算法．
取Ｋ一１２８（Ｋ《Ｎ），表１为单独使用一组小波基时的逼近误差０，一＾９对照表．从表１中可以看出，ｄｂ７ 的逼近效果最好．在正交基级联字典中进行稀疏分解时，笔者所提算法逼近误差ｌｌ，一，Ｋ ｌｌ＝１．４９８ ７《 ２．８９４１，它远小于单独使用ｄｂ７正交分解的逼近误差，从视觉效果看（图２（ｂ）和２（ｄ）），文中算法重构出的 信号也远好于正交基分解重构信号．
ｔｈｅ ｒｅｓｉｄｕａ ａｎｄ ｅｖｅｒｙ ｂａｓｉｓ．Ｅａｃｈ ｏｐｅｒａｔｉｏｎ
ｏｆ ｄｅｃｏｍｐｏｓｉｎｇ ｒｅｓｕｌｔｓ ｉｎ ａ ｆｅｗ ｉｍｐｏｒｔａｎｔ ｃｏｅｆｆｉｄｅｎｔｓ ｂｙ ｕｓｉｎｇ ｔｈｅ ｆａｓｔ ｃａｌｃｕｌａｔｉｎｇ ａｌｇｏｒｉｔｈｍ ｏｆ ｏｒｔｈｏｇｏｎａｌ
ｄｅｃｏｍｐｏｓｉｔｉｏｎ．Ｍｔｅｒ ｓｅｖｅｒａｌ ｓｕｃｈ ｉｔｅｒａｔｉｏｎｓ．ｔｈｅ ｏｒｉｇｉｎａｌ ｓｉｇｎａｌ ｉｓ ａｐｐｒｏｘｉｍａｔｅｄ、＾ｒｉｔｌｌ ａ ｆｅｗ ｃｏｅｆｆｉｄｅｎｔｓ