结构化压缩感知研究进展
基于智能算法的压缩感知图像重构技术研究
基于智能算法的压缩感知图像重构技术研究随着互联网的发展，数字化信息的存储和处理成为当今时代的重要任务。
然而，数字化信息通常需要占用大量的存储空间，降低了信息处理的效率。
为了解决这一问题，压缩技术逐渐得到广泛应用。
压缩感知技术是近年来新兴的压缩技术，其利用了信号的稀疏性质将信号压缩之后，借助于一定的解压算法重构原信号。
压缩感知技术的原理基于维纳-霍夫曼定理，即信号的稀疏性质可以降低信号的采样率，同时保持原有的信息。
这一原理可以很好地解决目前数字信息存储和传输面临的容量和带宽限制问题。
而基于智能算法的压缩感知图像重构技术则是压缩感知技术的重要分支之一。
基于智能算法的压缩感知图像重构技术的核心思想是通过智能算法对压缩感知得到的数据进行处理和分析，以找到最佳的重构方案。
重构过程中，智能算法可以集成人工神经网络(ANN)、模糊逻辑、遗传算法(GA)和粒子群优化(PSO)等多种算法，以实现更加高效准确的图像重构。
该技术在数字信号处理、图像处理、视频处理等领域都得到了广泛的应用。
在图像处理领域，基于智能算法的压缩感知图像重构技术在图像重构方面表现出了良好的优势。
传统的图像重构方法一般采用插值技术，然而这种方法会导致图像失真，降低了图像重构的精度。
而基于智能算法的压缩感知图像重构技术可以利用信号的稀疏性对图像进行压缩，并在图像的重构过程中，通过ANN、模糊逻辑、GA等智能算法对图像进行优化，最终得到高质量的重构图像。
此外，基于智能算法的压缩感知图像重构技术还可以通过选择不同的智能算法进行重构，以适应不同的图像类型和应用场景。
比如，在医学图像处理中，由于医学图像数据所面临的各种复杂性，需要使用多种智能算法相结合的方法，才能进行准确快速的图像重构。
总的来说，基于智能算法的压缩感知图像重构技术具有新颖、高效的优势，为解决数字图像存储和传输问题提供了有力的工具。
未来，该技术还将在视频压缩、音频压缩等领域应用得更加广泛，并能够不断融合其他领域的智能算法，进一步提高其应用范围和效率。
压缩感知技术研究进展分析
压缩感知技术研究进展分析
近年来，压缩感知技术在研究和应用方面取得了许多重要进展。
以下
是对压缩感知技术研究进展的分析：
1.理论基础的完善：压缩感知技术最初由Emmanuel Candes等人提出，随后得到了Donoho和Tsaig等人的进一步丰富和完善。
现在，压缩感知
技术已经具备完整的理论基础，包括稀疏表示理论、不确定性原理等。
这
些理论为CS技术的进一步研究提供了坚实的基础。
3.应用领域的拓展：压缩感知技术在各个领域的应用也有了较大的拓展。
在图像处理中，CS技术可以用于图像压缩、图像去噪等；在语音处
理中，可以用于语音识别、语音增强等；在视频处理中，可以用于视频压缩、视频编码等。
此外，CS技术还在医学图像处理、雷达成像等领域展
示了广阔的应用前景。
4.硬件支持的改善：随着硬件技术的进步，压缩感知技术得到了更好
的支持。
例如，新一代的压缩感知传感器可以实现更高的采样速度和更低
的能耗，这使得它们在实际应用中更加实用。
此外，还有一些新兴的压缩
感知传感器技术，如基于混合模态的传感器、基于多个测量模块的传感器等，也为CS技术的应用提供了更多的选择。
总体而言，压缩感知技术的研究进展非常迅速，不仅在理论层面有了
很大的突破，而且在实际应用中也有了广泛的拓展。
随着对压缩感知技术
的深入研究，相信它将在更多领域发挥重要的作用，并给人们的生活带来
更大的改善。
《2024年分布式压缩感知的重构算法研究》范文
《分布式压缩感知的重构算法研究》篇一一、引言随着信息技术的飞速发展，大数据时代已经到来。
在处理海量数据时，压缩感知（Compressed Sensing）技术因其能够以低于传统采样定理的采样率获取数据中的关键信息而受到广泛关注。
而随着网络环境的复杂性和数据的分散性增加，分布式压缩感知（Distributed Compressed Sensing）逐渐成为研究的热点。
分布式压缩感知在处理分布式数据时，可以更有效地利用资源，提高数据处理的效率。
本文将重点研究分布式压缩感知的重构算法，以期为相关领域的研究和应用提供理论支持。
二、分布式压缩感知概述分布式压缩感知是一种将压缩感知与分布式计算相结合的技术。
在这种技术中，数据被分割成多个部分，分别在不同的节点上进行压缩感知处理。
每个节点对数据的局部进行测量和编码，然后将编码后的数据通过网络进行传输和融合，最后在中心节点进行全局的重构。
这种技术能够有效地处理分布式数据，提高数据处理的速度和效率。
三、分布式压缩感知的重构算法研究（一）算法概述分布式压缩感知的重构算法主要包括局部重构和全局重构两个阶段。
局部重构是在各个节点上对局部数据进行重构，以获取原始数据的近似值。
全局重构则是在中心节点上，利用所有节点的局部重构结果进行全局的重构，以恢复原始数据的完整信息。
（二）算法分类根据不同的重构策略和算法思想，可以将分布式压缩感知的重构算法分为以下几类：1. 集中式重构算法：该类算法将所有节点的局部重构结果传输到中心节点，由中心节点进行全局的重构。
该类算法简单易行，但需要大量的通信开销。
2. 分布式迭代重构算法：该类算法利用各节点之间的信息交换和迭代计算，实现分布式数据的重构。
该类算法可以减少通信开销，提高算法的效率。
3. 基于稀疏性的重构算法：该类算法利用信号的稀疏性进行重构，能够更准确地恢复原始数据。
（三）算法研究进展近年来，关于分布式压缩感知的重构算法研究取得了重要的进展。
压缩感知技术研究进展分析
压缩感知技术研究进展分析压缩感知技术是一种对信号进行高效压缩的方法。
它通过信号的稀疏表示，将信号从原始空间压缩到重建空间，从而使得信号的压缩和重建过程更加高效。
近年来，压缩感知技术在信号处理、图像处理、视频编码等领域得到了广泛应用。
本文将对压缩感知技术的研究进展进行分析。
首先，压缩感知技术的理论基础是稀疏表示。
信号的稀疏表示是指信号能够通过一个稀疏向量进行近似表示。
压缩感知技术通过选择合适的测量矩阵，可以将信号从高维空间压缩到低维空间，并且在低维空间中实现有效的重建。
近年来，研究者们提出了一系列针对不同信号的稀疏表示方法，包括基于小波变换、稀疏字典、稀疏分解等方法。
其次，压缩感知技术的研究围绕着信号的测量、稀疏表示和重建展开。
在信号的测量方面，研究者们提出了多种测量方法，如随机测量矩阵、固定测量矩阵和自适应测量矩阵等。
这些方法可以有效地选择信号的测量方式，从而减少测量的复杂度。
在信号的稀疏表示方面，研究者们提出了一系列稀疏表示方法，如基于小波变换的稀疏表示、稀疏字典学习和稀疏分解等方法。
这些方法可以更加准确地表示信号的稀疏性质，从而提高信号的压缩和重建效果。
在信号的重建方面，研究者们提出了延迟傅里叶、欧拉显著性测度和最大支持度等重建方法。
这些方法可以有效地从测量信号中重建出原始信号。
再次，压缩感知技术的应用非常广泛。
在信号处理领域，压缩感知技术可以应用于语音信号增强、声音分析和图像处理等任务。
在图像处理领域，压缩感知技术可以应用于图像压缩、图像恢复和图像去除噪声等任务。
在视频编码领域，压缩感知技术可以应用于视频压缩、视频传输和视频分析等任务。
此外，压缩感知技术还可以应用于无线传感器网络、医学影像处理和物联网等领域。
最后，压缩感知技术还存在一些挑战和问题。
首先，如何选择合适的测量矩阵是一个关键问题，不同的测量矩阵对信号的压缩和重建效果有着不同的影响。
其次，如何在实际应用场景中充分发挥压缩感知技术的优势也是一个重要问题。
基于压缩感知的知识发现方法研究
基于压缩感知的知识发现方法研究压缩感知是一种新兴的信号处理技术，它通过在信号采样时进行压缩，从而在保持信号信息的同时减少采样数据量。
基于压缩感知的知识发现方法是近年来在数据挖掘和机器学习领域引起广泛关注的研究方向。
本文将从压缩感知技术的基本原理入手，探讨基于压缩感知的知识发现方法在数据挖掘中的应用，并对其研究进行深入分析。
首先，我们来介绍一下压缩感知技术。
压缩感知是一种通过稀疏表达来恢复信号的方法，它利用了信号在某个稀疏域中具有稀疏性这一特点。
具体而言，对于一个n维信号x，如果它在某个稀疏基下能够用k(k<<n)个非零系数表示，则称x是k-稀疏的。
利用这个特性，我们可以通过少量采样数据和一个适当设计的测量矩阵A来恢复原始信号x。
基于上述原理，可以将压缩感知应用于数据挖掘中的特征选择问题。
特征选择是数据挖掘中的一个重要任务，它的目标是从大量特征中选择出最具有代表性和区分性的特征子集，以提高数据挖掘算法的性能和效率。
传统的特征选择方法通常基于统计学和信息论等方法，但这些方法在处理高维数据时存在计算复杂度高、易受噪声干扰等问题。
而基于压缩感知的知识发现方法则可以通过压缩感知技术提取出最具有代表性和区分性的特征子集，从而解决传统方法存在的问题。
在基于压缩感知的特征选择方法中，首先需要设计一个适当的测量矩阵A。
测量矩阵A是一个m×n维矩阵，其中m<<n。
通过对原始数据集进行采样，并利用测量矩阵A进行线性变换得到采样数据y。
然后利用压缩感知技术对采样数据y进行稀疏表示，并通过求解稀疏表示问题得到原始信号x在稀疏基下的系数向量。
最后根据系数向量中非零系数对应的特征子集，即可得到最终选择出来具有代表性和区分性的特征。
基于压缩感知的特征选择方法具有以下几个优点。
首先，由于采样数据量大大减少，可以大幅降低计算复杂度，提高特征选择的效率。
其次，由于采样数据量减少，可以降低数据存储和传输的成本。
框架表示下的压缩感知问题研究
框架表示下的压缩感知问题研究关键词：压缩感知、框架表示、信号处理、数据采集、传输框架表示是一种对信号进行高度抽象表示的方法，它能够将信号的结构信息和特性进行有效的提取和表达。
在压缩感知问题研究中，框架表示能够有效地帮助我们对信号进行稀疏表示，从而在信号采集和处理过程中大幅度减少了所需的采样点数，降低了数据传输和存储开销。
本文将从框架表示的角度出发，结合压缩感知的理论和实践，探讨在信号处理领域中压缩感知问题的研究，分析其优势和不足，并指出未来可能的发展方向。
一、压缩感知基本原理1.1 压缩感知概述压缩感知是由Emmanuel J. Candès、David L. Donoho等学者在近年提出的一种新型信号处理方法，它能够在信号采集端对信号进行高效压缩，仅通过少量采样点就能够准确地恢复原始信号。
与传统的Nyquist采样理论相比，压缩感知不要求采样频率必须是信号带宽的两倍，而是通过对信号的稀疏表示和非线性测量技术，实现了在低采样率下的高质量信号重构。
1.2 压缩感知的基本原理压缩感知的基本原理是通过对信号进行稀疏表示，并在采样端通过非线性测量技术得到少量线性投影，然后在重构端通过优化算法进行信号重构。
其数学模型可以表示为y=Φx其中y为采样结果，Φ为采样矩阵，x为稀疏表示的信号。
通过解这个优化问题，就可以得到对原始信号的高质量近似重构。
1.3 压缩感知的应用领域压缩感知在图像处理、语音信号处理、雷达成像、医学成像等领域都有着广泛的应用。
在这些领域，高质量的信号采集和传输对系统的性能有着重要的影响，而压缩感知通过大幅度减少信号采集和传输的开销，为这些领域的研究和应用提供了新的思路和方法。
2.1 框架表示的基本原理框架表示是一种将信号进行高度抽象表示的方法，它能够将信号的结构信息和特性进行有效的提取和表达。
在框架表示下，信号可以被表示为一组基函数的线性组合，这些基函数构成了信号的表示框架。
与传统的基变换表示方法相比，框架表示能够更好地适应信号的局部特性，对于非平稳信号有着更好的适应性。
压缩感知_研究现状概述
压缩感知_研究现状概述
引言
这篇文章将从历史脉络出发，介绍压缩感知的研究现状和发展趋势，包括发展起因、研究背景、算法实现、应用领域、发展趋势等方面，以期对此领域的研究有更深入的认识，为进一步的研究提供参考。
1.发展起因
压缩感知是由Stanley Osher和Tony Chan于2024年提出的概念，后来得到屈晓辉（E. Candes）等的重要改进及其它学者的研究。
20世纪90年代，稀疏性技术被广泛用于信号处理，但是传统的稀疏性方法需要收集较多的信号样本，导致传感器和采样系统的成本较高。
这个问题引发了Stanley Osher和Tony Chan的关注，于2005年，他们提出了一个新的概念，压缩感知。
2.研究背景
压缩感知是基于比较有效的凸优化方法和稀疏性假设，通过算法和优化技术。
压缩感知中RIP界的研究新进展
压缩感知中RIP界的研究新进展1. 引言1.1 1. 研究背景在压缩感知领域，RIP（Restricted Isometry Property）是一种重要的数学概念，它在高维数据压缩和重构中起着关键作用。
随着大数据时代的到来，传统的数据采集、传输和存储方式已经无法满足快速增长的数据需求。
在这种背景下，压缩感知技术逐渐受到研究者的关注，因为它能够在保证数据质量的同时显著减少数据量。
本文将介绍RIP的基本原理、RIP在压缩感知中的应用、RIP界的研究现状以及基于RIP的压缩感知算法和最新的研究进展，希望可以为读者提供对压缩感知技术与RIP界的深入了解，并激发更多关于压缩感知的研究和探索。
1.22. 研究目的研究目的部分的内容如下：研究目的是为了深入探讨压缩感知中RIP界的研究新进展，分析其在实际应用中的价值和挑战。
通过对RIP的基本原理和在压缩感知中的应用进行归纳总结，可以更清晰地了解其在信号采样和重建方面的作用。
对RIP界的研究现状和基于RIP的压缩感知算法进行剖析，可以帮助研究者更好地把握当前研究热点和发展趋势。
对RIP界的研究新进展进行深入分析，有助于揭示其在未来发展中的潜在应用和技术突破点。
最终，通过对整个研究领域的总结与展望，可以为未来的研究方向提供参考和指导，推动该领域的进一步发展和完善。
1.3 3. 文章结构文章结构主要包括引言、正文和结论三个部分。
在我们将介绍研究背景、研究目的和本文的结构安排。
接着，在正文部分中，我们将详细讨论RIP的基本原理、在压缩感知中的应用、RIP界的研究现状、基于RIP的压缩感知算法以及最新的研究进展。
在我们将对本文的内容进行总结，并展望未来可能的研究方向。
通过这样清晰的结构安排，读者可以更好地了解文章的内容和主要思路，有助于有效地传达研究成果和启发读者进一步研究。
2. 正文2.1 1. RIP的基本原理RIP是指稀疏重建中的正交匹配追踪(Orthogonal Matching Pursuit)算法。
压缩感知及其图像处理应用研究进展与展望
图像压缩感知原理
图像压缩感知基于一个原理：对于一个具有稀疏性的图像，可以通过少量的 线性测量获得其大致信息，然后在这些测量数据的基础上，通过重建算法恢复出 原始图像。这种方法的优势在于，它大大减少了存储和传输所需的资源。
重建算法研究
Байду номын сангаас
重建算法是图像压缩感知的关键部分。以下是一些主要的重建算法：
引言
压缩感知，也称为压缩采样或稀疏采样，是一种新型的信号处理技术。该技 术通过利用信号的稀疏性或可压缩性，在远低于Nyquist采样定理的要求下，实 现对信号的准确重构。本次演示将回顾压缩感知的发展历程、基本原理及其在各 个领域的应用情况，并展望未来的发展趋势和挑战。
压缩感知的回顾
压缩感知理论的发展可以追溯到2004年，由Candes、Romberg和Tao等人在 信号处理领域提出。压缩感知的基本原理是：对于一个可压缩的信号，可以在远 低于Nyquist采样频率的情况下进行测量，并通过优化算法重构出原始信号。
压缩感知算法的主要步骤包括稀疏基表示、测量和重构。首先，稀疏基表示 是选取一个适当的基函数集合，使得目标信号在这个基上具有稀疏表示。接着是 测量过程，通过线性投影将原始信号投影到低维空间，得到一组线性测量值。
最后是重构过程，通过优化算法求解一个约束优化问题，从这些线性测量值 中恢复出原始信号。
压缩感知算法具有广泛的应用价值。例如在医疗成像中，由于人体组织的复 杂性，直接进行高分辨率的全面扫描既不现实也不安全。压缩感知技术可以用于 实现低剂量、高分辨率的医学成像，提高诊断的准确性和病人的安全性。在音频 处理中，
2、实验室实践方面：将涌现更多具有创新性和实用性的实验方案，以解决 压缩感知在实际应用中遇到的问题。同时，将有更多的研究工作致力于提高压缩 感知技术的效率和拓展其应用领域。
压缩感知_研究现状概述
0
-0.5
-1
-1.5
0
50
100
150
200
250
300
2
1.5
1
0.5
0
-0.5
-1
-1.5
0
50
100
150
200
250
300
2 Recov ery Original 1.5
1
0.5
0
-0.5
-1
-1.5
0
50
100
150
200
250
300
23
Thank you!
24
6
概念及背景
7
概念及背景
compressive sensing实际上是对信号采集的颠覆性的理 论，打破了乃奎斯特采样(也称香农采样)。实际上，大部分 信号是稀疏的，没有必要用乃奎斯特采样进行时间离散化。 注意两点： （1）乃奎斯特采样对信号没有稀疏性的假设； （2）CS对信号有稀疏性假设，既s-稀疏； 压缩感知适合解决什么问题？ （1）信号是稀疏的 （2） sensor方计算代价较大，receiver方计算代价较小（ 即不适合将信息全部存储下来，而适合取少量信息，之后恢 复）
8
算法框架及具体内容
对于之前介绍过的编码表达式
其中， ， ，Φ是n×N 的矩阵。
我们先将解码，就是试图通过y 反求x0, 记为Δ。我们用 Δ(y) 表示反求结果. 一般而言, 若n < N, 则有无数个x ∈ 满足y = Φx. 因而, 只有借助信号稀疏性的特征, 我们才有 可能反求原始的信号x0. 那么, 给定一编码、解码对(Φ, Δ), 我们关心其性能, 即
概念及背景其中y概念及背景感知压缩难点在于压缩后的数据并不是压缩前的数据的一个子集并不是说本来有照相机的感光器上有一千万个像素扔掉其中八百万个剩下的两百万个采集到的就是压缩后的图像这样只能采集到不完整的一小块图像有些信息被永远的丢失了而且不可能被恢复
基于结构化稀疏模型的压缩感知重构改进算法
基于结构化稀疏模型的压缩感知重构改进算法
近年来，压缩感知（Compressed Sensing， CS）技术在信号处理领域得到了快速发展。
压缩感知算法能够从测量中恢复出原始信号，但其重构效果受到噪声影响以及复杂的估计模型的限制。
为了有效改善压缩感知重构中的误差，改进后的压缩感知重构（Outliers Compressed Sensing Reconstruction）技术已经颇受关注。
结构化稀疏模型（Structured Sparse Model， SSM）是基于将一个复杂的数据集建模并加以建模，以便更好地理解数据模式的一种技术。
它是基于统计学和计算机视觉，能够从信号系统中添加“结构性稀疏”，从而改善传统压缩感知重构算法的性能。
为了有效改善压缩感知重构中的误差，以及利用结构化稀疏模型的优势，我们提出了一种基于结构化稀疏模型的压缩感知重构改进算法（Structured Sparse Model Compressed Sensing Reconstruction Improvement Algorithm， SSMCRI）。
该算法建立了一个稀疏的多项式表达来提取信息，并在压缩感知重构步骤中引入结构化约束。
引入结构化约束，使得利用共性和结构信息，减少了无关信号，增强了误差度量准则，降低了复杂度，并改善了压缩感知重构效果。
实验结果表明，与传统的压缩感知重构算法相比，基于结构化稀疏模型的压缩感知重构改进算法能够有效改善重构结果，并进一步降低重构误差。
因此，该算法在压缩感知重构方面具有显著优势，可有效榨取出数据中隐藏的信息。
压缩感知理论研究简述
压缩感知理论研究简述１ 引⾔传统⽅式下的信号处理，依照Shannon/Nyquist采样理论采样会产⽣⼤量的采样数据，需要先获取整个信号再进⾏压缩[20]，即采样后⼤部分采样数据将会被抛弃，这就极⼤地增加了存储和传输的代价。
由于带宽的限制，许多信号只包含少量的重要频率的信息，所以⼤部分信号是稀疏的或可压缩的，对于这种类型的信号，我们知道，传统⽅式采样后的多数数据都会被抛弃，那么，为什么还要获取全部数据呢？难道不能直接获取已压缩数据⽽不需要抛弃任何数据？由Candes和Donoho 等⼈于2004 年提出压缩感知（Compressive Sensing或Co mp r e ssed S e n si n g、Co m p r es sed Sampling, CS）理论[1-6]。
该理论可以理解为将模拟数据节约地转换成压缩数字形式，避免了资源浪费。
即，在采样信号的同时就对数据进⾏适当的压缩，相当于在采样过程中寻找最少的系数来表⽰信号，并能⽤适当的重构算法从压缩数据中恢复出原始信号。
压缩感知的主要⽬标是从少量的⾮适应线性测量中精确有效地重建信号。
核⼼概念在于试图从原理上降低对⼀个信号进⾏测量的成本。
压缩感知包含了许多重要的数学理论，具有⼴泛的应⽤前景，最近⼏年引起⼴泛关注，得到了蓬勃的发展。
２ ＣＳ理论模型及主要算法压缩感知(CS)，也被称为压缩传感或压缩采样，是⼀种利⽤稀疏的或可压缩的信号进⾏信号重建的技术。
或者可以说是信号在采样的同时被压缩，从⽽在很⼤程度上降低了采样率。
压缩感知跳过了采集N个样本这⼀步骤，直接获得压缩的信号的表⽰[2][4]。
CS理论利⽤到了许多⾃然信号在特定的基Ψ上具有紧凑的表⽰，即这些信号是“稀疏”的或“可压缩”的。
CS理论主要包括三部分：⼀是信号的稀疏表⽰，⼆是设计测量矩阵，要在降低维数的同时保证原始信号x 的信息损失最⼩；三是设计信号恢复算法，利⽤M个观测值⽆失真地恢复出长度为N的原始信号。
压缩感知的重构算法研究
image recovery and are able to recover textures efficiently and accurately.The nonlinear diffusion regularization is beneficial for preserving the edge of an image.We use three steps to solve the complex model:First,we use the SGK algorithm to train the dictionary and obtain the sparse representation in the log-image.Second,we propose an alternating minimization algorithm to solve the remainder.Finally,we transform the recovered log-image into a real domain.Numerical experiments show that the proposed model preserves both edges and structures while removing multiplicative noise quickly.Key words:Compressed Sensing;Reconstruction algorithm;Matching pursuit; Dice coefficient;Sparse representation目录第一章引言 (1)1.1研究目的与意义 (1)1.2国内外研究现状 (1)1.3论文的主要工作与章节安排 (2)第二章压缩感知基本理论和应用 (4)2.1压缩感知理论 (4)2.1.1信号的稀疏表示 (5)2.1.2信号的编码测量 (5)2.1.3信号的重构 (6)2.2压缩感知的应用 (7)2.3本章小结 (8)第三章基于压缩感知的重构算法 (9)3.1匹配追踪（MP）和正交匹配追踪算法（OMP） (9)3.2正则化正交匹配追踪算法（ROMP） (10)3.3分段正交匹配追踪算法（StOMP） (11)3.4压缩采样匹配追踪（CoSaMP）和子空间追踪算法（SP） (11)3.5稀疏度自适应匹配追踪算法（SAMP） (12)3.6本章小结 (13)第四章基于稀疏度估计的子空间追踪算法 (14)4.1SESP算法 (14)4.1.1稀疏度估计 (14)4.1.2算法步骤 (15)4.2实验结果及实验分析 (15)4.3本章小结 (18)第五章改进的稀疏度自适应匹配追踪算法 (19)5.1广义Dice系数匹配准则 (19)5.2指数变步长 (20)5.3ISAMP算法步骤 (21)5.4实验结果及分析 (22)5.4.1广义Dice系数匹配准则的有效性 (22)5.4.2参数 和a对信号恢复性能的影响 (23)5.4.3一维信号重构结果比较 (24)5.4.4二维图像重构结果比较 (25)5.5本章小结 (27)第六章基于SGK算法稀疏表示的乘性噪声去噪 (28)6.1基于SGK算法稀疏表示的加性噪声去噪 (28)6.2乘性噪声去噪的方法 (30)6.3基于SGK稀疏表示的乘性噪声去噪 (31)6.3.1基于SGK稀疏表示的乘性噪声去噪模型 (31)6.3.2模型求解方法 (32)6.3.3实验结果及分析 (35)6.4本章小结 (43)第七章总结与展望 (44)7.1总结 (44)7.2展望 (44)参考文献 (45)攻读学位期间的研究成果 (48)致谢 (49)学位论文独创性声明.......................................................................学位论文知识产权权属声明...........................................................70 70第一章引言第一章引言1.1研究目的与意义随着现代科学技术的快速发展，人们所需的信息量也越来越大。
人工智能技术在压缩感知中的应用探究
人工智能技术在压缩感知中的应用探究随着信息技术的飞速发展，以及物联网的普及，我们所面临的数据量越来越大。
如何对这些数据进行有效的处理和传输，成为了摆在我们面前的一个难题。
在这个过程中，压缩感知技术的出现给我们带来了很大的便利。
与传统的压缩技术相比，压缩感知技术具有更高的压缩率和更小的数据传输量。
由于传统的压缩技术往往需要将信号采样后进行压缩，这个过程可能会浪费大量的带宽。
而压缩感知技术则可以在采样和压缩的同时完成，节省了带宽的资源。
而本文要探究的是，人工智能技术在压缩感知中的应用。
一、什么是压缩感知技术在压缩感知技术中，我们可以通过一种叫做稀疏采样的方式对信号进行采样。
稀疏采样指的是，在信号中存在着较多的零元素，我们可以仅对这些非零元素进行采样，忽略掉那些为零的部分。
在必要的情况下，我们可以通过一些算法来对信号进行重构，从而得到完整的信号数据。
在一般情况下，人们使用的信号都是稀疏的。
比如音频信号、图像信号等，它们往往都只包含少量有效的信息。
而传统的压缩技术无法充分利用信号的稀疏性，导致压缩率较低。
而压缩感知技术的出现，最大限度地利用了这种稀疏性，从而获得了更高的压缩率。
二、人工智能技术在压缩感知中的应用在压缩感知技术中，我们需要对信号进行采样并进行处理。
传统的采样方式往往是随机采样，但这种方法对信号的采样效率较低。
由于人工智能技术在图像识别和处理方面具有很高的准确率，因此我们可以使用一些深度学习算法对信号进行采样和处理。
一种广泛应用的信号采样方式是基于卷积神经网络（CNN）的压缩感知采样。
在这种方式中，人们使用的是一种叫作卷积自编码器的神经网络。
这种网络可以对信号进行压缩，并同时得到一个相关矩阵。
这个相关矩阵可以被用来计算信号的稀疏度，从而确定需要采样的数据点的位置。
在按照稀疏度进行采样之后，我们需要对采样结果进行处理。
这个过程一般需要使用一些重构算法。
但是，有时候我们的重构算法不一定能够完全地恢复出信号中的所有信息。
框架表示下的压缩感知问题研究
框架表示下的压缩感知问题研究【摘要】压缩感知是一种能有效降低信号采样率的新型信号处理理论。
本文主要研究框架表示下的压缩感知问题，通过介绍压缩感知的概念和框架表示的定义，探讨了在框架表示下的压缩感知方法、应用和算法研究。
结论部分总结了本文的研究成果，并展望了未来在框架表示下的压缩感知领域的发展方向。
通过本文的研究，可以更深入地了解框架表示下的压缩感知问题，为相关领域的研究和应用提供重要参考。
【关键词】压缩感知、框架表示、算法研究、应用、概述、定义、研究背景、研究意义、研究目的、总结、展望1. 引言1.1 研究背景压缩感知是一种新颖的信号采样和重构技术，它通过在信号采样过程中加入稀疏性或结构性先验知识，可以实现高效的信号采样与重构，从而减少采样量和降低传感器功耗。
在各种实际应用中，压缩感知技术已经取得了一系列成功的应用，如无线通信、医学成像、无线传感器网络等领域。
在传统的压缩感知理论中，通常假设采样过程是线性的，这限制了压缩感知技术在实际应用中的灵活性和适用性。
为了解决传统压缩感知方法的局限性，近年来，框架表示技术逐渐被引入到压缩感知领域。
框架表示是一种新兴的信号表示方法，它将信号表示为一组非正交的基函数的线性组合，可以更好地描述信号的结构和特征。
通过在压缩感知中引入框架表示，可以提高信号的重构精度和抗噪性能，拓展压缩感知技术的潜力。
研究框架表示下的压缩感知问题具有重要的实际意义和理论价值。
本文将对框架表示下的压缩感知方法和算法进行深入探讨，旨在拓展压缩感知技术的应用领域和提高其重构性能，为实际工程应用提供有效的指导和支持。
1.2 研究意义压缩感知是一种新兴的信号采样与重构技术，具有在高维信号和大数据环境下实现高效率和高精度的优势。
在传统采样理论中，要求采样率至少为信号的Nyquist采样率，而压缩感知技术可以通过优化测量矩阵，实现仅需远低于Nyquist采样率的采样率就能准确恢复原始信号。
这种技术在图像处理、通信系统和医学影像等领域均有广泛应用。
基于压缩感知的轨道结构故障模式识别研究
基于压缩感知的轨道结构故障模式识别研究【摘要】本文基于压缩感知技术，研究了轨道结构故障模式识别的方法。
首先介绍了压缩感知技术的基本原理，然后详细讨论了轨道结构故障模式识别的方法和数据采集与处理过程。
实验结果表明，该方法在识别轨道结构故障模式方面取得了一定的效果。
通过模型的优化与改进，进一步提高了识别准确度。
总结了研究结果并展望了未来的研究方向，为轨道结构故障识别领域的发展提供了新思路。
本研究对于提高轨道结构故障识别的效率和准确性具有积极的意义，为相关领域的研究和实践提供了有益的参考。
【关键词】压缩感知、轨道结构、故障模式识别、数据采集、实验结果、模型优化、研究结果、展望1. 引言1.1 研究背景基于压缩感知的轨道结构故障模式识别研究是近年来轨道交通领域的热点研究之一。
随着城市化进程加速推进，轨道交通系统日益成为城市交通主力，轨道结构的安全性和可靠性成为人们关注的焦点。
传统的轨道结构故障检测方法存在着数据量大、识别效率低、成本高等问题，制约了故障模式的准确识别和及时处理。
本研究旨在探索基于压缩感知的轨道结构故障模式识别方法，通过研究压缩感知技术的基本原理和轨道结构故障模式的特征提取方法，结合数据采集与处理等环节，实现对轨道结构故障的精准识别和及时处理。
1.2 研究意义轨道结构的安全运行对于城市的交通系统至关重要。
随着轨道结构老化和损坏问题的日益严重，轨道结构的故障识别和预测成为了当前研究的重要课题。
基于压缩感知的轨道结构故障模式识别方法为轨道结构故障的预测和识别提供了一种全新的技术手段。
通过利用压缩感知技术，可以在保证高准确性的情况下降低数据采集和处理的成本和复杂度，实现对轨道结构故障的快速识别和准确预测。
这不仅可以提高轨道结构的安全性和可靠性，还能够减少运营成本和维护费用。
基于压缩感知的轨道结构故障模式识别研究具有重要的实际意义和深远的社会影响。
在当前智能交通系统不断发展的背景下，深入研究压缩感知技术在轨道结构故障识别方面的应用，将为城市轨道交通系统的安全运行和发展提供重要支撑和保障。
结构化压缩感知研究进展_刘芳
第39卷第12期自动化学报Vol.39,No.12 2013年12月ACTA AUTOMATICA SINICA December,2013结构化压缩感知研究进展刘芳1,2武娇1,2,3杨淑媛2焦李成2摘要压缩感知(Compressive sensing,CS)是一种全新的信息采集与处理的理论框架.借助信号内在的稀疏性或可压缩性,可从小规模的线性、非自适应的测量中通过非线性优化的方法重构信号.结构化压缩感知是在传统压缩感知基础上形成的新的理论框架,旨在将与数据采集硬件及复杂信号模型相匹配的先验信息引入传统压缩感知,从而实现对更广泛类型的信号准确有效的重建.本文围绕压缩感知的三个基本问题,从结构化测量方法、结构化稀疏表示和结构化信号重构三个方面对结构化压缩感知的基本模型和关键技术进行详细的阐述,综述了结构化压缩感知的最新的研究成果,指出结构化压缩感知进一步研究的方向.关键词压缩感知,压缩观测,稀疏表示,信号重构,结构模型引用格式刘芳,武娇,杨淑媛,焦李成.结构化压缩感知研究进展.自动化学报,2013,39(12):1980−1995DOI10.3724/SP.J.1004.2013.01980Research Advances on Structured Compressive SensingLIU Fang1,2WU Jiao1,2,3YANG Shu-Yuan2JIAO Li-Cheng2Abstract Compressive sensing(CS)is a newly developed theoretical framework for information acquisition and ing the non-linear optimization methods,the signals can be recovered from fewer linear and non-adaptive measurements by taking advantage of the sparsity or compressibility inherent in real world signals.Structured com-pressive sensing is a new framework which can treat more general signal classes to achieve the accurate and effective reconstruction in practice by introducing the prior information matching with data acquisition hardware and compli-cated signal models to traditional compressive sensing.In this paper,the basic models and key techniques of structured compressive sensing are introduced in terms of the structured measurements,the structured dictionary representation and the structured signal reconstruction,which correspond to three basic aspects of compressive sensing,and the recent developments of structured compressive sensing are reviewed in detail.Finally,the current and future challenges of the structured compressive sensing are discussed.Key words Compressive sensing(CS),compressive measurement,sparse representation,signal reconstruction,struc-tured modelCitation Liu Fang,Wu Jiao,Yang Shu-Yuan,Jiao Li-Cheng.Research advances on structured compressive sensing. Acta Automatica Sinica,2013,39(12):1980−1995收稿日期2012-09-10录用日期2013-04-09Manuscript received September10,2012;accepted April9,2013国家重点基础研究发展计划(973计划)(2013CB329402),国家自然科学基金(61072106,61072108,61173090,61272023),高等学校学科创新引智计划(111计划)(B07048),教育部长江学者和创新团队发展计划(IRT1170),国家教育部博士点基金(20110203110006),智能感知与图像理解教育部重点实验室开放基金(IPIU012011002)资助Supported by National Basic Research Program of China(973 Program)(2013CB329402),National Natural Science Founda-tion of China(61072106,61072108,61173090,61272023),Fund for Foreign Scholars in University Research and Teaching Pro-grams(111Project)(B07048),Program for Cheung Kong Schol-ars and Innovative Research Team in University(IRT1170), National Research Foundation for the Doctoral Program of Higher Education of China(20110203110006),and the Open Research Fund Program of Key Laboratory of Intelligent Per-ception and Image Understanding of Ministry of Education of China(IPIU012011002)本文责任编委王聪Recommended by Associate Editor WANG Cong1.西安电子科技大学计算机学院西安7100712.智能感知与图像理解教育部重点实验室西安7100713.中国计量学院理学院杭州3100181.School of Computer Science and Technology,Xidian Univer-新兴的压缩感知(Compressive sensing,CS)为信息采集提供了全新的方法.与传统的Nyquist采样相比,CS以压缩形式(即低采样率)直接感知具有稀疏或可压缩性的对象,而不是先以高速率进行采样,然后再对数据进行压缩,因此CS为解决传统采样方法面临的高成本、低效率、信息冗余以及数据存储和传输的资源浪费等问题带来了新的契机.CS 领域的研究始于Cand`e s等[1−4]和Donoho[5]开创性的工作,他们证明了具有稀疏或可压缩性的有限维信号,可从小规模的线性、非自适应的测量中使用非线性优化的方法获得恢复.CS理论一经提出就备受关注,之后的几年涌现出大量的相关研究,并在许多工程领域实现了CS的应用,例如欠Nyquist采样系统[6]、压缩成像系统[7]、压缩传感网络[8]等.最sity,Xi an710071 2.Key Laboratory of Intelligent Percep-tion and Image Understanding of Education,Xidian University, Xi an710071 3.College of Sciences,China Jiliang University, Hangzhou31001812期刘芳等:结构化压缩感知研究进展1981典型的应用例子是在医学成像领域,CS成像在保持诊断质量的同时将儿科的核磁共振成像(Nuclear magnetic resonance imaging,NMRI)的速度提高了7倍[9].这种基于CS理论的新型成像方法,将对医学成像领域中昂贵的成像器件的设计产生重要的影响.自2006年CS理论提出以来,国际与国内出现了许多CS理论与应用研究的课题组和科研机构,召开了众多相关的研讨会,并且在IEEE的信息论、信号处理及图像处理等国际知名期刊涌现出上百篇涉及CS理论与应用方面的文献.其中一些关于传统CS理论的优秀的综述性文献[1,10−15]对CS的理论基础、基本问题、研究方法以及CS的应用前景进行了详细的介绍.上述文献指出,传统CS理论是以信号的稀疏性或可压缩性为基础的,研究的基本内容包括信号的稀疏表示、压缩测量(采样)方法设计和信号重构算法设计.传统CS的工作多集中于使用随机测量对有限维的信号进行低速观测,以信号固有的变换稀疏性作为先验信息来重构信号,没有考虑时间连续信号的情况和应用CS理论所必须的硬件系统.为此与数据采集硬件系统和复杂信号模型相匹配的先验信息被引入到传统CS,这些先验信息在CS中的应用主要表现在三个方面:1)结构化的测量方法,即传统CS中的随机测量被与信号相匹配的结构化测量框架所代替;2)结构化字典下的表示,即获得信号低维结构的稀疏表示(即结构稀疏表示);3)结构化的CS重构,即在信号的重构中使用能够对更为广泛类型的信号(包括无限维信号)进行描述的结构先验模型.由此传统CS理论得到推广,逐步形成CS的新的理论框架—结构化CS理论[16].本文对新的结构化CS理论的研究状况进行综述.在第1节中,首先概述传统CS的数学模型;其次,在第2节中介绍结构化CS中的几种低维结构模型;在第3节中,围绕CS理论的三个基本问题,对结构化CS的相关研究方法进行详细的综述;最后,在第4节中展望未来的研究方向.1传统压缩感知传统Nyquist采样通过均匀采样获取数据,而CS系统则是以信号与观测函数之间的内积的形式来对数据进行采样.假设信号f∈R N在某个正交字典Ψ∈R N×N下具有稀疏表示,即f=Ψx,变换系数x是稀疏的,那么给定与Ψ不相关的观测矩阵Θ∈R K×N(K N),我们可获得K维压缩的线性测量(投影):y=Θf(1)这些少量的测量中包含了重构信号f的充足信息.若令Φ=ΘΨ,式(1)可转化为y=ΘΨx=Φx(2)Φ被称为CS信息算子.与压缩采样过程相对的逆问题是从测量y中重构信号f.求解式(2)获得变换系数 x,从而估计 f.但该问题是欠定的,具有无穷多个解.CS 理论以x的稀疏性作为约束条件,大大减少了问题可行解的个数.这时,求解式(2)是寻找线性系统稀疏解的过程,一般被称为稀疏逼近(Sparse approximation)[17],出现在诸如统计学、信号处理、机器学习、编码理论和逼近理论等许多领域.CS重构是稀疏逼近的一种特殊形式.信号的传统压缩感知过程如图1所示,其中压缩观测、稀疏表示和信号优化重构这三个基本模块是CS理论研究的三个重要方向.信号的稀疏性是CS的必备条件,非相关的观测是CS的关键,非线性优化是CS重构信号的手段[15].图1传统压缩感知框架Fig.1Frame of traditional compressive sensing2信号的低维结构模型一般来说,包含着先验知识的模型对寻找或处理我们感兴趣的信号是很有帮助的,而我们研究的信号往往具有各种不同的潜在的低维结构,也就是说,高维信号的自由度通常远低于信号的维数.近年来,在许多领域出现了对信号的低维结构模型的研究[16,18].本节将介绍几个在CS中常用的信号结构模型.2.1稀疏信号模型稀疏信号模型是信号处理领域普遍使用的最简单的模型,传统CS理论正是以其为基础构建起来的.从数学的定义来说,当信号f∈R N在某个基或字典下的变换系数x中仅含有k个非零项,即 x 0=k(k N),称f是k-稀疏的.稀疏性体现出在很多情况下高维信号实际仅包含了远低于其维数的少量信息.实际场景中的大部分信号并不是精确稀疏的,但能够由k-稀疏信号很好地逼近,通常称这些信号是可压缩的.对稀疏信号x∈R N,所有k-稀疏信号构成的集合记为Σk={x: x 0≤k}(3) |Σk|表示k-稀疏信号的个数,则|Σk|=C kN.1982自动化学报39卷如上所述,压缩测量中重构信号是一个欠定问题,过去十年许多研究者从理论和求解算法上对此进行了研究.理论表明,在稀疏模型约束下,当观测矩阵满足有限等距性质(Restricted isometry prop-erty,RIP)[2,19−22],或当Φ中线性相关的列的最小数目spark(Φ)大于2k时[23],式(2)有唯一确定的解.2.2多测量向量模型在实际应用中,研究的复杂信号往往隐含着稀疏性之外的一些潜在的结构信息,从而出现如何将信号结构与稀疏性相结合以获得更优结果的问题.对有限维信号的重构问题,传统CS由单重测量恢复未知的稀疏信号,被称为单测量向量(Single measurement vector,SMV)模型.作为SMV模型的推广,多测量向量(Multiple measurement vec-tor,MMV)模型是CS中使用的第一类结构模型.从多重测量恢复多个未知的稀疏信号,被用于分布式压缩感知(Distributed CS)[24]的联合稀疏重构问题.MMV问题在信号处理领域的研究已超过十年,最初在脑磁图数据处理中提出[25],之后被应用于阵列信号处理、认知无线电、多带通信以及DNA微阵列等[16].MMV模型具有如下形式:Y=ΦX+V(4)其中X=[x1,···,x Q]∈R N×Q是信号矩阵,表示由Q个信号x q∈R N(q=1,···,Q)构成的信号集;Y=[y1,···,y Q]∈R K×Q是多测量矩阵,Φ∈R K×N是CS信息矩阵,V∈R K×Q是Gaus-sian白噪声矩阵.当Q=1时,式(4)退化为SMV 模型.MMV模型假设信号x q(q=1,···,Q)是k-稀疏的,并且具有相同的稀疏支撑,即非零值出现在相同的位置.定义Ω=supp(X)=∪q supp(x q)为X的非零行的位置标识集,则X最多有k个非零行,即|supp(X)|≤k,我们称X是k-联合稀疏矩阵[26].对从多测量Y重构信号矩阵X的问题,可以通过求解Q个SMV问题,依次从y q恢复x q来重构X.但由于所有的信号x q(q=1,···,Q)都具有相同的支撑,因此可以期望利用这种联合结构信息来提高重构质量.也就是说,一般情况下重构X所需的测量的数量K×Q要小于S×Q,其中S是由传统CS方法在相同精度下重构单个信号x q所需的测量个数[16].MMV模型的k-联合稀疏矩阵X满足rank(X)≤k,rank(X)是X的秩.文献[26]从理论上证明了从多测量Y=ΦX唯一确定k-联合稀疏矩阵X的充分必要条件是|supp(X)|<spark(Φ)−1+rank(X)2(5)文献[26−27]证明了当用rank(Y)代换式(5)中的rank(X)时,仍能够保证从Y唯一地确定X,并提出可获得更优性能的基于Y的秩信息的重构算法.文献[28]证明了甚至在有无穷多个向量x q的情况下,上述唯一恢复的条件也是充分的.上述研究表明,具有较大的秩的矩阵X能够从比支撑个数少得多的测量中恢复;具有较大支撑的矩阵X能够从与支撑个数相同的测量恢复.当rank(X)=k,且spark(Φ)的最大的可能值等于K+1时,由式(5)可得K≥k+1,也就是说在最理想的情况下,MMV模型的每个信号仅需k+1个测量即可保证唯一重构,这比传统CS(或SMV模型)中由spark性质获得的保证唯一恢复的测量数量2k[23]要低得多.2.3子空间联合模型这种结构化模型可以推广至无限维空间.对具有某些结构的N维k-稀疏信号,可能仅需将信号的支撑限制在Σk中的一个更小的子集上就能够很好地刻画信号的结构.例如当信号的非零系数以某种聚集形式出现时,就可以由子空间联合(Unions of subspaces)模型来刻画信号的这种结构.信号的子空间联合模型是对稀疏模型的扩展,能够用于刻画包括维数有限和无限的更多类型的信号.在子空间联合模型中,如果已经知道x位于L 个可能的子空间U1,···,U L中的某个子空间,那么x一定位于这L个子空间的并中[16,29],即x∈U=Ll=1U l(6)其中,U l(1≤l≤L)是R N中的k-维子空间,对应于x中k个非零系数的某个特定的位置集合.与包含所有可能的N维k-稀疏信号的集合Σk(由C kN 个子空间的并构成)相比,L往往远小于C kN.当前还没有统一的方法来处理所有的联合模型,研究者们对在一些特殊类型的子空间联合模型下的信号采样和恢复问题做出了相关的理论和应用研究[16].最简单的联合模型为有限个子空间的联合(Finite union of subspaces,FUS)模型,其中子空间的个数和维数都是有限的.文献[30]中提出的基于模型的CS(Model-based CS)使用了FUS模型的一种特殊情况—结构稀疏支撑(Structured sparse supports)模型.该模型利用支撑的额外信息,如向量的非零元素的位置,使得U仅是Σk中的一部分.一种典型的结12期刘芳等:结构化压缩感知研究进展1983图2信号/图像的小波树结构Fig.2Wavelet tree structure of signal/image 构稀疏支撑模型为树结构支撑(Tree-structuredsupports)模型[30].光滑的小波基为光滑和分段光滑的信号,包括自然图像,提供了稀疏或可压缩表示,并且这些信号和图像的小波系数自然地形成一种树状结构,具有大幅值的系数沿着树的分支而聚集,如图2所示.因此仅需要使用由与树结构相对应的子空间构成的并集来表示信号.FUS模型的另一种特殊情况是子空间的稀疏和(Sparse sums of subspaces)模型,在这种模型中构成并集的每个子空间U l是k个低维子空间的直和[16,31]:U l=kj=1W lj(7)其中{W l1,···,W lk}是给定的子空间集合,dim(W lj)=d l.因此不同的子空间U l对应于从L个子空间W lj中取出不同的k个子空间构成的和.当dim(W lj)=1时,该模型退化为标准的稀疏模型.由此,可得到块稀疏(Block sparsity)模型[32−34],即一个向量中的某些块等于零,其他部分不为零.图3给出一个块稀疏向量的例子.向量x 分成5个块,其中阴影区域表示向量的10个非零元素,它们占了2个块,d l表示第l个块中包含的元素的个数.当对所有l,d l=1时,块稀疏性退化为标准稀疏性.统计学领域对块稀疏模型的性质进行了大量的研究[35−38],此外块稀疏模型也被用于DNA 微阵分析[39−40]、稀疏通信信道均衡[41]和源定位[42]等应用中.图3块稀疏向量[16]Fig.3Block sparse vector[16]对FUS模型,文献[29−31,43−44]将传统CS 中的标准的RIP性质扩展为(U,δ)-RIP性质,证明了在常数δ足够小的情况下,为FUS模型设计的重构算法能够正确恢复稀疏向量x,并给出了保证稳定恢复所需的测量数量.文献[32]在子空间的稀疏和模型下对相关性(Coherence)进行了推广,定义了矩阵的块相关性(Block-coherence).文献[45−46]加入了子空间的内部结构,例如子空间的稀疏性,这相当于在对单个块的优化中加入表示稀疏性的正则项,从而得到多层的结构稀疏模式,该模型已被成功地应用于源识别和分离问题[46].上述维数与个数都有限的子空间联合模型主要依赖于对模拟输入的离散化,没有考虑实际的硬件系统.为了能在硬件上真正地实现对具有结构的模拟信号的低速采样和重建,出现了对更为复杂的子空间联合模型的研究.这些子空间的联合模型包括子空间个数有限而子空间维数无限的模型、子空间维数有限而个数无限的模型和子空间维数和个数都无限的模型.由于是对由联合子空间表示的模拟信号的低速采样,因此解决相同问题所使用的方法与上述有限1984自动化学报39卷子空间联合模型中对离散化信号使用的方法有本质的区别.处理模拟信号的欠Nyquist采样问题的两个主要的框架是Xampling和有限更新率(Finite-rate of innovation,FRI).Xampling框架主要处理那些能够被表示为有限个无限维子空间的并的模拟信号,例如多带模型[47].在这种模型中,模拟信号由带限信号的有限和构成,信号分量通常具有一个相对较小的带宽,但分布在一个比较大的频率范围内[48].另一类能够用子空间的并表示的信号是具有有限更新率的一类信号[49].依赖于特定的结构,这种模型对应于有限维子空间的无限或有限个并[6,50−51],可以刻画许多具有低自由度的信号.在这种情况下,每个子空间对应于参数值的某种选择,参数的可能取值的集合是无限维的,从而由模型张成的子空间的个数也是无限的.借助于子空间的这种模拟的并,使我们能够以低速率对模拟信号进行采样及实时处理,并且设计出有效的硬件,诸如使用调制器、低速率模数转换器(Analog-to-digitalconverter,ADC)和低通滤波等标准模拟设计组件实现模拟前端[16],从而促进模拟CS框架从理论到实际应用的发展.2.4低秩矩阵模型矩阵的稀疏性主要表现在两个方面:1)矩阵元素的稀疏性,即矩阵具有很少的非零元素;2)矩阵奇异值的稀疏性,即矩阵具有很少的非零奇异值,也就是说矩阵的秩非常小,这时我们称矩阵为低秩矩阵.对矩阵X∈R N1×N2,低秩矩阵的集合可表示为{X∈R N1×N2:rank(X)≤r}(8)矩阵X的奇异值分解为X=ri=1σi u i v∗i,σ1,···,σr≥0为奇异值,u1,···,u r∈R N1和v1,···,v r∈R N2为相应的奇异向量.近年来低秩矩阵重建已成为机器学习、信号处理、计算机视觉等领域研究的热点,矩阵的恢复与填充可看作是CS重构由一维信号到二维矩阵的推广.在低秩矩阵约束下,矩阵填充问题表示为minZrank(Z),s.t.PΩ(Z)=PΩ(X)(9)其中Ω为具有缺失元素的矩阵X中已知元素的标识集,PΩ(X)定义为PΩ(X ij)=X ij,若(i,j)∈Ω0,其他(10)最近,一些同时考虑矩阵元素与矩阵奇异值的稀疏性的低秩矩阵模型被用于矩阵恢复问题:min Z rank(Z)+λ E l,s.t.X=Z+E(11)其中λ>0为正则参数, · l为某种正则策略.模型(11)通常被称为鲁棒主成分分析(Robust principalcomponent analysis,RPCA)[52].在RPCA的基础上,文献[53]提出低秩加稀疏矩阵分解的低秩表示(Low-rank representation,LRR)模型处理多子空间问题.LRR模型表示为minZrank(Z)+λ E l,s.t.X=DZ+E(12)其中,D∈R N1×n是一个线性张成数据空间的字典,n为字典中原子的个数.类似于CS的l0-最小化问题,式(9)∼(12)都是NP(Nondeterministicpolynomial)-难的.一类有效的方法是用矩阵的核范数 Z ∗(即矩阵Z的奇异值的和)代替rank(Z),将上述问题转化为凸优化问题进行求解[54−55].3结构化压缩感知传统CS在信号的采集与重建中仅将稀疏性作为唯一的先验信息,而结构化CS在传统CS的三个基本模块中引入了结构先验,即结构化的观测、结构化的字典和结构化的信号重构.结构化CS的理论框架如图4所示,可以看到,结构化CS以结构稀疏表示为基础,采用与信号匹配的结构化观测,在结构化先验下,对更为广泛的信号类实现更加有效的重构.接下来,我们将结合上一节给出的信号的各种低维结构模型对结构化CS理论的三个基本问题进行详细的介绍.图4结构化压缩感知框架Fig.4Frame of structured compressive sensing3.1结构化观测矩阵为了保证从低维测量y重构信号x时式(2)存在确定的解,传统CS理论要求观测矩阵Θ与稀疏基矩阵Ψ不相关,从而使信息算子Φ以很大的概率满足RIP性质[10].除了RIP性质之外,相关性判别理论[56]、矩阵spark判别理论[57]以及测量算子零空间理论[58]等都可作为衡量观测矩阵处理稀疏信号的能力的判定标准.因此在传统CS中,主要设计满足上述性质的非自适应的观测矩阵.观测矩阵固定,不随信号发生改变.已证明传统CS广泛使用的随机观测矩阵(如随机Gaussian矩阵)能够以高概率保证RIP和不相关性,但当信号维数很高时,随机观测矩阵将导致复杂度过高的问题,不易实现.在某些特定应用中,观测矩阵的类型通常受到12期刘芳等:结构化压缩感知研究进展1985传感器的感知模式和能力的限制[16],同时为减少测量数量,并实现对模拟信号的采样,我们也希望观测矩阵与信号相匹配.因此与传统CS 相比,结构化CS 使用与信号结构或传感器感知模式相匹配的结构化观测矩阵.目前,结构化的观测矩阵主要有欠采样不相关基(Subsampled incoherent bases)、结构化欠采样矩阵(Structurally subsampled matri-ces)、欠采样循环矩阵(Subsampled circulant ma-trices)和可分离矩阵(Separable matrices)等.关于结构化观测矩阵的理论及硬件实现可参见文献[16]的详细综述.利用欠采样不相关基进行采样,是通过首先任意选择与稀疏基不相关的一个正交基,然后选择信号在这个正交基下的系数的子集来获得CS 测量的[59].对欠采样不相关基的应用主要有两类.在第一类应用中,采集硬件被限制在变换域中直接获得测量,最常见的例子为NMRI [60]、层析成像[2]和光学显微术[61−62].在这几种应用中,从硬件获得的测量都对应于图像的二维连续Fourier 变换系数,图5展示了一个NMRI 采样及CS 重构的例子,第二类应用是设计一种可获得信号在一个向量集上投影的新的采集装置,例如由单像素照像机[8,63](如图6所示)可获得图像在具有二值元素的向量集上的投影.此外这种类型的结构化的观测矩阵已被用于设计采集周期性的多频模拟信号,设计的采集设备被称为随机采样ADC [65].图5核磁共振成像[64]Fig.5Nuclear magnetic resonance imaging [64]在某些应用中,由采集设备得到的测量不能直接对应于信号在特定变换下的系数,获得的观测是多个信号系数的线性组合,在这种情况下产生的CS 观测矩阵被称为结构化欠采样矩阵[66].结构化欠采样矩阵被用来设计采集周期性的多频模拟信号的压缩信息采集设备(如图7所示).利用这种框架以及改进的恢复算法能够对更广泛的频率稀疏信号进行采样[67].图6单像素照像机成像[64]Fig.6Image acquisition with single pixel camera[64]图7压缩ADC 采样模型[15]Fig.7Compressive ADC [15]循环结构[68−70]被用于CS 观测矩阵.最早出现在通信领域中的信号估计和多用户检测中,在那里信号响应和多用户模式这些待估计信号被赋于稀疏先验,并且在测量之前这些信号与采样硬件的脉冲响应进行卷积.由于卷积等价于Fourier 变换域的乘积算子,因此利用快速Fourier 变换进行乘法运算可加速CS 的恢复过程.对于多维信号,可分离矩阵[71−72]提供了在计算上非常有效的压缩测量方法,例如从多维数据进行超立方体采样.这些矩阵具有像Kronecker 积一样简洁的数学形式,并且矩阵子块之间的相关性反映了显著的特征结构.可分离CS 观测矩阵主要用于诸如视频序列和高光谱立方数据等多维信号.利用可分离观测矩阵,单像素照像机被推广为单像素高光谱照像机[73].3.2结构化稀疏表示信号的稀疏表示是CS 理论应用的前提,选择适当的字典Ψ,使信号在Ψ下具有较高的稀疏度,可提高信号感知的效率.Cand`e s 等[4]和Donoho [5]的研究表明仅使用K ≥ck log(N/k )个独立同分布的Gaussian 测量就能够以很高的概率精确重构k -稀1986自动化学报39卷疏信号或高度近似于k -稀疏信号的可压缩信号.由此可见,当信号在字典Ψ表示下的稀疏度越高时,精确重构信号所需要的观测数量就越少.因此在CS 中力求使用或设计可获得信号高稀疏度表示的字典Ψ.构造字典通常有两种方法:1)基于数学工具构造字典的解析方法,构造的字典是固定字典;2)基于学习的方法,通过学习构造与特定信号数据相匹配的字典.传统CS 多使用固定字典,对具有复杂结构的信号,这种字典不够灵活,不能获得足够的稀疏性.结构化CS 通过固定字典的级联和具有特定结构的字典的学习,丰富字典的内容,实现信号的自适应结构化稀疏表示.3.2.1固定字典正交字典是传统CS 在早期使用的一种固定形式的字典,通常是由它们的算法所描述的,例如由Fourier 变换、离散余弦变换、小波变换等得到的标准正交字典,这些变换具有构造简单、实现快速、表示的复杂度低的特点.在信号特征与字典的原子特征一致时,能够得到高效精确的表示.但对于诸如图像等复杂信号,正交字典不能灵活地对其进行表示,获得足够的稀疏度.大量研究表明超完备的冗余字典能够更为灵活地表示信号,获得更高的稀疏度,其中包括Curvelets [74]、Contourlets [75]和Bandelets [76].在CS 领域,Cand`e s 等[77]从理论上证明了一定条件下,在高度超完备冗余字典下稀疏的信号能够被精确地重构.现实世界中的信号多具有复杂结构,可看成是由多种结构类型的分量组成,例如音频信号中的瞬变和不变的部分,自然图像中的边缘、纹理和光滑部分.其中每一种结构类型都完全不同,并且任何一个都不能有效地表示另一个.这种由不同结构混合而成的信号可由正交基级联字典有效表示.当由正交基级联而成的字典的相干系数µ=1/√N 时,级联字典被认为是(完全)不相干的,信号在其上的稀疏表示满足精确重构条件[15].常见的正交基级联字典有由不同的正交小波基构成的正交基级联字典、小波函数和Curvelet 函数组成的正交基级联字典等[78−79].Gribonval 等[80]给出信号在有限维的任意(冗余)字典下具有唯一稀疏表示的条件,指明由非正交字典联合而成的级联字典,如双正交小波基级联字典,在对包含多种结构的信号的稀疏表示中也具有良好的性能.通过级联的方式丰富了字典的内容,使得信号中的每种结构都能在相应的字典下得到稀疏的表示,但级联字典的应用也要求信号的特性与字典特性相一致,否则将难以得到满意的表示.3.2.2结构化字典学习上述字典是固定的,其原子类型一旦确定就不再变化,在CS 中选择字典时或多或少需要知道信号的先验信息,并且当研究的信号发生变化时,使用的字典不一定适合.由此出现获得信号最优稀疏表示的自适应结构化字典学习方法,该方法是从大量的训练样本集中学习字典.字典学习的数学模型如下:min Ψ,XF −ΨX 2F ,s .t . f i 0≤k 0,1≤i ≤L(13)其中矩阵F ∈R N ×L是训练样本集,f i 是F 的第i 列,矩阵Ψ∈R N ×M 是未知的字典,矩阵X ∈R M ×L 是一个稀疏矩阵,X 的每个列向量对应于F 的每个列向量在字典Ψ下的稀疏表示.字典学习问题(13)是非凸组合优化问题,求解的经典算法包括MOD (Method of optimal direc-tions)算法[81−82]和K-SVD (K-sigular value de-composition)算法[83].MOD 算法交替地执行稀疏编码和字典更新.在稀疏编码步,算法固定字典,对每个信号独立地进行稀疏编码;在字典更新步,算法通过求解二次优化问题(13)的解析解更新字典.MOD 算法仅需要很少次的迭代就可以收敛,虽然逆矩阵的运算使算法具有较高的复杂度,但总体上来说MOD 是一种非常有效的方法.K-SVD 算法使用与MOD 不同的字典更新规则,对字典中的原子(即字典的列向量)逐一进行更新,通过对当前迭代步的原子和与之对应的稀疏系数的同步更新,K-SVD 算法更为有效.与构造字典的解析方法相比,上述字典学习算法能够得到更有效的字典,并且在实际应用中可获得更优的性能.目前有许多关于结构化字典学习方法的研究,即在学习中加入字典元素间的结构信息以获得信号的结构化稀疏表示.训练一个由酉矩阵级联而成的字典的学习算法[84]是对学习结构化过完备字典的第一次尝试.这种结构能够保证训练的字典是一个紧框架,并可降低字典学习的计算复杂度.该算法假设要学习一个由L 个酉矩阵级联的字典Ψ=[Ψ1,···,ΨL ].在稀疏编码步,该算法利用BCR (Block-coordinate-relaxation)算法[85]有效地进行稀疏表示;在字典更新步,该算法对L 个矩阵迭代地交替更新.由于使用的模型相对严格,该方法在实际中不能很好地表示非常灵活的结构.双稀疏性(Double sparsity)字典学习方法[86]是一种利用被训练字典的原子在已知字典下的稀疏模型来进行字典学习的方法.在这种结构下,被训练字典的每个原子可由一个预先给定的字典的原子的稀疏组合来表示.该方法一方面可自适应地构造字典,另一方。
【精品】压缩感知技术研究进展分析
2.3信号的重构算法
当矩阵 满足RIP准则时。压缩感知理论能够通过对上式的逆问题先求解稀疏系数 ，然后将稀疏度为K的信号 从 维的测量投影值 中正确地恢复出来。解码的最直接方法是通过 范数下求解的最优化问题：
在压缩成像方面，RICE 大学已成功研制了“单像素”压缩数码照相机，该相机不像传统相机那样获取原始信号的N 个像素值，而是直接获取M个随机线性观测值，在实践中为取代传统相机迈出了实质性的一步。在通信领域，压缩感知也有着强大的生命力，由于无线多径信道一般情况下是稀疏的，即使在时延扩展很大时，大幅度的径的个数也很少，因此利用少量的导频就能获取未知信道的频域响应估计。此外压缩感知理论还可用于通信信道的错误检测、传感网络的分布式信源编码、认知无线电中的频谱感知等。
2.2信号的观测矩阵
用一个与变换矩阵不相关的 测量矩阵 对信号进行线性投影，得到线性测量值 ：
测量值 是一个 维向量，这样使测量对象从 维降为 维。观测过程是非自适应的即测量矩阵少的选择不依赖于信号 。测量矩阵的设计要求信号从 转换为 的过程中，所测量到的 个测量值不会破坏原始信号的信息，保证信号的精确重构。
目前信号在冗余字典下的稀疏表示的研究集中在两个方面：(1)如何构造一个适合某一类信号的冗余字典；(2)如何设计快速有效的稀疏分解算法．这两个问题也一直是该领域研究的热点，学者们对此已做了一些探索，其中以非相干字典为基础的一系列理论证明得到了进一步改进．西安电子科技大学的石光明教授也对稀疏表示问题进行了认真研究，并基于多组正交基级联而成的冗余字典提出一种新的稀疏分解方法 。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第39卷第12期自动化学报Vol.39,No.12 2013年12月ACTA AUTOMATICA SINICA December,2013结构化压缩感知研究进展刘芳1,2武娇1,2,3杨淑媛2焦李成2摘要压缩感知(Compressive sensing,CS)是一种全新的信息采集与处理的理论框架.借助信号内在的稀疏性或可压缩性,可从小规模的线性、非自适应的测量中通过非线性优化的方法重构信号.结构化压缩感知是在传统压缩感知基础上形成的新的理论框架,旨在将与数据采集硬件及复杂信号模型相匹配的先验信息引入传统压缩感知,从而实现对更广泛类型的信号准确有效的重建.本文围绕压缩感知的三个基本问题,从结构化测量方法、结构化稀疏表示和结构化信号重构三个方面对结构化压缩感知的基本模型和关键技术进行详细的阐述,综述了结构化压缩感知的最新的研究成果,指出结构化压缩感知进一步研究的方向.关键词压缩感知,压缩观测,稀疏表示,信号重构,结构模型引用格式刘芳,武娇,杨淑媛,焦李成.结构化压缩感知研究进展.自动化学报,2013,39(12):1980−1995DOI10.3724/SP.J.1004.2013.01980Research Advances on Structured Compressive SensingLIU Fang1,2WU Jiao1,2,3YANG Shu-Yuan2JIAO Li-Cheng2Abstract Compressive sensing(CS)is a newly developed theoretical framework for information acquisition and ing the non-linear optimization methods,the signals can be recovered from fewer linear and non-adaptive measurements by taking advantage of the sparsity or compressibility inherent in real world signals.Structured com-pressive sensing is a new framework which can treat more general signal classes to achieve the accurate and effective reconstruction in practice by introducing the prior information matching with data acquisition hardware and compli-cated signal models to traditional compressive sensing.In this paper,the basic models and key techniques of structured compressive sensing are introduced in terms of the structured measurements,the structured dictionary representation and the structured signal reconstruction,which correspond to three basic aspects of compressive sensing,and the recent developments of structured compressive sensing are reviewed in detail.Finally,the current and future challenges of the structured compressive sensing are discussed.Key words Compressive sensing(CS),compressive measurement,sparse representation,signal reconstruction,struc-tured modelCitation Liu Fang,Wu Jiao,Yang Shu-Yuan,Jiao Li-Cheng.Research advances on structured compressive sensing. Acta Automatica Sinica,2013,39(12):1980−1995收稿日期2012-09-10录用日期2013-04-09Manuscript received September10,2012;accepted April9,2013国家重点基础研究发展计划(973计划)(2013CB329402),国家自然科学基金(61072106,61072108,61173090,61272023),高等学校学科创新引智计划(111计划)(B07048),教育部长江学者和创新团队发展计划(IRT1170),国家教育部博士点基金(20110203110006),智能感知与图像理解教育部重点实验室开放基金(IPIU012011002)资助Supported by National Basic Research Program of China(973 Program)(2013CB329402),National Natural Science Founda-tion of China(61072106,61072108,61173090,61272023),Fund for Foreign Scholars in University Research and Teaching Pro-grams(111Project)(B07048),Program for Cheung Kong Schol-ars and Innovative Research Team in University(IRT1170), National Research Foundation for the Doctoral Program of Higher Education of China(20110203110006),and the Open Research Fund Program of Key Laboratory of Intelligent Per-ception and Image Understanding of Ministry of Education of China(IPIU012011002)本文责任编委王聪Recommended by Associate Editor WANG Cong1.西安电子科技大学计算机学院西安7100712.智能感知与图像理解教育部重点实验室西安7100713.中国计量学院理学院杭州3100181.School of Computer Science and Technology,Xidian Univer-新兴的压缩感知(Compressive sensing,CS)为信息采集提供了全新的方法.与传统的Nyquist采样相比,CS以压缩形式(即低采样率)直接感知具有稀疏或可压缩性的对象,而不是先以高速率进行采样,然后再对数据进行压缩,因此CS为解决传统采样方法面临的高成本、低效率、信息冗余以及数据存储和传输的资源浪费等问题带来了新的契机.CS 领域的研究始于Cand`e s等[1−4]和Donoho[5]开创性的工作,他们证明了具有稀疏或可压缩性的有限维信号,可从小规模的线性、非自适应的测量中使用非线性优化的方法获得恢复.CS理论一经提出就备受关注,之后的几年涌现出大量的相关研究,并在许多工程领域实现了CS的应用,例如欠Nyquist采样系统[6]、压缩成像系统[7]、压缩传感网络[8]等.最sity,Xi an710071 2.Key Laboratory of Intelligent Percep-tion and Image Understanding of Education,Xidian University, Xi an710071 3.College of Sciences,China Jiliang University, Hangzhou31001812期刘芳等:结构化压缩感知研究进展1981典型的应用例子是在医学成像领域,CS成像在保持诊断质量的同时将儿科的核磁共振成像(Nuclear magnetic resonance imaging,NMRI)的速度提高了7倍[9].这种基于CS理论的新型成像方法,将对医学成像领域中昂贵的成像器件的设计产生重要的影响.自2006年CS理论提出以来,国际与国内出现了许多CS理论与应用研究的课题组和科研机构,召开了众多相关的研讨会,并且在IEEE的信息论、信号处理及图像处理等国际知名期刊涌现出上百篇涉及CS理论与应用方面的文献.其中一些关于传统CS理论的优秀的综述性文献[1,10−15]对CS的理论基础、基本问题、研究方法以及CS的应用前景进行了详细的介绍.上述文献指出,传统CS理论是以信号的稀疏性或可压缩性为基础的,研究的基本内容包括信号的稀疏表示、压缩测量(采样)方法设计和信号重构算法设计.传统CS的工作多集中于使用随机测量对有限维的信号进行低速观测,以信号固有的变换稀疏性作为先验信息来重构信号,没有考虑时间连续信号的情况和应用CS理论所必须的硬件系统.为此与数据采集硬件系统和复杂信号模型相匹配的先验信息被引入到传统CS,这些先验信息在CS中的应用主要表现在三个方面:1)结构化的测量方法,即传统CS中的随机测量被与信号相匹配的结构化测量框架所代替;2)结构化字典下的表示,即获得信号低维结构的稀疏表示(即结构稀疏表示);3)结构化的CS重构,即在信号的重构中使用能够对更为广泛类型的信号(包括无限维信号)进行描述的结构先验模型.由此传统CS理论得到推广,逐步形成CS的新的理论框架—结构化CS理论[16].本文对新的结构化CS理论的研究状况进行综述.在第1节中,首先概述传统CS的数学模型;其次,在第2节中介绍结构化CS中的几种低维结构模型;在第3节中,围绕CS理论的三个基本问题,对结构化CS的相关研究方法进行详细的综述;最后,在第4节中展望未来的研究方向.1传统压缩感知传统Nyquist采样通过均匀采样获取数据,而CS系统则是以信号与观测函数之间的内积的形式来对数据进行采样.假设信号f∈R N在某个正交字典Ψ∈R N×N下具有稀疏表示,即f=Ψx,变换系数x是稀疏的,那么给定与Ψ不相关的观测矩阵Θ∈R K×N(K N),我们可获得K维压缩的线性测量(投影):y=Θf(1)这些少量的测量中包含了重构信号f的充足信息.若令Φ=ΘΨ,式(1)可转化为y=ΘΨx=Φx(2)Φ被称为CS信息算子.与压缩采样过程相对的逆问题是从测量y中重构信号f.求解式(2)获得变换系数 x,从而估计 f.但该问题是欠定的,具有无穷多个解.CS 理论以x的稀疏性作为约束条件,大大减少了问题可行解的个数.这时,求解式(2)是寻找线性系统稀疏解的过程,一般被称为稀疏逼近(Sparse approximation)[17],出现在诸如统计学、信号处理、机器学习、编码理论和逼近理论等许多领域.CS重构是稀疏逼近的一种特殊形式.信号的传统压缩感知过程如图1所示,其中压缩观测、稀疏表示和信号优化重构这三个基本模块是CS理论研究的三个重要方向.信号的稀疏性是CS的必备条件,非相关的观测是CS的关键,非线性优化是CS重构信号的手段[15].图1传统压缩感知框架Fig.1Frame of traditional compressive sensing2信号的低维结构模型一般来说,包含着先验知识的模型对寻找或处理我们感兴趣的信号是很有帮助的,而我们研究的信号往往具有各种不同的潜在的低维结构,也就是说,高维信号的自由度通常远低于信号的维数.近年来,在许多领域出现了对信号的低维结构模型的研究[16,18].本节将介绍几个在CS中常用的信号结构模型.2.1稀疏信号模型稀疏信号模型是信号处理领域普遍使用的最简单的模型,传统CS理论正是以其为基础构建起来的.从数学的定义来说,当信号f∈R N在某个基或字典下的变换系数x中仅含有k个非零项,即 x 0=k(k N),称f是k-稀疏的.稀疏性体现出在很多情况下高维信号实际仅包含了远低于其维数的少量信息.实际场景中的大部分信号并不是精确稀疏的,但能够由k-稀疏信号很好地逼近,通常称这些信号是可压缩的.对稀疏信号x∈R N,所有k-稀疏信号构成的集合记为Σk={x: x 0≤k}(3) |Σk|表示k-稀疏信号的个数,则|Σk|=C kN.1982自动化学报39卷如上所述,压缩测量中重构信号是一个欠定问题,过去十年许多研究者从理论和求解算法上对此进行了研究.理论表明,在稀疏模型约束下,当观测矩阵满足有限等距性质(Restricted isometry prop-erty,RIP)[2,19−22],或当Φ中线性相关的列的最小数目spark(Φ)大于2k时[23],式(2)有唯一确定的解.2.2多测量向量模型在实际应用中,研究的复杂信号往往隐含着稀疏性之外的一些潜在的结构信息,从而出现如何将信号结构与稀疏性相结合以获得更优结果的问题.对有限维信号的重构问题,传统CS由单重测量恢复未知的稀疏信号,被称为单测量向量(Single measurement vector,SMV)模型.作为SMV模型的推广,多测量向量(Multiple measurement vec-tor,MMV)模型是CS中使用的第一类结构模型.从多重测量恢复多个未知的稀疏信号,被用于分布式压缩感知(Distributed CS)[24]的联合稀疏重构问题.MMV问题在信号处理领域的研究已超过十年,最初在脑磁图数据处理中提出[25],之后被应用于阵列信号处理、认知无线电、多带通信以及DNA微阵列等[16].MMV模型具有如下形式:Y=ΦX+V(4)其中X=[x1,···,x Q]∈R N×Q是信号矩阵,表示由Q个信号x q∈R N(q=1,···,Q)构成的信号集;Y=[y1,···,y Q]∈R K×Q是多测量矩阵,Φ∈R K×N是CS信息矩阵,V∈R K×Q是Gaus-sian白噪声矩阵.当Q=1时,式(4)退化为SMV 模型.MMV模型假设信号x q(q=1,···,Q)是k-稀疏的,并且具有相同的稀疏支撑,即非零值出现在相同的位置.定义Ω=supp(X)=∪q supp(x q)为X的非零行的位置标识集,则X最多有k个非零行,即|supp(X)|≤k,我们称X是k-联合稀疏矩阵[26].对从多测量Y重构信号矩阵X的问题,可以通过求解Q个SMV问题,依次从y q恢复x q来重构X.但由于所有的信号x q(q=1,···,Q)都具有相同的支撑,因此可以期望利用这种联合结构信息来提高重构质量.也就是说,一般情况下重构X所需的测量的数量K×Q要小于S×Q,其中S是由传统CS方法在相同精度下重构单个信号x q所需的测量个数[16].MMV模型的k-联合稀疏矩阵X满足rank(X)≤k,rank(X)是X的秩.文献[26]从理论上证明了从多测量Y=ΦX唯一确定k-联合稀疏矩阵X的充分必要条件是|supp(X)|<spark(Φ)−1+rank(X)2(5)文献[26−27]证明了当用rank(Y)代换式(5)中的rank(X)时,仍能够保证从Y唯一地确定X,并提出可获得更优性能的基于Y的秩信息的重构算法.文献[28]证明了甚至在有无穷多个向量x q的情况下,上述唯一恢复的条件也是充分的.上述研究表明,具有较大的秩的矩阵X能够从比支撑个数少得多的测量中恢复;具有较大支撑的矩阵X能够从与支撑个数相同的测量恢复.当rank(X)=k,且spark(Φ)的最大的可能值等于K+1时,由式(5)可得K≥k+1,也就是说在最理想的情况下,MMV模型的每个信号仅需k+1个测量即可保证唯一重构,这比传统CS(或SMV模型)中由spark性质获得的保证唯一恢复的测量数量2k[23]要低得多.2.3子空间联合模型这种结构化模型可以推广至无限维空间.对具有某些结构的N维k-稀疏信号,可能仅需将信号的支撑限制在Σk中的一个更小的子集上就能够很好地刻画信号的结构.例如当信号的非零系数以某种聚集形式出现时,就可以由子空间联合(Unions of subspaces)模型来刻画信号的这种结构.信号的子空间联合模型是对稀疏模型的扩展,能够用于刻画包括维数有限和无限的更多类型的信号.在子空间联合模型中,如果已经知道x位于L 个可能的子空间U1,···,U L中的某个子空间,那么x一定位于这L个子空间的并中[16,29],即x∈U=Ll=1U l(6)其中,U l(1≤l≤L)是R N中的k-维子空间,对应于x中k个非零系数的某个特定的位置集合.与包含所有可能的N维k-稀疏信号的集合Σk(由C kN 个子空间的并构成)相比,L往往远小于C kN.当前还没有统一的方法来处理所有的联合模型,研究者们对在一些特殊类型的子空间联合模型下的信号采样和恢复问题做出了相关的理论和应用研究[16].最简单的联合模型为有限个子空间的联合(Finite union of subspaces,FUS)模型,其中子空间的个数和维数都是有限的.文献[30]中提出的基于模型的CS(Model-based CS)使用了FUS模型的一种特殊情况—结构稀疏支撑(Structured sparse supports)模型.该模型利用支撑的额外信息,如向量的非零元素的位置,使得U仅是Σk中的一部分.一种典型的结12期刘芳等:结构化压缩感知研究进展1983图2信号/图像的小波树结构Fig.2Wavelet tree structure of signal/image 构稀疏支撑模型为树结构支撑(Tree-structuredsupports)模型[30].光滑的小波基为光滑和分段光滑的信号,包括自然图像,提供了稀疏或可压缩表示,并且这些信号和图像的小波系数自然地形成一种树状结构,具有大幅值的系数沿着树的分支而聚集,如图2所示.因此仅需要使用由与树结构相对应的子空间构成的并集来表示信号.FUS模型的另一种特殊情况是子空间的稀疏和(Sparse sums of subspaces)模型,在这种模型中构成并集的每个子空间U l是k个低维子空间的直和[16,31]:U l=kj=1W lj(7)其中{W l1,···,W lk}是给定的子空间集合,dim(W lj)=d l.因此不同的子空间U l对应于从L个子空间W lj中取出不同的k个子空间构成的和.当dim(W lj)=1时,该模型退化为标准的稀疏模型.由此,可得到块稀疏(Block sparsity)模型[32−34],即一个向量中的某些块等于零,其他部分不为零.图3给出一个块稀疏向量的例子.向量x 分成5个块,其中阴影区域表示向量的10个非零元素,它们占了2个块,d l表示第l个块中包含的元素的个数.当对所有l,d l=1时,块稀疏性退化为标准稀疏性.统计学领域对块稀疏模型的性质进行了大量的研究[35−38],此外块稀疏模型也被用于DNA 微阵分析[39−40]、稀疏通信信道均衡[41]和源定位[42]等应用中.图3块稀疏向量[16]Fig.3Block sparse vector[16]对FUS模型,文献[29−31,43−44]将传统CS 中的标准的RIP性质扩展为(U,δ)-RIP性质,证明了在常数δ足够小的情况下,为FUS模型设计的重构算法能够正确恢复稀疏向量x,并给出了保证稳定恢复所需的测量数量.文献[32]在子空间的稀疏和模型下对相关性(Coherence)进行了推广,定义了矩阵的块相关性(Block-coherence).文献[45−46]加入了子空间的内部结构,例如子空间的稀疏性,这相当于在对单个块的优化中加入表示稀疏性的正则项,从而得到多层的结构稀疏模式,该模型已被成功地应用于源识别和分离问题[46].上述维数与个数都有限的子空间联合模型主要依赖于对模拟输入的离散化,没有考虑实际的硬件系统.为了能在硬件上真正地实现对具有结构的模拟信号的低速采样和重建,出现了对更为复杂的子空间联合模型的研究.这些子空间的联合模型包括子空间个数有限而子空间维数无限的模型、子空间维数有限而个数无限的模型和子空间维数和个数都无限的模型.由于是对由联合子空间表示的模拟信号的低速采样,因此解决相同问题所使用的方法与上述有限1984自动化学报39卷子空间联合模型中对离散化信号使用的方法有本质的区别.处理模拟信号的欠Nyquist采样问题的两个主要的框架是Xampling和有限更新率(Finite-rate of innovation,FRI).Xampling框架主要处理那些能够被表示为有限个无限维子空间的并的模拟信号,例如多带模型[47].在这种模型中,模拟信号由带限信号的有限和构成,信号分量通常具有一个相对较小的带宽,但分布在一个比较大的频率范围内[48].另一类能够用子空间的并表示的信号是具有有限更新率的一类信号[49].依赖于特定的结构,这种模型对应于有限维子空间的无限或有限个并[6,50−51],可以刻画许多具有低自由度的信号.在这种情况下,每个子空间对应于参数值的某种选择,参数的可能取值的集合是无限维的,从而由模型张成的子空间的个数也是无限的.借助于子空间的这种模拟的并,使我们能够以低速率对模拟信号进行采样及实时处理,并且设计出有效的硬件,诸如使用调制器、低速率模数转换器(Analog-to-digitalconverter,ADC)和低通滤波等标准模拟设计组件实现模拟前端[16],从而促进模拟CS框架从理论到实际应用的发展.2.4低秩矩阵模型矩阵的稀疏性主要表现在两个方面:1)矩阵元素的稀疏性,即矩阵具有很少的非零元素;2)矩阵奇异值的稀疏性,即矩阵具有很少的非零奇异值,也就是说矩阵的秩非常小,这时我们称矩阵为低秩矩阵.对矩阵X∈R N1×N2,低秩矩阵的集合可表示为{X∈R N1×N2:rank(X)≤r}(8)矩阵X的奇异值分解为X=ri=1σi u i v∗i,σ1,···,σr≥0为奇异值,u1,···,u r∈R N1和v1,···,v r∈R N2为相应的奇异向量.近年来低秩矩阵重建已成为机器学习、信号处理、计算机视觉等领域研究的热点,矩阵的恢复与填充可看作是CS重构由一维信号到二维矩阵的推广.在低秩矩阵约束下,矩阵填充问题表示为minZrank(Z),s.t.PΩ(Z)=PΩ(X)(9)其中Ω为具有缺失元素的矩阵X中已知元素的标识集,PΩ(X)定义为PΩ(X ij)=X ij,若(i,j)∈Ω0,其他(10)最近,一些同时考虑矩阵元素与矩阵奇异值的稀疏性的低秩矩阵模型被用于矩阵恢复问题:min Z rank(Z)+λ E l,s.t.X=Z+E(11)其中λ>0为正则参数, · l为某种正则策略.模型(11)通常被称为鲁棒主成分分析(Robust principalcomponent analysis,RPCA)[52].在RPCA的基础上,文献[53]提出低秩加稀疏矩阵分解的低秩表示(Low-rank representation,LRR)模型处理多子空间问题.LRR模型表示为minZrank(Z)+λ E l,s.t.X=DZ+E(12)其中,D∈R N1×n是一个线性张成数据空间的字典,n为字典中原子的个数.类似于CS的l0-最小化问题,式(9)∼(12)都是NP(Nondeterministicpolynomial)-难的.一类有效的方法是用矩阵的核范数 Z ∗(即矩阵Z的奇异值的和)代替rank(Z),将上述问题转化为凸优化问题进行求解[54−55].3结构化压缩感知传统CS在信号的采集与重建中仅将稀疏性作为唯一的先验信息,而结构化CS在传统CS的三个基本模块中引入了结构先验,即结构化的观测、结构化的字典和结构化的信号重构.结构化CS的理论框架如图4所示,可以看到,结构化CS以结构稀疏表示为基础,采用与信号匹配的结构化观测,在结构化先验下,对更为广泛的信号类实现更加有效的重构.接下来,我们将结合上一节给出的信号的各种低维结构模型对结构化CS理论的三个基本问题进行详细的介绍.图4结构化压缩感知框架Fig.4Frame of structured compressive sensing3.1结构化观测矩阵为了保证从低维测量y重构信号x时式(2)存在确定的解,传统CS理论要求观测矩阵Θ与稀疏基矩阵Ψ不相关,从而使信息算子Φ以很大的概率满足RIP性质[10].除了RIP性质之外,相关性判别理论[56]、矩阵spark判别理论[57]以及测量算子零空间理论[58]等都可作为衡量观测矩阵处理稀疏信号的能力的判定标准.因此在传统CS中,主要设计满足上述性质的非自适应的观测矩阵.观测矩阵固定,不随信号发生改变.已证明传统CS广泛使用的随机观测矩阵(如随机Gaussian矩阵)能够以高概率保证RIP和不相关性,但当信号维数很高时,随机观测矩阵将导致复杂度过高的问题,不易实现.在某些特定应用中,观测矩阵的类型通常受到12期刘芳等:结构化压缩感知研究进展1985传感器的感知模式和能力的限制[16],同时为减少测量数量,并实现对模拟信号的采样,我们也希望观测矩阵与信号相匹配.因此与传统CS 相比,结构化CS 使用与信号结构或传感器感知模式相匹配的结构化观测矩阵.目前,结构化的观测矩阵主要有欠采样不相关基(Subsampled incoherent bases)、结构化欠采样矩阵(Structurally subsampled matri-ces)、欠采样循环矩阵(Subsampled circulant ma-trices)和可分离矩阵(Separable matrices)等.关于结构化观测矩阵的理论及硬件实现可参见文献[16]的详细综述.利用欠采样不相关基进行采样,是通过首先任意选择与稀疏基不相关的一个正交基,然后选择信号在这个正交基下的系数的子集来获得CS 测量的[59].对欠采样不相关基的应用主要有两类.在第一类应用中,采集硬件被限制在变换域中直接获得测量,最常见的例子为NMRI [60]、层析成像[2]和光学显微术[61−62].在这几种应用中,从硬件获得的测量都对应于图像的二维连续Fourier 变换系数,图5展示了一个NMRI 采样及CS 重构的例子,第二类应用是设计一种可获得信号在一个向量集上投影的新的采集装置,例如由单像素照像机[8,63](如图6所示)可获得图像在具有二值元素的向量集上的投影.此外这种类型的结构化的观测矩阵已被用于设计采集周期性的多频模拟信号,设计的采集设备被称为随机采样ADC [65].图5核磁共振成像[64]Fig.5Nuclear magnetic resonance imaging [64]在某些应用中,由采集设备得到的测量不能直接对应于信号在特定变换下的系数,获得的观测是多个信号系数的线性组合,在这种情况下产生的CS 观测矩阵被称为结构化欠采样矩阵[66].结构化欠采样矩阵被用来设计采集周期性的多频模拟信号的压缩信息采集设备(如图7所示).利用这种框架以及改进的恢复算法能够对更广泛的频率稀疏信号进行采样[67].图6单像素照像机成像[64]Fig.6Image acquisition with single pixel camera[64]图7压缩ADC 采样模型[15]Fig.7Compressive ADC [15]循环结构[68−70]被用于CS 观测矩阵.最早出现在通信领域中的信号估计和多用户检测中,在那里信号响应和多用户模式这些待估计信号被赋于稀疏先验,并且在测量之前这些信号与采样硬件的脉冲响应进行卷积.由于卷积等价于Fourier 变换域的乘积算子,因此利用快速Fourier 变换进行乘法运算可加速CS 的恢复过程.对于多维信号,可分离矩阵[71−72]提供了在计算上非常有效的压缩测量方法,例如从多维数据进行超立方体采样.这些矩阵具有像Kronecker 积一样简洁的数学形式,并且矩阵子块之间的相关性反映了显著的特征结构.可分离CS 观测矩阵主要用于诸如视频序列和高光谱立方数据等多维信号.利用可分离观测矩阵,单像素照像机被推广为单像素高光谱照像机[73].3.2结构化稀疏表示信号的稀疏表示是CS 理论应用的前提,选择适当的字典Ψ,使信号在Ψ下具有较高的稀疏度,可提高信号感知的效率.Cand`e s 等[4]和Donoho [5]的研究表明仅使用K ≥ck log(N/k )个独立同分布的Gaussian 测量就能够以很高的概率精确重构k -稀1986自动化学报39卷疏信号或高度近似于k -稀疏信号的可压缩信号.由此可见,当信号在字典Ψ表示下的稀疏度越高时,精确重构信号所需要的观测数量就越少.因此在CS 中力求使用或设计可获得信号高稀疏度表示的字典Ψ.构造字典通常有两种方法:1)基于数学工具构造字典的解析方法,构造的字典是固定字典;2)基于学习的方法,通过学习构造与特定信号数据相匹配的字典.传统CS 多使用固定字典,对具有复杂结构的信号,这种字典不够灵活,不能获得足够的稀疏性.结构化CS 通过固定字典的级联和具有特定结构的字典的学习,丰富字典的内容,实现信号的自适应结构化稀疏表示.3.2.1固定字典正交字典是传统CS 在早期使用的一种固定形式的字典,通常是由它们的算法所描述的,例如由Fourier 变换、离散余弦变换、小波变换等得到的标准正交字典,这些变换具有构造简单、实现快速、表示的复杂度低的特点.在信号特征与字典的原子特征一致时,能够得到高效精确的表示.但对于诸如图像等复杂信号,正交字典不能灵活地对其进行表示,获得足够的稀疏度.大量研究表明超完备的冗余字典能够更为灵活地表示信号,获得更高的稀疏度,其中包括Curvelets [74]、Contourlets [75]和Bandelets [76].在CS 领域,Cand`e s 等[77]从理论上证明了一定条件下,在高度超完备冗余字典下稀疏的信号能够被精确地重构.现实世界中的信号多具有复杂结构,可看成是由多种结构类型的分量组成,例如音频信号中的瞬变和不变的部分,自然图像中的边缘、纹理和光滑部分.其中每一种结构类型都完全不同,并且任何一个都不能有效地表示另一个.这种由不同结构混合而成的信号可由正交基级联字典有效表示.当由正交基级联而成的字典的相干系数µ=1/√N 时,级联字典被认为是(完全)不相干的,信号在其上的稀疏表示满足精确重构条件[15].常见的正交基级联字典有由不同的正交小波基构成的正交基级联字典、小波函数和Curvelet 函数组成的正交基级联字典等[78−79].Gribonval 等[80]给出信号在有限维的任意(冗余)字典下具有唯一稀疏表示的条件,指明由非正交字典联合而成的级联字典,如双正交小波基级联字典,在对包含多种结构的信号的稀疏表示中也具有良好的性能.通过级联的方式丰富了字典的内容,使得信号中的每种结构都能在相应的字典下得到稀疏的表示,但级联字典的应用也要求信号的特性与字典特性相一致,否则将难以得到满意的表示.3.2.2结构化字典学习上述字典是固定的,其原子类型一旦确定就不再变化,在CS 中选择字典时或多或少需要知道信号的先验信息,并且当研究的信号发生变化时,使用的字典不一定适合.由此出现获得信号最优稀疏表示的自适应结构化字典学习方法,该方法是从大量的训练样本集中学习字典.字典学习的数学模型如下:min Ψ,XF −ΨX 2F ,s .t . f i 0≤k 0,1≤i ≤L(13)其中矩阵F ∈R N ×L是训练样本集,f i 是F 的第i 列,矩阵Ψ∈R N ×M 是未知的字典,矩阵X ∈R M ×L 是一个稀疏矩阵,X 的每个列向量对应于F 的每个列向量在字典Ψ下的稀疏表示.字典学习问题(13)是非凸组合优化问题,求解的经典算法包括MOD (Method of optimal direc-tions)算法[81−82]和K-SVD (K-sigular value de-composition)算法[83].MOD 算法交替地执行稀疏编码和字典更新.在稀疏编码步,算法固定字典,对每个信号独立地进行稀疏编码;在字典更新步,算法通过求解二次优化问题(13)的解析解更新字典.MOD 算法仅需要很少次的迭代就可以收敛,虽然逆矩阵的运算使算法具有较高的复杂度,但总体上来说MOD 是一种非常有效的方法.K-SVD 算法使用与MOD 不同的字典更新规则,对字典中的原子(即字典的列向量)逐一进行更新,通过对当前迭代步的原子和与之对应的稀疏系数的同步更新,K-SVD 算法更为有效.与构造字典的解析方法相比,上述字典学习算法能够得到更有效的字典,并且在实际应用中可获得更优的性能.目前有许多关于结构化字典学习方法的研究,即在学习中加入字典元素间的结构信息以获得信号的结构化稀疏表示.训练一个由酉矩阵级联而成的字典的学习算法[84]是对学习结构化过完备字典的第一次尝试.这种结构能够保证训练的字典是一个紧框架,并可降低字典学习的计算复杂度.该算法假设要学习一个由L 个酉矩阵级联的字典Ψ=[Ψ1,···,ΨL ].在稀疏编码步,该算法利用BCR (Block-coordinate-relaxation)算法[85]有效地进行稀疏表示;在字典更新步,该算法对L 个矩阵迭代地交替更新.由于使用的模型相对严格,该方法在实际中不能很好地表示非常灵活的结构.双稀疏性(Double sparsity)字典学习方法[86]是一种利用被训练字典的原子在已知字典下的稀疏模型来进行字典学习的方法.在这种结构下,被训练字典的每个原子可由一个预先给定的字典的原子的稀疏组合来表示.该方法一方面可自适应地构造字典,另一方。