基于凸优化及加权范数的稀疏信号重建 附件6.14立题卡,任务书等等
基于凸优化的稀疏阵列方向调制信号综合算法研究

基于凸优化的稀疏阵列方向调制信号综合算法研究施孝盼;洪涛【摘要】方向调制技术利用多天线发射阵列的空间调制能力在天线端综合出具有方向特性的数字调制信号是近年来物理层安全通信领域研究的热点之一.该文提出一种基于凸优化的稀疏阵列方向调制信号综合算法.首先算法建立以阵列稀疏为目标函数以及方向调制信号不同性能要求为约束的非凸优化问题;然后针对这个非凸问题,给出了两种不同的求解方案:一种基于迭代加权?1算法,但稀疏算法得到的结果可能存在阵元间距小于半个波长的情况;另一种基于混合整数规划,确保稀疏算法得到的阵元间距至少为半个波长;最后在混合整数规划算法的基础上建立以方向调制信号功率利用率为目标的优化问题,优化稀疏阵列方向调制信号发射机的功率利用率.仿真结果表明,相比于与现有的基于均匀等间距直线阵列的方向调制信号综合算法,所提算法在方向调制信号的安全性能、方向调制信号发射机的功率利用率以及阵列的稀疏程度之间具有良好的设计灵活度.%The design of Directional Modulation (DM) signal by a phased array is one of the important topics in the field of physical layer security communication. In this paper, a synthesis method for synthesis of a sparse array is proposed based on convex optimization. Firstly, a nonconvex optimization problem is formulated associated with some basic metrics of DM signal. Secondly, two different solutions are presented: one is based on Iterative Reweighted?1-norm (IRL) resulting in a superdirective array with the interelement spacing less than half-wavelength; the other is based on Mixed Integer Programming (MIP) resulting in a nonsuperdirective array with the interelement spacing more than half-wavelength. Finally, the power efficiency of DM transmitter isoptimized based on MIP algorithm. Simulation results show that the proposed synthesis method provides greater flexibility of controlling the security performance, power efficiency and sparse level, while at the same time the number of excitations is less than the uniformly spaced linear array in the benchmark problems.【期刊名称】《电子与信息学报》【年(卷),期】2017(039)011【总页数】8页(P2563-2570)【关键词】无线通信;物理层安全;方向调制;凸优化;稀疏阵列【作者】施孝盼;洪涛【作者单位】南京邮电大学通信与信息工程学院南京 210003;南京邮电大学通信与信息工程学院南京 210003【正文语种】中文【中图分类】TN92随着以大规模天线为代表的5G通信技术的高速发展,无线通信技术在不同领域将得到更广泛的应用。
基于改进的特征提取方法和稀疏表示的单幅图像超分辨率重建算法

基于改进的特征提取方法和稀疏表示的单幅图像超分辨率重建算法王亚辉;贾媛媛;何中市【摘要】为了改善单幅图像的超分辨率重建效果,在基于过完备字典图像的超分辨率重构算法的架构上,应用改进的高斯Laplace算子来提取低频图像的特征,应用于图像重建.该算子主要用于在重建图像的预处理阶段,有效地提取各个方向的边缘特征,既不会造成漏检,也不会加重噪声.实验表明,与现有的几类算法相比较,使用该算子提取特征后,重建图像的效果无论在峰值信噪比还是结相似性都有所提高.【期刊名称】《现代计算机(专业版)》【年(卷),期】2017(000)002【总页数】5页(P63-66,71)【关键词】图像的超分辨重建;过完备字典;高斯Laplace【作者】王亚辉;贾媛媛;何中市【作者单位】重庆大学计算机学院,重庆400044;重庆大学计算机学院,重庆400044;重庆大学计算机学院,重庆400044【正文语种】中文图像的超分辨重建是利用一幅或多幅低分辨图像构建出高分辨图像的技术[1]。
图像的超分辨重建技术广泛应用于远程监控、军事侦察、医疗图像等领域,有广阔的前景。
因此,近三十来,超分辨率重建技术引起了图像处理界的广泛关注。
目前主流图像的超分辨率重建方法主要分为三大类。
第一类是基于插值[2-3]的方法:主要是通过临近的像素点进行加权来预估插值点的像素,这类算法的复杂度较低,试用于简单的场景,但是在图像的边缘会产生显而易见的伪影;第二类是基于重建[4-7]的方法:这类方法集中探索重建图像的先验知识和约束项,与第一类算法相比,能够得到清晰的图像,但当重建尺度较大时不能得到较好的边缘细节;第三类是基于学习的方法:这类方法的观点主要是估计高分辨率图像(HR,High Resolution)和低分辨率图像(LR,Low Resolution)中图像块之间的映射关系。
Freeman[8]等人首先提出了一个马尔科夫随机场模型来学习HR和LR之间的关系,但是需要大量的HR和LR的图像块,算法的复杂度非常高。
基于稀疏模型的凸优化算法及其应用

基于稀疏模型的凸优化算法及其应用稀疏模型是一种在机器学习和模式识别中广泛应用的模型,其目的是通过限制模型参数的个数,使得模型更加简洁和可解释。
稀疏模型的求解可以通过凸优化算法来实现。
本文将介绍一些基于稀疏模型的凸优化算法以及它们的应用。
稀疏模型的目标函数通常由两部分组成,一部分是数据拟合项,用于衡量模型与训练数据的拟合程度;另一部分是稀疏项,用于促使模型参数尽可能地稀疏。
在机器学习中,L1范数通常被用作稀疏项,因为它可以在优化过程中使得一部分模型参数变为零。
下面我们将介绍一些常见的基于稀疏模型的凸优化算法。
1. Lasso回归:Lasso回归是一种经典的基于稀疏模型的凸优化算法。
它的目标函数由数据拟合项和L1正则项组成,在参数估计中,在满足对数据拟合性的约束条件下,最小化L1范数正则化项。
Lasso回归可以用于特征选择、数据降维等领域。
2.压缩感知:压缩感知是一种用于信号重构的稀疏模型。
它的目标是从少量的线性投影中恢复原始信号,基于稀疏表示的概念。
在稀疏表示中,信号可以表示为一组基向量的线性组合,其中只有少数系数是非零的。
通过最小化L1范数正则项,压缩感知算法可以从少量的线性测量中恢复出原始信号。
3.稀疏表示分类:稀疏表示分类是一种基于稀疏模型的分类算法。
它的目标是通过稀疏表示的方式对待分类样本进行表达,然后根据这些表达进行分类。
稀疏表示分类算法可以用于图像识别、人脸识别等领域,具有较好的分类性能和鲁棒性。
4.稀疏编码:稀疏编码是一种用于特征提取的稀疏模型。
它的目标是通过线性组合的方式将原始数据进行表示,并且使得表示系数尽可能地稀疏。
稀疏编码算法可以用于图像处理、语音处理等领域,可以提取数据中的重要特征。
5.基于稀疏模型的图像修复:稀疏模型在图像修复任务中也有广泛的应用。
图像修复的目标是通过利用稀疏模型对损坏图像进行修复。
通常情况下,图像修复是一个求解优化问题,需要最小化一个由数据拟合项和稀疏项组成的目标函数。
基于稀疏模型的凸优化算法及其应用

基于稀疏模型的凸优化算法及其应用稀疏模型是一种常用于特征选择和数据压缩的技术,它可以通过将输入数据中的很多特征系数设为零来实现稀疏性。
在许多实际问题中,我们常常需要从海量的数据中挑选出关键的特征来进行进一步的分析和应用。
稀疏模型提供了一个有效的方式来解决这类问题。
凸优化是一种求解凸函数最小化问题的方法,广泛应用于各种领域。
对于稀疏模型,凸优化算法可以用来求解特征选择问题,即从给定的一组特征中选择出最相关的特征。
稀疏模型的凸优化算法包括基于L1范数的最小化算法,最小角度回归(LARS)算法,以及基于交替方向乘子法(ADMM)的凸优化算法等。
L1范数最小化算法是最常用的稀疏模型凸优化算法之一、它通过将带有L1范数的正则项加入到目标函数中,实现对特征系数的稀疏化。
L1范数最小化问题可以通过线性规划或二次规划来求解。
常用的L1范数最小化算法有最小角度回归(LARS)算法和坐标下降法等。
LARS算法通过一个逐步向前的策略来选取最相关的特征,并可以快速求解L1范数最小化问题。
图像压缩、信号处理、生物信息学、语音音频压缩识别等领域都是其应用方向。
最小角度回归(LARS)算法是一种有效的凸优化算法,它可以用来求解稀疏模型中的最小化问题。
LARS算法通过计算解的路径来选择最相关的特征。
它具有较快的收敛速度和较好的稳定性,广泛应用于图像处理、压缩感知、信号处理和模式识别中。
基于交替方向乘子法(ADMM)的凸优化算法是一种近年来发展起来的优化方法,适用于复杂的稀疏模型求解问题。
ADMM算法通过引入拉格朗日乘子,将原问题转化为一系列子问题的求解。
它具有较高的求解精度和稳定性,广泛应用于图像恢复、机器学习和信号处理等领域。
除了上述提到的凸优化算法,还有一些其他算法也可以用于稀疏模型的凸优化求解,如基于梯度下降的算法、基于二次规划的算法等。
这些算法各有特点,在不同的应用场景下可以选择适合的算法。
总结来说,基于稀疏模型的凸优化算法是一类有效的特征选择和数据压缩方法,可以在大数据分析、图像处理、信号处理、模式识别等领域中发挥重要作用。
基于稀疏模型的凸优化算法及其应用

基于稀疏模型的凸优化算法及其应用稀疏模型的凸优化算法和应用稀疏模型是指在给定的数据集中,只有很少一部分特征具有显著的影响力,其他特征对结果的贡献很小或者可以忽略不计。
基于稀疏模型的凸优化算法被广泛应用于数据分析、信号处理、图像处理、机器学习等领域。
本文将介绍几种常见的基于稀疏模型的凸优化算法及其应用。
1. L1-norm正则化L1-norm正则化是一种常用的稀疏模型建模方法,它通过在目标函数中添加L1-norm范数,使得优化过程中的特征稀疏化。
具体而言,L1-norm正则化通过最小化目标函数和特征的L1-norm范数之和来实现,其中L1-norm范数是指所有特征的绝对值之和。
L1-norm正则化的优化问题可以通过线性规划、次梯度法等方法求解。
L1-norm正则化的应用非常广泛,其中最著名的应用之一是Lasso算法,被广泛应用于特征选择、基因表达分析、图像处理等领域。
Lasso算法通过最小化目标函数和特征的L1-norm范数之和来实现,它能够有效地筛选出对结果具有显著影响的特征。
2. L0-norm正则化L0-norm正则化是一种更加严格的稀疏模型建模方法,它通过在目标函数中添加L0-norm范数,使得优化过程中的特征更加稀疏。
L0-norm范数是指特征向量中非零元素的个数。
L0-norm正则化的优化问题非常复杂,因为L0-norm范数不是凸函数,因此无法直接应用凸优化算法求解。
尽管L0-norm正则化的优化问题较为困难,但其在特征选择、压缩感知等领域具有重要的应用。
例如,压缩感知是一种利用稀疏模型进行信号采样和重构的方法,它通过测量信号的稀疏线性组合来减少采样量,并通过稀疏求解算法实现信号的重构。
3. Group LassoGroup Lasso是一种基于分组稀疏模型的建模方法,它适用于具有分组结构的数据集。
Group Lasso通过在目标函数中添加特征的L1-norm和分组的L2-norm范数之和来实现特征的稀疏化,其中L2-norm范数是指每个分组中特征的二范数之和。
基于加权稀疏与加权核范数最小化的图像去噪

基于加权稀疏与加权核范数最小化的图像去噪图像去噪是数字图像处理中一个重要的问题,它涉及到从图像中去除噪声,还原出清晰的图像。
近年来,基于加权稀疏与加权核范数最小化的图像去噪方法,取得了很好的效果。
加权稀疏与加权核范数最小化是图像去噪的一种常见方法,其主要思想是在稀疏表达的基础上,引入核范数进行正则化。
稀疏表示是指将图像表示为一组稀疏向量的线性组合,通过找到最优化的稀疏表示系数,可以获得较好的去噪效果。
而核范数则可以对稀疏向量进行进一步的约束,使得稀疏向量更加稠密,从而减少噪声对图像的影响。
在进行图像去噪时,首先需要构建稀疏表示模型。
常见的方法包括基于局部块的稀疏表示和基于字典的稀疏表示。
基于局部块的稀疏表示是指将图像划分为一组重叠的块,然后对每个块进行稀疏表示。
基于字典的稀疏表示则是通过学习一个适应于图像的稀疏字典,将图像表示为稀疏字典的线性组合。
在构建稀疏表示模型之后,需要引入加权核范数进行正则化。
加权核范数的选择是一个关键问题,它可以根据具体的问题进行调整。
在选择加权核范数时,一般需要考虑到噪声水平、图像的局部特征等因素。
加权核范数的选择不仅影响到去噪效果,还影响到算法的计算复杂度。
常见的加权核范数包括核组稀疏表示、核重构和核进化等。
在实际应用中,基于加权稀疏与加权核范数最小化的图像去噪方法取得了很好的效果。
它不仅能够有效地消除图像中的噪声,还能够保持图像的细节和纹理信息。
基于加权稀疏与加权核范数最小化的图像去噪方法也存在一些问题,例如算法的计算复杂度较高,需要大量的计算资源和时间。
在选择加权核范数时,需要根据具体问题进行调整,这对一些非专业人士可能会有一定的困难。
改进的基于稀疏表示的图像超分辨率重建算法

改进的基于稀疏表示的图像超分辨率重建算法首照宇;廖敏璐;陈利霞【摘要】In order to improve the resolution of images with single frame degradation,we propose an improved algorithm of image super-resolution sparse reconstruction which is based on over-complete dictionary.The algorithm mainly introduces the idea of joint training to the process of dictionary training to ensure that the image patches with high or low resolution have same representation coefficients as their corresponding over-complete dictionaries,and in image reconstruction process,an iterative back-projection algorithm is enforced to strengthen the global reconstruction constraints.Experiments show that compared with current a couple kinds of algorithms,the improvement of the images reconstructed by this algorithm is distinct in both PSNR and structural similarity.In addition,the new algorithm can be applied to super-resolution reconstruction of single-frame blurred image,and effectively enhance the resolution of the image.%为改善单帧退化图像的分辨率,提出一种改进的基于超完备字典的图像超分辨率稀疏重构算法。
基于Hadoop技术和稀疏表示模型的自然图像重建算法

基于Hadoop技术和稀疏表示模型的自然图像重建算法付念【期刊名称】《《电子世界》》【年(卷),期】2019(000)023【总页数】2页(P43-44)【作者】付念【作者单位】江西经济管理干部学院【正文语种】中文本文提出一种基于分布式存储和计算系统对自然图像进行重建的算法,该算法的主要思想是从分析图像的基本特征开始,对图像块的颜色纹理特征形成一个颜色索引集,对这部分信息进行稀疏重建,通过稀疏矩阵具有低秩性的特点,保持同一类别的结构特性,筛选出最具代表性的特征点来计算和排序这些特征的权重。
再通过向量空间计算两点之间的距离来衡量图像之间的相似性,重建后,可以通过反馈环节对重建效果进行调整,以达到最佳检索效果。
最后,对各类图像调整出最适宜的权值。
实验结果表明,基于稀疏表示模型使图像重建后的效果也能得到明显改善,针对数据量大的复原图像基于Hadoop技术可以明显提高重建速度。
1 引言信息时代下,为了获取更清晰的图片,通过各种高清的摄像设备等方式来获取的图片集,这类图片的像素越来越高,类似卫星图片,都可以达到上亿像素,面对越来越多的图像数据信息,对数据的采集、存储和传送都提出了巨大的考验(何永洋,基于离散小波变换的图像压缩感知编码技术研究[D].南京:南京邮电大学,2018),面对这类图片失真,需要更好更快的算法来恢复图像,如何能准确有效的从一个或多个较低分辨率图像中去获取足够的信息从而尽可能恢复出高分辨率的原始图像,使用技术手段提高图像成像的分辨率也是计算机视觉领域一个重要的研究课题和方向(杨锋,等.基于内容的医学图像检索研究进展[J].激光与光电子学进展,2020, 57(06):060001)。
在实际获取图像的过程中,成像设备是将数据采集和数据压缩同步完成,直接获取压缩后的数据,省去中间处理冗余数据的过程。
这个步骤也充分的说明信号是稀疏的或者说是可压缩的,通过提取基本的图像特征,减少过程中对图像视觉画质的影响,用基于图像的视觉特征信息来描述图像内容,结合图像分块的方式对图像通过稀疏矩阵将高维的数据信息映射到低维的空间中来进行处理,对图像进行多尺度的稀疏变换,为图像的恢复重建找到更优化的路径。
基于凸优化Chirplet字典的线性调频信号稀疏重构算法

基于凸优化Chirplet字典的线性调频信号稀疏重构算法姜凯;李小波;周青松【摘要】针对传统方法对宽带线性调频信号参数估计精度不够的问题,提出了一种基于Chirplet字典的凸优化稀疏重构算法.利用Chirplet字典对线性调频信号良好的匹配性能,建立了凸优化基追踪模型.通过原对偶内点算法实现了对线性调频信号的精确重构.仿真表明本文算法能够实现线性调频信号瞬时频率及相位信息的精确重构.【期刊名称】《舰船电子对抗》【年(卷),期】2019(042)002【总页数】4页(P76-79)【关键词】凸优化;线性调频信号;Chirplet字典;原对偶内点算法【作者】姜凯;李小波;周青松【作者单位】国防科技大学,安徽合肥230037;国防科技大学,安徽合肥230037;国防科技大学,安徽合肥230037【正文语种】中文【中图分类】TN911.70 引言线性调频信号作为一种宽带信号,在雷达信号中广泛应用。
目前针对线性调频信号的参数估计方法主要采取时频分析的方法,常见的如短时傅里叶变换(STFT)、分数阶傅里叶变换(FrFT)等,近年来压缩感知[1]的方法也得到了广泛应用,如基于正交匹配追踪(OMP)算法等。
文献[2]提出了基于STFT的参数估计方法,其问题在于时频聚集性弱。
文献[3]基于OMP算法实现了对线性调频信号的参数估计,其优点在于算法复杂度低,但估计精度不够。
文献[4]提出了基于Gabor字典的凸优化稀疏重构算法,但Gabor字典对线性调频信号的匹配性能不够理想。
针对上述问题,本文提出了基于Chirplet字典的凸优化基追踪重构算法。
1 信号时频原子表示模型线性调频(LFM)信号是一种大时宽带宽积信号,其瞬时频率随时间线性变化。
其信号表示如下:(1)式中:A为信号幅度;f0为载频;μ为调频斜率。
图1 线性调频信号字典构建在稀疏重构中极其重要,Mallt首次基于冗余字典进行了稀疏重构[5],字典构建中最重要的是时频原子的选择。
基于迭代加权L1范数的稀疏阵列综合

基于迭代加权L1范数的稀疏阵列综合涂光鹏;巩朋成;蔡竟业;朱学勇【期刊名称】《计算机工程与应用》【年(卷),期】2015(000)007【摘要】To tackle the problem that the weight, size and cost of antennas are limited in some applications, such as phased array radar, satellite communication and MIMO radar system, a new method for sparse array synthesis based on the iterative weighted L1 norm is proposed. By analyzing the theoretical model based on the sparse array synthesis, a weighted L1 norm is employed to replace the L0 norm to avoid the NP-hard problem. Then a sparse array is obtained via calculating the array current figured out by complex derivative in combination with heuristic approach, meanwhile the beam pattern approximates the desired one. Experimental results show that the proposed method can achieve sparser array with shorter array aperture under the constraints of radiation characteristics compared with some existing sparse array syn-thesis algorithms.%针对阵列天线在相控阵雷达、卫星通信以及MIMO雷达系统等实际应用中重量、尺寸和成本受限的问题,提出了一种基于迭代加权L1范数的稀疏阵列综合方法。
一种基于稀疏重建的高分辨力方向估计方法

一种基于稀疏重建的高分辨力方向估计方法石绘红;章惠全;徐文【摘要】该文针对高分辨力是源定位技术的重要目标,充分利用目标信号在空间域内的稀疏特性,提出了一种基于稀疏重建算法的波达方向估计方法.基于数据相关矩阵建立系统方程,以增加采样数和稀疏度的比值,并将系统维度降至最低.源的空间稀疏性由1-范数约束,通过凸优化算法重建信号的空间谱.此外,采用了局部网格细化方法,增加分辨力的同时降低对计算量的要求.最后,给出了数值仿真,与现有的一些方法进行对比分析,验证了该方法的高分辨能力及近似最优性.【期刊名称】《杭州电子科技大学学报》【年(卷),期】2011(031)004【总页数】4页(P90-93)【关键词】波达方向估计;稀疏重建;源定位;高分辨力【作者】石绘红;章惠全;徐文【作者单位】浙江大学信息与电子工程学系,浙江杭州310027;浙江大学信息与电子工程学系,浙江杭州310027;浙江大学信息与电子工程学系,浙江杭州310027【正文语种】中文【中图分类】G2020 引言利用传感器阵列进行源定位是当前一个热门研究领域,在声学、电磁学等领域得到了广泛应用,高分辨力是源定位技术的重要目标。
目前源定位方法有很多[1],但都存在一些缺点。
近几年出现了利用目标信号在空间域的稀疏特性进行源定位的方法[2,3],与传统方法相比,它们具有较高的分辨能力而且适用于任意阵形。
其主要思想是将源位置离散化,定位问题转变为离散网格点上的信号强度求解问题。
这类方法的关键是找到满足系统方程的稀疏解。
根据压缩传感[4]理论,当观测矩阵满足等容受限原则[5]时,可以利用重建算法重建出稀疏信号。
稀疏重建策略有贪婪算法[6]和凸优化算法[7]等。
本文主要考虑单频信号、时域采样且波源不相关情况下的波达方向估计(角度空间的源定位),基于数据相关矩阵建立观测方程,利用1-范数约束和凸优化方法重建信号的空间谱,从而获得DOA的估计。
进一步采用了局部网格细化方法,增加分辨力且降低算法计算量。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
本科毕业设计(论文)附件学生姓名:任秀方专业:电子信息工程指导教师:李蕴华南通大学毕业设计(论文)立题卡注:1、此表一式三份,学院、系、学生档案各一份。
2、课题来源是指:1.科研,2.社会生产实际,3. 其他。
3、课题类别是指:1.毕业论文,2.毕业设计。
4、系意见:在组织专业指导委员会审核后,就该课题的工作量大小,难易程度及是否符合专业培养目标和要求等内容提出具体的意见和建议。
南通大学毕业设计(论文)任务书题目:基于凸优化及加权范数的稀疏信号重建学生姓名任秀方学院电子信息学院专业电子信息工程起讫日期2012年 1 月-6月指导教师李蕴华职称副教授发任务书日期2012 年1 月12 日南通大学毕业设计(论文)开题报告南通大学电子信息学院毕业设计(论文)开题答辩暨前期检查表2012 年 3 月 20日南通大学电子信息学院毕业设计(论文)中期检查表注:本表由检查教师填写,交学院保存备查,最终归入学生毕业设计(论文)档案;检查教师:系主任:南通大学毕业设计(论文)成果验收表注:1.本表验收小组意见一栏由验收小组组长填写,其余内容由学生申报填写。
2.本表最终归入学生毕业设计(论文)档案。
本科毕业设计(论文)英文原文及译文学生姓名:任秀方专业:电子信息工程指导教师:李蕴华完成日期:2012年2月18日压缩感知技术的加权迭代算法压缩感知理论表明,稀疏信号能够从比传统认为需要的更少的数据中得到恢复。
在参考文献[1]中经验表明用lp最小化时采用p<1比采用p>1可以达到更低的数据量。
在本文中,我们采用的加权迭代算法来解决非凸问题的当地计算最小化。
特别的,我们建立了一种特殊规则化方法来大幅度改善加权最小二乘算法恢复稀疏信号的能力,并且是从非规则化版本要求的稀疏得多的信号中精确恢复(如参考文献[2]中的焦点)。
本文也对参考文献[3]的加权l1算法进行了改进。
关键词——压缩感知,信号重建,凸优化,加权迭代最小二乘算法,l1最小化――――*第二作者得到了来自莱斯大学工程学院院长对内部教员的研究经费支持。
他想感谢Elaine Hale和Yin Zhang为编码提供的宝贵帮助。
1 引言最近的论文[4][5]中已经介绍了这种压缩感知理论(还有其他相关术语)。
其核心思想是是只要测量数据满足一些属性(对这些属性的说明见[6]),稀疏或可压缩信号能够从极少量的线性观测中得到恢复。
这些测量数据就可以被当做原信号的压缩,如果是被有效压缩的,原信号就能被恢复。
潜在的应用前景有医学影像重建[7]、图像采集[8]、传感器网络[9]。
在本文中介绍的第一个算法是基追踪算法[10]。
令Φ为M×N的观测矩阵,Φx=b为N 维信号x的M个测量量的向量。
重建信号是l1范数的最小化,附属于数据:u,s.t. Φu=b (1)min ppsCandes and Tao [11]的一个显著成果就是,例如,如果Φ的行是随机选择的高斯分布向量,就会有一个常数C使得x的支持大小为K且满足M ≥CK log(N/K),那么(1)问题的解将最可能是u∗= x。
所需的C决定于所需要的对成功可能性的要求,N→∞时总是趋向于1。
Donoho和坦纳[12]计算了高斯测量尖锐的重建阈值,因此对任何稀疏度K和信号大小N,可以准确确定恢复信号x所需的采样点的数量M。
这些成果的多样性已列入Φ随机傅立叶子矩阵,或具有相同的概率值的±1/N。
在[6,13]中研究了更一般的矩阵。
此外,x可以是关于任何基的稀疏性,ü与Ψu更换为适合的唯一的Ψ。
一些迭代贪婪算法[14,15,16]被证明具有相同的精确重建属性,一般计算的复杂性更低,但是这些算法比基追踪算法需要更多的采样点进行精确重建。
在另一方面,[1]中表明了基追踪算法的非凸变型可以用更少的采样点进行精确重建。
特别的,在0 < p < 1的情况 (在这种情况下,尽管(,)p p d x y x y=-是矩阵,‖· ‖p 事实上并不是一个范数)下,l 1范数由lp 范数代替。
min p p s u s.t. Φu = b. (2)[1]中数值实验证明了用随机或非随机的傅里叶测量可以比p=1用更少的采样点达到信号的精确重建。
也从Φ的约束等距性的连续量这一方面证明了一个理论,总结了[17]的研究成果,表明(2)式对越小的p 精确恢复信号x 的条件越弱。
最近,[18]中用不同方法证明了对于随机高斯测量Candes and Tao 的以上条件可以概括为其中,C1、C2可以由p 唯一确定。
因此,当p →0时对信号维数N 的测量量M 的数量的依赖性降低,但是连续量并不尖锐。
2 非凸压缩感知算法更早的论文包括[19,20]研究了加权迭代最小二乘算法(IRLS ),IRLS 对于解决(2)主要研究p ≥1的情况,而Rao and Kreutz-Delgado [2]研究了p< 1的情况。
这种方法是用加权l 2范数替代(2)中的lp 目标函数,其中权系数依据前一步迭代的u(n−1)计算出的,所以式(4)的目标函数是对l p 目标的一阶近似:2(1)1/p n i i w u --=。
(4)的解可以明确给出,只要给出下一个迭代u (n ):其中Qn 是入口2log()i u ∑的对角矩阵。
这是通过解(4)的欧拉-拉格朗日方程,加限制解拉格朗日乘数,然后将这一结果变为解从而得出的,结果是解(2)式的欧拉-拉格朗日方程的重点迭代。
本文研究0 ≤ p ≤ 1的情况,p=0的情况相当于2log()i u ∑的目标,考虑p 2会是负数,不论何时(1)0n i u -=权系数不能定义。
解决这一问题的常用办法是将最优化问题规则化,包含一个小的€ > 0。
例如,下面我们研究衰减方法。
文献[2]中给出,迭代(5)取决于1/w i ,1/w i 如果直接定义为2(1)p n i u --就可以在任意(1)n i u -有定义。
原则上,不需要任何规则化,然而,对很多系统,(5)中倒置的矩阵条件太弱不能进行准确计算。
在第3部分,我们进行的实验表明,(6)中使用一个比较大的€,收敛和重复迭代(5)然后重复减少€,这一方法极大地提高了IRLS 恢复稀疏信号的能力。
用少得多的采样值,或稀疏得多的信号就可以精确恢复原信号。
在文献[1]中投影梯度算法有效利用了这种€-规则化的方法。
必须指出,(2)是一个p < 1时的非凸优化问题,这里研究的的算法只产生局部最小值。
然而,在实践中我们是完全能够恢复信号,结合[1,18]的理论结果,(2)中有一个独特的,全局的极小的情况即u ∗ = x ,这一事实有力的表明计算出的局域的极小值实际上是全局的,至少适用于广泛的情况。
€-规则化的背景下针对这种情况的可能的解释是,在被填写的不想要的本地最小值的加权结果中添加较大的€。
因为x 的稀疏性和Φ的不连续性结合,使x 成为(2)的本地最小值,所以有可能包含x 的值域会更深,并不太可能比其他值容易被填写在本地最小填。
用一个较大的€,我们观察我们的算法趋近于一个合理的附近点;一旦u 在正确的区域中,减少€允许区域加深,并且u 更加接近x ,当€→0时趋近于x 。
我们希望把这些概念变成€-规则化IRLS 算法(2)的全局最小的收敛证明。
我们给出x 将是上面所述的过程的不动点的部分证明。
定理2.1.设x ∈R N 为0x K =的范数向量,令Φ 是一个M ×N 的矩阵,Φ的2K 集合是线性不相关的, (0,1)ε∈为一个趋于0的连续量。
对每一个j ,令为约束凸优化问题(4)的唯一解,其中wi 由()/212p i i j w x ε-=+,0 ≤ p < 2,b=Φx 给出,则。
假设的Φ的属性被Gorodnitsky 和Rao[21]称为唯一的代表性属性,他们发现这意味着x 是范数为0u K ≤的Φu = b 的唯一解。
在其他的例子中,只要M ≥ 2K ,这种特性对随机高斯矩阵Φ维持1的概率。
证明:首先,连续量是有界的,事实上,IRLS 的一个已知的性质就是权重的局限相关性。
见[22]。
然后,确定k使x k=0.于是通过(u∗,j)的优化,综上,我们得出所以我们看到在不考虑x的情况下,(u∗,j)趋于0,则(u∗,j)的u0的任意有限点将会是Φu0 = b的唯一解,有最多为K个非零元素。
又由证明开始时的备注,一定有u0=x。
因此u∗,j →x。
图1. 重建频率对于K的函数图形.规则化IRLS功能比非规则化IRLS具有高得多的重建率,除非当p= 1时,他们几乎是一样的。
当p较小时,规则化IRLS恢复最大范围的信号,而非规则化IRLS对较小的P不如p =1时好。
Candes, Wakin和Boyd提出了迭代的加权l1最小算法适用于上面p=0的情况[3]。
下面我们在p的一些数值下,对比€-规则化IRLS的结果和€-规则化迭代的加权l1最小算法3.数值实验我们在实验中,每100次试验从一个均值为零的高斯分布中随机选择100×256的矩阵Φ的条目,然后扩展列达到2-norm。
对于每一个K值,我们随机选择x的支持,然后从均值为0,标准偏差2的高斯分布选择元素。
然后将相同的Φ和X用于每个算法和p的选择。
对€-规则化IRLS,€被初始化为1,u(0)初始化为Φu= b的最小2-规范的解。
由(6)定义权重的迭代(5)运行,直到迭代2 - 范数相对以前的迭代的变化小于√€/ 100,在这一点€减少了10倍,用前面的解开始重复迭代。
€下降太快导致恢复性能更弱。
这一过程通过一个最小€由10-8持续进行,低于这个范围被(5)转置的矩阵会变成病态矩阵,因此“非规则化”IRLS被用作€-规则化IRLS时只用10-8的€。
图1和图2显示了重建效果。
可以看出,相比p=1时的“非规则化”IRLS和€-规则化IRLS,在p=0时€-规则化IRLS能够用更多的非零元素重建信号。
对于p=1,这两种算法的效果几乎一致,但随着p的减小非规则化IRLS逐渐衰落,而€-规则化IRLS则逐渐提高。
图2.和图1数据相同,但对每一个p值显示。
在p=0.9非规则化IRLS最好,然后迅速衰落,对较小的p,规则化IRLS随着p变小而改善,并且比非规则化IRLS恢复更多信号。
图3. 比较IR-l1和IRLS算法,都被€-规则化了,对相同的K值恢复率接近1,而IRLS 对较大的K恢复率稍高,除了p=1时二者本质上相同。
为了和Candes,Wakin,和Boyd的IR-l1算法相比较,我们运行上面的程序,除了每一次迭代,加权最小平方法(4)被替换解决下面的加权l1问题:其中权数由下式给出:我们用一个基于Mosek的内点线性编程解决器来解(10),结果多少比文献[3]中的好;如图3。