小波变换的理解
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
可以写成正交阵的形式。
第二次作业的完成，我的小波课结束了。但我的小波情结还在继续。关于，正交阵的猜想还在困扰着我。一本电磁场和小波结合的外文书籍，帮助了我。圆周卷积的概念，历历在目。是呀，卷积对着傅里叶变换，而圆周卷积对应着离散傅里叶变换。这就是连续与离散的区别和联系啊。于是我用db小波，构造了一个完全正交的矩阵。当我把这个矩阵和它的转置相乘的时候，单位阵出来了。那天，我高兴得流泪。最终，我把圆周卷积用快速傅里叶变换实现出来。今后的日子，我便觉得，思维的水再也关不住了。
我和所有那些从事这小波事业的人们一样，为实现这上面单纯而坚定的疑问而不停奋斗。我和你们一样，是一个奔跑着，一个向着小波的科学和真理殿堂不辞辛劳的奔跑者。即使路上满是荆棘，即使我们会暂时的迷失方向，但我相信小波这朵最美丽的奇葩，会以它最美丽的身姿，最沁人的芬芳，指引着我们。让我们结伴而行吧！我是引路者，也是跟随者。和你们一样，怀揣梦想，一起努力。虽然汗流浃背，虽然荆棘满身，但成功终会来的。我悯悯驾信，我正在奔跑，像春天里的孩子。
４小波变换的实质
小波变换的公式有内积形式和卷积形式，两种形式的实质都是一样的．它要求的就是一个个小波分量的系数也就是＂权＂．其直观意义就是首先用一个时窗最窄，频窗最宽的小波作为尺子去一步步地＂量＂信号，也就是去比较信号与小波的相似程度．信号局部与小波越相似，则小波变换的值越大，否则越小！当一步比较完成后，再将尺子拉长一倍，又去一步步地比较，从而得出一组组数据．如此这般循环，最后得出的就是信号的小波分解（小波级数）．当然这只是一种粗略的解释．
７小波变换的模极大值及其意义
对于我们搞信号奇异性检测的人来说，小波变换最重要的应用就是用模极大值定值奇异点．我觉得模极大值可以从两个方面去理解：第一，从直观角度，上文已说明小波变换的实质就是一种度量波形相似程度的方法．信号与小波越相似，则小波系数越大．这也就可理解为出现了小波变换的模极大值．因为当信号出现奇异点时，或是间断点，或是一阶导数不连续点，其在各个尺度下都将必然出现大的小波系数．从而可以定位奇异点！第二个方面从小波的取法来看，当小波取为光滑函数一阶导数或二阶导数时，从公式可以推导出小波变换将出现模极大值点或是过零点．也就是很多书上说的模极大值检测和零交叉检测．这些可以查书看！
由于小波变换的知识涵盖了调和分析，实变函数论，泛函分析及矩阵论，所以没有一定的数学基础很难学好小波变换．但是对于我们工科学生来说，重要的是能利用这门知识来分析所遇到的问题．所以个人认为并不需要去详细学习调和分析，实变函数论，泛函分析及矩阵论等数学知识．最重要是的理解小波变换的思想！从这个意义上说付立叶变换这一关必需得过！因为小波变换的基础知识在付立叶变换中均有提及，我觉得这也就是很多小波变换的书都将付立叶分析作为其重要内容的原因．所以我认为学习小波应从＜数字信号处理＞中的付立叶分析开始．当然也可从＜信号与系统＞这本书开始．然后再看杨福生老师的小波变换书．个人觉得他的书最能为工科学生所接受．
２信号的分解
付立叶级数将周期信号分解为了一个个倍频分量的叠加，基函数是正交的，也就是通常所说的标准正交基．通过分解我们就能将特定的频率成分提取出来而实现特定的各种需要，如滤波，消噪等．付立叶变换则将倍频谱转换为了连续谱，其意义差不多．小波变换也是一种信号分解思想：只不过它是将信号分解为一个个频带信号的叠加．其中的低频部分作为信号的近似，高频部分作为信号的细节．所谓的细节部分就是一组组小波分量的叠加，也就是常说的小波级数．
小波情结
到了小波版很久，总觉得应该写些什么。这篇文章也就献给那些所有正在研究或即将研究小波的同学、老师和科研人员们。这是篇与技术无关的文章，撰写的是我对小波的感受。从我开始接触小波，研究小波，到迷恋小波的真实记录。因此，我把它起名叫小波情结。刚开始，接触小波的时候在研一。关于老师布置的从频域构造一种小波的作业开始。后来我才知道，这种小波本质上就是meyer小波。当时，就一个字，嫩。实际上就是对小波毫无所知。脑子里就是一叠的公式。正交条件，容许条件等一大堆，与概念理解相差甚远的东东。但，还是乐此不疲的编程。总想看看，我亲手缔造的小波长的是什么样，也有些略带孩子气的，想把它作为桌面和自己的酷酷头像之类的欲望。于是，十一的头三天，我基本上闭门造车。当时，我用的是matlab，也是我最后得到哭笑不得结果的直接的助手与帮凶。因为构造的过程的起始，我就把函数离散化了。紧接着就是平移，对乘，积分，抽取，插值，dsp里的一套trick把我搞得叫苦不迭。程序也累计到了1000行左右。当时，最可恨的就是对点，由于dsp下标的1，2，3离散化，所以我也就用手指开始傻傻的算。连续几天晚上鏖战，终于在3号的晚上。通过IFFT后，美妙的波形出来了。注意，美妙和丑陋只有一步之遥。这是我的对小波的第一课体会。当我一看屏幕，疯了，彻底疯了。一个DELTA函数类似的波形，就在我眼前。心想：忙乎了三天，整了个DELTA函数出来。这难道就是回报吗？别急，小波是紧支撑的啊。概念上对头，一定是取点的问题。我便拿起MATLAB自带的照妖镜（放大镜）一看，呵呵，一个差强人意的波形就在我眼前了。我当时大喊一声，爽，那时已经凌晨2:00。
步步为营，我实现了db小波的时域构造，采用矩阵特征向量法和casade理论两种解法，我都成功了。慢慢的我开始醉心于消失矩，开始懂得框架，开始懂得双正交。然后就是，PR条件，二代小波，小波插值，因子化，等等。于是，我也在研学一边和大家交流，一边阅读大量书籍和文献，而且实现里面的每一个例子和思想。
当我们还在觉得自己懂点小波的时候，美国人已把它用于指纹压缩，产生了巨大的经济和社会效益；当我们，还在对二代不屑一顾的时候，一个叫JPEG2000标准的东东，彻底给我们上了一课。当我们，还在国家著名期刊上，打着错误的提升公式的时候，当我们，还在为些不值一提的程序保密的时候，一个叫各相异性小波的东东又开始蠢蠢欲动。看看那些大师们吧，看看他们的态度，再看看我们，我们努力的够吗。你说看不懂文献，我就要问你，你看了一遍，十遍，还是一百遍呢？如果说你认为是高手，你是否写了超过10万行以上小波的代码，看了10本以上的书，100篇的文献，实现里面所有的例子和思想了呢。我们差得很远。
这个问题甚至现在，还困扰着很多的小波工作者。一个长度为100的信号，分解后理论上高频50,低频50。但用卷积算法，假设滤波器长度为10。因此总长度109，做抽取后长度55。多了5。这怎么办呢。我去问了很多老师，回答都一样。就是MATLAB里用的函数WKEEP()。把两头丢掉。当时我勉强接受了这个结果。但始终有个概念，小波变换就是正交变换，它和傅里也变换一样，一定
6 MALLAT算法的意义
想必大家都注意到，小波变换是以内积或卷积的形式实现的，这给数值计算带来了不利之处，因为用计算机作数值积分其计算量大．MALLAT算法则解决了这一问题，它不涉及小波的具体形式，只是对系数进行操作！其计算也就是用高通及低通滤波系数与小波系数作卷积．因为作信号处理时，我们往往并不关心小皮的具体形式，更为关心小波系数．需提出的是该算法仅适用于正交小波如果小波不是正交的（如Ｂ样条小波）则算法失效！
我只谈谈连续小波变换，对于离散的也有同样的argument。小波函数的dilation和translation是这样一个形式：1/\sqrt{|s|}\psi（(x-u)/s），s是scale，u是该小波atom的center。
由于根据定义，小波的积分是0，也就是说小波函数的傅立叶变换在零点为零。再有于小波函数的傅立叶变换一般是连续的（比如如果小波是属于L_1的），这样在0的一个小临域里面，小波的傅立叶变换很接近零，这也就是说小波函数的傅立叶变换可以看成某个高通滤波器的transfer function，这样小波变换W（f）实际是在measure该函数f在u点附近的variation。从这个角度看的话，如果小波的宽度很大（对应尺度s很大），该函数在该小波的窗口下的variation就很大；如果小波的宽度小（对应尺度s小），则函数在该小波的窗口下的variation就相对比较小（除非信号是fractal，呵呵）。
但是我们服气吗，我们认输了吗，我们不再努力了吗。什么时候有中国的JPEG2008呢，什么时候我们能毫无保留的进行坦诚的交流和无私的分享呢，什么时候我们把学术的铜臭拨掉，把做小波看成一次和上苍对话的机会，和真理的交锋呢。我始终在问自己这些问题。为关于学术的单纯的问题。我找到了答案。在研学上。因此，我毫无保留的帮助大家，同时也在修正自己。我开始变得勤奋，开始编每个需要的程序，而基本上不用MATLAB提供的任何函数，除非是概念性验证。
５连续小波变换，二进小波变换与离散小波变换的关系
当尺度及位移均作连续变化时，可以理解必将产生一大堆数据，作实际应用时并不需要这么多的数据，因此就产生了离散的思想．将尺度作二进离散就得到二进小波变换，同时也将信号的频带作了二进离散．当觉得二进离散数据量仍显大时，同时将位移也作离散就得到了离散小波变换！
第一次的经历，对我来说收获很丰。然后，第二次挑战，则是彻底改变我对小波是个深不可测的家伙的看法。这次作业，就是用刚才构造的小波，做消噪。我这次，又一次的想起，爱情格言：我心灵的古堡经不起你轻轻的一击。女生问：结果呢？回答：碎了。一个如此，不精确的波形，怎么能消噪呢？而且，当时老师要用连续小波的方法。也就是内积求和的方法。我和同学，首先合作，用mathmatic做了个好一点的波形。因为，除最后一步，反傅里叶变换外，其他都是解析的。然后，一个困扰我许久的问题产生了。一个函数可以由无穷多个小波的膨胀和伸缩叠加起来。那么，我把函数从-inf到+inf积分，假设函数有直流分量，所以积分不为零。但是小波，积分却为零。这不是矛盾吗？后来，也就是研二我才知道，有些时候积分后不可以交换。还有，其实有限的小波逼近，必须加上尺度函数才可以。但当时，我们只是采用了把小波的支撑取宽的办法解决了此问题。但，我由于不太喜欢这种方法的冗长和费时，所以想令辟蹊径。于是，mallet一个令我崇拜的算法，终于在我阅读超星的时候，跳在了我生命里。首先，便是看冗长的证明，勉强理解了。当看到滤波器组的解释后，我开始豁然开朗。这是我熟悉的dsp概念。因此，我花了一晚上，把这个算法彻底搞懂了。但概念的理解和程序的成功编制，还是有一小步，就是这一步，使无数英雄竟折腰。我的幸运之神便是MATLAB里的DEMO。那个里面，有一个详细的算法解释。并且从哪里我知道了些怪怪的函数。WKEEP(),DYADDOWN(),DYADUP()等等。而且，又一个问题，理论和实际差别产生了。
３小波变换的时频来自百度文库析思想
付立叶变换将信号从时域变换到了频域，从整体上看待信号所包含的频率成分．对于某个局部时间点或时间段上信号的频谱分析就无能为力了，对于我们从事信号的奇异性检测的人来说，付立叶变换就失去了意义（包括加窗付立叶变换）．因为我们要找的是信号的奇异点（时域方面）和奇异点处所包含的频带（频域方面）也就是说需要一种时频分析方法．当然能有纯时域的分析方法更好！（据说数学形态学能达到这种效果）．小波变换之所以可以检测信号的奇异点，正在于它的＂小＂．因为用小的波去近似奇异信号要比正弦波要好的多．
第二次作业的完成，我的小波课结束了。但我的小波情结还在继续。关于，正交阵的猜想还在困扰着我。一本电磁场和小波结合的外文书籍，帮助了我。圆周卷积的概念，历历在目。是呀，卷积对着傅里叶变换，而圆周卷积对应着离散傅里叶变换。这就是连续与离散的区别和联系啊。于是我用db小波，构造了一个完全正交的矩阵。当我把这个矩阵和它的转置相乘的时候，单位阵出来了。那天，我高兴得流泪。最终，我把圆周卷积用快速傅里叶变换实现出来。今后的日子，我便觉得，思维的水再也关不住了。
我和所有那些从事这小波事业的人们一样，为实现这上面单纯而坚定的疑问而不停奋斗。我和你们一样，是一个奔跑着，一个向着小波的科学和真理殿堂不辞辛劳的奔跑者。即使路上满是荆棘，即使我们会暂时的迷失方向，但我相信小波这朵最美丽的奇葩，会以它最美丽的身姿，最沁人的芬芳，指引着我们。让我们结伴而行吧！我是引路者，也是跟随者。和你们一样，怀揣梦想，一起努力。虽然汗流浃背，虽然荆棘满身，但成功终会来的。我悯悯驾信，我正在奔跑，像春天里的孩子。
４小波变换的实质
小波变换的公式有内积形式和卷积形式，两种形式的实质都是一样的．它要求的就是一个个小波分量的系数也就是＂权＂．其直观意义就是首先用一个时窗最窄，频窗最宽的小波作为尺子去一步步地＂量＂信号，也就是去比较信号与小波的相似程度．信号局部与小波越相似，则小波变换的值越大，否则越小！当一步比较完成后，再将尺子拉长一倍，又去一步步地比较，从而得出一组组数据．如此这般循环，最后得出的就是信号的小波分解（小波级数）．当然这只是一种粗略的解释．
７小波变换的模极大值及其意义
对于我们搞信号奇异性检测的人来说，小波变换最重要的应用就是用模极大值定值奇异点．我觉得模极大值可以从两个方面去理解：第一，从直观角度，上文已说明小波变换的实质就是一种度量波形相似程度的方法．信号与小波越相似，则小波系数越大．这也就可理解为出现了小波变换的模极大值．因为当信号出现奇异点时，或是间断点，或是一阶导数不连续点，其在各个尺度下都将必然出现大的小波系数．从而可以定位奇异点！第二个方面从小波的取法来看，当小波取为光滑函数一阶导数或二阶导数时，从公式可以推导出小波变换将出现模极大值点或是过零点．也就是很多书上说的模极大值检测和零交叉检测．这些可以查书看！
由于小波变换的知识涵盖了调和分析，实变函数论，泛函分析及矩阵论，所以没有一定的数学基础很难学好小波变换．但是对于我们工科学生来说，重要的是能利用这门知识来分析所遇到的问题．所以个人认为并不需要去详细学习调和分析，实变函数论，泛函分析及矩阵论等数学知识．最重要是的理解小波变换的思想！从这个意义上说付立叶变换这一关必需得过！因为小波变换的基础知识在付立叶变换中均有提及，我觉得这也就是很多小波变换的书都将付立叶分析作为其重要内容的原因．所以我认为学习小波应从＜数字信号处理＞中的付立叶分析开始．当然也可从＜信号与系统＞这本书开始．然后再看杨福生老师的小波变换书．个人觉得他的书最能为工科学生所接受．
２信号的分解
付立叶级数将周期信号分解为了一个个倍频分量的叠加，基函数是正交的，也就是通常所说的标准正交基．通过分解我们就能将特定的频率成分提取出来而实现特定的各种需要，如滤波，消噪等．付立叶变换则将倍频谱转换为了连续谱，其意义差不多．小波变换也是一种信号分解思想：只不过它是将信号分解为一个个频带信号的叠加．其中的低频部分作为信号的近似，高频部分作为信号的细节．所谓的细节部分就是一组组小波分量的叠加，也就是常说的小波级数．
小波情结
到了小波版很久，总觉得应该写些什么。这篇文章也就献给那些所有正在研究或即将研究小波的同学、老师和科研人员们。这是篇与技术无关的文章，撰写的是我对小波的感受。从我开始接触小波，研究小波，到迷恋小波的真实记录。因此，我把它起名叫小波情结。刚开始，接触小波的时候在研一。关于老师布置的从频域构造一种小波的作业开始。后来我才知道，这种小波本质上就是meyer小波。当时，就一个字，嫩。实际上就是对小波毫无所知。脑子里就是一叠的公式。正交条件，容许条件等一大堆，与概念理解相差甚远的东东。但，还是乐此不疲的编程。总想看看，我亲手缔造的小波长的是什么样，也有些略带孩子气的，想把它作为桌面和自己的酷酷头像之类的欲望。于是，十一的头三天，我基本上闭门造车。当时，我用的是matlab，也是我最后得到哭笑不得结果的直接的助手与帮凶。因为构造的过程的起始，我就把函数离散化了。紧接着就是平移，对乘，积分，抽取，插值，dsp里的一套trick把我搞得叫苦不迭。程序也累计到了1000行左右。当时，最可恨的就是对点，由于dsp下标的1，2，3离散化，所以我也就用手指开始傻傻的算。连续几天晚上鏖战，终于在3号的晚上。通过IFFT后，美妙的波形出来了。注意，美妙和丑陋只有一步之遥。这是我的对小波的第一课体会。当我一看屏幕，疯了，彻底疯了。一个DELTA函数类似的波形，就在我眼前。心想：忙乎了三天，整了个DELTA函数出来。这难道就是回报吗？别急，小波是紧支撑的啊。概念上对头，一定是取点的问题。我便拿起MATLAB自带的照妖镜（放大镜）一看，呵呵，一个差强人意的波形就在我眼前了。我当时大喊一声，爽，那时已经凌晨2:00。
步步为营，我实现了db小波的时域构造，采用矩阵特征向量法和casade理论两种解法，我都成功了。慢慢的我开始醉心于消失矩，开始懂得框架，开始懂得双正交。然后就是，PR条件，二代小波，小波插值，因子化，等等。于是，我也在研学一边和大家交流，一边阅读大量书籍和文献，而且实现里面的每一个例子和思想。
当我们还在觉得自己懂点小波的时候，美国人已把它用于指纹压缩，产生了巨大的经济和社会效益；当我们，还在对二代不屑一顾的时候，一个叫JPEG2000标准的东东，彻底给我们上了一课。当我们，还在国家著名期刊上，打着错误的提升公式的时候，当我们，还在为些不值一提的程序保密的时候，一个叫各相异性小波的东东又开始蠢蠢欲动。看看那些大师们吧，看看他们的态度，再看看我们，我们努力的够吗。你说看不懂文献，我就要问你，你看了一遍，十遍，还是一百遍呢？如果说你认为是高手，你是否写了超过10万行以上小波的代码，看了10本以上的书，100篇的文献，实现里面所有的例子和思想了呢。我们差得很远。
这个问题甚至现在，还困扰着很多的小波工作者。一个长度为100的信号，分解后理论上高频50,低频50。但用卷积算法，假设滤波器长度为10。因此总长度109，做抽取后长度55。多了5。这怎么办呢。我去问了很多老师，回答都一样。就是MATLAB里用的函数WKEEP()。把两头丢掉。当时我勉强接受了这个结果。但始终有个概念，小波变换就是正交变换，它和傅里也变换一样，一定
6 MALLAT算法的意义
想必大家都注意到，小波变换是以内积或卷积的形式实现的，这给数值计算带来了不利之处，因为用计算机作数值积分其计算量大．MALLAT算法则解决了这一问题，它不涉及小波的具体形式，只是对系数进行操作！其计算也就是用高通及低通滤波系数与小波系数作卷积．因为作信号处理时，我们往往并不关心小皮的具体形式，更为关心小波系数．需提出的是该算法仅适用于正交小波如果小波不是正交的（如Ｂ样条小波）则算法失效！
我只谈谈连续小波变换，对于离散的也有同样的argument。小波函数的dilation和translation是这样一个形式：1/\sqrt{|s|}\psi（(x-u)/s），s是scale，u是该小波atom的center。
由于根据定义，小波的积分是0，也就是说小波函数的傅立叶变换在零点为零。再有于小波函数的傅立叶变换一般是连续的（比如如果小波是属于L_1的），这样在0的一个小临域里面，小波的傅立叶变换很接近零，这也就是说小波函数的傅立叶变换可以看成某个高通滤波器的transfer function，这样小波变换W（f）实际是在measure该函数f在u点附近的variation。从这个角度看的话，如果小波的宽度很大（对应尺度s很大），该函数在该小波的窗口下的variation就很大；如果小波的宽度小（对应尺度s小），则函数在该小波的窗口下的variation就相对比较小（除非信号是fractal，呵呵）。
但是我们服气吗，我们认输了吗，我们不再努力了吗。什么时候有中国的JPEG2008呢，什么时候我们能毫无保留的进行坦诚的交流和无私的分享呢，什么时候我们把学术的铜臭拨掉，把做小波看成一次和上苍对话的机会，和真理的交锋呢。我始终在问自己这些问题。为关于学术的单纯的问题。我找到了答案。在研学上。因此，我毫无保留的帮助大家，同时也在修正自己。我开始变得勤奋，开始编每个需要的程序，而基本上不用MATLAB提供的任何函数，除非是概念性验证。
５连续小波变换，二进小波变换与离散小波变换的关系
当尺度及位移均作连续变化时，可以理解必将产生一大堆数据，作实际应用时并不需要这么多的数据，因此就产生了离散的思想．将尺度作二进离散就得到二进小波变换，同时也将信号的频带作了二进离散．当觉得二进离散数据量仍显大时，同时将位移也作离散就得到了离散小波变换！
第一次的经历，对我来说收获很丰。然后，第二次挑战，则是彻底改变我对小波是个深不可测的家伙的看法。这次作业，就是用刚才构造的小波，做消噪。我这次，又一次的想起，爱情格言：我心灵的古堡经不起你轻轻的一击。女生问：结果呢？回答：碎了。一个如此，不精确的波形，怎么能消噪呢？而且，当时老师要用连续小波的方法。也就是内积求和的方法。我和同学，首先合作，用mathmatic做了个好一点的波形。因为，除最后一步，反傅里叶变换外，其他都是解析的。然后，一个困扰我许久的问题产生了。一个函数可以由无穷多个小波的膨胀和伸缩叠加起来。那么，我把函数从-inf到+inf积分，假设函数有直流分量，所以积分不为零。但是小波，积分却为零。这不是矛盾吗？后来，也就是研二我才知道，有些时候积分后不可以交换。还有，其实有限的小波逼近，必须加上尺度函数才可以。但当时，我们只是采用了把小波的支撑取宽的办法解决了此问题。但，我由于不太喜欢这种方法的冗长和费时，所以想令辟蹊径。于是，mallet一个令我崇拜的算法，终于在我阅读超星的时候，跳在了我生命里。首先，便是看冗长的证明，勉强理解了。当看到滤波器组的解释后，我开始豁然开朗。这是我熟悉的dsp概念。因此，我花了一晚上，把这个算法彻底搞懂了。但概念的理解和程序的成功编制，还是有一小步，就是这一步，使无数英雄竟折腰。我的幸运之神便是MATLAB里的DEMO。那个里面，有一个详细的算法解释。并且从哪里我知道了些怪怪的函数。WKEEP(),DYADDOWN(),DYADUP()等等。而且，又一个问题，理论和实际差别产生了。
３小波变换的时频来自百度文库析思想
付立叶变换将信号从时域变换到了频域，从整体上看待信号所包含的频率成分．对于某个局部时间点或时间段上信号的频谱分析就无能为力了，对于我们从事信号的奇异性检测的人来说，付立叶变换就失去了意义（包括加窗付立叶变换）．因为我们要找的是信号的奇异点（时域方面）和奇异点处所包含的频带（频域方面）也就是说需要一种时频分析方法．当然能有纯时域的分析方法更好！（据说数学形态学能达到这种效果）．小波变换之所以可以检测信号的奇异点，正在于它的＂小＂．因为用小的波去近似奇异信号要比正弦波要好的多．