数字信号处理--AR 和MA模型的理解

书上说了，确定信号的f(t)的傅里叶变换F(w),描述了信号f(t)中各频率信号成分的幅度大小；离散时间平稳随机过程u(n)的功率谱S(w)(相关函数r(m)的傅里叶变换),则描述了随机过程u(n)中各频率成分的平均
功率的大小。

因此，知道了S(w),就可以知道u(n)中的各频率构成情况。

但是在实际生活中，不可能知道随机信号的自相关函数r(m),仅有随机信号的u(n)的一次观测样本的N各观测数据，且都是当前或则以前发生了的，那么如何从这些观测数据估计出随机信号的功率谱S(w)呢？几十年下来研究这种的理论就多了去了，但是主要分为两种：一种是将基于相关函数傅里叶变换的估计方法，这就是经典功率谱估计；另一种是将参数模型估计方法和基于相关矩阵特征分解的信号频谱估计方法，这就是现代功率频谱估计方法。

AR模型MA模型就是现代功率频谱估计方法。

AR模型
书上写了，“具有连续谱的离散时间规则随机过程x(n),可以看成是0均值，方差位白噪声u(n)通过频率响应为H(w)的LIT离散时间系统的响应”，（废话这么多，其实就是说x(n)=u(n)*h(n),注意，这里是卷积）那么随机过程的功率谱.
用个图表形象表示下就是
u(n)——>H(z)——>x(n)
下面来梳理思路：
1先搞清楚我们最终目标，也就是AR模型这个东东是干什么的，我们最终是目标x(n),他是由u(n)激励H(Z)产生的
2再搞清楚我们可以知道什么就是我们可以通过测量知道x(n)现在时刻以前的N个样本值
3基本的思想就是根据H(Z)的参数来估计出x(n)的功率谱
因此，参数模型功率谱的求解有两步：
（1）H(z)模型参数估计
（2）依据模型参数求功率谱
下面来科普下AR的数学原理：
（公式看看就好了，认真你就输了。

你信就是对的，不信就是错的）
其中，输入设定为方差为的白噪声序列，ak是模型的参数，p是模型的阶数，Px为x(n)功率谱，也即本文要求解的目标。

AR模型是一个全极点模型，“自回归”的含义是：现在的输出是现在的输入和过去p个输出的加权和。

关于什么是全极点模型，百度了下说是全极模型简单来说就是传递函数只有极点没有零点，通常用在语音分析和合成中。

现在我们希望建立AR参数模型和x(n)的自相关函数的关系，也即AR模型的正则方程：
上面的正则方程也称Yule-Walker方程，其中的rx为自相关函数。

由方程可以看出，一个p 阶的AR模型有p+1个参数（）。

通过推导可以发现（反正我是没有推导过，同样信就是对的，不信就是不对），AR模型与线性预测器是等价的，AR模型是在最小平方意义上对数据的拟合。

后来就有各种乱七八糟的算法来求AR模型的参数了，上面说了P阶AR模型有P+1个参数（）。

比较出名靠谱的就是
Levinson-Durbin算法（关于这个算法有时间再去好好研究吧）
定义为p阶AR模型在m阶次时的第k个系数，k=1,2,...,m。

定义为m阶系统时的，这也是线性预测器中前向预测的最小误差功率。

此时，一阶AR模型时有
我们定义初始时，则
由PART1中矩阵的对称性质，将上面的公式推广到高阶AR模型，可以推导出
Levinson-Durbin递推算法：
Levinson-Durbin递推算法从低阶开始递推，，给出了每一阶次时所有参数，。

这一特点有利于我们选择合适的AR模型阶次。

因为必须大于0，由式知，如果，递推应该停止。

到此，选择最佳阶次的参数代入到中，求得功率谱。