系统辨识与参数估计大作业教案
系统辨识2
第 四 章系统辨识与参数估计4.1 系统辨识概述4.2 非参数模型辨识4.3 最小二乘参数估计4.4 递推最小二乘数估计4.5 其它最小二乘类估计4.6 极大似然估计法4.7 预报误差法4.8 子空间方法4.9 闭环辨识2012年5月29日星期二3第八讲14. 4 递推最小二乘估计2012年5月29日星期二3第八讲24.4 递推最小二乘数估计参数估计的一次算法, 当N很大时,(ΦTΦ)-1的计算是个很大的负担, 且每增加一个数据(ΦTΦ)-1的计算必须重复进行,因此, 递推算法在实际应用中是十分必要.•递推算法的基本思想：新估计c(k+1) = 原估计c(k) + 修正项2012年5月29日星期二3第八讲32012年5月29日星期二3第八讲4４.4.1基本最小二乘递推公式2012年5月29日星期二3第八讲5定理４．６ 对于定义的辨识问题, 未知参数向量θ的最小二乘估计的递推计算式为（1×S）（S×S）（S ×1）标量S = n a +n b +12012年5月29日星期二3第八讲62012年5月29日星期二3第八讲7证明:设基于N 时刻为止的所有观测数据对N 时刻的未知参数θ的最小二乘估计为 则由矩阵求逆引理可知2012年5月29日星期二3第八讲82012年5月29日星期二3第八讲92012年5月29日星期二3第八讲10注1: 新估计c(N+1)是原估计c(N)及校正项K(N+1)［y(N+1)-φT (N+1)c(N)］的线性组合。
若记代表原估计对Ｎ＋１时刻输出的预测，则表示新息,即输出误差的预报,若预报误差为零,说明参数估计已准确,不必校正。
注2：递推算法所需的存贮容量及计算量都大大下降。
2012年5月29日星期二3第八讲11注5: 增益阵K(N)的计算误差δＫ（Ｎ）,通过式给P(N)阵的计算带来误差δＰ(N),显然有δＰ(N) ＝－δＫ(N)φT (N)Ｐ(N-1)即误差以一次幂的形式传播,累积现象显著。
《系统辨识与参数估计》教学大纲.doc
《系统辨识与参数估计》教学大纲课程编号：4050139开课院系：自动化学院控制科学与工程系课程类别：专业选修适用专业：自动化课内总学时：32学分：2实验学时：0 设计学时：0 上机学时：0 先修课程：控制理论随机过程执笔：夏晓华审阅：一、课程教学目的本课程的任务是研究建立生产过程数学模型的理论和方法。
通过学习该课程使学生初步认识如何建立一般工业对象的数学模型，如何经过适当的数学分析进行数学模型的建立和简化，并对所得结果进行一定程度的验证和分析。
学生经过本课程的学习可以学会有关过程对象数学模型的基本概念，掌握系统辨识和参数估计的基本方法，培养使用辨识和估计方法对一般工业对象模型进行分析和研究的能力。
二、课程教学基本要求1 •课程重点：系统辨识的基本概念；辨识的定义和问题表达形式；辨识算法的基本原理；系统辨识和参数估计的基本步骤；随机信号的描述和分析；过程的数学模型描述；经典的系统辨识方法包括阶跃响应法、脉冲响应法；频率响应法和相关分析法等；最小二乘类参数估计算法。
2.课程难点：系统辨识的问题描述；系统辨识的三要素；随机信号的数字特征；随机信号的谱密度函数；白噪声及其产生方法；数学模型之间的转换；相关分析法辨识系统频率响应和脉冲响应；最小二乘问题的提法；最小二乘估计的几何解释；最小二乘参数估计的统计特性；最小二乘算法的变形等。
3.能力培养要求：了解系统模型描述的基本数学方法；理解随机信号的数字特征，掌握采用经典辨识方法辨识系统的多种模型；熟练掌握最小二乘算法进行系统和模型参数的辨识；理解最小二乘的几何意义，理解最小二乘算法的统计特征；了解多种最小二乘算法的变形及应用范围。
三、课程教学内容与学时课堂教学（32学时）1.辨识的基本概念（4学时）1.1过程和模型1.2辨识的定义1.3辨识问题的表达形式1.4辨识算法的基本原理1.5辨识算法的误差准则1.6辨识的内容和步骤1.7辨识的精度1.8系统辨识和参数估计的应用2.随机信号的描述和分析（6学时）2.1随机过程的基本概念和数学描述2.2谱密度函数2.3线性过程在随机输入下的响应2.4相关函数和谱密度的估计2.5白噪声及其产生方法2.6伪随机M序列及其产生方法3.过程的数学模型（3学时）3.1输入输出模型3.2状态空间模型3.3数学模型之间的转换3.4随机模型4.经典辨识方法（7学时）4.1阶跃响应法4.2脉冲响应法4.3频率响应法4.4相关分析法4,5谱分析法5.最小二乘参数辨识法（8学时）5.1引言5.2最小二乘法的基本能概念5.3最小二乘问题的提法5.4最小二乘问题的解5.5最小二乘估计的几何解释5.6最小二乘参数估计量的统计性质5.7噪声方差的估计6.最小二乘参数估计方法扩展（4学时）6.1引言6.2适应性算法6.3增广最小二乘法6.4广义最小二乘法6.5辅助变量法实验（上机、设计）教学（0学时）四、教材与参考书教材1.准备自编，已经报学校“十二五”教材编写计划。
采用系统辨识工具箱辨识结果(“参数”相关文档)共10张
x
k id
为惯性因子； 为速度比约束因子； 为粒子个体位置最优值； 为群体位置最优值
; 是加速因子,
是在 [0,1] 之间的随机数。
3.2 适应度函数选择
fitness（）结合PID控制根据误差性能指标进行选取。误差性能指标主要有以下三种：
(1)绝对误差积分(IAE)性能指标
按照((不32))同时平的间方误与误差误差性差积能平分指方(I标乘SE进积)性行积能P分ID指(I控S标T制E)器性II参SA能EE数指整标0定ee，2t所td得td到t 的系统闭环控制效果也 会不同。IAE性能指标对小偏差的抑制能力比较强；IS0E性能I指ST标E着 重 te于2 抑t 制dt过渡过程中
目录
• 1、基于系统辨识工具箱的参数估计
• 2、采用工程整定方法进行参数预估计 • 3、基于PSO的PID参数优化 • 4、下一步工作
1、基于系统辨识工具箱的参数估计
• 采用matlab的系统辨识工具箱，只需要输入需要辨识的输入数据和输 出数据，选择一定的系统模型，经过一定的数据预处理，最终得到所
为记群录体 稳位态置值最，优延值时时; 间和是时加间速常因数子，, 是指上升这段时是间在内[0的,1]拟之合间直的线随的机两数个。时间点之差。 (fi1tn)绝es对s（误）差结积合分P(IADE控)性制能根指据标误差性能指标进行选取。 初图始1 化辨参识数工，具包箱括界维面数、 个 ISE体性极能值指指标在着粒重子于自抑身制所过找渡到过的程最中优大解偏，差而的全出局现极；值则是在群体中找到的最优值。 I按ST照E不性同能的指误标差在性缩能短指调标节进时行间P的ID同控时制还器可参控数制整大定偏，差所。得到的系统闭环控制效果也会不同。 先记使录系 稳统态在值开，环延时候时输间入和单时位间阶常跃数信，号是，指观上察升阶这跃段响时应间曲内线的。拟合直线的两个时间点之差。 21） 、个基体于极系值统和辨全识局工极具值 箱的参数估计 2粒）子个群体优极化值算和法全(P局S极O)值是一种进化计算技术,它是一种模拟鸟类觅食的优化算法。 3P、ID基工于程P整S定O方的法PID：参临数界优比化例法、衰减曲线法、ziegler-Nichols整定。 按照不同的误差性能指标进行PID控制器参数整定，所得到的系统闭环控制效果也会不同。 按照不同的误差性能指标进行PID控制器参数整定，所得到的系统闭环控制效果也会不同。 在matlab输入ident，即可以出现如图1所示的界面，在import data里导入数据，在estimate里选择需要的模型。
第八章参数估计（教案）
第八章参数估计（教案）第八章参数估计§8.1 点估计1. 点估计问题概述设总体X 的分布函数为F （x ，θ），θ是未知参数，X 1，X 2，…，X n 是X 的一样本，样本值为x 1，x 2，…，x n ，构造一个统计量?θ（X 1，X 2，…，X n ），用它的观察值1,2(,,,)n x x x θ作为θ的估计值，这种问题称为点估计问题.习惯上称随机变量1,2(,,,)n x x x θ为θ的估计量,称()L θ为?θ的估计值.构造估计量1,2(,,,)n x x x θ的方法很多，下面仅介绍矩法和极大似然估计法.2.矩估计矩估计的基本步骤：设总体X ~F （X ；θ1,θ2，…，θl ）其中θ1,θ2,…,θl 均未知. 1°求出总体X 的前k 阶矩E (X k )=μk (θ1,θ2,…,θl )，(1≤k ≤l ).2°令1121212212(,,,),(,,,),(,,,),l l l l l A A A μθθθμθθθμθθθ=??=?? ??=?其中A k （1≤k ≤l ）为样本k 阶矩.（3）解出上述方程组的解为,?,,?,?21l θθθ 我们称),,,(??21n k k X X X θθ=为参数θk (1≤k ≤l )的矩估计量, ),,,(??21nk k x x x θθ=为参数θk 的矩估计值. 例8.1 设总体X 服从二项分布B （n ，p ），n 已知，X 1，X 2，…，X n 为来自X 的样本，求参数p 的矩法估计.解 1(),(),E X np E X A X ===因此np =X所以p 的矩估计量 ?Xpn= 例8.2 设总体X 的二阶矩存在且未知，X 1，X 2，…，X n 为来自总体的一个样本.求μ= E (X )，σ2=D (X )的矩估计量.解由于E (X ) =μ, E (X 2) = D (X ) + (E(X))2=σ2+μ2，令1111(),n i i E X A X n μ====∑ 222211().n i i E X A X n μ====∑故μ，σ2的矩估计量分别为∑=-=-=-==ni i X X n S n n A X 122222)(11??,?μσμ. 特别地，如果X 为正态总体，我们可以对其期望和方差得到类似的估计.例8.3 设总体X 的密度函数f （x ,θ）22(),0,0,.x x θθθ?-<X 1，X 2，…，X n 为其样本，试求参数θ的矩法估计. 解θ的矩估计量为 ^3.X θ=矩估计法的优点是计算简单，且作矩法估计时无需知道总体的概率分布，只要知道总体矩即可.但矩法估计量存在结果不唯一的缺点. 原则上，矩估计既可以使用样本的低阶矩估计总体的低阶矩，也可以使用样本的高阶矩估计总体的高阶矩. 如总体X 服从参数为λ的泊松分布时，分别用一阶矩和二阶矩进行估计，得到X 和B 2都是参数λ的矩法估计. 本书进行矩估计时采用就低不就高的原则. 3.极大似然估计极大似然估计法(Maximum likelihood estimation)只能在已知总体分布的前提下进行，为了对它的思想有所了解，我们先看一个例子.例8.4 设有甲、乙两个袋子，袋中各装有4个同样大小的球，已知甲袋装有3个黑球和1个白球，乙袋装有3个白球和1个黑球. 现在任取一袋，有放回地从袋中取2个球，结果取出的两球均为黑球，问此球最象取自甲袋还是乙袋？解在上例中，p 是分布的参数，它只能取两个值14和34，需要通过抽样来决定分布中的参数是14还是34. 在给定样本观察值后去计算该样本值出现的概率，这一概率依赖于p 的值，在相对比较之下，哪个概率大，p 就最象哪个.极大似然估计的基本思想就是根据上述想法引申出来的. 如果随机抽样得到的样本观测值为x 1，x 2，…，x n ，则我们应当这样来选取未知参数θ的值，使得出现该样本值的可能性最大，我们把这样的参数θ记为θ，并称θ?为未知参数θ的极大似然估计. 下面分总体X 是离散型和连续型两种情况加以讨论.1° 离散型总体设总体X 为离散型，P {X =x }=p （x ，θ），其中θ为待估计的未知参数，假定x 1，x 2，…，x n 为样本X 1，X 2，…，X n 的一组观测值.P {X 1=x 1，X 2=x 2，…，X n =x n }=P {X 1=x 1}P {X 2=x 2}…P {X n =x n }=12,(,)()(,)n p x p x p x θθθ=∏=ni ix p 1),(θ.将∏=ni ix p 1),(θ看作是参数θ的函数，记为()L θ，即()L θ=∏=ni ix p 1),(θ. （8.1）这一概率依赖于未知参数θ，对不同的θ，()L θ不一定一样. ()L θ越大，表明出现样本值x 1， x 2，…， x n 的机会越大，即要求对应的概率()L θ的值达到最大，所以选取这样的θ作为未知参数θ的估计，使得)(m ax )?(θθL L =. 2° 连续型总体设总体X 为连续型，已知其分布密度函数为f （x ，θ），θ为待估计的未知参数，则样本（X 1，X 2，…，X n ）的联合密度为：f （x 1，θ）f （x 2，θ）…f （x n ，θ）=∏=ni ix f 1),(θ.类似于离散型总体，将它也看作是关于参数θ的函数，记为L （θ），即L （θ）=∏=ni ix f 1),(θ. （8.2）综合上述两种情况，我们给出如下定义：定义8.1 设总体的分布形式已知，但含有未知参数θ（θ可以是向量），12,,n X X X 为来自总体的样本，12,,,n x x x 为样本观察值，称由（8.1）或（8.2）定义的L （θ）为样本的似然函数.由此可见：不管是离散型总体，还是连续型总体，只要知道它的概率分布或密度函数，我们总可以得到一个关于参数θ的似然函数L （θ）.如果随机抽样得到的样本观测值为x 1，x 2，…，x n ，则我们应当这样来选取未知参数θ的值，使得出现该样本值的可能性最大，即使得似然函数L (θ)取最大值，从而求参数θ的极大似然估计的问题，就转化为求似然函数L （θ）的极值点的问题，一般来说，这个问题可以通过求解下面的方程来解决0)(=θθd d L . （8.3）然而，L （θ）是n 个函数的连乘积，求导数比较复杂，由于ln L （θ）是L （θ）的单调增函数，所以L （θ）与ln L （θ）在θ的同一点处取得极大值.于是求解（8.3）可转化为求解0)(=θθd dln L . （8.4）称ln L （θ）为对数似然函数，方程（7.4）为对数似然方程，求解此方程就可得到参数θ的估计值.例8.5 在泊松总体中抽取样本，其样本值为：x 1，x 2，…，x n ，试对泊松分布的未知参数λ作极大似然估计. 解例8.6 设12,,n X X X 是取自双参数指数分布总体的一组样本，密度函数为1,(;,)0,x ex f x μθμθμθ--?>?=其它其中,0μθ>是未知参数，12,,,n x x x 是一组样本值，求：（1）,μθ的矩法估计；（2）,μθ的极大似然估计.解：例8.7 设一批产品含有次品，今从中随机抽出100件，发现其中有8件次品，试求次品率θ的极大似然估计值.解矩估计法和极大似然估计法是两种不同的估计方法.对同一未知参数，有时候它们的估计相同，有时候估计不同.一般情况下，在已知总体的分布类型时，最好使用极大似然估计法.当然，前提条件是通过解方程（组）或其它方法容易得到极大似然估计.§8.2 估计量的评选标准对同一个未知参数，可以有不同的点估计，矩估计和极大似然估计仅仅是提供两种常用的估计而已.在众多的估计中，我们总是希望挑选“最优”的估计.这就涉及到一个评选标准问题.1.无偏性定义8.2 若估计量（X 1，X 2，…，X n ）的数学期望等于未知参数θ，即：?()E θθ=，（8.6）则称?θ为θ的无偏估计量。
第六章系统辨识与参数估计-数据预处理及相容性检验（精品）
1第六章 数据预处理及相容性检验6.1 前言航行器航行试验数据用于参数辨识之前，需要对试验数据进行预处理和数据相容性检验，目的在于尽可能消除含在数据中的各种噪声和系统误差，以提高辨识结果的准确度。
数据预处理包括：数据野值的识别、剔除与补正；数据加密；数据平滑与微分平滑；滤除高频噪声及以传感器位置校正等。
数据相容性检验的主要功能是将数据中的常值误差，特别是零位漂移误差辨识出来并重新建立没有常值误差的试验数据。
本章还以某型航行器的实测数据预处理为例，给出了具有实际应用意义的数据处理技术及结果。
6.2 数据处理的理论基础6.2.1 信号的分类用数学来描述待辨识系统的某一组输入和某一组输出时间函数间的关系是辨识的基础。
在选择信号的描述方法时，必须考虑信号表示的两个方面：①要表现出信号载有信息的属性；②要给出研究过程信息传递特性的方法。
按时间函数的特点来表达信息，可将信号分为连续信号和采样信号。
在许多情况下，信号的记录可以采用这两种信号中的任一种。
两种信号的记录均有各自的特点，但是利用计算机对记录的信号作处理时，往往需要采样信号，即使采用连续信号，也必须对信号作采样处理。
采样运算是线性运算，即当我们用算子ψ(.)表示这一运算时，对一切α和β，信号u(t)和y(t)均有ψαβαψβψ[()()][()][()]u t y t u t y t +=+(6-2-1)按幅度划分，信号可以分为模拟信号、量化信号和二进制信号。
二进制信号是量化信号的极限情况，量化运算是非线性运算。
因此，在处理量化信号时，这种非线性造成许多数学上的困难。
确定性信号与随机信号也是系统建模和参数辨识中常用的信号分析方式。
由于工程的实际环境，对随机信号的讨论更具有实际意义。
6.2.2 随机信号的描述为了讨论问题的方便，在此我们首先介绍随机信号的一些统计性质。
与确定性信号不一样，对随机信号询问其幅度的瞬时值是没有多少意义的，所以最有用的量是那些关于统计性质的量，如谱密度、数学期望值、方差和相关函数等。
系统辨识最小二乘法大作业 (2)
系统辨识大作业最小二乘法及其相关估值方法应用学院：自动化学院学号：姓名：日期：基于最小二乘法的多种系统辨识方法研究一、实验原理1.最小二乘法在系统辨识中用得最广泛的估计方法是最小二乘法(LS)。
设单输入-单输出线性定长系统的差分方程为(5.1.1)式中:为随机干扰；为理论上的输出值。
只有通过观测才能得到，在观测过程中往往附加有随机干扰。
的观测值可表示为(5.1.2)式中:为随机干扰。
由式(5.1.2)得(5.1.3)将式(5.1.3)带入式(5.1.1)得(5.1.4)我们可能不知道的统计特性，在这种情况下，往往把看做均值为0的白噪声。
设(5.1.5)则式(5.1.4)可写成(5.1.6)在观测时也有测量误差，系统内部也可能有噪声，应当考虑它们的影响。
因此假定不仅包含了的测量误差，而且包含了的测量误差和系统内部噪声。
假定是不相关随机序列(实际上是相关随机序列)。
现分别测出个随机输入值，则可写成个方程，即上述个方程可写成向量-矩阵形式(5.1.7) 设则式(5.1.7)可写为(5.1.8)式中：为维输出向量；为维噪声向量；为维参数向量；为测量矩阵。
因此式(5.1.8)是一个含有个未知参数，由个方程组成的联立方程组。
如果，方程数少于未知数数目，则方程组的解是不定的，不能唯一地确定参数向量。
如果，方程组正好与未知数数目相等，当噪声时，就能准确地解出(5.1.9)如果噪声，则(5.1.10)从上式可以看出噪声对参数估计是有影响的，为了尽量较小噪声对估值的影响。
在给定输出向量和测量矩阵的条件下求系统参数的估值，这就是系统辨识问题。
可用最小二乘法来求的估值，以下讨论最小二乘法估计。
2.最小二乘法估计算法设表示的最优估值，表示的最优估值，则有(5.1.11)写出式(5.1.11)的某一行，则有(5.1.12) 设表示与之差，即-(5.1.13)式中成为残差。
把分别代入式(5.1.13)可得残差。
设则有(5.1.14) 最小二乘估计要求残差的平方和为最小，即按照指数函数(5.1.15) 为最小来确定估值。
《概率论与数理统计》教学教案—06参数估计
（1）是待估参数 和估计量 X 的函数；
（2）不含其他未知参数； （3）其分布已知且与未知参数 无关。 3．求置信区间的一般步骤: （1）根据待估参数构造枢轴量 Q,一般可由未知参数的良好估计量改造得到；
（2）对于给定的置信度 1-，利用枢轴量 Q 的分位点确定常数 a，b，使 P{a Q b} 1 ；
，
ˆ3
1 4
( X1
X2
X3
X4
)
x 0, ，其中 为未知参数，
x0
问哪一个最优？
例 13．设 X 是总体 X 的样本均值，则当 X 作为总体期望 E (X)的估计量时， X 是 E (X)的相合估计量。
例 14． 设总体 X ~ U ( , 2 ), 其中 0是未知参数，X1,
,
X n是X的样本,
《概率论与数理统计》 教学教案
第 6 章 参数估计
授课序号 01
教学基本指标
教学课题 教学方法 教学重点
第 6 章 第 1 节 点估计 讲授、课堂提问、讨论、启发、自学
点估计、估计量与估计值的概念、估计量的无偏
课的类型 教学手段 教学难点
性、有效性和一致性的概念、、估计量的相合性、
矩估计法（一阶、二阶距）和最大似然估计法。
n
总体 X 的简单样本，选择适当常数 c，使得 c
X
2 i
是
2
的无偏估计.
i 1
例
12．设某种产品的寿命
X
服从指数分布，其概率密度为
f
(x)
1
x
e
0
X1, X 2 , X3, X 4 是来自总体的样本，设有 的估计量
系统辨识大作业
系统辨识大作业专业班级：自动化09-3学号：09051325姓名：吴恩作业一:设某物理量Y与X满足关系式2=++，实验获得一批数据Y aX bX c如下表，试辨识模型参数,,a b c。
（15分）解答：问题描述：由题意知，这是一个已知模型为Y=aX2+bX+c，给出了10组实验输入输出数据，要求对模型参数a，b，c进行辨识。
问题求解：这里对该模型参数辨识采用最小二乘法的一次算法（LS）求解。
2=++可以写成矩阵形式Y=AE+e;其中A=[X^2,X,1]构成, Y aX bX c利用matlab不难求解出结果。
运行结果：利用所求的的参数，求出给定的X对应的YE值，列表如下做出上表的图形如下12345678910xyy=ax 2+bx+c 参数求解结果分析：根据运行结果可以看出，拟合的曲线与真是观测的数据有误差，有出入，但是误差较小，可以接受。
出现误差的原因，一方面是由于给出的数据只有十个点，数据量太少，难以真正的充分的计算出其参数，另外，该问题求解采用的是LS 一次算法，因此计算方法本身也会造成相应的误差。
作业二：模仿实验二，搭建对象，由相关分析法，获得脉冲相应序列()g k，由()G z；和传递函数g k，参照讲义，获得系统的脉冲传递函数()G s及应用相关最小二乘法，拟合对象的差分方程模型；加阶跃()扰动，用最小二乘法和带遗忘因子的最小二乘法，辨识二阶差分方程的参数，比较两种方法的辨识差异；采用不少于两种定阶方法，确定对象的阶次。
对象模型如图：利用相关分析法，得到对象的脉冲相应序列。
如下图：（1）.由脉冲相应序列，求解系统的脉冲传递函数G（z）Transfer function:0.006072 z^2 + 0.288 z + 0.1671-------------------------------z^2 + 0.1018 z - 0.7509Sampling time: 2(2).由脉冲相应序列求解系统的传递函数G(s)Transfer function:(0.04849+2.494e-018i)-----------------------s^2 + 0.1315 s + 0.6048(3).利用相关最小二乘法拟合系统的差分方程模型如下：(4).在t=100，加入一个0.5的阶跃扰动，，利用RLS求解差分方程模型：RLS加入遗忘因子之后与未加之前的曲线情况如下：未加遗忘因子之前参数以及残差的计算过程加入0.99的遗忘因子得到的参数辨识过程与残差的变化过程根据上面两种方法所得到的误差曲线和参数过渡过程曲线，我们可以看出来利用最小二乘法得到的参数最终趋于稳定，为利用带遗忘因子的最小二乘算法，曲线参数最终还是有小幅度震荡。
系统辨识大作业.
一、 问题描述考虑仿真对象：()0.9(1)0.15(2)0.02(3)0.7(1)0.15(2)()z k z k z k z k u k u k e k +-+-+-=---+ e() 1.0e(1)0.41e(2)(),~(0,1)k k k v k v N λ+-+-=式中，u(k)和z(k)是输入输出数据，v(k)是零均值、方差为1的不相关的随机噪声；u(k)采用与e(k)不相关的随机序列。
1. 设计实验，产生输入输出数据；2. 使用基本最小二乘法估计参数；3. 考虑其他适用于有色噪声的辨识方法估计参数；4. 模型验证。
二、 问题分析对于单输入单输出系统（Single Input Single Output, SISO ），如图 1所示，将待辨识的系统看作“灰箱”，它只考虑系统的输入输出特性，而不强调系统的内部机理。
图 1中，输入u(k)和输出z(k)是可以测量的，1()G z -是系统模型，用来描述系统的输入输出特性，y(k)是系统的实际输出。
1()N z -是噪声模型，v(k)是均值为零的不相关随机噪声，e(k)是有色噪声。
图 1 SISO 系统的“灰箱”结构对于SISO 随机系统，被辨识模型()G z 为：12121212()()()1n n nn b z b z b z y z G z u z a z a z a z ------+++==++++ 其相应的差分方程为11()()()n ni i i i y k a y k i b u k i ===--+-∑∑若考虑被辨识系统或观测信息中含有噪声，被辨识模型可改写为11()()()()n ni i i i z k a y k i b u k i v k ===--+-+∑∑式中，z(k)为系统输出量的第k 次观测值；y(k)为系统输出量的第k 次真值，y(k-1)为系统输出量的第k-1次真值，以此类推；u(k)为系统的第k 个输入值，u(k-1)为系统的第k-1个输入值；v(k)为均值为0的不相关随机噪声。
系统辨识与参数估计
随着科技的不断发展，新的工程领域 不断涌现。未来研究可探索将系统辨 识方法应用于新能源、智能制造和智 能交通等新兴领域，推动相关技术的 进步。
系统辨识涉及控制理论、统计学、计 算机科学等多个学科领域。未来研究 可加强跨学科合作与交流，共同推动 系统辨识理论与应用的发展。同时， 关注国际前沿动态，积极参与国际学 术交流与合作，提升我国在国际系统 辨识领域的学术影响力。
优点
能够充分利用观测数据的统计 信息，对于具有概率特性的系 统能够得到较好的估计结果。
缺点
计算复杂度较高，需要知道观 测数据的概率分布模型。
贝叶斯估计法
原理
贝叶斯估计法是一种基于贝叶斯定理的参数估计方法，它结合了先验 信息和观测数据来更新参数的后验分布。
应用
在系统辨识中，贝叶斯估计法适用于具有不确定性的系统参数估计， 能够充分利用先验信息和观测数据的信息。
优点
能够处理不确定性问题，对于具有先验信息的系统能够得到较好的估 计结果。
缺点
计算复杂度较高，需要选择合适的先验分布和计算后验分布的方法。
04
系统辨识与参数估计的应用
控制系统的设计与分析
系统建模
利用系统辨识技术，可以建立控 制系统的数学模型，为后续的设 计和分析提供基础。
参数优化
通过参数估计方法，可以优化控 制系统的参数，提高系统的性能 和稳定性。
优点
缺点
算法简单，易于实现，对于线性系统能够 得到较好的估计结果。
对于非线性系统，最小二乘法的估计精度 可能会降低。
最大似然法
原理
最大似然法是一种统计方法， 它基于概率模型，通过最大化 观测数据的似然函数来估计模
型参数。
应用
在系统辨识中，最大似然法适 用于具有概率分布特性的系统 参数估计，如随机系统的参数 估计。
参数估计教案
第六章参数估计教学安排说明章节题目：第一节统计推论；第二节名词解释；第三节参数的点估计；第四节抽样分布；第五节正态总体的区间估计；第六节大样本区间估计。
学时分配：4学时。
本章教学目的与要求：理解点估计的概念，了解估计量的评选标准（无偏性、有效性、一致性）。
理解区间估计的概念，会求单个正态总体的均值与方差的置信区间。
其它：课堂教学方案课程名称：第一节统计推论；第二节名词解释；第三节参数的点估计；第四节抽样分布；第五节正态总体的区间估计；第六节大样本区间估计。
授课时数：4学时授课类型:理论课教学方法与手段：讲授法教学目的与要求：理解点估计的概念，了解估计量的评选标准（无偏性、有效性、一致性）。
理解区间估计的概念，会求单个正态总体的均值与方差的置信区间。
教学重点、难点：正态总体参数的区间估计。
教学内容第一节统计推论在数理统计学中，总体的分布是未知的。
它包括两种情形：1）总体分布的类型是已知的，但其中包含未知参数。
我们的任务就是通过样本来估计这些未知参数。
这就是参数估计问题。
2）总体分布的类型是未知的。
我们的任务就是通过样本来估计总体的分布。
这就是非参数估计问题。
管理研究和社会研究绝大部分都采用样本研究，从较大的研究对象总体中抽样收集数据。
最终目的是从样本来判断样本所在的总体的特性。
统计推断是一套有清晰逻辑程序的统计计算，对于从样本观测值得出的发现（findings),作出是否适用于总体的判断。
发现亦即研究的结果，这些结果不外乎以下几个方面的内容：假设中的自变量和因变量之间有无关联？这种关联的趋向和形式如何？这种关联的强度如何？这种关联是否是因果自变量的属性值变化引起因变量的属性值变化，说明两变量间存在关联。
关联强度的判断则是指观测值中有多大比例的因变量属性值可以从自变量的属性值来解释。
统计技术用统计显著性来检验所观测到的关联是随机性的还是系统性的原因。
自变量和因变量之间存在关联并非表明自变量就是因，因变量就是果，因果辨析一般属于实证研究之后机理分析的内容。
Matlab的系统辨识和参数估计方法
Matlab的系统辨识和参数估计方法一、引言Matlab是一种强大的计算机软件，被广泛应用于各个领域的科学研究和工程实践。
在信号处理、控制系统设计等领域，系统的辨识和参数估计是一项重要的任务。
本文将介绍Matlab中常用的系统辨识和参数估计方法，包括参数辨识、频域辨识、时域辨识等方面。
同时，还将探讨这些方法的优势和局限性。
二、参数辨识参数辨识是一种推断系统输入和输出之间关系的方法。
Matlab提供了多种参数辨识工具箱，例如System Identification Toolbox。
其中，最常用的方法包括最小二乘法、极大似然法、递归最小二乘法等。
最小二乘法是一种经典的参数估计方法，通过最小化测量值与预测值之间的差异来估计参数。
Matlab中的lsqcurvefit函数可以用于最小二乘拟合曲线。
例如，通过拟合一组数据点得到一个最优的曲线，可以估计曲线的参数。
极大似然法是一种基于概率统计的参数估计方法，通过最大化观测数据出现的似然函数来估计参数。
Matlab中的mle函数可以用于极大似然估计。
例如，在某个信号的概率密度函数已知的情况下，可以通过观测到的样本来估计概率密度函数的参数。
递归最小二乘法是一种递归更新参数的方法，可以在随时间变化的系统中实时地进行参数估计。
Matlab中的rls函数可以用于递归最小二乘估计。
例如，在自适应滤波中，可以通过递归最小二乘法来实时估计信号的参数。
三、频域辨识频域辨识是一种基于频谱分析的参数估计方法，可以在频率域中确定系统的特性。
Matlab提供了多种频域辨识工具箱，例如System Identification Toolbox和Signal Processing Toolbox。
其中，最常用的方法包括功率谱密度估计、自相关函数法、协方差法等。
功率谱密度估计是一种常用的频域参数估计方法，可以估计信号在不同频率上的能量分布。
Matlab中的pwelch函数可以用于功率谱密度估计。
系统辨识 第四章 系统辨识与参数估计
或
y (k ) = ϕT (k )θ + e (k ) 其中输入输出观测量和未知参数向量 分别为
T ϕ (k ) = [ − y( k − 1),...,− y (k − n a ), u (k − d ),...., u (k − d − nb ) θ = a1 , a2 ,...., a na , b1 , b2 ,..., bn b
2
(4.1.8)
考虑到离散时间白噪声序列的产生存在着技术上的困难 工程上用伪随机序 列代替离散时间白噪声 取得近似估计 其中运用最广泛的是二进制伪随机序列 是 序列 它的自相关函数接近脉冲函数 谱分析法 谱分析法主要用于辨识过程的频率响应 它的特点是不需要对过程施加试验 信号 只需利用正常操作下的输入输出数据就可以辨识过程的动态特性 因此应 用较为便利 估计 且抑制噪声的能力较强 2.5.19 式 关键在于谱密度的
∫
∞
0
h ( t ) R uu ( t − τ ) dt
(4.1.7)
从式 4.1.7 式求解脉冲响应 h (t ) 的解析式是一般很困难 但是 如果过程 输入信号的自相关函数具有特殊的形式 例如输入信号是均值为零的白噪声 其 自相关函数为 Ruu (τ) = σu δ (τ ) ˆ(t ) 则可直接求得脉冲响应的估计量 h ˆ(t ) = 1 R (τ) h uy 2 σu (4.1.9)
式中 y (⋅) u (⋅) h (t ) h (k )
系统的输出向量 系统的输入向量 连续系统的脉冲响应函数阵 离散系统的脉冲响应函数阵 连续系统的模型 离散系统的模型
即使系统的输入输出维数已知 也不考虑其它随机噪声作用 这样的脉冲响应函 数模型也不能用有限个参数来表示 除脉冲响应 h (t ) 之外 态特性的非参数模型 这三类模型的表现形式是以时间或频率为自变量的实验曲线 对过程施加特 定的实验信号 同时测定过程的输出 可以求得这些非参数模型 经过适当的数 学处理 它们又可以转变成参数模型 — 传递函数的形式 G( s ) h (t ) G( jω) g (t ) G( s ) 是经典控制理论研究中采用的数学模型 获取上述非参数模型并把它们转化为传递函数的主要方法有 阶跃响应法 脉冲响应法 适用于信噪比高的确定性系统 频率响应法 相关分析法 适用于随机系统 谱分析法 阶跃响应法 首先通过实验测取过程的阶跃响应曲线 然后用近似法 半对数法 切线法 两点法和面积法等[5]由阶跃响应曲线确定过程传递函数 至得到两条基本相同的响应曲线 脉冲响应法 首先测取过程脉冲响应 再由脉冲响应确定传递函数 脉冲响应在工程上采 用图 4.1 所示的矩形脉冲输入作用下过程的输出响应 当矩形脉冲的宽度 比过程的过渡时间小得多 时 过程的输出可近似为脉冲响应 脉冲响应也可以直接由阶跃响应经差分处理后求得 即有 且矩形脉冲的面积等于 这些方法对噪声很敏 感 要求在测取阶跃响应曲线时无噪声影响 或在相同条件下多次重复实验 直 所以称为非参数模型 阶跃响应 g (t ) 也是描述线性过程动 频率响应 G( jω)
第八章参数估计(教案)
第八章 参数估计§8.1 点估计1. 点估计问题概述设总体X 的分布函数为F （x ，θ），θ是未知参数，X 1，X 2，…，X n 是X 的一样本，样本值为x 1，x 2，…，x n ，构造一个统计量ˆθ（X 1，X 2，…，X n ），用它的观察值1,2ˆ(,,,)n x x x θ作为θ的估计值，这种问题称为点估计问题.习惯上称随机变量1,2ˆ(,,,)n x x x θ为θ的估计量,称()L θ为ˆθ的估计值.构造估计量1,2ˆ(,,,)n x x x θ的方法很多，下面仅介绍矩法和极大似然估计法.2.矩估计矩估计的基本步骤：设总体X ~F （X ；θ1,θ2，…，θl ）其中θ1,θ2,…,θl 均未知. 1°求出总体X 的前k 阶矩E (X k )=μk (θ1,θ2,…,θl )， (1≤k ≤l ).2°令1121212212(,,,),(,,,),(,,,),l l l l l A A A μθθθμθθθμθθθ=⎧⎪=⎪⎨ ⎪⎪=⎩其中A k （1≤k ≤l ）为样本k 阶矩.（3）解出上述方程组的解为,ˆ,,ˆ,ˆ21l θθθ 我们称),,,(ˆˆ21n k k X X X θθ=为参数θk (1≤k ≤l )的矩估计量, ),,,(ˆˆ21nk k x x x θθ=为参数θk 的矩估计值. 例8.1 设总体X 服从二项分布B （n ，p ），n 已知，X 1，X 2，…，X n 为来自X 的样本，求参数p 的矩法估计.解 1(),(),E X np E X A X ===因此np =X所以p 的矩估计量 ˆXpn= 例8.2 设总体X 的二阶矩存在且未知，X 1，X 2，…，X n 为来自总体的一个样本.求μ= E (X )，σ2=D (X )的矩估计量.解 由于E (X ) =μ, E (X 2) = D (X ) + (E(X))2=σ2+μ2，令1111(),n i i E X A X n μ====∑ 222211().n i i E X A X n μ====∑故μ，σ2的矩估计量分别为 ∑=-=-=-==ni i X X n S n n A X 122222)(11ˆˆ,ˆμσμ. 特别地，如果X 为正态总体，我们可以对其期望和方差得到类似的估计.例8.3 设总体X 的密度函数f （x ,θ）22(),0,0,.x x θθθ⎧-<<⎪⎨⎪⎩其他X 1，X 2，…，X n 为其样本，试求参数θ的矩法估计. 解 θ的矩估计量为 ^3.X θ=矩估计法的优点是计算简单，且作矩法估计时无需知道总体的概率分布，只要知道总体矩即可.但矩法估计量存在结果不唯一的缺点. 原则上，矩估计既可以使用样本的低阶矩估计总体的低阶矩，也可以使用样本的高阶矩估计总体的高阶矩. 如总体X 服从参数为λ的泊松分布时，分别用一阶矩和二阶矩进行估计，得到X 和B 2都是参数λ的矩法估计. 本书进行矩估计时采用就低不就高的原则. 3.极大似然估计极大似然估计法(Maximum likelihood estimation)只能在已知总体分布的前提下进行，为了对它的思想有所了解，我们先看一个例子.例8.4 设有甲、乙两个袋子，袋中各装有4个同样大小的球，已知甲袋装有3个黑球和1个白球，乙袋装有3个白球和1个黑球. 现在任取一袋，有放回地从袋中取2个球，结果取出的两球均为黑球，问此球最象取自甲袋还是乙袋？ 解在上例中，p 是分布的参数，它只能取两个值14和34，需要通过抽样来决定分布中的参数是14还是34. 在给定样本观察值后去计算该样本值出现的概率，这一概率依赖于p 的值，在相对比较之下，哪个概率大，p 就最象哪个.极大似然估计的基本思想就是根据上述想法引申出来的. 如果随机抽样得到的样本观测值为x 1，x 2，…，x n ，则我们应当这样来选取未知参数θ的值，使得出现该样本值的可能性最大，我们把这样的参数θ记为θˆ，并称θˆ为未知参数θ的极大似然估计. 下面分总体X 是离散型和连续型两种情况加以讨论.1° 离散型总体设总体X 为离散型，P {X =x }=p （x ，θ），其中θ为待估计的未知参数，假定x 1，x 2，…，x n 为样本X 1，X 2，…，X n 的一组观测值.P {X 1=x 1，X 2=x 2，…，X n =x n }=P {X 1=x 1}P {X 2=x 2}…P {X n =x n }=12,(,)()(,)n p x p x p x θθθ=∏=ni ix p 1),(θ.将∏=ni ix p 1),(θ看作是参数θ的函数，记为()L θ，即()L θ=∏=ni ix p 1),(θ. （8.1）这一概率依赖于未知参数θ，对不同的θ，()L θ不一定一样. ()L θ越大，表明出现样本值x 1， x 2，…， x n 的机会越大，即要求对应的概率()L θ的值达到最大，所以选取这样的θˆ作为未知参数θ的估计，使得)(m ax )ˆ(θθL L =. 2° 连续型总体设总体X 为连续型，已知其分布密度函数为f （x ，θ），θ为待估计的未知参数，则样本（X 1，X 2，…，X n ）的联合密度为：f （x 1，θ）f （x 2，θ）…f （x n ，θ）=∏=ni ix f 1),(θ.类似于离散型总体，将它也看作是关于参数θ的函数，记为L （θ），即L （θ）=∏=ni ix f 1),(θ. （8.2）综合上述两种情况，我们给出如下定义：定义8.1 设总体的分布形式已知，但含有未知参数θ（θ可以是向量），12,,n X X X 为来自总体的样本，12,,,n x x x 为样本观察值，称由（8.1）或（8.2）定义的L （θ）为样本的似然函数.由此可见：不管是离散型总体，还是连续型总体，只要知道它的概率分布或密度函数，我们总可以得到一个关于参数θ的似然函数L （θ）.如果随机抽样得到的样本观测值为x 1，x 2，…，x n ，则我们应当这样来选取未知参数θ的值，使得出现该样本值的可能性最大，即使得似然函数L (θ)取最大值，从而求参数θ的极大似然估计的问题，就转化为求似然函数L （θ）的极值点的问题，一般来说，这个问题可以通过求解下面的方程来解决0)(=θθd d L . （8.3）然而，L （θ）是n 个函数的连乘积，求导数比较复杂，由于ln L （θ）是L （θ）的单调增函数，所以L （θ）与ln L （θ）在θ的同一点处取得极大值.于是求解（8.3）可转化为求解0)(=θθd dln L . （8.4）称ln L （θ）为对数似然函数，方程（7.4）为对数似然方程，求解此方程就可得到参数θ的估计值.例8.5 在泊松总体中抽取样本，其样本值为：x 1，x 2，…，x n ，试对泊松分布的未知参数λ作极大似然估计. 解例8.6 设12,,n X X X 是取自双参数指数分布总体的一组样本，密度函数为1,(;,)0,x ex f x μθμθμθ--⎧>⎪=⎨⎪⎩其它 其中,0μθ>是未知参数，12,,,n x x x 是一组样本值，求：（1）,μθ的矩法估计； （2）,μθ的极大似然估计.解：例8.7 设一批产品含有次品，今从中随机抽出100件，发现其中有8件次品，试求次品率θ的极大似然估计值.解矩估计法和极大似然估计法是两种不同的估计方法.对同一未知参数，有时候它们的估计相同，有时候估计不同.一般情况下，在已知总体的分布类型时，最好使用极大似然估计法.当然，前提条件是通过解方程（组）或其它方法容易得到极大似然估计.§8.2 估计量的评选标准对同一个未知参数，可以有不同的点估计，矩估计和极大似然估计仅仅是提供两种常用的估计而已.在众多的估计中，我们总是希望挑选“最优”的估计.这就涉及到一个评选标准问题.1.无偏性定义8.2 若估计量（X 1，X 2，…，X n ）的数学期望等于未知参数θ，即：ˆ()E θθ=， （8.6）则称ˆθ为θ的无偏估计量。
估计(教案)2023-2024学年数学 三年级上册 人教版
教案标题：估计（教案）2023-2024学年数学三年级上册人教版一、教学目标1. 让学生理解估计的含义，能够运用估计的方法对数量进行大致的判断。
2. 培养学生的观察能力、分析能力和逻辑思维能力。
3. 培养学生运用估计解决实际问题的能力，提高学生的数学素养。
二、教学内容1. 估计的含义和作用2. 估计的方法和技巧3. 估计在实际生活中的应用三、教学重点与难点1. 教学重点：理解估计的含义，掌握估计的方法和技巧。
2. 教学难点：如何引导学生运用估计解决实际问题。
四、教学过程1. 导入新课通过一个生活实例，引导学生思考估计在日常生活中的重要性，激发学生的学习兴趣。
2. 讲授新课（1）估计的含义和作用引导学生理解估计的含义，即在无法准确计算的情况下，通过对已知信息的观察和分析，对未知数量进行大致的判断。
（2）估计的方法和技巧介绍常用的估计方法，如比较法、比例法、四舍五入法等，并举例说明如何运用这些方法进行估计。
（3）估计在实际生活中的应用通过生活中的实例，让学生体会估计在购物、烹饪、出行等方面的应用，培养学生的估算意识。
3. 实践活动组织学生进行小组讨论，探讨如何运用估计解决实际问题，提高学生的估算能力。
4. 总结与反思引导学生回顾本节课所学内容，总结估计的方法和技巧，并对自己的估算过程进行反思，提高学生的估算能力。
五、作业布置1. 完成课后练习题，巩固所学知识。
2. 观察生活中的估计现象，与家长分享自己的估算经验。
六、教学评价1. 课堂参与度：观察学生在课堂上的发言和讨论情况，了解学生对估计知识的掌握程度。
2. 作业完成情况：检查学生课后练习题的完成情况，评估学生对估计方法的运用能力。
3. 实践活动表现：评价学生在实践活动中的表现，了解学生运用估计解决实际问题的能力。
七、教学建议1. 注重培养学生的观察能力和分析能力，引导学生关注生活中的估计现象。
2. 鼓励学生积极参与课堂讨论，提高学生的估算能力。
3. 加强课后辅导，关注学生的学习需求，帮助学生克服学习难点。
系统辨识与参数估计
Beijing Beike-MASIC Automation Engineering Ltd. Co.
Chapter 3 System Identification and Parameter Estimation
第三章 系统辨识与参数估计
3.1 Introduction 概述
Experiment model: holistic approach, complemented by theory model 实验建模的特点：整体性、可用机理模型弥补（互补）
Chapter 3 System Identification and Paramet北er E京sti北mat科ion麦思科自动化工程技术第三有章限系公统辨司识与参数估
北京北科麦思科自动化工程技术有限公司
Chapter 3 System Identification and Parameter EsBtiemijaitinogn Beike-MASIC Automation Eng第in三ee章rin系g 统Lt辨d.识C与o.参数估计 5
3.1.5 System identification methods 系统辨识的方法
（3）White noise: is an independent steady random sequence. Random variable is independent of time, and can be described by E(x) and D(x). 白噪声：独立平稳随机序列。各个时刻随机变量独立，可由均值和方差两个特征描 述。 均值=0，方差=σ 2（常数） 因为其功率谱密度在整个频率范围内为常数，类 似白光的光谱，故称为白噪声。
参数估计教学设计题模板
参数估计教学设计题模板一、教学设计目标本教学设计旨在通过参数估计教学题的设计，帮助学生掌握参数估计的基本概念、方法和应用技巧，培养学生良好的估计参数能力和解决实际问题的能力。
二、教学设计内容1. 参数估计的基本概念(1) 参数的定义与表述方式(2) 估计量的定义与估计方法(3) 无偏性、一致性和有效性的概念及其意义2. 参数估计的方法(1) 点估计与区间估计的概念与区别(2) 极大似然估计法与最小二乘估计法的原理及应用(3) 置信区间的构造方法与应用3. 参数估计的应用(1) 参数估计在统计推断中的作用与意义(2) 参数估计在实际问题中的应用案例分析三、教学设计步骤与方法1. 导入与激发兴趣阶段(1) 通过引入与激发问题，调动学生的学习积极性。
(2) 引导学生思考参数估计的实际应用场景，唤起学生的兴趣与思考。
2. 知识讲解与讨论阶段(1) 教师以简洁明了的语言讲解参数估计的基本概念、方法和应用。
(2) 辅以示例和案例分析，帮助学生理解和掌握参数估计的基本原理和技巧。
(3) 引导学生参与讨论，激发学生的思维与创造力。
3. 设计题引导与实践阶段(1) 设计一到两个与参数估计相关的题目，题目要具有一定难度和灵活度，能够考察学生对参数估计的理解与应用能力。
(2) 引导学生独立或小组完成设计题，学生可借助课堂讨论和教师的指导求解。
4. 综合评价与巩固阶段(1) 教师对学生的解答进行评价和反馈，批判性地分析和讨论解题思路。
(2) 教师总结和归纳参数估计的关键概念和方法，强化学生对知识的理解和记忆。
四、教学设计评价指标1. 学生对参数估计的基本概念、方法和应用理解程度。
2. 学生对设计题的解答准确性和合理性。
3. 学生对参数估计在实际问题中的应用与分析能力。
4. 学生的学习表现和课堂参与度。
五、教学设计注意事项1. 教师要根据学生的学习特点和实际水平，设计合理的教学内容和难度，避免教学过程过于简单或复杂。
2. 教师要鼓励学生提问和思考，鼓励学生对参数估计的应用进行深入的思考和分析。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
系统辨识与参数估计大作业第一题 递推最小二乘估计参数考虑如上图所示的仿真对象，选择模型结构为：)()2()1()2()1()(2121k v k u b k u b k z a k z a k z +-+-=-+-+，其中)(k v 是服从)1,0(N 正态分布的不相关随机噪声；输入信号)(k u 采用4阶逆M 序列，特征多项式取41)(s s s F ⊕⊕=，幅度为1，循环周期为bit N p 62=；控制λ值，使数据的噪信比分别为10％，73％，100％三种情况。
加权因子1)(=Λk ；数据长度L=500;初始条件取001.0)0(ˆ,10)0(6==θI P ， （1） 利用递推最小二乘算法在线估计参数，（2） 利用模型阶次辨识方法（AIC 准则），确定模型的阶次。
（3） 估计噪声)(k v 的方差和模型静态增益K （4） 作出参数估计值随时间的变化图 答：设过程的输入输出关系可以描述成()()()Tz k h k n k θ=+()z k 是输出量，()h k 是可观测的数据向量，n (k)是均值为0的随机噪声[]()(1),(2),(1),(2)Th k z k z k u k u k =------[]1212,,,Ta ab b θ=选取的模型为结构是1212()(1)(2)(1)(2)z k a z k a z k bu k bu k =----+-+- 12121.5,0.7, 1.0,0.5a a b b =-===加权最小二乘参数估计递推算法RWLS 的公式如下，11()(1)()()(1)()()()(1)()()()(1)()()()(1)T T TK k p k h k h k p k h k k k k K k z k h k k p k I K k h k p k θθθ-⎡⎤=--+⎢⎥Λ⎣⎦⎡⎤=-+--⎣⎦⎡⎤=--⎣⎦为了把p(k)的对称性，可以把p(k)写成1()(1)()()()(1)()()T T p k p k K k K k h k p k h k k ⎡⎤=---+⎢⎥Λ⎣⎦如果把()k Λ设成1的时候，加权最小二乘法就退化成最小二乘法。
用AIC 准则定阶法来定阶，所用公式n n n n Z H V θ=+[](1),(2),(3),...,()Tn Z z z z z L =1212,,...,,,...aTn n n a a a b b b θ⎡⎤=---⎣⎦(0)(1)...(1)(0)(1)...(1)(1)(0)...(2)(1)(0)...(2).........................(1)(2)...()(1)(2)...()n z z z n u u u n z z z n u u u n H z L z L z L n u L u L u L n ----⎡⎤⎢⎥--⎢⎥=⎢⎥⎢⎥------⎣⎦其中模型参数n θ和 噪声()V k 方差的极大似然估计值为ML θ ，2v σ12()1()()MLML ML T T n n n nTvn n n n H H H Z Z H Z H Lθσθθ-==-- AIC 的定阶公式写成2()log 4v AIC n L n σ=+取1,2,3,4;n =分别计算()AIC n ，找到使()AIC n 最小的那个n 作为模型的阶次。
一般说来，这样得到的模型阶次都能比较接近实际过程的真实阶次。
信噪比为10%时：参数a1 a2 b1 b2 噪声方差静态增益模型阶次真值-1.5 0.7 1 0.5 1估计值-1.519 0.72259 1.0314 0.50923 1.0951 7.5661 2信噪比为73%时：参数a1 a2 b1 b2 噪声方差静态增益模型阶次真值-1.5 0.7 1 0.5 1估计值-1.519 0.72259 1.0314 0.50923 1.0951 7.5661 2信噪比为100%时：参数a1 a2 b1 b2 噪声方差静态增益模型阶次真值-1.5 0.7 1 0.5 1估计值-1.519 0.72259 1.0314 0.50923 估计值7.5661 2源程序：%function [a1 a2 b1 b2 na nb fangcha Kk]=rwls(L,syn,Np) %na,nb为模型阶次，fangcha为噪声方差，Kk为静态增益a1=0;a2=0;b1=0;b2=0;na=0;nb=0;fangcha=0;Kk=0;L=500;Np=62;syn=1;x(1:4)=[1 0 1 0];for i=1:Nptemp=xor(x(1),x(4));M(i)=x(4);for j=4:-1:2x(j)=x(j-1);endx(1)=temp;endS=ones(1,Np);%先产生一个全是1的序列Sif mod(Np,2)==0%判断Np是奇数还是偶数p=Np/2;else p=(Np-1)/2;endfor j=1:pS(2*j)=0;%将S序列的偶数位值均置为0，从而使S序列是0或1的方波序列endIM=xor(M,S); %使用M序列与方波序列S复合生成逆M序列IMu=IM*2-1;for i=(Np+1):Lu(i)=u(i-Np);endrandn('seed',2);v=randn(1,L);syms c;y(1)=0;y(2)=u(1);e(1)=c*v(1);e(2)=1.5*e(1)+c*v(2);for i=3:Ly(i)=1.5*y(i-1)-0.7*y(i-2)+u(i-1)+0.5*u(i-2);e(i)=1.5*e(i-1)-0.7*e(i-2)+c*v(i);endm=sum(e.^2);n=sum(y.^2);%c=solve('m/n-syn*syn','c');c=solve('m/n-syn*syn');c1=abs(double(c(1)));z(1)=c1*v(1);z(2)=u(1)+1.5*z(1)+c1*v(2);for i=3:Lz(i)=1.5*z(i-1)-0.7*z(i-2)+u(i-1)+0.5*u(i-2)+c1*v(i);endcta=zeros(4,L);cta(:,1)=[0.001 0.001 0.001 0.001]';P=diag([10^6 10^6 10^6 10^6]);%k=2时h=[-z(1) 0 u(1) 0]';K= P*h*inv(h'*P*h+1);P=P-K*K'*(h'*P*h+1);cta(:,2)=cta(:,1)+K*(z(2)-h'*cta(:,1));for k=3:Lh=[-z(k-1) -z(k-2) u(k-1) u(k-2)]';K=P*h*inv(h'*P*h+1);P=P-K*K'*(h'*P*h+1);cta(:,k)=cta(:,(k-1))+K*(z(k)-h'*cta(:,(k-1)));end %以上为参数估计值z=z';for na=1:4for nb=1:4A=zeros(L,na);B=zeros(L,nb);for i=1:Lfor j=1:naif i>jA(i,j)=z(i-j);endendendfor i=1:Lfor j=1:nbif i>jB(i,j)=u(i-j);endendendH=[A B];cta1=inv(H'*H)*H'*z;%cta1为模型参数极大似然估计值cgm(na,nb)=(z-H*cta1)'*(z-H*cta1)/L;%cgm为噪声方差极大似然估计值AIC(na,nb)=L*log(cgm(na,nb))+2*(na+nb);endend[na nb]=find(AIC==min(min(AIC)));fangcha=cgm(na,nb)/(c1^2);a1=cta(1,500);a2=cta(2,500);b1=cta(3,500);b2=cta(4,500); Kk=(cta(3,L)+cta(4,L))/(1+cta(1,L)+cta(2,L)); m=1:L;plot(m,cta(1,:),'b-',m,cta(2,:),'k-',m,cta(3,:),'y-',m,cta(4,:),'r-') 第二大题 卡尔曼滤波 一个系统模型为)()()1(...1,0),()()()1(22211k w k x k x k k w k x k x k x +=+=++=+同时有下列条件：（1） 初始条件已知且有。
T ]0,0[)0(=x（2） )(k w 是一个标量零均值白高斯序列，且自相关函数已知为jk k w j w E δ=)]()([，另外，我们有下列观测模型，即)1()1()1(...1,0),1()1()1(222111+++=+=+++=+k v k x k z k k v k x k z ，且有下列条件：（3） )1(1+k v 和)1(2+k v 是独立的零均值白高斯序列，且有jk k v j v E δ=)]()([11，jk k v j v E δ2)]()([22=，...2,1,0=k（4） 对于所有的j 和k ，)(k w 与观测噪声过程)1(1+k v 和)1(2+k v 是不相关的，即0)]()([1=k v j w E ，0)]()([2=k v j w E我们希望得到由观测矢量Tk z k z k )]1(),1([)1(21++=+z 估计状态矢量T k x k x k )]1(),1([)1(21++=+x 的卡尔曼滤波的公式表示，并求解以下问题：（a ） 求出卡尔曼增益矩阵，并得出最优估计)1(+k x 和观测矢量)1(),...,2(),1(+k z z z 之间的递推关系。
（b ） 用模拟数据确定状态矢量)(k x 的估计值)|(ˆk k x，10...2,1,0=k ，并画出当10...2,1,0=k 时，)|(ˆ1k k x，)|(ˆ2k k x 的图 （c ） 通常，状态矢量的真实值是得不到的，但是为了用作图来说明问题，表1和表2给出了状态矢量元素的真实值。
对于10...2,1,0=k ，在同一幅图中画出真实值和在（b ）中确定的)(1k x 的估计值。
对)(2k x 重复这一过程。
当k 从1变到10时，对每个元素2,1=i ，计算并画出各自的误差图，即)|(ˆ)(k k xk x i i -。