系统辨识--概述及非参数辨识(精)

• 验证理论模型. – 要求：零极点、结构(阶次及时延)、参数 都准确； • 设计常规控制器. – 要求：动态响应特性、零极点、时延准 确；应选择便于分析的模型类. • 设计数字控制器. – 要求：动态响应特性、时延准确；应选 择便于计算机运算的模型类. • 设计仿真/训练系统. – 要求：动态响应特性准确；便于模拟实 现的模型类.
• 系统辨识当前发展的新热点：
– – – – – – – 非线性系统辩识(机器人) 结构辨识 鲁棒辨识 快时变与有缺陷样本的辩识 生命、生态系统的辩识 辩识的专家系统与智能化软件包的开发 基于模糊理论、神经网络、小波变换的辩识 方法 – 系统辩识与人工智能、人工生命、图象处理、 网络技术和多媒体技术的结合
系统辨识定义： 辨识是在输入输出数据的基础上，从一组给定的模型类中， 确定一个与所测系统等价的模型。 辨识的三大要素： （1） 数据：能观测到的系统的输入输出数据； （2） 模型类：寻找的模型范围——模型结构； （3） 等价准则：辨识的优化目标，衡量模型接近实际系统 的标准。通常表示为一个误差的泛函（多用L2范数）：
J e
因观测到的数据含噪声，故辨识建模，是一种实验统计方法 ，是系统输入输出特性在确定的准则下的一种近似描述。
• 输入输出数据 • 系统的输入输出数据是由对系统的观测而得, 这些变化着的输入输出数据“必然”表现出 系统的动态和静态特性和行为。
– 这是能利用测量数据进行辨识建模的着眼点,是 辨识的基础。 – 一般在辨识中假定系统的输入输出数据是可直 接测量的,但扰动/噪声是不可测量的。
– – – – – –
• 离线或在线辨识等. Step 5. 实验. 根据所设计的实验方案,确定输入信号(或称激励 信号),进行实验并检测与记录输入输出数据. Step 6. 数据的预处理. 输入输出数据通常都含有直流成分以及我们在建 模中不关心的某些低频段或高频段的成分. 因此,为使所辨识的模型不受这些成分的影响,我 们可对这些数据进行预处理. 若处理得好,就能显著提高辨识的精度和辨识模 型的可用性.
系统辨识的应用领域
• 在应用方面,系统辨识不仅在
– 工业系统、过程和设备的系统分析、优化和 控制上有着广泛的应用领域, – 而且是各种农业、经济和社会等领域建立数 学模型必不可少的建模工具.
• 输入输出数据中隐含的扰动和误差,是进行辨识困难 性的关键.
• 模型类
• 系统辨识中,首要的问题是根据辨识的目的及对被辨识系统的 先验知识或了解,确定系统所属的模型类. – 模型的确定不唯一,受辨识目的、辨识方法等因素影响,根 据具体情况、具体需要选择不同的模型类. – 在控制领域内,常用的模型类有: • 参数模型或非参数模型 – Non-parametric methods try to estimate a generic model (step responses, impulse responses, frequency responses,neural network model) – Parametric methods estimate parameters in a userspecified model (transfer functions, state-space matrices)
– Step 7. 模型参数的估计. • 当模型结构确定之后,就需进行基于系统输入 输出数据的模型参数的估计. • 参数估计的方法则很多,本课程将详细介绍常 用的最小二乘类算法.
– Step 8. 模型验证. • 模型验证是系统辨识中不可缺少的步骤之一. • 若模型验证不合格,则必须返回到Step 3重新 进行上述辨识步骤. • 但是,目前模型验证还没有一般普遍的方法可 遵循,它和模型结构问题密切相关.
k
(3)
(4)
l1辨识
J () | (k ) |
k 1
L
或
J () | ε(t ) | dt
(5)
• l1辨识和H∞辨识,是目前两类较受关注的鲁棒辨识算法. – 结构辨识方法主要是在准则函数中引入对结构复杂性的惩罚 项,并进行反复辨识比较,以同时获得结构辨识和参数估计的 效果. • 如在线性系统的阶次辨识中,其误差准则函数为如下参数 模型误差准则函数与阶次惩罚项之和
• 预报预测. – 要求：动态响应特性、时延准确；应选 择便于计算机运算的模型类. • 监视过程参数,实现故障诊断. – 要求：参数准确；应选择能直观体现被 监视过程参数的模型类. • 系统的定量与定性分析. – 要求：静态关系准确；模型简单,便于人 脑判断.
– Step 2. 先验知识. – 在进行辨识之前,要通过一些手段取得对系统的 尽可能多的了解,粗略地掌握系统的一些先验知 识,如: • 是否为非线性、时变或定常、集中参数或分 布参数, • 系统的阶次、时间常数、静态增益、延迟时 间, • 以及噪声的统计特性等. – 这些先验知识对模型类的选择和实验设计起着指 导性的作用.
– 支持向量回归方法是近年出现的能很好地解决结构辨 识,提高辨识模型的鲁棒性的新型辨识方法 ,其准则函数 很好地将结构辨识与提高鲁棒性结合起来
L 1 2 J () || || f (ε(k )) 2 k 1
(8)
• 对于不同的辨识对象与环境,不同的辨识目的, 所取的等价准则 ( 函数 ) 的不同 , 因此由此衍生 的相应辨识算法和辨识结果将具有不同的性 质.
• • • • • •
线性的或非线性的 连续的或离散的 确定的或随机的 时变的或定常(时不变)的 集中参数的或分布参数的 频率域或时间域的
– 等等. – 本课程主要研究随机线性定常离散系统的参数模 型辨识问题.
• 值得指出的是,由于建模的目的是模型在系统 分析、预报、优化和控制系统设计中的实际 应用,太复杂、太精确的模型往往使得所建立 的模型在实际中应用的困难性大得多.
AIC准则
J () f (ε(k )) cn
ቤተ መጻሕፍቲ ባይዱk 1
L
(6)
(Akaike Information Criterion，1973)
BIC准则 J () f (ε(k )) c log n
k 1 L
(7 )
AIC方法的贝叶斯扩展，即BIC（Bayes Information Criterion ） 其中n为线性系统阶次,c为惩罚系数。
– 因此并不是所建立的模型越复杂、越精确就越 好,而是其精确性和复杂性与实际可用性、可操 作性的一种折中.
• 等价准则
• 等价准则是辨识问题中不可缺少的三大要素之一,它 是用来衡量所建立的模型接近实际系统的标准,是用 来优化模型的目标,建立具体辨识算法的关键. – 等价准则通常被表示成某种误差的泛函,如实际 系统与模型的输出误差。 • 因此,等价准则也称为误差准则、准则函数 值、损失函数或代价函数等. – 等价准则并不唯一,受辨识目的、辨识方法等因 素影响,可以选择不同的等价准则.
• 由于被控系统受各种内外环境因素的影响,实 际测量到的输入输出数据都含有一定的扰动 和误差,
– 因此辨识建模实际上是一种实验统计的方法,它 所获得的模型仅仅是实际系统的外部特性等价的 一种近似描述. – 若不考虑系统和测量数据所受到的扰动和误差的 影响,实际上系统辨识和建模将仅仅是一个非常 简单的方程求解、函数优化、函数逼近、或数据 拟合问题,而不会形成为一个相对独立的学科.
• 一般等价准则可记作
J () f (ε(k ))
k 1 L
(1)
其中 f((k))是某种误差(k)的正定函数. 在系统辨识中的参数估计领域,为便于求等价准则的最优化以 及便于理解和度量系统与模型的距离 (误差),通常用得最多的 函数f(· )为平方函数,即 f((k))=2(k) (2)
– 作为辨识方法的使用者,要对此有充分的了解,才 能选取适当的等价准则或相应的辨识算法 ,得到 所需的辨识模型.
•
系统辨识的步骤和参数估计
• 前面给出了系统辨识的定义,现在我们讨论辨识步骤.
– Step 1. 明确辨识目的. – 明确模型应用的最终目的是很重要的,因为它将 决定模型的类型、精度要求、准则函数以及采 用什么辨识方法等问题. – 辨识目的主要取决于模型的应用.在控制领域,辨 识模型应用有以下几个方面：
国际自动控制联合会(IFAC)自1967年起每三年召 开一次“辨识和系统参数估计”专业性国际学术讨论 会，这表明它是十分活跃和受到重视的学科之一。系 统辨识在许多领域得到了成功的应用。目前，单变量 线性系统辨识的理论和方法，已趋于成熟阶段，多变 量线性系统的辨识尚有待于进一步提高。另外，关于 连续时间模型、非线性系统模型和分布参数模型等的 辨识方法，以及模糊逻辑，神经网络，小波变换等方 法在系统辨识中的应用等方面的讨论，目前正方兴未 艾。
• 由上述辨识过程的诸步骤可知,参数估计是指 在确定好系统的模型结构和结构参数(如系统 的阶次等)后,基于辨识的准则函数,由系统的 输入输出数据确定所选定的模型的待定参数.
– 因此,参数估计可以认为是系统辨识的一个主要 分支. – 本课程主要介绍讨论系统辨识中的参数估计部分。
系统辨识的发展历程
系统辨识是20世纪60年代开始迅速蓬勃发展起来的一门学 科。这是因为在当时自动控制理论发展到了很高的水平，经典 控制论被更有前途的现代控制理论所超越。 与此同时，工业大生产的发展，也要求将控制技术提到更 高的水平。现代控制理论的应用是建立在已知受控对象的数学 模型这一前提下的，而在当时对受控对象数学模型的研究相对 较为滞后。现代控制理论的应用遇到了确定受控对象合适的数 学模型的各种困难。 因此，建立系统数学模型的方法——系统辨识，就成为应 用现代控制理论的重要前提。在另一方面，随着计算机科学的 飞速发展，计算机为辨识系统所需要进行的离线计算和在线计 算提供了高效的工具。在这样的背景下，系统辨识问题便愈来 愈受到人们的重视，成为发展系统理论，开展实际应用工作中 必不可少的组成部分。
– Step 3. 确定模型类和辨识准则函数. – 根据辨识目的和系统的先验知识,确定系统的模 型类和辨识准则函数. • 确定模型类,主要包括模型的描述形式,模型 的阶次等等. • 确定辨识准则函数,相应地包括确定具体辨识 方法.
– Step 4. 实验设计. – 设计原则：在明确目的与要求,以及模型用途后, • 在安全的前提下,尽可能地激励系统； • 保持输入输出关系； • 适当解耦 – 根据系统的先验知识和系统的实际情况,主要设 计(决定和选择) • 辨识实验的输入信号(信号类型、幅度和频带 等 )、 • 采样周期、 • 辨识时间(数据长度)、 • 开环或闭环辨识、
• 随着对系统的认识的深入,对所辨识的模型的 需求多样性,或系统本身的复杂性,近年来,在控 制界已经开始深入研究鲁棒辨识和结构辨识 方法.
– 鲁棒辨识方法主要是通过引入能提高模型鲁棒 性的不同的辨识准则函数及相应的求解方法,来 实现鲁棒辨识.
• 如 H 辨识
J () max | ε(k ) |
系统辨识
本章的主要内容
1. 系统辨识概述 2. 非参数辨识 3. 最小二乘法参数估计 4. 最小二乘法参数估计的递推算法 5. 适应性递推最小二乘法估计算法 6. 最小二乘法参数估计算法的改进方法 7. 系统辨识实际应用中的几个问题
1.1 概述
对于自动控制系统的分析和设计来说，建立受控对象的 数学模型是必不可少的。建立所研究的对象的数学模型，主 要有两个途径。 一个是借助于基本物理定律，即利用各个专门学科领域 提出来的关于物质和能量的守恒性和连续性原理，以及系统 结构数据，推导出系统的数学模型。这种建立模型的方法称 为数学建模法或称解析法。 但是，对很大一类工程系统，如化工过程，由于其复杂 性，很难用解析法推导出数学模型。有时只能知道系统数学 模型的一般形式及其部分参数，有时甚至连数学模型的形式 也不知道。这时，只能通过系统的运行或试验，得到关于系 统的有关数据，然后通过计算处理，建立起系统的数学模型 (模型结构和参数)。这种建立数学模型的方法即为系统辨识 的方法。