第1-2章系统辨识的基本概念和随机过程
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
18
在实际工业过程中
由于工艺过程复杂性通常难以通过机理分析建立精确 的数学模型 但如果仅仅关心过程的输入特性,可以将过程视为 “黑箱” 根据“黑箱”的输入输出特性建立输入输出模型
这正是系统辨识的出发点
19
模型（Model）
模型
指过程运动规律的本质描述
按模型的描述形式分类
（1）直觉模型 （2）物理模型 （3）图表模型 （4）数学模型
Ljung等 Prediction error methods
如果扰动不是白噪声，则最小二乘法不再适用。 瑞典的Ljung等人从1970年代开始发展出 prediction error 方法，它能够在有色噪声情形 的情况下，给出参数的一致估计。目前，该类方 法是系统辨识的主流方法。 Ljung的专著“System Identification: Theory for the User”是本领域的经典著作。 Ljung主持编写的Matlab System Identification Toolbox是本领域最好的工具箱 。
30
根据模型的特性
数学模型又可以分为
线性和非线性模型
系统线性与关于参数空间线性 本质线性与本质非线性
Y ALa1 K a2 ,
a1 0, a2 1
动态和静态模型 确定性和随机性模型 宏观（积分方程）和微观（微分方程）模型等
31
线性系统模型
(t ) Ax(t ) Bu(t ) x y(t ) Cx(t ) Du(t )
Goodwin, Chen等：鲁棒辨识
1990年代末，随着鲁棒控制，特别是H-无穷控 制的发展。控制界需要适用于鲁棒控制的系统模型 。鲁棒辨识完全舍弃了扰动为随机噪声的假设，而 假设扰动在某个区间范围内。因此，辨识得到的模 型是（确定论的）模型族，而不是单个模型。Chen 等的“Control-oriented system identification: an H-infinity approach”是本领域的第一本专著 。
x(k 1) Ax(k ) Bu(k )
y(k ) Cx(k ) Du(k )
A( z ) z (k ) B( z )u (k ) e(k ) A( z 1 ) 1 a1 z 1 a2 z 2 ana z na B( z 1 ) b1 z 1 b2 z 2 bnb z nb
Torsten Sö derströ m at al: Instrumental Variable Methods
如果扰动不是白噪声，则最小二乘法不再适用 。但我们可以假设扰动与输入不相关，这在开环运 行的情况下是完全合理的。在这种假设下，可以用 Instrumental Variable（辅助变量）法估计模型 参数。该类方法计算量较小，但是不像prediction error方法那样能够同时得到噪声模型。 瑞典的Soderstrom & Stoica的专著 “System Identification”和“Instrumental Variable Methods for System Identification” 是该领域的经典著作。
系统越复杂，系统模型的地位越来越重要。再好的控制理论 和控制策略离开了系统数学模型，只能成为空中楼阁，无用武 之地。而系统分析、综合，预测都离不开数学模型。 所以，系统建模是系统分析的基础，系统辨识是自动控制系 统设计和分析必不可少的先导环节。
11
（2）其他学科发展的需要。
数学模型不仅仅是自动控制理论分析基础，同样是其他学科理 论分析的基础，如机械性能分析、疲劳、损伤、故障诊断、信号 分析、气象预报、大气环境等等。近几十年来，其他原来关注定 性分析的学科，如社会学、经济学、企业战略以及人力资源、市 场经济、股票预测等也都离不开数学模型了。因此，自动控制系 统辨识知识也能为其他学科共用。系统辨识有广泛的应用领域。
线性随机系统模型
(t ) Ax(t ) Bu(t ) w(t ) x
y(t ) Cx(t ) Du(t ) v(t )
34
35
36
来自百度文库
建立过程数学模型的两种主要方法 机理分析法 测试法
37
（1）机理分析法
通过分析过程的运动规律、应用一些已知的 规律、定理和与原理 如：化学动力学原理、生物学定律、牛顿定 理、物料平衡方程、能量平衡方程和传质传 热原理等 建立过程的数学模型，这种方法也称为理论 建模
Peter van Cverschee,Bart De Moor等 子空间辨识
1990年代，为了克服PEM针对多变量系统辨 识时需要进行非线性优化，以及IV不能同时辨识 出噪声模型的缺点。Bart De Moor, Verhaegen 等提出了针对多变量系统的Subspace Identification Methods。该类方法不是基于优 化某个criterion，主要用到矩阵的奇异值分解， 无需非线性优化，因而计算量较小。
国内“系统辨识”学科研究起步于1975年左右。1980年，发行第一本教 课书“系统与参数估计”，现在已有几十种版本的教课书和专论陆续出 版，在重点大学的自控专业都开设了“系统辨识”课程。
5
Gauss（高斯）
在1795年首次用最小二乘法(leastsquares method) 计算行星轨道。Markov继 续完善了Gauss的工作，证明了最小二乘估计 是最优线性无偏估计（BLUE）。
其中Y为产值，L为劳动力，K为资本。
28
微分方程
( n 1)
z (t ) a1 z
(n)
(t ) an1 z (t ) an z (t )
(1) (1)
b1u
( m 1)
(t ) bm1u (t ) bmu(t ) e(t )
29
差分方程 A( z 1 ) z (k ) B( z 1 )u (k ) e(k )
以图形式或表格的形式来表现过程的特性
也称非参数模型
25
26
（4）数学模型 用数学结构的形式来反映实际 过程的行为特点
代数方程 微分方程 差分方程 状态方程 ……
27
代数方程：经济学上的Cobb-Douglas 生产关系模型
Y ALa1 K a2 , a1 0, a2 1
A( z ) 1 a1 z a2 z ana z
1 1 2 nb 1 1 2 na
B( z ) b1 z b2 z bnb z 即 z (k ) a1 z (k 1) ana z (k na )
b1u (k 1) bnb u (k nb ) e(k )
促进系统辨识蓬勃发展的主要原因有： （1）自动控制学科发展和其他诸多学科发展的需要。
随着控制理论向更深更广的方向发展，控制策略对控制对象 的了解依赖性越来越强，控制精度，控制指标的提高。例如 “自适应控制”、鲁棒控制”。另外，由于被控对象越来越复 杂，例如“变参数对象的控制”，使得原来控制理论中讲述的 建立在先验知识、定律、定理上的建模方法远不能适应实际系 统的要求。
4
系统辩识的先导性工作可以追溯到16世纪德国天文学家开普勒和德国数 学家高斯的工作，他们分别根据观测数据，建立了行星运动的数学模型。
1960在莫斯科召开的国际自动控制联合会学术会议（IFAC， International Federation of Automation Control ）上，系统辨识问 题受到人们的普遍重视，但提交的论文不多。此后，有关论文和学术交 流迅速增加，成为后二十年来最活跃的一个自动控制领域。1967年起， IFAC决定每三年举办一次国际“辨识和系统参数估计”专题讨论会，第 八界学术讨论是1988在北京举办的，一次提交论文就在600之多，录用 480篇。
16
1.2 过程和模型
过程 (Process)
一个含义非常广泛的概念 通常泛指具有时间或空间上的跨度的对象 具体的如： 工程系统、生物系统或社会经济系统都可 以称为过程
17
在系统辨识中
所考虑的主要是工业控制过程
化工过程 石油加工过程 冶金过程 生化过程 制药过程 发电厂 ……
32
1
1
非线性系统
f ( x, u, t ) x y h( x, u, t )
f ( x) g ( x)u x y h( x )
(t ) Ax(t ) N i x(t )ui (t ) Bu(t ) x
i 1 n
y(t ) Cx(t )
33
15
参考书目
顾幸生，刘漫丹，张凌波，现代控制理论及应用，上海：华 东理工大学出版社，2008。 方崇智，萧德云, 过程辨识，北京：清华大学出版社，1994. Ljung, Lennart ，System identification——theory for the user ，北京 : Tsinghua University Press, 2002. Pintelon, R ，System identification ，New York : IEEE Press, 2001. N.K.Sinha & B.Kuszta ，Modeling and identification of dynamic systems，New York : Van Nostrand Reinhold, 1983. 李鹏波，系统辨识，北京：中国水利水电出版社， 2010 李言俊, 张 科，系统辨识理论及应用 ，北京：国防工业出 版社， 2003
（3）计算机技术快速发展。
计算机运算速度越来越快，建模分析软件功能越来越强大，使 得系统辨识的各种复杂算法能付诸于实践和实际系统建模应用。
12
系统辨识当前发展的新热点
* 非线性系统辨识（机器人）；
* 快时变与有缺陷样本的辨识； * 生命、生态系统的辨识； * 辨识的专家系统与智能化软件包的开发； * 基于模糊理论、神经网络、小波变换的辨识方 法； * 系统辨识与人工智能、人工生命、图象处理、 网络技术和多媒体技术的结合。
20
（1）直觉模型
指过程的特性以非解析的形式直接存储在人脑中靠人 的直觉控制过程地进行 如司机就是靠“直觉模型”来控制汽车的方向盘。
（2）物理模型
实际过程的一种物理模拟
如风洞 水力学模型 传热学模型 电力系统动态模拟 ……
21
22
山西省柏叶口水库溢洪道水力学模型
23
24
（3）图表模型 阶跃响应 脉冲响应 ……
瑞典Linkoping大学 Lennart Ljung 教授 （英文版）
国内 方崇智、肖德云，《过程辨识》，清华大学出版社 （TP13/88） 韩光文， 系统辩识，华中理工大学出版社 夏天长，《 最小二乘法》， 清华/国防出版社 （TP11/16,TP11/46） MATLAB-ID TOOL BOX
系统辨识
第1章 系 统 辨 识 的 基 本 概 念
2
1.1 1.2 1.3 1.4 1.5 1.6
系统辨识学科的发展 过程和模型 辨识的定义 辨识算法的基本原理 辨识的内容和步骤 辨识的应用
3
1.1系统辨识学科的发展
系统辨识是近几十年来发展起来的新兴科学，所涉及理论基础
广泛，内容丰富，工程应用性强。
本课程内容
第一章 第二章 第三章 第四章 第五章 第六章 第七章 第八章 绪论 数学基础知识―随机过程 经典辨识方法 最小二乘类辨识方法 梯度校正辨识方法 极大似然法和预报误差法 模型阶次的确定 闭环辨识方法
14
代表性人物与参考书： 国外 瑞典Linkoping大学 Karl J. Astrom 教授
系统辨识是利用系统运行或实验过程中获取的系统输入 -输出数 据求得系统数学模型（传递函数）的方法和技术。是人们对客
观实际系统对象（控制对象）的认识由表及里、去粗求精，从
定性到定量获取系统内在规律和特征的定量化关系的过程。这 些定量化关系反映反映系统本质特征，这些定量化关系就是系
统的数学模型。
因此，系统辨识是自动控制理论切实应用到实际中去的不可缺 少的手段和工具。
在实际工业过程中
由于工艺过程复杂性通常难以通过机理分析建立精确 的数学模型 但如果仅仅关心过程的输入特性,可以将过程视为 “黑箱” 根据“黑箱”的输入输出特性建立输入输出模型
这正是系统辨识的出发点
19
模型（Model）
模型
指过程运动规律的本质描述
按模型的描述形式分类
（1）直觉模型 （2）物理模型 （3）图表模型 （4）数学模型
Ljung等 Prediction error methods
如果扰动不是白噪声，则最小二乘法不再适用。 瑞典的Ljung等人从1970年代开始发展出 prediction error 方法，它能够在有色噪声情形 的情况下，给出参数的一致估计。目前，该类方 法是系统辨识的主流方法。 Ljung的专著“System Identification: Theory for the User”是本领域的经典著作。 Ljung主持编写的Matlab System Identification Toolbox是本领域最好的工具箱 。
30
根据模型的特性
数学模型又可以分为
线性和非线性模型
系统线性与关于参数空间线性 本质线性与本质非线性
Y ALa1 K a2 ,
a1 0, a2 1
动态和静态模型 确定性和随机性模型 宏观（积分方程）和微观（微分方程）模型等
31
线性系统模型
(t ) Ax(t ) Bu(t ) x y(t ) Cx(t ) Du(t )
Goodwin, Chen等：鲁棒辨识
1990年代末，随着鲁棒控制，特别是H-无穷控 制的发展。控制界需要适用于鲁棒控制的系统模型 。鲁棒辨识完全舍弃了扰动为随机噪声的假设，而 假设扰动在某个区间范围内。因此，辨识得到的模 型是（确定论的）模型族，而不是单个模型。Chen 等的“Control-oriented system identification: an H-infinity approach”是本领域的第一本专著 。
x(k 1) Ax(k ) Bu(k )
y(k ) Cx(k ) Du(k )
A( z ) z (k ) B( z )u (k ) e(k ) A( z 1 ) 1 a1 z 1 a2 z 2 ana z na B( z 1 ) b1 z 1 b2 z 2 bnb z nb
Torsten Sö derströ m at al: Instrumental Variable Methods
如果扰动不是白噪声，则最小二乘法不再适用 。但我们可以假设扰动与输入不相关，这在开环运 行的情况下是完全合理的。在这种假设下，可以用 Instrumental Variable（辅助变量）法估计模型 参数。该类方法计算量较小，但是不像prediction error方法那样能够同时得到噪声模型。 瑞典的Soderstrom & Stoica的专著 “System Identification”和“Instrumental Variable Methods for System Identification” 是该领域的经典著作。
系统越复杂，系统模型的地位越来越重要。再好的控制理论 和控制策略离开了系统数学模型，只能成为空中楼阁，无用武 之地。而系统分析、综合，预测都离不开数学模型。 所以，系统建模是系统分析的基础，系统辨识是自动控制系 统设计和分析必不可少的先导环节。
11
（2）其他学科发展的需要。
数学模型不仅仅是自动控制理论分析基础，同样是其他学科理 论分析的基础，如机械性能分析、疲劳、损伤、故障诊断、信号 分析、气象预报、大气环境等等。近几十年来，其他原来关注定 性分析的学科，如社会学、经济学、企业战略以及人力资源、市 场经济、股票预测等也都离不开数学模型了。因此，自动控制系 统辨识知识也能为其他学科共用。系统辨识有广泛的应用领域。
线性随机系统模型
(t ) Ax(t ) Bu(t ) w(t ) x
y(t ) Cx(t ) Du(t ) v(t )
34
35
36
来自百度文库
建立过程数学模型的两种主要方法 机理分析法 测试法
37
（1）机理分析法
通过分析过程的运动规律、应用一些已知的 规律、定理和与原理 如：化学动力学原理、生物学定律、牛顿定 理、物料平衡方程、能量平衡方程和传质传 热原理等 建立过程的数学模型，这种方法也称为理论 建模
Peter van Cverschee,Bart De Moor等 子空间辨识
1990年代，为了克服PEM针对多变量系统辨 识时需要进行非线性优化，以及IV不能同时辨识 出噪声模型的缺点。Bart De Moor, Verhaegen 等提出了针对多变量系统的Subspace Identification Methods。该类方法不是基于优 化某个criterion，主要用到矩阵的奇异值分解， 无需非线性优化，因而计算量较小。
国内“系统辨识”学科研究起步于1975年左右。1980年，发行第一本教 课书“系统与参数估计”，现在已有几十种版本的教课书和专论陆续出 版，在重点大学的自控专业都开设了“系统辨识”课程。
5
Gauss（高斯）
在1795年首次用最小二乘法(leastsquares method) 计算行星轨道。Markov继 续完善了Gauss的工作，证明了最小二乘估计 是最优线性无偏估计（BLUE）。
其中Y为产值，L为劳动力，K为资本。
28
微分方程
( n 1)
z (t ) a1 z
(n)
(t ) an1 z (t ) an z (t )
(1) (1)
b1u
( m 1)
(t ) bm1u (t ) bmu(t ) e(t )
29
差分方程 A( z 1 ) z (k ) B( z 1 )u (k ) e(k )
以图形式或表格的形式来表现过程的特性
也称非参数模型
25
26
（4）数学模型 用数学结构的形式来反映实际 过程的行为特点
代数方程 微分方程 差分方程 状态方程 ……
27
代数方程：经济学上的Cobb-Douglas 生产关系模型
Y ALa1 K a2 , a1 0, a2 1
A( z ) 1 a1 z a2 z ana z
1 1 2 nb 1 1 2 na
B( z ) b1 z b2 z bnb z 即 z (k ) a1 z (k 1) ana z (k na )
b1u (k 1) bnb u (k nb ) e(k )
促进系统辨识蓬勃发展的主要原因有： （1）自动控制学科发展和其他诸多学科发展的需要。
随着控制理论向更深更广的方向发展，控制策略对控制对象 的了解依赖性越来越强，控制精度，控制指标的提高。例如 “自适应控制”、鲁棒控制”。另外，由于被控对象越来越复 杂，例如“变参数对象的控制”，使得原来控制理论中讲述的 建立在先验知识、定律、定理上的建模方法远不能适应实际系 统的要求。
4
系统辩识的先导性工作可以追溯到16世纪德国天文学家开普勒和德国数 学家高斯的工作，他们分别根据观测数据，建立了行星运动的数学模型。
1960在莫斯科召开的国际自动控制联合会学术会议（IFAC， International Federation of Automation Control ）上，系统辨识问 题受到人们的普遍重视，但提交的论文不多。此后，有关论文和学术交 流迅速增加，成为后二十年来最活跃的一个自动控制领域。1967年起， IFAC决定每三年举办一次国际“辨识和系统参数估计”专题讨论会，第 八界学术讨论是1988在北京举办的，一次提交论文就在600之多，录用 480篇。
16
1.2 过程和模型
过程 (Process)
一个含义非常广泛的概念 通常泛指具有时间或空间上的跨度的对象 具体的如： 工程系统、生物系统或社会经济系统都可 以称为过程
17
在系统辨识中
所考虑的主要是工业控制过程
化工过程 石油加工过程 冶金过程 生化过程 制药过程 发电厂 ……
32
1
1
非线性系统
f ( x, u, t ) x y h( x, u, t )
f ( x) g ( x)u x y h( x )
(t ) Ax(t ) N i x(t )ui (t ) Bu(t ) x
i 1 n
y(t ) Cx(t )
33
15
参考书目
顾幸生，刘漫丹，张凌波，现代控制理论及应用，上海：华 东理工大学出版社，2008。 方崇智，萧德云, 过程辨识，北京：清华大学出版社，1994. Ljung, Lennart ，System identification——theory for the user ，北京 : Tsinghua University Press, 2002. Pintelon, R ，System identification ，New York : IEEE Press, 2001. N.K.Sinha & B.Kuszta ，Modeling and identification of dynamic systems，New York : Van Nostrand Reinhold, 1983. 李鹏波，系统辨识，北京：中国水利水电出版社， 2010 李言俊, 张 科，系统辨识理论及应用 ，北京：国防工业出 版社， 2003
（3）计算机技术快速发展。
计算机运算速度越来越快，建模分析软件功能越来越强大，使 得系统辨识的各种复杂算法能付诸于实践和实际系统建模应用。
12
系统辨识当前发展的新热点
* 非线性系统辨识（机器人）；
* 快时变与有缺陷样本的辨识； * 生命、生态系统的辨识； * 辨识的专家系统与智能化软件包的开发； * 基于模糊理论、神经网络、小波变换的辨识方 法； * 系统辨识与人工智能、人工生命、图象处理、 网络技术和多媒体技术的结合。
20
（1）直觉模型
指过程的特性以非解析的形式直接存储在人脑中靠人 的直觉控制过程地进行 如司机就是靠“直觉模型”来控制汽车的方向盘。
（2）物理模型
实际过程的一种物理模拟
如风洞 水力学模型 传热学模型 电力系统动态模拟 ……
21
22
山西省柏叶口水库溢洪道水力学模型
23
24
（3）图表模型 阶跃响应 脉冲响应 ……
瑞典Linkoping大学 Lennart Ljung 教授 （英文版）
国内 方崇智、肖德云，《过程辨识》，清华大学出版社 （TP13/88） 韩光文， 系统辩识，华中理工大学出版社 夏天长，《 最小二乘法》， 清华/国防出版社 （TP11/16,TP11/46） MATLAB-ID TOOL BOX
系统辨识
第1章 系 统 辨 识 的 基 本 概 念
2
1.1 1.2 1.3 1.4 1.5 1.6
系统辨识学科的发展 过程和模型 辨识的定义 辨识算法的基本原理 辨识的内容和步骤 辨识的应用
3
1.1系统辨识学科的发展
系统辨识是近几十年来发展起来的新兴科学，所涉及理论基础
广泛，内容丰富，工程应用性强。
本课程内容
第一章 第二章 第三章 第四章 第五章 第六章 第七章 第八章 绪论 数学基础知识―随机过程 经典辨识方法 最小二乘类辨识方法 梯度校正辨识方法 极大似然法和预报误差法 模型阶次的确定 闭环辨识方法
14
代表性人物与参考书： 国外 瑞典Linkoping大学 Karl J. Astrom 教授
系统辨识是利用系统运行或实验过程中获取的系统输入 -输出数 据求得系统数学模型（传递函数）的方法和技术。是人们对客
观实际系统对象（控制对象）的认识由表及里、去粗求精，从
定性到定量获取系统内在规律和特征的定量化关系的过程。这 些定量化关系反映反映系统本质特征，这些定量化关系就是系
统的数学模型。
因此，系统辨识是自动控制理论切实应用到实际中去的不可缺 少的手段和工具。