最小二乘参数估计的递推算法——
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Harbin Institute of Technology– HIT
系统辨识与自适应控制
黄显林、班晓军 控制理论与制导技术研究中心
哈尔滨工业大学 banxiaojun@hit.edu.cn
2016-11-25
控制理论与制导技术研究中心
第1页
Harbin Institute of Technology– HIT
100 200 300 400 500 600 Step
图13. 辨识结果
控制理论与制导技术研究中心
第26页
Harbin Institute of Technology– HIT
Estimation 1
0.5
2
0
-0.5
-10
2016-11-25
100 200 300 400 500 Step
图14. 辨识结果 控制理论与制导技术研究中心
控制理论与制导技术研究中心
第12页
Amplitude
2 1.5
1 0.5
0 -0.5
-1 -1.5
-20
2016-11-25
Harbin Institute of Technology– HIT Input-Signal
5
10
15
Time (Seconds)
图1. 输入信号
控制理论与制导技术研究中心
-1 -1.5
-2 -2.50
2016-11-25
Harbin Institute of Technology– HIT
进一步增加叠代次数时
Estimation
200
400
600
800
Step
图17. 辨识结果
控制理论与制导技术研究中心
1000
第30页
2
1 0.5
0 -0.5
-10
2016-11-25
0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
00
2016-11-25
Harbin Institute of Technology– HIT Estimation
100 200 300 400 500 Step
图16. 辨识结果 控制理论与制导技术研究中心
600
第29页
1
0 -0.5
-1 -1.2 -1.4 -1.60
2016-11-25
Harbin Institute of Technology– HIT Estimation
200 400 600 800 Step
图3. 参数的在线收敛过程
控制理论与制导技术研究中心
1000
1200
第15页
Harbin Institute of Technology– HIT
第20页
2
1 0.8 0.6 0.4 0.2
0 0
2016-11-25
Harbin Institute of Technology– HIT Estimation
200 400 600 800 Step
图9. 参数的在线收敛过程
控制理论与制导技术研究中心
1000
1200
第21页
2
0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
0 0
2016-11-25
Harbin Institute of Technology– HIT Estimation
100
200
300
400
Step
图10. 参数的在线收敛过程 控制理论与制导技术研究中心
500
第22页
Harbin Institute of Technology– HIT
例二、对于不稳定系统
新的估计值 (k) 老的估计值 (k 1) 修正项
2016-11-25
控制理论与制导技术研究中心
第4页
Harbin Institute of Technology– HIT
二、递推算法结果（证明见附录1）
(N 1) (N ) K (N )[ y(n N 1) T (N 1) (N )]
20
第13页
Amplitude
10 5 0 -5
-10 -150
2016-11-25
Harbin Institute of Technology– HIT Output-Signal
5
10
15
Time (Seconds)
图2. 输出信号
控制理论与制导技术研究中心
20
第14页
1
0 -0.2 -0.4 -0.6 -0.8
五、递推算法的仿真试验
例一、稳定被控对象
G(z)
1.0z 0.5 z2 1.5z 0.7
y(k) 1.5y(k 1) 0.7 y(k 2) 1.0u(k 1) 0.5u(k 2)
初值选择：
P(0) 1010 I ；
(0) 0
噪声方差：0.01
2016-11-25
(N 1) (N ) K (N )[ y(n N 1) T (N 1) (N )]
K (N ) P(N )(N 1)[1 T (N 1)P(N )(N 1)]1
P(N 1) P(N ) K (N )K T (N )[1 T (N 1)P(N )(N 1)]
(n) (n 1) K (n 1)[ y(n) T (n) (n 1)]
P(n) P(n 1) K (n 1)T (n)P(n 1)
2016-11-25
控制理论与制导技术研究中心
第10页
Harbin Institute of Technology– HIT
第五讲 最小二乘参数估计的递推算法
内容提要：
一、问题的提出 二、递推算法结果 三、递推算法的推导过程 四、递推算法计算流程 五、初值的选取方法 六、递推算法的仿真试验
例一、稳定的被控对象 例二、不稳定的被控对象
2016-11-25
控制理论与制导技术研究中心
第2页
Harbin Institute of Technology– HIT
2016-11-25
控制理论与制导技术研究中心
第6页
Harbin Institute of Technology– HIT
2016-11-25
控制理论与制导技术研究中心
第7页
Harbin Institute of Technology– HIT
三、递推算法计算流程
(0), P(0)
y(1), u (1)
600
第27页
1
1 0.8 0.6 0.4 0.2
0 -0.2 -0.40
2016-11-25
Harbin Institute of Technology– HIT Estimation
100 200 300 400 500 Step
图15. 辨识结果
控制理论与制导技术研究中心
600
第28页
2
K (N ) P(N )(N 1)[1 T (N 1)P(N )(N 1)]1
P(N 1) P(N ) P(N )(N 1)[1 T (N 1)P(N )(N 1)]1T (N 1)P(N )
(N 1) (N ) K (N )[ y(n N 1) T (N 1) (N )]
Harbin Institute of Technology– HIT Output-Signal
5
10
15
Time (Seconds)
图12. 输出信号
控制理论与制导技术研究中心
20
第25页
1
0 -0.5
-1 -1.5
-2 -2.50
2016-11-25
Harbin Institute of Technology– HIT Estimation
Harbin Institute of Technology– HIT Estimation
200
400
600
(3) (2) K (2)[ y(3) T (3) (2)]
P(3) P(2) K (2)T (3)P(2)
2016-11-25
控制理论与制导技术研究中心
第9页
Harbin Institute of Technology– HIT
y(n), u (n)
K (n 1) P(n 1)(n)[1 T (n)P(n 1)(n)]1
K (0) P (0) (1)[1 T (1) P (0) (1)]1
(1) (0) K (0)[ y(1) T (1) (0)]
P(1) P(0) K (0)T (1)P(0)
2016-11-25
控制理论与制导技术研究中心
第8页
Harbin Institute of Technology– HIT
控制理论与制导技术研究中心
1000
1200
第19页
1
1.2 1
0.8 0.6 0.4 0.2
0 -0.2
0
2016-11-25
Harbin Institute of Technology– HIT Estimation
50 100 150 200 250 300 Step
图8. 参数的在线收敛过程 控制理论与制导技术研究中心
G(z)
0.45z 0.23 z2 1.83z 0.82
y(k) 1.83y(k 1) 0.82 y(k 2) 0.45u(k 1) 0.23u(k 2)
2016-11-25
控制理论与制导技术研究中心
第23页
Amplitude
2 1.5
1 0.5
0 -0.5
-1 -1.5
K (N ) P(N )(N 1)[1 T (N 1)P(N )(N 1)]1
P(N 1) P(N ) K (N )T (N 1)P(N )
2016-11-25
控制理论与制导技术研究中心
第5页
Harbin Institute of Technology– HIT
为了确保P(N)的对称性
Estimation 0
-0.5
1
-1
-1.5 0
2016-11-25
100
200
300
400
500
Step
图4. 参数的在线收敛过程
控制理论与制导技术研究中心
第16页
0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
0 0
2016-11-25
2
Harbin Institute of Technology– HIT Estimation
一、问题的提出
• 最小二乘标准算法的不足： – 不方便用于“在线”辨识，不方便用于“慢时变”
的被控对象；
– 计算量很大，占用大量硬件资源（内存）； – 许多计算都是重复的。
2016-11-25
控制理论与制导技术研究中心
第3页
Harbin Institute of Technology– HIT
• 递推算法的基本思想：
y(2), u (2)
K(1) P(1)(2)[1 T (2)P(1)(2)]1
(2) (1) K (1)[ y(2) T (2) (1)] P ( 2 ) P (1) K (1) T ( 2 ) P (1)
y(3), u (3)
K (2) P(2)(3)[1 T (3)P(2)T (3)]1
图6. 参数的在线收敛过程
控制理论与制导技术研究中心
第18页
1
1.2 1
0.8 0.6 0.4 0.2
0 -0.2 -0.40
2016-11-25
Harbin Institute of Technology– HIT Estimation
200 400 600 800 Step
图7. 参数的在线收敛过程
-2 0
2016-11-25
Harbin Institute of Technology– HIT Input-Signal
5
10
15
Time (Seconds)
图11. 输入信号
控制理论与制导技术研究中心
20
第24页
Amplitude
2 x 1078 0 -2 -4 -6 -80
2016-11-25
200 400 600 800 Step
图5. 参数的在线收敛过程
控制理论与制导技术研究中心
1000
1200 第17页
Harbin Institute of Technology– HIT
2
0.7 0.6 0.5 0.4 0.3 0.2 0.1
0源自文库0
2016-11-25
Estimation
50 100 150 200 250 300 350 Step
四、初值的选取方法
1. 用最小二乘的封闭形式计算 P0 ( N 0 ) ， ˆ0 ( N 0 ) ；
2. 人为给初值 P0 2 I ， 足够大；ˆ0 0 。
2016-11-25
控制理论与制导技术研究中心
第11页
Harbin Institute of Technology– HIT
系统辨识与自适应控制
黄显林、班晓军 控制理论与制导技术研究中心
哈尔滨工业大学 banxiaojun@hit.edu.cn
2016-11-25
控制理论与制导技术研究中心
第1页
Harbin Institute of Technology– HIT
100 200 300 400 500 600 Step
图13. 辨识结果
控制理论与制导技术研究中心
第26页
Harbin Institute of Technology– HIT
Estimation 1
0.5
2
0
-0.5
-10
2016-11-25
100 200 300 400 500 Step
图14. 辨识结果 控制理论与制导技术研究中心
控制理论与制导技术研究中心
第12页
Amplitude
2 1.5
1 0.5
0 -0.5
-1 -1.5
-20
2016-11-25
Harbin Institute of Technology– HIT Input-Signal
5
10
15
Time (Seconds)
图1. 输入信号
控制理论与制导技术研究中心
-1 -1.5
-2 -2.50
2016-11-25
Harbin Institute of Technology– HIT
进一步增加叠代次数时
Estimation
200
400
600
800
Step
图17. 辨识结果
控制理论与制导技术研究中心
1000
第30页
2
1 0.5
0 -0.5
-10
2016-11-25
0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
00
2016-11-25
Harbin Institute of Technology– HIT Estimation
100 200 300 400 500 Step
图16. 辨识结果 控制理论与制导技术研究中心
600
第29页
1
0 -0.5
-1 -1.2 -1.4 -1.60
2016-11-25
Harbin Institute of Technology– HIT Estimation
200 400 600 800 Step
图3. 参数的在线收敛过程
控制理论与制导技术研究中心
1000
1200
第15页
Harbin Institute of Technology– HIT
第20页
2
1 0.8 0.6 0.4 0.2
0 0
2016-11-25
Harbin Institute of Technology– HIT Estimation
200 400 600 800 Step
图9. 参数的在线收敛过程
控制理论与制导技术研究中心
1000
1200
第21页
2
0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
0 0
2016-11-25
Harbin Institute of Technology– HIT Estimation
100
200
300
400
Step
图10. 参数的在线收敛过程 控制理论与制导技术研究中心
500
第22页
Harbin Institute of Technology– HIT
例二、对于不稳定系统
新的估计值 (k) 老的估计值 (k 1) 修正项
2016-11-25
控制理论与制导技术研究中心
第4页
Harbin Institute of Technology– HIT
二、递推算法结果（证明见附录1）
(N 1) (N ) K (N )[ y(n N 1) T (N 1) (N )]
20
第13页
Amplitude
10 5 0 -5
-10 -150
2016-11-25
Harbin Institute of Technology– HIT Output-Signal
5
10
15
Time (Seconds)
图2. 输出信号
控制理论与制导技术研究中心
20
第14页
1
0 -0.2 -0.4 -0.6 -0.8
五、递推算法的仿真试验
例一、稳定被控对象
G(z)
1.0z 0.5 z2 1.5z 0.7
y(k) 1.5y(k 1) 0.7 y(k 2) 1.0u(k 1) 0.5u(k 2)
初值选择：
P(0) 1010 I ；
(0) 0
噪声方差：0.01
2016-11-25
(N 1) (N ) K (N )[ y(n N 1) T (N 1) (N )]
K (N ) P(N )(N 1)[1 T (N 1)P(N )(N 1)]1
P(N 1) P(N ) K (N )K T (N )[1 T (N 1)P(N )(N 1)]
(n) (n 1) K (n 1)[ y(n) T (n) (n 1)]
P(n) P(n 1) K (n 1)T (n)P(n 1)
2016-11-25
控制理论与制导技术研究中心
第10页
Harbin Institute of Technology– HIT
第五讲 最小二乘参数估计的递推算法
内容提要：
一、问题的提出 二、递推算法结果 三、递推算法的推导过程 四、递推算法计算流程 五、初值的选取方法 六、递推算法的仿真试验
例一、稳定的被控对象 例二、不稳定的被控对象
2016-11-25
控制理论与制导技术研究中心
第2页
Harbin Institute of Technology– HIT
2016-11-25
控制理论与制导技术研究中心
第6页
Harbin Institute of Technology– HIT
2016-11-25
控制理论与制导技术研究中心
第7页
Harbin Institute of Technology– HIT
三、递推算法计算流程
(0), P(0)
y(1), u (1)
600
第27页
1
1 0.8 0.6 0.4 0.2
0 -0.2 -0.40
2016-11-25
Harbin Institute of Technology– HIT Estimation
100 200 300 400 500 Step
图15. 辨识结果
控制理论与制导技术研究中心
600
第28页
2
K (N ) P(N )(N 1)[1 T (N 1)P(N )(N 1)]1
P(N 1) P(N ) P(N )(N 1)[1 T (N 1)P(N )(N 1)]1T (N 1)P(N )
(N 1) (N ) K (N )[ y(n N 1) T (N 1) (N )]
Harbin Institute of Technology– HIT Output-Signal
5
10
15
Time (Seconds)
图12. 输出信号
控制理论与制导技术研究中心
20
第25页
1
0 -0.5
-1 -1.5
-2 -2.50
2016-11-25
Harbin Institute of Technology– HIT Estimation
Harbin Institute of Technology– HIT Estimation
200
400
600
(3) (2) K (2)[ y(3) T (3) (2)]
P(3) P(2) K (2)T (3)P(2)
2016-11-25
控制理论与制导技术研究中心
第9页
Harbin Institute of Technology– HIT
y(n), u (n)
K (n 1) P(n 1)(n)[1 T (n)P(n 1)(n)]1
K (0) P (0) (1)[1 T (1) P (0) (1)]1
(1) (0) K (0)[ y(1) T (1) (0)]
P(1) P(0) K (0)T (1)P(0)
2016-11-25
控制理论与制导技术研究中心
第8页
Harbin Institute of Technology– HIT
控制理论与制导技术研究中心
1000
1200
第19页
1
1.2 1
0.8 0.6 0.4 0.2
0 -0.2
0
2016-11-25
Harbin Institute of Technology– HIT Estimation
50 100 150 200 250 300 Step
图8. 参数的在线收敛过程 控制理论与制导技术研究中心
G(z)
0.45z 0.23 z2 1.83z 0.82
y(k) 1.83y(k 1) 0.82 y(k 2) 0.45u(k 1) 0.23u(k 2)
2016-11-25
控制理论与制导技术研究中心
第23页
Amplitude
2 1.5
1 0.5
0 -0.5
-1 -1.5
K (N ) P(N )(N 1)[1 T (N 1)P(N )(N 1)]1
P(N 1) P(N ) K (N )T (N 1)P(N )
2016-11-25
控制理论与制导技术研究中心
第5页
Harbin Institute of Technology– HIT
为了确保P(N)的对称性
Estimation 0
-0.5
1
-1
-1.5 0
2016-11-25
100
200
300
400
500
Step
图4. 参数的在线收敛过程
控制理论与制导技术研究中心
第16页
0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
0 0
2016-11-25
2
Harbin Institute of Technology– HIT Estimation
一、问题的提出
• 最小二乘标准算法的不足： – 不方便用于“在线”辨识，不方便用于“慢时变”
的被控对象；
– 计算量很大，占用大量硬件资源（内存）； – 许多计算都是重复的。
2016-11-25
控制理论与制导技术研究中心
第3页
Harbin Institute of Technology– HIT
• 递推算法的基本思想：
y(2), u (2)
K(1) P(1)(2)[1 T (2)P(1)(2)]1
(2) (1) K (1)[ y(2) T (2) (1)] P ( 2 ) P (1) K (1) T ( 2 ) P (1)
y(3), u (3)
K (2) P(2)(3)[1 T (3)P(2)T (3)]1
图6. 参数的在线收敛过程
控制理论与制导技术研究中心
第18页
1
1.2 1
0.8 0.6 0.4 0.2
0 -0.2 -0.40
2016-11-25
Harbin Institute of Technology– HIT Estimation
200 400 600 800 Step
图7. 参数的在线收敛过程
-2 0
2016-11-25
Harbin Institute of Technology– HIT Input-Signal
5
10
15
Time (Seconds)
图11. 输入信号
控制理论与制导技术研究中心
20
第24页
Amplitude
2 x 1078 0 -2 -4 -6 -80
2016-11-25
200 400 600 800 Step
图5. 参数的在线收敛过程
控制理论与制导技术研究中心
1000
1200 第17页
Harbin Institute of Technology– HIT
2
0.7 0.6 0.5 0.4 0.3 0.2 0.1
0源自文库0
2016-11-25
Estimation
50 100 150 200 250 300 350 Step
四、初值的选取方法
1. 用最小二乘的封闭形式计算 P0 ( N 0 ) ， ˆ0 ( N 0 ) ；
2. 人为给初值 P0 2 I ， 足够大；ˆ0 0 。
2016-11-25
控制理论与制导技术研究中心
第11页
Harbin Institute of Technology– HIT