A第10章 模型结构辨识_60605661
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
式中，数据矩阵和输出向量定义为
T hn (1) T hn (2) Hn , T hn ( L)
z n [z(1), z(2), , z( L)]T
模型阶次为 n 时，输出残差向量可写成
ˆ χ v εn zn H nθ n n n
10.1 SISO 模型结构辨识
10.1.1 利用残差的方差估计模型的阶次 1、残差方差分析 考虑如下模型
A( z 1 ) z( k ) B( z 1 )u( k ) v( k )
式中，u(k)和 z(k) 分别为模型输入和输出变量；v(k) 是均值为零、方差为 v2 的 不相关随机噪声； A( z 1 ) 和 B( z 1 ) 为迟延算子多项式，记作
； 型阶次为 n
② 引进统计量
t (n1 , n2 ) V (n1 ) V (n2 ) L 2n2 ~ F 2(n2 n1 ), L 2n2 V (n2 ) 2(n2 n1 )
t 服从 F 分布，自由度为 2(n2 n1 ) 和 L 2n2 ； ③ 设零假设 H0 : n2 n1 1 n1 n0 ，取风险水平 5% ，对应的阈值
i ,i 1,2,, N 为 N 个独立的模型参数；e(k ) 为模型噪声。为了确定这类模型的
独立参数个数(相当于模型阶次)，Akaike 引进如下准则
) 2N AIC( N ) 2 log L(
其中，N 是模型的参数个数
N dim θ θ [1 , 2 ,
H 0 n( n : 1n ，其中 t 为风险水平 下的阈值。这时过程模型的阶次估 ) 0
计值可取 n 1 。
t , 拒 绝 H0 m( : m 〕 t , 接 受 若 t (m, m 1〕 ) m , 0 而 t ( m, m 1
H0
m (
m : 1m ，其中 t 为风险水平 下的阈值。这时噪声模型的阶次估 ) 0
t F 2(n2 n1 ), L 2n2 F 2, L 2n1 2 ；
④ 按下式判断模型阶次
拒绝 H0 : n1 n0 t (n1 , n1 1) t , t (n1 1, n1 2) t , 接受 H 0 : n1 1 n0
计值可取 m 1 。 10.1.2 利用 Akaike 准则估计模型的阶次 1、Akaike 准则 考虑如下线性模型
z( k ) h1 ( k ) 1 h2 ( k ) 2 hN ( k ) N e( k )
其中 z ( k ) 为模型输出； hi (k ),i 1,2,, N 为 N 个独立的模型输入变量；
A( z 1 ) 1 a1 z 1 a2 z 2 an z n 1 1 2 n B( z ) b1 z b2 z bn z
其中，n 为模型阶次。 将模型写成最小二乘格式
T z( k ) hn ( k ) n v( k )
的增加而增大，这时 AIC 准则呈现下降趋势。当模型阶次 N 超过真实阶次 N 0
ˆ ) 增长的趋势将大大放慢，这是因为模型已经接近真实系统， 时，似然函数 L(θ
ˆ ) 不再会有大的变化。 ˆ ) 的增 似然函数 L(θ 这时 N 的增加速度会超过似然函数 L(θ
长速度，从而使 AIC 准则呈现上升趋势。为此，AIC 准则一定存在极小值，如 图 10-2 所示。 AIC(N) 极小点
A( z 1 ) 1 a1 z 1 a2 z 2 ana z na 1 1 2 nb B( z ) b1 z b2 z bnb z D( z 1 ) 1 d z 1 d z 2 d z nd 1 2 nd
, N ]T
ˆ 条件下的似然函数。这个准则通常称为 AIC (Akaike Information ˆ) 是 θ L( θ
Criterion)准则。当 AIC ( N ) m in 时，对应的 N 可为模型相对合理的阶次估计值。 下面对 AIC 准则作定性解释：
5
ˆ ) 将随着 N 当模型阶次 N 低于真实阶次 N 0 时，AIC 准则中的似然函数 L(θ
式中
~ n H n0 n0 H n n T vn [v (1), v (2),, v ( L)]
且残差的方差具有如下性质
1 T 1 T 1 T P lim V (n) P lim εn εn P lim χ n χ n +P lim vn vn L L L L L L L
其中， na 和 nb 为模型阶次。 依据所给条件，可导出 FPE 准则为
FPE(na , nb ) L (na nb ) 2 v L (na nb )
ˆ2 式中， v 为噪声方差估计值。选择使 FPE(n a , nb ) 达到最小的 na , nb 作为模型
N0 图 10-2 AIC 准则定性解释
N
以使 AIC 准则达到极小ቤተ መጻሕፍቲ ባይዱ N 作为模型阶次的估计值， 或者说以此确定模型 的独立参数个数。这种模型阶次辨识方法称作 AIC 定阶法。 2、AIC 定阶法 (1) 白噪声情况 考虑如下模型
A( z 1 ) z( k ) B( z 1 )u( k ) v( k )
其中， na 、nb 和 nd 为模型阶次。 依据所给条件，可导出 AIC 准则为
2 AIC(na , nb , nd ) L log v 2(na nb nd )
ˆ2 式中， v 为噪声方差估计值。 选择使 AIC(n a , nb , n d ) 达到最小的 n a 、nb 和 nb
式中，数据向量和参数向量定义为
hn ( k ) [ z( k 1), u( k 1), , z( k n), u( k n)] T T n [a1 , b1 , , a n , bn ]
运用最小二乘原理，可获得模型参数 θn 的最小二乘估计为
2
ˆ ( H T H )1 H T z θ n n n n n
其中， na 和 nb 为模型阶次． 依据所给条件，可导出 AIC 准则为
6
2 AIC(na , nb ) L log v 2(na nb )
ˆ2 式中， v 为噪声方差估计值。选择使 AIC(n a , n b ) 达到最小的 na , nb 作为模型
的阶次。 (2)有色噪声情况 考虑如下模型
A( z 1 ) z( k ) B( z 1 )u( k ) D( z 1 )v( k )
式中，u(k)和 z(k) 为模型输入和输出变量；v(k) 是均值为零、方差为 v2 、服从 正态分布的白噪声； A( z 1 ) 、 B( z 1 ) 和 D( z 1 ) 为迟延算子多项式，记作
式中，u(k)和 z(k) 分别为模型输入和输出变量；v(k) 是均值为零、方差为 v2 、 服从正态分布的不相关随机噪声； A( z 1 ) 和 B( z 1 ) 为迟延算子多项式，记作
A( z 1 ) 1 a1 z 1 a2 z 2 ana z na 1 1 2 nb B( z ) b1 z b2 z bnb z
7
考虑如下模型
A( z 1 ) z( k ) B( z 1 )u( k ) v( k )
式中，u(k)和 z(k) 分别为模型输入和输出变量；v(k) 是均值为零、方差为 v2 的 不相关随机噪声； A( z 1 ) 和 B( z 1 ) 为迟延算子多项式，记作
A( z 1 ) 1 a1 z 1 a2 z 2 ana z na 1 1 2 nb B( z ) b1 z b2 z bnb z
课程名称： 《系统辨识理论与实践》
（Theory and Practice of System Identification）
Part IV 辨识实践
第 10 章 模型结构辨识
10.1 SISO 模型结构辨识
10.1.1 利用残差的方差估计模型的阶次 1、残差方差分析 2、F-Test 定阶法 10.1.2 利用 Akaike 准则估计模型的阶次 1、Akaike 准则 2、AIC 定阶法 10.1.3 利用最终预报误差准则估计模型的阶差 1、白噪声情况 2、有色噪声情况
式中，u(k)和 z(k) 分别为模型输入和输出变量；v(k) 是均值为零、方差为 v2 的 不相关随机噪声； n 和 m 为模型阶次。 ① 引进统计量
V ( n, m) V (n 1, m) L 2n 2 ~ F ( 2, L 2n 2) V ( n 1, m) 2 V (n, m) V (n, m 1) L 2m 2 t ( m, m 1) ~ F (2, L 2n 2) V (n, m 1) 2 t ( n, n 1)
作为模型的阶次。 10.1.3 利用最终预报误差准则估计模型的阶次 AIC 定阶法需要确定似然函数，这就要求模型噪声的概率分布必须已知。 如果模型噪声的概率分布无法知道，则需要用最终预报误差准则来估计模型的 阶次。应该说，“最好”的模型能给出“最好”的输出预报值，也就说最终预 报误差准则达到最小的模型是“最好”的模型。根据这一道理，模型阶次逐一 增加时， 当最终预报误差准则达到最小时， 对应的阶次可当作模型阶次估计值。 这种模型阶次辨识方法称作 FPE 定阶法。 1、白噪声情况
10.2 MIMO 模型结构辨识
1
Part IV 辨识实践
第 10 章 模型结构辨识
各种模型参数辨识方法一般需要假定模型的结构已知，实际上在多数情况 下这是不现实的。当没有模型结构的先验知识时，需要利用系统的输入输出数 据来确定模型的结构， 这就是所谓的模型结构辨识问题。 对单输入单输出(SISO) 系统来说，模型结构辨识也就是确定模型的阶次；对多输入多输出(MIMO) 系 统来说，模型结构辨识也就是确定模型的结构参数。
4
m m 0，取风险水平 ② 设零假设 H0 (n ) : n 1 n n 0 和 H 0 m ( ) :m 1
5% ，对应的阈值 t F (2, L) 。
③ 按下式判断模型阶次
t , 拒 绝 H 0 若 t (n, n 1〕
n(
t , 接 受 :n , 0而 t (n, n 1〕 ) n
ˆ n1 1 。 这时模型阶次的估计值应为 n
（2）有色噪声过程的 F-Test 定阶法 考虑如下模型
n n z ( k ) a z ( k i ) biu (k i ) e(k ) i i 1 i 1 m m e( k ) c e( k i ) v ( k ) d v ( k i ) i i i 1 i 1
它呈现如下的变化特性 V(n) 显著下降点
2 v
n0 图 10-1 残差方差的变化趋势 2、F-Test 定阶法 （1）白噪声过程的 F-Test 定阶法
n
通过观察残差方差 V (n) 的变化情况，可确定模型的阶次，具体步骤：
3
时，若 V (n ˆ ) 呈现显著下降，则确认模 ① 阶次 n 逐一增加，当 n 增加至 n
T hn (1) T hn (2) Hn , T hn ( L)
z n [z(1), z(2), , z( L)]T
模型阶次为 n 时，输出残差向量可写成
ˆ χ v εn zn H nθ n n n
10.1 SISO 模型结构辨识
10.1.1 利用残差的方差估计模型的阶次 1、残差方差分析 考虑如下模型
A( z 1 ) z( k ) B( z 1 )u( k ) v( k )
式中，u(k)和 z(k) 分别为模型输入和输出变量；v(k) 是均值为零、方差为 v2 的 不相关随机噪声； A( z 1 ) 和 B( z 1 ) 为迟延算子多项式，记作
； 型阶次为 n
② 引进统计量
t (n1 , n2 ) V (n1 ) V (n2 ) L 2n2 ~ F 2(n2 n1 ), L 2n2 V (n2 ) 2(n2 n1 )
t 服从 F 分布，自由度为 2(n2 n1 ) 和 L 2n2 ； ③ 设零假设 H0 : n2 n1 1 n1 n0 ，取风险水平 5% ，对应的阈值
i ,i 1,2,, N 为 N 个独立的模型参数；e(k ) 为模型噪声。为了确定这类模型的
独立参数个数(相当于模型阶次)，Akaike 引进如下准则
) 2N AIC( N ) 2 log L(
其中，N 是模型的参数个数
N dim θ θ [1 , 2 ,
H 0 n( n : 1n ，其中 t 为风险水平 下的阈值。这时过程模型的阶次估 ) 0
计值可取 n 1 。
t , 拒 绝 H0 m( : m 〕 t , 接 受 若 t (m, m 1〕 ) m , 0 而 t ( m, m 1
H0
m (
m : 1m ，其中 t 为风险水平 下的阈值。这时噪声模型的阶次估 ) 0
t F 2(n2 n1 ), L 2n2 F 2, L 2n1 2 ；
④ 按下式判断模型阶次
拒绝 H0 : n1 n0 t (n1 , n1 1) t , t (n1 1, n1 2) t , 接受 H 0 : n1 1 n0
计值可取 m 1 。 10.1.2 利用 Akaike 准则估计模型的阶次 1、Akaike 准则 考虑如下线性模型
z( k ) h1 ( k ) 1 h2 ( k ) 2 hN ( k ) N e( k )
其中 z ( k ) 为模型输出； hi (k ),i 1,2,, N 为 N 个独立的模型输入变量；
A( z 1 ) 1 a1 z 1 a2 z 2 an z n 1 1 2 n B( z ) b1 z b2 z bn z
其中，n 为模型阶次。 将模型写成最小二乘格式
T z( k ) hn ( k ) n v( k )
的增加而增大，这时 AIC 准则呈现下降趋势。当模型阶次 N 超过真实阶次 N 0
ˆ ) 增长的趋势将大大放慢，这是因为模型已经接近真实系统， 时，似然函数 L(θ
ˆ ) 不再会有大的变化。 ˆ ) 的增 似然函数 L(θ 这时 N 的增加速度会超过似然函数 L(θ
长速度，从而使 AIC 准则呈现上升趋势。为此，AIC 准则一定存在极小值，如 图 10-2 所示。 AIC(N) 极小点
A( z 1 ) 1 a1 z 1 a2 z 2 ana z na 1 1 2 nb B( z ) b1 z b2 z bnb z D( z 1 ) 1 d z 1 d z 2 d z nd 1 2 nd
, N ]T
ˆ 条件下的似然函数。这个准则通常称为 AIC (Akaike Information ˆ) 是 θ L( θ
Criterion)准则。当 AIC ( N ) m in 时，对应的 N 可为模型相对合理的阶次估计值。 下面对 AIC 准则作定性解释：
5
ˆ ) 将随着 N 当模型阶次 N 低于真实阶次 N 0 时，AIC 准则中的似然函数 L(θ
式中
~ n H n0 n0 H n n T vn [v (1), v (2),, v ( L)]
且残差的方差具有如下性质
1 T 1 T 1 T P lim V (n) P lim εn εn P lim χ n χ n +P lim vn vn L L L L L L L
其中， na 和 nb 为模型阶次。 依据所给条件，可导出 FPE 准则为
FPE(na , nb ) L (na nb ) 2 v L (na nb )
ˆ2 式中， v 为噪声方差估计值。选择使 FPE(n a , nb ) 达到最小的 na , nb 作为模型
N0 图 10-2 AIC 准则定性解释
N
以使 AIC 准则达到极小ቤተ መጻሕፍቲ ባይዱ N 作为模型阶次的估计值， 或者说以此确定模型 的独立参数个数。这种模型阶次辨识方法称作 AIC 定阶法。 2、AIC 定阶法 (1) 白噪声情况 考虑如下模型
A( z 1 ) z( k ) B( z 1 )u( k ) v( k )
其中， na 、nb 和 nd 为模型阶次。 依据所给条件，可导出 AIC 准则为
2 AIC(na , nb , nd ) L log v 2(na nb nd )
ˆ2 式中， v 为噪声方差估计值。 选择使 AIC(n a , nb , n d ) 达到最小的 n a 、nb 和 nb
式中，数据向量和参数向量定义为
hn ( k ) [ z( k 1), u( k 1), , z( k n), u( k n)] T T n [a1 , b1 , , a n , bn ]
运用最小二乘原理，可获得模型参数 θn 的最小二乘估计为
2
ˆ ( H T H )1 H T z θ n n n n n
其中， na 和 nb 为模型阶次． 依据所给条件，可导出 AIC 准则为
6
2 AIC(na , nb ) L log v 2(na nb )
ˆ2 式中， v 为噪声方差估计值。选择使 AIC(n a , n b ) 达到最小的 na , nb 作为模型
的阶次。 (2)有色噪声情况 考虑如下模型
A( z 1 ) z( k ) B( z 1 )u( k ) D( z 1 )v( k )
式中，u(k)和 z(k) 为模型输入和输出变量；v(k) 是均值为零、方差为 v2 、服从 正态分布的白噪声； A( z 1 ) 、 B( z 1 ) 和 D( z 1 ) 为迟延算子多项式，记作
式中，u(k)和 z(k) 分别为模型输入和输出变量；v(k) 是均值为零、方差为 v2 、 服从正态分布的不相关随机噪声； A( z 1 ) 和 B( z 1 ) 为迟延算子多项式，记作
A( z 1 ) 1 a1 z 1 a2 z 2 ana z na 1 1 2 nb B( z ) b1 z b2 z bnb z
7
考虑如下模型
A( z 1 ) z( k ) B( z 1 )u( k ) v( k )
式中，u(k)和 z(k) 分别为模型输入和输出变量；v(k) 是均值为零、方差为 v2 的 不相关随机噪声； A( z 1 ) 和 B( z 1 ) 为迟延算子多项式，记作
A( z 1 ) 1 a1 z 1 a2 z 2 ana z na 1 1 2 nb B( z ) b1 z b2 z bnb z
课程名称： 《系统辨识理论与实践》
（Theory and Practice of System Identification）
Part IV 辨识实践
第 10 章 模型结构辨识
10.1 SISO 模型结构辨识
10.1.1 利用残差的方差估计模型的阶次 1、残差方差分析 2、F-Test 定阶法 10.1.2 利用 Akaike 准则估计模型的阶次 1、Akaike 准则 2、AIC 定阶法 10.1.3 利用最终预报误差准则估计模型的阶差 1、白噪声情况 2、有色噪声情况
式中，u(k)和 z(k) 分别为模型输入和输出变量；v(k) 是均值为零、方差为 v2 的 不相关随机噪声； n 和 m 为模型阶次。 ① 引进统计量
V ( n, m) V (n 1, m) L 2n 2 ~ F ( 2, L 2n 2) V ( n 1, m) 2 V (n, m) V (n, m 1) L 2m 2 t ( m, m 1) ~ F (2, L 2n 2) V (n, m 1) 2 t ( n, n 1)
作为模型的阶次。 10.1.3 利用最终预报误差准则估计模型的阶次 AIC 定阶法需要确定似然函数，这就要求模型噪声的概率分布必须已知。 如果模型噪声的概率分布无法知道，则需要用最终预报误差准则来估计模型的 阶次。应该说，“最好”的模型能给出“最好”的输出预报值，也就说最终预 报误差准则达到最小的模型是“最好”的模型。根据这一道理，模型阶次逐一 增加时， 当最终预报误差准则达到最小时， 对应的阶次可当作模型阶次估计值。 这种模型阶次辨识方法称作 FPE 定阶法。 1、白噪声情况
10.2 MIMO 模型结构辨识
1
Part IV 辨识实践
第 10 章 模型结构辨识
各种模型参数辨识方法一般需要假定模型的结构已知，实际上在多数情况 下这是不现实的。当没有模型结构的先验知识时，需要利用系统的输入输出数 据来确定模型的结构， 这就是所谓的模型结构辨识问题。 对单输入单输出(SISO) 系统来说，模型结构辨识也就是确定模型的阶次；对多输入多输出(MIMO) 系 统来说，模型结构辨识也就是确定模型的结构参数。
4
m m 0，取风险水平 ② 设零假设 H0 (n ) : n 1 n n 0 和 H 0 m ( ) :m 1
5% ，对应的阈值 t F (2, L) 。
③ 按下式判断模型阶次
t , 拒 绝 H 0 若 t (n, n 1〕
n(
t , 接 受 :n , 0而 t (n, n 1〕 ) n
ˆ n1 1 。 这时模型阶次的估计值应为 n
（2）有色噪声过程的 F-Test 定阶法 考虑如下模型
n n z ( k ) a z ( k i ) biu (k i ) e(k ) i i 1 i 1 m m e( k ) c e( k i ) v ( k ) d v ( k i ) i i i 1 i 1
它呈现如下的变化特性 V(n) 显著下降点
2 v
n0 图 10-1 残差方差的变化趋势 2、F-Test 定阶法 （1）白噪声过程的 F-Test 定阶法
n
通过观察残差方差 V (n) 的变化情况，可确定模型的阶次，具体步骤：
3
时，若 V (n ˆ ) 呈现显著下降，则确认模 ① 阶次 n 逐一增加，当 n 增加至 n