[课件]气象统计方法 第五章 多元线性回归分析PPT
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
b b
p
预报量的观测值与回归值之差的内积就 是它们的分量的差值平方和，即
ˆˆ Q ( y y ) ( y y ) () y X b ( y X b ) y y b X y y X b b X X b
Q b 0 0 Q b 0 1 Q 0 b p
气象统计方法 第五章 多 元线性回归分析
第五章 多元线性回归 （huang36）
本章主要内容
概述 回归模型 回归系数的最小二乘估计 方差分析 回归方程显著性检验 预报因子显著性检验 复相关系数 预报步骤
一、概述
1. 意义 在气象统计预报中，寻找与预报量线性关 系很好的单个因子是不够的，实际上某个气 象要素的变化可能和前期多个因子有关，因 此大部分气象统计预报中的回归分析都是用 多元回归技术进行。
2.基本概念 多元回归就是研究一个预报量和多个预 报因子之间的关系。主要讨论较为简单 的多元线性回归。其分析原理与一元线 性回归分析完全相同。
二、回归模型
假定预报量y与p个预报因子关系是线性， 为研究它们之间的联系作n次抽样，则可得 到如下结构表达式：
px e y 1 0 1x 11 2x 1 2 1p 1 (1) y x x px e 2 0 1 2 1 2 2 2 2p 2 y px e 0 1x n 1 2x n 2 n p n n
x i 是p个 其中， i 为p+1个待估计参数，
一般变量， e i是随机误差（相互独立变
2 量），服从 N(0, 正态分布。上述模型 ) 还可以写为：
(2) y X e
其中，
y1 y y 2 yn
β
补充用矢量和 矩阵形式表示的函数的微分
( b X Xb ) 2 X Xb b
补充 矩阵和向量形式表示的 函数的微分
设x 为 n1 列向量，a为 n1 列向 量，
f x a a x
为
x i 的函数，则f 对x的偏微分记为
f f f f ( ) x x x x 1 2 n
1）如果x、a及f如上面定义，则有
第2/3项， x---b X’y----a 2）如果x如上面定义，令 f ，则 x x
f a x
f 2x x
3）如果A为 n 对称阵，则 n
f x Ax
对x的偏微分为
(x Ax ) 2 Ax x
第四项
特别注意
当矩阵和向量的运算结果是一行一列的矩 阵时，可以表示一个多元函数； 多元函数的值域是一个数量，当它表达（x1, x2 …,xm) 有规则运算时，用向量和矩阵运算比 较方便。 当多元函数f(x1, x2 …,xm)表示（x1, x2 …,xm) 有规则运算时，它对（ x1, x2 …,xm ）的偏导也 是有规则的，可用多元函数f(X)对向量X的导数 一并表示。
的要求的回归系数，应是使全部的预报量观测值与回 归估计值的差值平方和达到最小。即满足
2 ˆ Q (y i y i) i 1 n
最Baidu Nhomakorabea。
基本条件
对一组样本资料，预报值的估计可以看成 为一个向量，记为 yˆ 1
yˆ yˆ yˆ
2
n
满足（3）的回归方程，也可以写为矩阵形式， 即 y ，其中，X就是因子矩阵，b为回 ˆ Xb 归系数，即 b0 b 回归估计方程组的矩阵形式 1
0 1
p
e1 e e 2 en
都是向量。X是因子矩阵，即
1 1 X 1 x11 x21 xn1 x1 p x2 p xnp
我们得到的是一组实测p个变量的样本，利 用这组样本（n 次抽样）对上述回归模型进行 估计，得到的估计方程为多元线性回归估计方 程，记为：
根据微分学原理，有
可以写成向量的形式
Q ( y y ) ( b X y ) ( y Xb ) ( b X Xb ) 0 b b b b b
=0
( b X y ) ( y Xb ) X y b b
前面的式子是采用向量和矩阵的运算 表示多元函数及多元函数对自变量的导 数，不能说成“矩阵和向量的求导”， 因为只有函数才能对它的自变量求导数。
通过分析其向量形式可得到求回归系数 的标准方程组矩阵形式，即 (4) X Xb X y 展开为 nb b x b x y
ˆ y b b x b x b x 0 1 1 2 2 p p (3)
其中， 它们。 的估计值，下面讨论如何确定 b是 i i
三、回归系数最小二乘估计
和一元线性回归类似，在样本容量为n的y 预报量和因子变量x的实测值中，满足线性回 归方程
ˆ y b b x b x b x i 1 ~ n i 0 1 i 1 2 i 2 p ip
n n n 0 1 i1 p ip i
i 1 i 1 i 1 n n n n 2 b0 x i1 b1 x i1 b p x i1 x ip x i1 y i i 1 i 1 i 1 i 1 n n n n b0 x i 2 b1 x i 2 x i1 b p x i 2 x ip x i 2 y i i 1 i 1 i 1 i 1 n n n n 2 b x ip b1 x ip x i1 b p x ip x ip y i 0 i 1 i 1 i 1 i 1
p
预报量的观测值与回归值之差的内积就 是它们的分量的差值平方和，即
ˆˆ Q ( y y ) ( y y ) () y X b ( y X b ) y y b X y y X b b X X b
Q b 0 0 Q b 0 1 Q 0 b p
气象统计方法 第五章 多 元线性回归分析
第五章 多元线性回归 （huang36）
本章主要内容
概述 回归模型 回归系数的最小二乘估计 方差分析 回归方程显著性检验 预报因子显著性检验 复相关系数 预报步骤
一、概述
1. 意义 在气象统计预报中，寻找与预报量线性关 系很好的单个因子是不够的，实际上某个气 象要素的变化可能和前期多个因子有关，因 此大部分气象统计预报中的回归分析都是用 多元回归技术进行。
2.基本概念 多元回归就是研究一个预报量和多个预 报因子之间的关系。主要讨论较为简单 的多元线性回归。其分析原理与一元线 性回归分析完全相同。
二、回归模型
假定预报量y与p个预报因子关系是线性， 为研究它们之间的联系作n次抽样，则可得 到如下结构表达式：
px e y 1 0 1x 11 2x 1 2 1p 1 (1) y x x px e 2 0 1 2 1 2 2 2 2p 2 y px e 0 1x n 1 2x n 2 n p n n
x i 是p个 其中， i 为p+1个待估计参数，
一般变量， e i是随机误差（相互独立变
2 量），服从 N(0, 正态分布。上述模型 ) 还可以写为：
(2) y X e
其中，
y1 y y 2 yn
β
补充用矢量和 矩阵形式表示的函数的微分
( b X Xb ) 2 X Xb b
补充 矩阵和向量形式表示的 函数的微分
设x 为 n1 列向量，a为 n1 列向 量，
f x a a x
为
x i 的函数，则f 对x的偏微分记为
f f f f ( ) x x x x 1 2 n
1）如果x、a及f如上面定义，则有
第2/3项， x---b X’y----a 2）如果x如上面定义，令 f ，则 x x
f a x
f 2x x
3）如果A为 n 对称阵，则 n
f x Ax
对x的偏微分为
(x Ax ) 2 Ax x
第四项
特别注意
当矩阵和向量的运算结果是一行一列的矩 阵时，可以表示一个多元函数； 多元函数的值域是一个数量，当它表达（x1, x2 …,xm) 有规则运算时，用向量和矩阵运算比 较方便。 当多元函数f(x1, x2 …,xm)表示（x1, x2 …,xm) 有规则运算时，它对（ x1, x2 …,xm ）的偏导也 是有规则的，可用多元函数f(X)对向量X的导数 一并表示。
的要求的回归系数，应是使全部的预报量观测值与回 归估计值的差值平方和达到最小。即满足
2 ˆ Q (y i y i) i 1 n
最Baidu Nhomakorabea。
基本条件
对一组样本资料，预报值的估计可以看成 为一个向量，记为 yˆ 1
yˆ yˆ yˆ
2
n
满足（3）的回归方程，也可以写为矩阵形式， 即 y ，其中，X就是因子矩阵，b为回 ˆ Xb 归系数，即 b0 b 回归估计方程组的矩阵形式 1
0 1
p
e1 e e 2 en
都是向量。X是因子矩阵，即
1 1 X 1 x11 x21 xn1 x1 p x2 p xnp
我们得到的是一组实测p个变量的样本，利 用这组样本（n 次抽样）对上述回归模型进行 估计，得到的估计方程为多元线性回归估计方 程，记为：
根据微分学原理，有
可以写成向量的形式
Q ( y y ) ( b X y ) ( y Xb ) ( b X Xb ) 0 b b b b b
=0
( b X y ) ( y Xb ) X y b b
前面的式子是采用向量和矩阵的运算 表示多元函数及多元函数对自变量的导 数，不能说成“矩阵和向量的求导”， 因为只有函数才能对它的自变量求导数。
通过分析其向量形式可得到求回归系数 的标准方程组矩阵形式，即 (4) X Xb X y 展开为 nb b x b x y
ˆ y b b x b x b x 0 1 1 2 2 p p (3)
其中， 它们。 的估计值，下面讨论如何确定 b是 i i
三、回归系数最小二乘估计
和一元线性回归类似，在样本容量为n的y 预报量和因子变量x的实测值中，满足线性回 归方程
ˆ y b b x b x b x i 1 ~ n i 0 1 i 1 2 i 2 p ip
n n n 0 1 i1 p ip i
i 1 i 1 i 1 n n n n 2 b0 x i1 b1 x i1 b p x i1 x ip x i1 y i i 1 i 1 i 1 i 1 n n n n b0 x i 2 b1 x i 2 x i1 b p x i 2 x ip x i 2 y i i 1 i 1 i 1 i 1 n n n n 2 b x ip b1 x ip x i1 b p x ip x ip y i 0 i 1 i 1 i 1 i 1