数学建模——线性回归分析幻灯片

2021/5/17
zhaoswallow
12
1、一元线性回归
一元线性回归模型为
No y 0 1x
（1）
其中x是自变量，y是因变量，
0
,
为未知的待定常数，
1
Image 称为回归系数，是随机误差，且假设 ~ N(0, 2)。
对(x,y)的一组观察值( x1, y1 ),( x2 , y2 ), ,( xn , yn )
得
2021/5/17
zhaoswallow
10
为了确定li和x1, , x8之间是否有线性关系，
还需要根据样本值运用假设检验来判断， 以确定求得的回归方程是否有价值。
在许多国际国内数学建模竞赛中，都有可能用到回归分析。因此， 我们介绍线性回归分析的基本原理，对模型好坏的评价指标，可线性化 的回归分析，利用统计软件的实现等具体问题。
5 135.44 135.37 135.33 135.41 135.41 136.72 136.02 139.66 137.98 132.04 134.21 133.28 134.75 135.57 135.97 135.06
6 157.69 160.76 159.98 166.81 163.64 157.22 157.5 156.59 156.96 153.6 156.23 155.09 156.77 157.2 156.31 158.26
2021/5/17
zhaoswallow
11
二、回归分析方法
• 回归分析是研究一个或一组变量〔因变量， ‘结果’〕与另一些变量〔自变量或回归变量， ‘原因’〕之间的依存关系。
• 在回归模型中，假设变量之间的关系是线性关 系，称为线性回归模型，否那么，称为非线性 回归模型。
• 当自变量只有一个，称为一元线性回归， 如果 自变量有多个，称为多元线性回归。
满足
yi 0 1 xi i，i 1，2， n
其中1, 2 , , n相互独立，且 i N (0, 2 )。
2021/5/17
zhaoswallow
13
一元线性回归
如何根据样本观察值(x ,y )(i=1, ii
,n)来求0, 1
的估计值ˆ0 , ˆ1？
通常采用最小二乘估计来做，也即选取
0
数学建模——线性回归分 析幻灯片
本课件PPT仅供大家学习使用 学习完请自行删除，谢谢！ 本课件PPT仅供大家学习使用 学习完请自行删除，谢谢！
一、引言
2004年全国数模竞赛的B题 “电力市场 的 输电阻塞管理〞 第一个问题： 某电网有8台发电机组，6条主要线路，表 1和表2中的方案0给出了各机组的当前出力和 各线路上对应的有功潮流值，方案1~32给出 了 围绕方案0的一些实验数据，试用这些数据确 定各线路上有功潮流关于各发电机组出力的近 似表达式。
2021/5/17
zhaoswallow
21
多元线性回归
y1 0 1 x11 2 x12
y2
0
1 x21
2 x22
yn 0 1 xn1 2 xn2
p x1 p 1 p x2 p 2
p xnp n
其中
，
1
相互独立，且
n
i ~ N (0, 2 ), i 1, 2, , n.
3 -144.25 -145.14 -144.92 -146.91 -145.92 -143.84 -144.07 -143.16 -143.49 -152.26 -147.08 -149.33 -145.82 -144.18 -144.03 -144.32
4 119.09 118.63 118.7 117.72 118.13 118.43 118.82 117.24 117.96 129.58 122.85 125.75 121.16 119.12 119.31 118.84
129.63 73
180
80
125
125
81.1
90
158.77 73
180
80
125
125
81.1
90
145.32 73
180
80
125
125
81.1
90
120
78.596 180
80
125
125
Байду номын сангаас
81.1
90
120
75.45
180
80
125
125
81.1
90
120
90.487 180
80
125
125
zhaoswallow
5
16
166.88
141.4
-144.34
118.67
134.67
159.28
17
164.07
143.03
-140.97
118.75
133.75
158.83
18
164.27
142.29
-142.15
118.85
134.27
158.37
19
164.57
141.44
-143.3
119
81.1
104.84
30
120
73
180
80
125
125
81.1
111.22
31
120
73
180
80
125
125
81.1
98.092
32
120
73
180
80
125
125
81.1
120.44
2021/5/17
zhaoswallow
4
表2 各线路的潮流值（各方案与表1相对应，单位：MW）
方案\线路 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
2021/5/17
zhaoswallow
7
由电网的拓扑构造，线路上的有功潮流由机 组出力决定。又根据功率的叠加原理，各线路 上有功潮流应为各发电机组出力的线性组合， 考虑对所有实验数据采用最小二乘法进展线性 拟合，从而得到各线路有功潮流关于各发电机 组出力的近似表达式。
2021/5/17
zhaoswallow
136.55
157.59
24
167.69
138.07
-144.14
119.19
137.11
157.65
25
162.21
141.21
-144.13
116.03
135.5
154.26
26
163.54
141
-144.16
117.56
135.44
155.93
27
162.7
141.14
-144.21
116.74
2021/5/17
zhaoswallow
2
表1 各机组出力方案 （单位：兆瓦，记作MW
）
方案\机组 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17
1
2
3
4
5
6
7
8
120
73
180
80
125
125
81.1
90
133.02 73
180
80
125
125
81.1
90
,
的估
1
计值ˆ0 , ˆ1使其随机误差的平方和达到最小，即
n
n
i1
( yi
ˆ0
ˆ1 xi )2
min
0 ,1
i 1
(
yi
0
1xi )2
2021/5/17
zhaoswallow
14
一元线性回归
令
n
Q(0 , 1 ) ( yi 0 1 xi )2 i 1
则
Q
0
n
2 ( yi
i 1
0
1xi )
称作y关于x的一元经验回归方程。
n
n
记
L xx
( xi x )2 , Lxy
( xi x)( yi y),
i 1
i 1
则有如下结论
(1)ˆ0
N
(
0
,
(
1 n
x2 Lxx
)
2 );
2021/5/17
zhaoswallow
18
一元线性回归
(2)ˆ1
N
(1
,
2
Lxx
);
(3)Cov(ˆ0
,
ˆ1
125
81.1
90
120
73
180
65.958 125
125
81.1
90
120
73
180
87.258 125
125
81.1
90
120
73
180
97.824 125
125
81.1
90
120
73
180
80
150.71 125
81.1
90
2021/5/17
zhaoswallow
3
18
120
73
180
80
135.29
157.61
32
164.69
143.84
-150.34
121.34
135.12
157.64
2021/5/17
zhaoswallow
6
1、模型的分析
仔细分析题目，可以发现，该问题就是要找 出各线路上有功潮流与8台发电机出力的函数关 系，这在数学上是一个函数拟合问题。
对函数拟合，可以采用线性函数，也可以采 用非线性函数，比方多项式函数，三角函数，指 数函数等等。在给出具体问题的具体数据时，首 先想到的还是最简单的方法下手，采用最简单的 函数去拟合，也就是线性函数来表达。
90
24
120
73
180
80
125
149.29
81.1
90
25
120
73
180
80
125
125
60.582
90
26
120
73
180
80
125
125
70.962
90
27
120
73
180
80
125
125
64.854
90
28
120
73
180
80
125
125
75.529
90
29
120
73
180
80
125
125
2021/5/17
1 164.78 165.81 165.51 167.93 166.79 164.94 164.8 165.59 165.21 167.43 165.71 166.45 165.23 164.23 163.04 165.54
2 140.87 140.13 140.25 138.71 139.45 141.5 141.13 143.03 142.28 140.82 140.82 140.82 140.85 140.73 140.34 141.1
8
2、模型的建立与求解
设6条主要线路有功潮流为l1, l2 , l6 ,
8台机组出力分别为x1, x2 , x8 ,则
8
li ai0 aij x j , j1
i=1,2, ,6
其中，aij是待确定的系数。
2021/5/17
zhaoswallow
9
根据表1和表2围绕方案0的1--32组实验数 据，可以列出关于未知数的32个方程的方程 组，利用SAS或Matlab编程求解方程组，
141.58 125
81.1
90
19
120
73
180
80
132.37 125
81.1
90
20
120
73
180
80
156.93 125
81.1
90
21
120
73
180
80
125
138.88
81.1
90
22
120
73
180
80
125
131.21
81.1
90
23
120
73
180
80
125
141.71
81.1
y
xˆ1
ˆ1
n
xi yi n xy
i 1
n
xi2
2
nx
i 1
n
( xi x)( yi
i 1 n
( xi x)2
i 1
y)
参数的最小二乘估计
其中，
x
1 n
n i 1
xi ,
y
1 n
n i 1
yi
（3）
2021/5/17
zhaoswallow
17
一元线性回归
而 yˆ ˆ0 ˆ1 x
134.88
158.01
20
163.89
143.61
-140.25
118.64
133.28
159.12
21
166.35
139.29
-144.2
119.1
136.33
157.59
22
165.54
140.14 -144.19
119.09
135.81
157.67
23
166.75
138.95
-144.17
119.15
81.1
90
120
83.848 180
80
125
125
81.1
90
120
73
231.39 80
125
125
81.1
90
120
73
198.48 80
125
125
81.1
90
120
73
212.64 80
125
125
81.1
90
120
73
190.55 80
125
125
81.1
90
120
73
180
75.857 125
)
x Lxx
2
显然，ˆ0，ˆ1分别是 0， 1 ,的无偏估计量。
2021/5/17
zhaoswallow
19
一元线性回归
下面来求 2的估计。
记
yˆi ˆ0 ˆ1 xi
yi yˆi称为xi的残差,
n
n
( yi yˆi )2
( yi ˆ0 ˆ1 xi )2
令 ˆ 2 i1
i1
n2
n2
（4）
则ˆ 2是 2的无偏估计量。
2021/5/17
zhaoswallow
20
2、多元线性回归
模型为：
y 0 1 x1
n xn
（5）
其中 N (0, 2 ), 0 , 1, , n , 2是未知参数。
设（xi1, xi2, , xip , yi）(i 1, , n)是( x1, x2 , , x p , y) 的n个观察值，满足
0
Q
1