Matlab多元线性回归.pdf
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
达到最小。
⎧
∑ ⎪⎪
⎨ ⎪
∑ ⎪⎩
∂Q ∂b0
=
n
−2
i =1
( yi
− b0
− b1xi1
−
∂Q ∂bj
=
n
−2
i =1
( yi
− b0
− b1xi1
−
j = 1, 2, , p
− bp xip ) = 0, − bp xip )xij = 0
(4)化简可得:
− bp xip )2
(4)
∑ ∑ ∑ ∑ n
多元线性回归模型的一般形式为:
Yi =β0 +β1X1i +β2X2i + +βk Xki +μi , i=1,2, ,n
(1)
其中 k 为解释变量的数目, β j ( j = 1,2, ,k) 称为回归系数(regression coefficient)。上
式也被称为总体回归函数的随机表达式。它的非随机表达式为:
n
b0n + b1 xi1 + b2 xi2 +
n
+ bp
xip =
n
yi ,
⎫ ⎪
i =1
i =1
i =1
i =1
⎪
∑ ∑ ∑ ∑ n
n
n
b0 xi1 + b1 xi21 + b2 xi1xi2 +
+ bp
n
⎪ xi1xip ⎪
i =1
i =1
i =1
i =1
⎪
n
∑ = xi1 yi , i =1
Matlab 程序为: /输入如下命令:/
x=[143,145,146,147,149,150,153,154,155,156,157,158,159,160,162,164]; y=[88,85,88,91,92,93,93,95,96,98,97,96,98,99,100,102]; X=[ones(length(y),1),x']; Y=y'; [b,bint,r,rint,stats]=regress(Y,X); b,bint,stats
159
160
162
164
腿长
96
98
97
96
98
99
100
102
试研究这些数据之间的关系。
分析: x=[143,145,146,147,149,150,153,154,155,156,157,158,159,160,162,164] 由式(9)可得 X=[eT, xT](eT 为单位列向量) y=[88,85,88,91,92,93,93,95,96,98,97,96,98,99,100,102] Y= yT
⎪ ⎪ ⎬
⎪
⎪
∑ ∑ ∑ ∑ n
n
n
b0 xip + b1 xip xi1 + b2 xip xi2 +
+ bp
n
xi2p
⎪ ⎪
i =1
i =1
i =1
i=1 ⎪
n
∑ = xip yi. i =1
⎪ ⎪⎭
引入矩阵:
⎛1
X
=
⎜⎜1 ⎜
x11 x21
⎜⎜⎝1 xn1
方程组(5)可以化简得:
可得最大似然估计值:
Matlab 多元线性回归
1、 多元线性回归
在回归分析中,如果有两个或两个以上的自变量,就称为多元回归。事实上,一种现象 常常是与多个因素相联系的,由多个自变量的最优组合共同来预测或估计因变量,比只用一 个自变量进行预测或估计更有效,更符合实际。
在实际经济问题中,一个变量往往受到多个变量的影响。例如,家庭消费支出,除了受 家庭可支配收入的影响外,还受诸如家庭所有的财富、物价水平、金融机构存款利息等多种 因素的影响,表现在线性回归模型中的解释变量有多个。这样的模型被称为多元线性回归模 型。(multivariable linear regression model )
验回归模型
①bint 表示回归系数的区间估计.
②r 表示残差
③rint 表示置信区间
④stats 表示用于检验回归模型的统计量,有三个数值:相关系数 r2、F 值、与 F 对应的
概率 p
说明:相关系数 r2 越接近 1,说明回归方程越显著;F>F1-alpha(p,n-p-1) 时拒绝 H0,F 越大,说明回归方程越显著;与 F 对应的概率 p<α 时拒绝 H0,回归模型成立。
⎛1
X
=
⎜⎜1 ⎜
x11 x21
x12 x22
⎜⎜⎝1 xn1 xn2
x1 p x2 p
⎞
⎟
⎟ ⎟
,Y
=
⎛ ⎜ ⎜ ⎜
y1 y2
⎞ ⎟ ⎟⎟, B
=
⎛ ⎜ ⎜
b0 b1
⎜
⎞
⎟
⎟ ⎟
.
xnp ⎟⎟⎠
⎜⎟ ⎝ yn ⎠
⎜⎜⎝ bp ⎟⎟⎠
(5)
(6) (7) (8)
(9)
(2)[b,bint,r,rint,stats]=regress(Y,X,alpha) 求回归系数的点估计和区间估计、并检
μ(x1, x2 , , xp ) = b0 + b1x1 + + bp xp 的估计是:
yˆ = bˆ0 + bˆ1x1 + bˆ2 x2 +
公式(8)为 P 元经验线性回归方程。
+ bˆp xp
3、 Matlab 多元线性回归的实现
多元线性回归在 Matlab 中主要实现方法如下: (1)b=regress(Y, X ) 确定回归系数的点估计值 其中
Yi =β0 +β1X1i +β2X2i + +βk Xki , i=1,2, ,n
(2)
β j 也被称为偏回归系数(partial regression coefficient)。
2、 多元线性回归计算模型
Y=β0 +β1x1+β2 x2 + +βk xk +ε , ε ∼ N (0,δ 2 )
(3)
x12 x22
x1 p x2 p
⎞
⎟
⎟ ⎟
,Y
=
⎛ ⎜ ⎜ ⎜
y1 y2
⎞
⎟
⎟ ⎟wenku.baidu.com
,
B
=
⎛ ⎜ ⎜ ⎜
b0 b1
⎞ ⎟ ⎟⎟ .
xn 2
xnp ⎟⎟⎠
⎜⎟ ⎝ yn ⎠
⎜⎜⎝ bp ⎟⎟⎠
X ' XB = X 'Y
⎛ ⎜
bˆ0
⎞ ⎟
Bˆ
=
⎜ ⎜
bˆ1
⎟ ⎟
=
(X
'
X
)−1
X
'Y
⎜⎟
⎜ ⎝
bˆp
⎟ ⎠
多元性回归模型的参数估计,同一元线性回归方程一样,也是在要求误差平方和(Σe) 为最小的前提下,用最小二乘法或最大似然估计法求解参数。
设 (x11, x12 ,
参数:
, x1p , y1),
, (xn1, xn2 ,
, xnp , yn ) 是一个样本,用最大似然估计法估计
n
∑ 取 bˆ0 , bˆ1, , bˆp , 当 b0 = bˆ0 , b1 = bˆ1, , bp = bˆp 时,Q = ( yi − b0 − b1xi1 − i =1
⑤alpha 表示显著性水平(缺省时为 0.05)
(3)rcoplot(r,rint)
画出残差及其置信区间
实例 1:(一元线性回归)
测得 16 名女子的身高和腿长如下表所示(单位:cm):
身高
143
145
146
147
149
150
153
154
腿长
88
85
88
91
92
93
93
95
身高
155
156
157
158