matlab回归分析
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
则 x ,x 就 是 所 求 的 x 的 控 制 区 间 .
2019/9/8
返回
13
四、可线性化的一元非线性回归 （曲线回归）
例2 出钢时所用的盛钢水的钢包，由于钢水对耐火材料的侵蚀， 容积不断增大.我们希望知道使用次数与增大的容积之间的关 系.对一钢包作试验，测得的数据列于下表：
使用次数
解 得 估 计 值 ˆ X T X 1 X T Y注 意 ： ˆ 服 从 p + 1 维 正 态 分
得 到 的 ˆ i代 入 回 归 平 面 方 程 得 ：
y ˆ 0 ˆ 1 x 1 . . ˆ k x k .
布 ， 且 为 的 无 偏 估
计 ， 协 方 差 阵 为 2 C .
y 的 置 信 水 平 为 1 的 预 测 区 间 近 似 为
y ˆ ˆ e u 1 2 , y ˆ ˆ e u 1 2
2019/9/8
12
（2）控制
要 求 ： y 0 1 x 的 值 以 1 的 概 率 落 在 指 定 区 间 y , y
yi ˆ0 ˆ1xi
2
n
(yi yˆi )2
i1
i1
称 Qe 为残差平方和或剩余平方和.
2 的无偏估计为
ˆ
2 e
Qe
(n 2)
称ˆ
2 e
为剩余方差（残差的方差）， ˆ
2 e
分别与ˆ0 、ˆ1
独立 。
ˆe 称为剩余标准差.
2019/9/8
返回
7
三、检验、预测与控制
y 0 的 置 信 水 平 为 1 的 预 测 区 间 为
y ˆ 0 ( x 0 ) y ˆ 0 ( x 0 ) ,
其 中 ( x 0 ) ˆ e t 1 2 ( n 2 ) 1 1 n x 0 L x x 2 x
特 别 ， 当 n 很 大 且 x 0 x 在 附 近 取 值 时 ,
故 T t 1 ( n 2 ) ， 拒 绝 H 0， 否 则 就 接 H 受 0.
2
n
n
其Lx中 x (xix)2 xi2nx2
i 1
i 1
2019/9/8
9
（Ⅲ）r检验法
n
( x i x ) y i ( y )
记 r i 1
n
n
( x i x ) 2( y i y ) 2
根 据 线 性 化 方 法 ， 算 得 b ˆ 1 .11 ,A ˆ 0 2 .475
2019/9/8
返回
由 此a ˆ e A ˆ 1.6 1789
1 .1107
最 后 得 y 1.6 17 ex 89
16
一 般 称
一、数学模型及定义
YX E()0,CO (,V )2In
数学建模与数学实验
回归分析
2019/9/8
1
实验目的
1、直观了解回归分析基本内容。 2、掌握用数学软件求解回归分析问题。
实验内容
1、回归分析的基本理论。 2、用数学软件求解回归分析问题。 3、实验作业。
回归分析
一元线性回归
多元线性回归
* *
* *
数 学 模 型 及 定 义
模 型 参 数 估 计
2019/9/8
. .. ............. .. . .. . ..
y n
1x n 1 x n 2..x n . k
k n
y 0 1 x 1 . .k x . k 称 为 回 归 平 面 方 程 .
2019/9/8
17
二、模型参数估计
1 i 2 用 最 小 二 乘 法 求 0 ,.k .的 估 .计 ,量 ： 作 离 差 平 方 和
n
Q y i 0 1 x i 1 . .k .x ik 2
i 1
选 择 0 ,.k . 使 . Q 达 ,到 最 小 。
3 、 在 x x = 0处 对 y 作 预 测 ， 对 y 作 区 间 估 计 .
2019/9/8
返回 5
二、模型参数估计
1、回归系数的最小二乘估计
有 n组 独 立 观 测 值 ， （ x1， y1） ， （ x2， y2） ， … ， （ xn， yn）
设 E yi i 0 0, D xi12 i,i且 11,22,， ....n ..n,相 , 互独立
9
8.5
8
7.5
7
6.5
6
2
4
6
8
10
12
14
16
散 点 图
此即非线性回归或曲线回归 问题（需要配曲线） 配曲线的一般方法是：
先 对 两 个 变 量 x 和 y作 n 次 试 验 观 察 得 (x i,y i)i ,1 ,2 ,.n .画 .出 ,散 点 图 ，
根 据 散 点 图 确 定 须 配 曲 线 的 类 型 .然 后 由 n 对 试 验 数 据 确 定 每 一 类 曲 线 的 未 知
1、回归方程的显著性检验
对 回 归 方 程 Y 01 x的 显 著 性 检 验 ， 归 结 为 对 假 设 H 0:1 0 ;H 1:1 0
进 行 检 验 .
假 设 H 0 : 1 0 被 拒 绝 ， 则 回 归 显 著 ， 认 为 y 与 x 存 在 线 性 关
系 ， 所 求 的 线 性 回 归 方 程 有 意 义 ； 否 则 回 归 不 显 著 ， y 与 x 的 关 系 不 能 用 一 元 线 性 回 归 模 型 来 描 述 ， 所 得 的 回 归 方 程 也 无 意 义 .
线 性 模 型 (Y,X ,2In)考 虑 的 主 要 问 题 是 ：
返回
（ 1） 用 试 验 值 （ 样 本 值 ） 对 未 知 参 数和 2 作 点 估 计 和 假 设 检 验 ， 从 而 建 立 y与
x1,x2,..x.k之 , 间 的 数 量 关 系 ；
（ 2） 在 x1x0,1x2x0,2..xk. , x0k,处 对 y的 值 作 预 测 与 控 制 ， 即 对 y作 区 间 估 计 .
2019/9/8
8
（Ⅰ）F检验法 当 H 0成 立 时 ，FQ e/U n (2)~F（ 1， n-2）
n
其 中 U y ˆiy2（ 回 归 平 方 和 ） i 1
故 F>F 1(1,n2)， 拒 绝 H 0 ， 否 则 就 接 受 H 0 .
（Ⅱ）t检验法
当 H 0 成 立 时 ， T L ˆ x e ˆ 1 x ~ t （ n - 2 ）
（ 3 ） 指 数 曲 线 y = a e b 其 中 参 数 a > 0 x .
（ 4） 倒 指 数 曲 线 y=aeb/x 其 中 a>0，
（ 5 ） 对 数 曲 线 y = a + b l o g x , x > 0 （ 6 ） S 型 曲 线 y a 1 b x 解 例 2 .由 散 点 e 图 我 们 选 配 倒 指 数 曲 线 y = e b a /x
1 2
1 2
2 的 置 信 水 平 为 1 - 的 置 信 区 间 为
1 2 2 Q ( n e 2 ) , 2 2 ( Q n e 2 )
2019/9/8
11
3、预测与控制 （1）预测
用 y 0 的 回 归 值 y ˆ 0 ˆ 0 ˆ 1 x 0 作 为 y 0 的 预 测 值 .
以身高x为横坐标，以腿长y为纵坐标将这些数据点（xI，yi） 在平面直角坐标系上标出.
解答
102
100 98
y01x
96
94
92
90
88
86
84
140
பைடு நூலகம்
145
150
155
160
165
2019/9/8
散点图
4
一 般 地 ， 称 由 y01x确 定 的 模 型 为 一 元 线 性 回 归 模 型 ，
i 1
i 1
当 | r | > r 1 - α 时 ， 拒 绝 H 0 ； 否 则 就 接 受 H 0 .
其 中 r 1 1 n 2 F 1 1 1 , n 2
2019/9/8
10
2、回归系数的置信区间
0 和 1 置 信 水 平 为 1 - α 的 置 信 区 间 分 别 为
参 数 a和 b .采 用 的 方 法 是 通 过 变 量 代 换 把 非 线 性 回 归 化 成 线 性 回 归 ， 即 采 用
非 线 性 回 归 线 性 化 的 方 法 .
2019/9/8
15
通常选择的六类曲线如下：
（ 1 ） 双 曲 线 1 a b y x
（ 2 ） 幂 函 数 曲 线 y = a x b , 其 中 x > 0 , a > 0
记 为
y01x E 0 ,D 2 固 定 的 未 知 参 数 0、 1称 为 回 归 系 数 ， 自 变 量 x也 称 为 回 归 变 量 .
Y 0 1 x ， 称 为 y 对 x 的 回 归 直 线 方 程 .
一元线性回归分析的主要任务是：
1 、 用 试 验 值 （ 样 本 值 ） 对 0 、 1 和 作 点 估 计 ； 2 、 对 回 归 系 数 0、 1作 假 设 检 验 ；
为 高 斯 — 马 尔 柯 夫 线 性 模 型 (k元 线 性 回 归 模 型 )， 并 简 记 为 (Y,X,2In)
y 1 1x 11 x 12 ..x 1 . k 0 1 Y . .， .X 1x 21 x 22 ..x 2 . k ， 1 ， 2
只 要 控 制 x 满 足 以 下 两 个 不 等 式
y ˆ(x ) y ,y ˆ(x ) y 要 求 y y 2(x ).若 y ˆ(x ) y ,y ˆ(x ) y 分 别 有 x 解
和 x ， 即 y ˆ(x ) y ,y ˆ(x ) y .
n
n
记 QQ(0,1) i2 yi 01xi2
i1
i1
最 小 二 乘 法 就 是 选 择 0和 1 的 估 计 ˆ0， ˆ1 使 得
Q(ˆ0,ˆ1)m 0,1Q in (0,1)
2019/9/8
6
2 2
n
记 Qe Q(ˆ0 , ˆ1)
检 验 、 预 测 与 控 制
性可 回线 归性 （化 曲的 线一 回元 归非 ）线
数 学 模 型 及 定 义
模 型 参 数 估 计
检 验 与 预 测
多 元 线 性 回
归
中
的
逐 步 回 归 分 析
3
一、数学模型
例1 测16名成年女子的身高与腿长所得数据如下：
身 高 1 4 31 4 51 4 61 4 71 4 91 5 01 5 31 5 41 5 51 5 61 5 71 5 81 5 91 6 01 6 21 6 4 腿 长 8 8 8 5 8 8 9 1 9 2 9 3 9 3 9 5 9 6 9 8 9 7 9 6 9 8 9 91 0 01 0 2
ˆ 0 t1 2 ( n 2 )ˆ e1 n L x x 2 ,x ˆ 0 t1 2 ( n 2 )ˆ e1 n L x x 2 x
和 ˆ 1 t( n 2 )ˆ e /L x,x ˆ 1 t( n 2 )ˆ e /L x x
C = L - 1 = ( c i j ) , L = X ’ X
称 为 经 验 回 归 平 面 方 程 ˆ i .称 为 经 验 回 归 系 数 .
2 3 4 5 6 7 8 9
增大容积
6.42 8.20 9.58 9.50 9.70 10.00 9.93 9.99
使用次数
10 11 12 13 14 15 16
增大容积
10.49 10.59 10.60 10.80 10.60 10.90 10.76
解答
2019/9/8
14
11
10.5
10
9.5
2019/9/8
返回
13
四、可线性化的一元非线性回归 （曲线回归）
例2 出钢时所用的盛钢水的钢包，由于钢水对耐火材料的侵蚀， 容积不断增大.我们希望知道使用次数与增大的容积之间的关 系.对一钢包作试验，测得的数据列于下表：
使用次数
解 得 估 计 值 ˆ X T X 1 X T Y注 意 ： ˆ 服 从 p + 1 维 正 态 分
得 到 的 ˆ i代 入 回 归 平 面 方 程 得 ：
y ˆ 0 ˆ 1 x 1 . . ˆ k x k .
布 ， 且 为 的 无 偏 估
计 ， 协 方 差 阵 为 2 C .
y 的 置 信 水 平 为 1 的 预 测 区 间 近 似 为
y ˆ ˆ e u 1 2 , y ˆ ˆ e u 1 2
2019/9/8
12
（2）控制
要 求 ： y 0 1 x 的 值 以 1 的 概 率 落 在 指 定 区 间 y , y
yi ˆ0 ˆ1xi
2
n
(yi yˆi )2
i1
i1
称 Qe 为残差平方和或剩余平方和.
2 的无偏估计为
ˆ
2 e
Qe
(n 2)
称ˆ
2 e
为剩余方差（残差的方差）， ˆ
2 e
分别与ˆ0 、ˆ1
独立 。
ˆe 称为剩余标准差.
2019/9/8
返回
7
三、检验、预测与控制
y 0 的 置 信 水 平 为 1 的 预 测 区 间 为
y ˆ 0 ( x 0 ) y ˆ 0 ( x 0 ) ,
其 中 ( x 0 ) ˆ e t 1 2 ( n 2 ) 1 1 n x 0 L x x 2 x
特 别 ， 当 n 很 大 且 x 0 x 在 附 近 取 值 时 ,
故 T t 1 ( n 2 ) ， 拒 绝 H 0， 否 则 就 接 H 受 0.
2
n
n
其Lx中 x (xix)2 xi2nx2
i 1
i 1
2019/9/8
9
（Ⅲ）r检验法
n
( x i x ) y i ( y )
记 r i 1
n
n
( x i x ) 2( y i y ) 2
根 据 线 性 化 方 法 ， 算 得 b ˆ 1 .11 ,A ˆ 0 2 .475
2019/9/8
返回
由 此a ˆ e A ˆ 1.6 1789
1 .1107
最 后 得 y 1.6 17 ex 89
16
一 般 称
一、数学模型及定义
YX E()0,CO (,V )2In
数学建模与数学实验
回归分析
2019/9/8
1
实验目的
1、直观了解回归分析基本内容。 2、掌握用数学软件求解回归分析问题。
实验内容
1、回归分析的基本理论。 2、用数学软件求解回归分析问题。 3、实验作业。
回归分析
一元线性回归
多元线性回归
* *
* *
数 学 模 型 及 定 义
模 型 参 数 估 计
2019/9/8
. .. ............. .. . .. . ..
y n
1x n 1 x n 2..x n . k
k n
y 0 1 x 1 . .k x . k 称 为 回 归 平 面 方 程 .
2019/9/8
17
二、模型参数估计
1 i 2 用 最 小 二 乘 法 求 0 ,.k .的 估 .计 ,量 ： 作 离 差 平 方 和
n
Q y i 0 1 x i 1 . .k .x ik 2
i 1
选 择 0 ,.k . 使 . Q 达 ,到 最 小 。
3 、 在 x x = 0处 对 y 作 预 测 ， 对 y 作 区 间 估 计 .
2019/9/8
返回 5
二、模型参数估计
1、回归系数的最小二乘估计
有 n组 独 立 观 测 值 ， （ x1， y1） ， （ x2， y2） ， … ， （ xn， yn）
设 E yi i 0 0, D xi12 i,i且 11,22,， ....n ..n,相 , 互独立
9
8.5
8
7.5
7
6.5
6
2
4
6
8
10
12
14
16
散 点 图
此即非线性回归或曲线回归 问题（需要配曲线） 配曲线的一般方法是：
先 对 两 个 变 量 x 和 y作 n 次 试 验 观 察 得 (x i,y i)i ,1 ,2 ,.n .画 .出 ,散 点 图 ，
根 据 散 点 图 确 定 须 配 曲 线 的 类 型 .然 后 由 n 对 试 验 数 据 确 定 每 一 类 曲 线 的 未 知
1、回归方程的显著性检验
对 回 归 方 程 Y 01 x的 显 著 性 检 验 ， 归 结 为 对 假 设 H 0:1 0 ;H 1:1 0
进 行 检 验 .
假 设 H 0 : 1 0 被 拒 绝 ， 则 回 归 显 著 ， 认 为 y 与 x 存 在 线 性 关
系 ， 所 求 的 线 性 回 归 方 程 有 意 义 ； 否 则 回 归 不 显 著 ， y 与 x 的 关 系 不 能 用 一 元 线 性 回 归 模 型 来 描 述 ， 所 得 的 回 归 方 程 也 无 意 义 .
线 性 模 型 (Y,X ,2In)考 虑 的 主 要 问 题 是 ：
返回
（ 1） 用 试 验 值 （ 样 本 值 ） 对 未 知 参 数和 2 作 点 估 计 和 假 设 检 验 ， 从 而 建 立 y与
x1,x2,..x.k之 , 间 的 数 量 关 系 ；
（ 2） 在 x1x0,1x2x0,2..xk. , x0k,处 对 y的 值 作 预 测 与 控 制 ， 即 对 y作 区 间 估 计 .
2019/9/8
8
（Ⅰ）F检验法 当 H 0成 立 时 ，FQ e/U n (2)~F（ 1， n-2）
n
其 中 U y ˆiy2（ 回 归 平 方 和 ） i 1
故 F>F 1(1,n2)， 拒 绝 H 0 ， 否 则 就 接 受 H 0 .
（Ⅱ）t检验法
当 H 0 成 立 时 ， T L ˆ x e ˆ 1 x ~ t （ n - 2 ）
（ 3 ） 指 数 曲 线 y = a e b 其 中 参 数 a > 0 x .
（ 4） 倒 指 数 曲 线 y=aeb/x 其 中 a>0，
（ 5 ） 对 数 曲 线 y = a + b l o g x , x > 0 （ 6 ） S 型 曲 线 y a 1 b x 解 例 2 .由 散 点 e 图 我 们 选 配 倒 指 数 曲 线 y = e b a /x
1 2
1 2
2 的 置 信 水 平 为 1 - 的 置 信 区 间 为
1 2 2 Q ( n e 2 ) , 2 2 ( Q n e 2 )
2019/9/8
11
3、预测与控制 （1）预测
用 y 0 的 回 归 值 y ˆ 0 ˆ 0 ˆ 1 x 0 作 为 y 0 的 预 测 值 .
以身高x为横坐标，以腿长y为纵坐标将这些数据点（xI，yi） 在平面直角坐标系上标出.
解答
102
100 98
y01x
96
94
92
90
88
86
84
140
பைடு நூலகம்
145
150
155
160
165
2019/9/8
散点图
4
一 般 地 ， 称 由 y01x确 定 的 模 型 为 一 元 线 性 回 归 模 型 ，
i 1
i 1
当 | r | > r 1 - α 时 ， 拒 绝 H 0 ； 否 则 就 接 受 H 0 .
其 中 r 1 1 n 2 F 1 1 1 , n 2
2019/9/8
10
2、回归系数的置信区间
0 和 1 置 信 水 平 为 1 - α 的 置 信 区 间 分 别 为
参 数 a和 b .采 用 的 方 法 是 通 过 变 量 代 换 把 非 线 性 回 归 化 成 线 性 回 归 ， 即 采 用
非 线 性 回 归 线 性 化 的 方 法 .
2019/9/8
15
通常选择的六类曲线如下：
（ 1 ） 双 曲 线 1 a b y x
（ 2 ） 幂 函 数 曲 线 y = a x b , 其 中 x > 0 , a > 0
记 为
y01x E 0 ,D 2 固 定 的 未 知 参 数 0、 1称 为 回 归 系 数 ， 自 变 量 x也 称 为 回 归 变 量 .
Y 0 1 x ， 称 为 y 对 x 的 回 归 直 线 方 程 .
一元线性回归分析的主要任务是：
1 、 用 试 验 值 （ 样 本 值 ） 对 0 、 1 和 作 点 估 计 ； 2 、 对 回 归 系 数 0、 1作 假 设 检 验 ；
为 高 斯 — 马 尔 柯 夫 线 性 模 型 (k元 线 性 回 归 模 型 )， 并 简 记 为 (Y,X,2In)
y 1 1x 11 x 12 ..x 1 . k 0 1 Y . .， .X 1x 21 x 22 ..x 2 . k ， 1 ， 2
只 要 控 制 x 满 足 以 下 两 个 不 等 式
y ˆ(x ) y ,y ˆ(x ) y 要 求 y y 2(x ).若 y ˆ(x ) y ,y ˆ(x ) y 分 别 有 x 解
和 x ， 即 y ˆ(x ) y ,y ˆ(x ) y .
n
n
记 QQ(0,1) i2 yi 01xi2
i1
i1
最 小 二 乘 法 就 是 选 择 0和 1 的 估 计 ˆ0， ˆ1 使 得
Q(ˆ0,ˆ1)m 0,1Q in (0,1)
2019/9/8
6
2 2
n
记 Qe Q(ˆ0 , ˆ1)
检 验 、 预 测 与 控 制
性可 回线 归性 （化 曲的 线一 回元 归非 ）线
数 学 模 型 及 定 义
模 型 参 数 估 计
检 验 与 预 测
多 元 线 性 回
归
中
的
逐 步 回 归 分 析
3
一、数学模型
例1 测16名成年女子的身高与腿长所得数据如下：
身 高 1 4 31 4 51 4 61 4 71 4 91 5 01 5 31 5 41 5 51 5 61 5 71 5 81 5 91 6 01 6 21 6 4 腿 长 8 8 8 5 8 8 9 1 9 2 9 3 9 3 9 5 9 6 9 8 9 7 9 6 9 8 9 91 0 01 0 2
ˆ 0 t1 2 ( n 2 )ˆ e1 n L x x 2 ,x ˆ 0 t1 2 ( n 2 )ˆ e1 n L x x 2 x
和 ˆ 1 t( n 2 )ˆ e /L x,x ˆ 1 t( n 2 )ˆ e /L x x
C = L - 1 = ( c i j ) , L = X ’ X
称 为 经 验 回 归 平 面 方 程 ˆ i .称 为 经 验 回 归 系 数 .
2 3 4 5 6 7 8 9
增大容积
6.42 8.20 9.58 9.50 9.70 10.00 9.93 9.99
使用次数
10 11 12 13 14 15 16
增大容积
10.49 10.59 10.60 10.80 10.60 10.90 10.76
解答
2019/9/8
14
11
10.5
10
9.5