完整word版,何晓群版应用回归分析考试重点题型
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
一元,多元线形回归分析:
一. 请分别叙述变量间统计关系与函数关系的区别,以及相关分析与回归分析的联系与区别。 答:各自然现象或社会现象之间普遍存在着各种联系,根据这些联系的紧密程度不同,可将之分为函数关系与统计关系。 一种情况下某变量Y 能被其余的一类变量1,,n X X K 完全决定,这时两者之间存在着完全的确定性关系,这种关系可以通过一个函数
1(,,)n Y f X X =K 表示。这样的确定性关系被称为函数关系。
另一种情况下变量之间虽然存在紧密的联系,但并不能互相唯一确定,这种非确定性的紧密联系被称为统计关系。 相关分析与回归分析都是研究两边统计关系的方法,在实际问题的处理中往往结合使用两者。两者的区别主要在于:1.目标不同:相关分析主要用于刻画X,Y 两变量间的联系的密切程度,而回归分析除此之外,还关心对未观察Y 值的预测与控制。2.角度不同:相关分析中X ,Y 两变量地位相同,因此假设两者都是随机变量;而回归分析中只将变量Y 作为主要研究对象,因而往往假设Y 是随机变量,而X 是非随机变量。
二. 请叙述(一元)多元线性回归模型及其基本假设 答:1.一元线性模型的基本形式是:
i 01i i y =+x +ββε ,其中01ββ,称为回归系数,i ε称为随机误差。 其基本假设为:
G-M 假设:
i i j 2
E =00Cov =,i j i j
εεεσ≠⎧⎨=⎩,(,)
或者更强的正态性假设:
i ε独立同分布,21N εσ:(0,) 。
2.多元线性模型的基本假设是:
0p y=X +=,,T
βεβββK ,其中()
称为回归系数阵,1=,,T n εεεK ()称为随机
误差.
其基本假设为: a. G-M 假设:
i i j 2
E =00Cov =,i j i j
εεεσ≠⎧⎨=⎩,(,)
或者更强的正态性假设:
i ε独立同分布,21N εσ:(0,) 。 b.rank(X)=p+1 三. 请叙述最小二乘法(最大似然法)的基本思路、理论基础与性质,并对两者作比较。 答: 1. 最小二乘法的基本思路是通过最小化残差平方和 20p 011p 1 Q(,,)=(y )=(y x )'(y x )n i i ip i βββββββ=--∑K --x -...-x 求得回归系数i β的估计值。其理论基础是函数极值理论。 2.最大似然法的基本思路是最大化似然函数 /22/221 (2)()exp{(y x )'(y x )}2n n L πσββσ --=--- 求得回归系数i β的估计值。其理论基础是函数极值理论。 3.两者对β的估计结论是一致的,且结果均具有线性,无偏性,稳定性(在G-M 假设下是最小方差线性无偏估计,在正态性假设下是最小方差无偏估计,具体参见问题四)。 4.相对来说,使用最大似然法需要的假设较强,需要正态性假设,而最小二乘法本身不需要任何假设。但是,最大似然法可以得到2σ的估计,而最小二乘法不行。 四. 假设通过最小二乘估计得到回归方程01122y ...+i i i p pi x x x ββββε=++++ 的 估计,请叙述估计量1ˆˆˆ=,,p βββK ()以及残差1n e=e ,,e K ()的定义及其性质。 答:1.估计量具有线性,无偏性,稳定性,即: a. ˆβ 是y 的线性变换1ˆ=x'x xy β-() b. ˆβ 是无偏的。ˆE ββ= c .在G-M 假设下ˆβ 是最小方差线性无偏估计,在正态性假设下是最小方差无偏估计。21ˆD()=x'x βσ-()。 2. 残差ˆi i i e y y =-,它具有以下性质 a. i i Ee =E =0ε b. 21 D e =I-H),H=x x'x x',I σ-()( 其中()是单位阵,即2,h H i ii ii σD (e )=(1-h )是的主对角线元素。 c. x'e=0 d. ˆ(,)0Cov e β =,且正态性假设下两者独立 e . 21 2 n i i e σ =∑服从自由度为n-p-1的开方分布,即 221 2 (n p 1)n i i e χσ =--∑: 五、叙述多元线性回归中常见的显著性检验方法及其关系。 答:常见的显著性检验方法有t 检验,F 检验,偏F 检验三种。假设检验水平 为α。 1.F 检验 012i H ==...00p ββββ==⇔≠原假设:备择假设:存在 检验统计量:/F= (p,n p 1)/1 SSR p F SSE n p ----: 判断法则:(p,n p 1)F F α>--时拒绝原假设。 2.t 检验 0H 00j j j ββ=⇔≠原假设:备择假设: 检验统计量:1ˆ(n p 1),c x'x)jj t β---:其中是矩阵(的主对角元素 判断法则:/2|t|t (n p 1)α≥--时拒绝原假设。 3.偏F 检验 0H 00j j j ββ=⇔≠原假设:备择假设: 检验统计量: (j)(j)SSR F = (1,n p 1),SSR x /1 j j SSR F SSE n p -----:其中是剔除后的回归平方和。 判断法则:j (1,n p 1)F F α>--时拒绝原假设。 4.三者的关系。 t 检验与偏F 检验等价,F 检验与另两者不同(实质上是另两者的前提), 通常先做F 检验,再做t 检验或偏F 检验。 六、给出一元回归模型估计值的点估计与区间估计(置信度1-α) 答:1.在未观测点0x 处,y 的点估计为0010ˆˆˆ=+x y ββ。 2.在未观测点0x 处,0y 的区间估计为(预测区间) 2 00/200(x )1ˆˆt (n ,x y h n Lxx α-±-=+其中 n 相当大时(n>15),可以简化为0ˆˆ2y σ±。 3. 在未观测点0x 处,0Ey 的区间估计为(置信区间) 2 00/200(x )1ˆt (n ,x y h n Lxx α-±-=+其中。 3. 给定置信上界2T 与置信下界1T 时,0x 的取值范围为 1020101 1 1020101 1 ˆˆˆˆ22ˆ0ˆˆˆˆˆˆ22ˆ0ˆˆT T x T T x σβσββββ σβσββββ +---><< +---<>>时,时, 七.叙述样本数据与回归系数标准化的意义与方法 答:多元线性回归模型中,由于自变量的数量级差异较大,因而舍入误差将对估计的精度造成较大的影响;同时自变量的单位不同也会造成回归方程的解释比较困难,因而通常需要对样本数据进行预处理,即数据的标准化。 数据的标准化通常这样进行: