线性回归模型的广义刀切最小二乘估计
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
＝
（
） Ｘ Ｏｏ Ｘ＇ （ 中 Ｄ。 Ｘ ） Ｙ＝ ｙ， 其 ＝ ． （） ２
模型 （） １ 的一个 自然推 广形 式 为 ： Ｙ＝ ＋ Ｅ（ ）＝０ Ｃ ｖ 口 Ｏ Ｖ ， Ｐ ， ｏ （ ）＝ｔ ＂
此 时 未知参 数 向量 的广 义 最小 二乘 估计 为 ： （ ＶＩ ） １ Ｖ １ Ⅲ
１
２ 。
●
１
：
Ｉ一１ ｔ
ｌ 一
：
●
●
：
ｎ 一２
∞
１
显然 ， （ ）＝ ， Ｅ ｐ’ 协方 差 阵和 均方 误差分 别 为
ｃ（ ＝｛ ＿（ ） 。 。 ｖ ２ｏ＋ （ ） Ｄ ｌ ・ 一 一
ＭＳ （ ）＝ ｒｏ （ ） Ｅｆ ｌ ｔ ｖｐ Ｃ
张 捷
（ 北 师 范学 院 数 学 与统计 学院 ， 湖 湖北 黄石 ４ ５０ ） ３ ０２
摘要 ： 在误差 为相依 的情况 下 ， 讨论 了线性 回归模型的刀切最 小二 乘估计与 广 义刀切 最 小二 乘估计 。在 均
方 误 差 意 义 上 ， 义 刀 切 最 小二 乘 估 计 优 于 刀 切 最 小二 乘 估 计 ， 利 用 算 倒 进 行 了验 证 。 广 并 关键词 ： 线性 回 归 模 型 ； 自回 归模 型 ； 义 刀切 最 小 二 乘 估 计 ； 广 刀切 最 小 二 乘 估 计
其 中 Ｙ＝（ 一， 为观 测 向量 ， ＝（ 一， 未 知参 数 向量 ， ：（ 一， ） 差 向量 ， ＝ Ｙ Ｙ） 卢 Ｊ Ｂ 卢 ）为 ｅ ｅ 误 Ｘ （ 一， ）为设 计 矩 阵 。容易 得 到未 知参 数 向量 的最小 二乘 估 计 为 ：
＾
Ｐ ＝ ＋（ 卢 凡一１ ｎ ） 一Ｄｏ一 ∑（ Ｗ 一ＸＲｉ １～ ） ｉ ＊
其 中 Ｄ ＝ Ｖ～Ｘ， Ｄ ＝∑（ 一 ） ＸＸ＇ ｋ：１２ ， ＝ Ｄｇ～Ｘ ｉ ， ， ） １ ～ ￣ｊ （ ，）Ｗ （ ＝１ … ｎ
１
ｎ一 １
ｎ一 ２
足
—ｘ ｐ ＝（ －Ｘ １ Ｄｏ一 ） Ｖ＝ ｙ，
第３ １卷 第１ 期
湖北师范学 院学报 （ 自然科学版 ）
Ｊｕｎｌ ｆ ｕ ｅ Ｎ ｒ ｌ ｎｖｒｔ Ｎ ｔｒｌ ｃ ｎ ｅ ｏｒａ ｏ ｂ ｉ ｏｍａ Ｕ ｉｅ ｉ Ｈ ｓ ｙ（ ａｕａ Ｓｉ ｃ ） ｅ
Ｖｏ． １３１ Ｎｏ １， ０１ ． ２ １
线 性 回归模 型 的广 义 刀 切 最 小 二 乘 估 计 冰
作者简介： 张捷（ ９ ７ １８～
）女 ， ， 湖北大 冶人 ， 士生 ， 硕 主要研究方向为回归模型的估计估计 及其应 用
・
６９ ・
对于线性 回归模型（ ） 若删去第 ｉ １， 组观测值 （ ＝ ， ，） 由最小二乘估计得： ｉ １… ｎ 则
一 ＝ 一 一
其 中剩余 向量 Ｒ＝ Ｘｐ＝（ — ＤｏＸ ） ｙ－ Ｉ Ｘ ，
＝
矩阵 可 以根据 实 际情 况 而定 。例 如 ： 误 差服 从 一 阶 自回归模 型 （ 记 为 Ａ １ ）则 取 Ｉ 若 简 Ｒ（ ） ， ｌ Ｊ
１ １
： 一
●
一
１
ｎ 一２
１一
：
ｎ一１
：
－
●
：
ｎ一 ２
１
在一般情况下 ， 对于最，７ 乘估计和广义最小二乘估计 ， ＇２ ｂ 它们都是无偏估计 ， 但是广义最／ ＿ 乘 ｊ－ ￣二 估 计 的方差 、 均方 误 差都 是 小 于最 小二 乘估 计 的 ， 因此我 们 可得 广 义最 ，ｚ 乘 估计 是 优 于最 小 二乘 估 ， ２ ｂ 计 的．由于刀切估计可有效降低有偏性等优 良性质 ， 因此很多的学者对它进行 一 系列的研究… 刊 。
） 一 ）
２ 主 要 结 果
定理 １ 对 于任意 Ｐ×１已知 向量 Ｃ， ＇ 为 ｃ ｃ ｐ ＇ ｐ的唯一最 小 方差无 偏 估计．
证明 设 ｂ 是 ｃ 的任意一个线性无偏估计 ， ＇ ｙ ＇ ｐ 则有 ｃ Ｅ ６ ＝ ＇ ｐ＝ （ ） ｘｐ， 此式对一切 Ｐ× 向量 都 １ 成立 ， 以有 所
本 文利 用刀 切方 法研 究一 类 相依 线 性 回归模 型 ， 通过 研 究 广 义刀 切 最 小 二 乘 估 计 和 刀 切 最小 二 乘 估 计 的均 值 、 方误 差 ， 到前 者 优于后 者 ， 给 出一个 例 子加 以说 明． 均 得 并
１ 刀切 估 计
收 稿 日期 ：０ １ １ — １ ２ １— １ Ｏ
ＸＪ ． Ｄ
若记 Ｐ ｎ 一（ ｐ ｎ一１Ｐ一＝Ｂ＋（ ） Ｊ ｎ一１ＤｏＸ １一 （ ＝１ … ，）则 得 到刀 切最 小二乘估 ） Ｒ（ Ｗ） ｉ ， １ ， ７ ，
计 为 Ｐ＝ｎ ∑Ｐ ＝ ＋（ ｉ ｎ一１ ｎ ） Ｄｏ ∑（ ） Ｒｆ １一 ～Ｘｉ
对 于刀切最 小二 乘估 计 ， 由于 Ｅ（ ｅ ）＝０， 以显然 有 Ｅ（ 所 Ｐ）＝ ， 即它 是无 偏估 计． 方差 阵为 协
ｃ（ ＝ ＋ ）Ｄ（ 一ＤＤＤ｝ ｏ ）盯 （ ‘ ｏＤ Ｄｏ ｏ ｖ ・ １ １ ）
其 中 Ｄｔ ＝∑（ １一ｗ） ｘｘ＇ ｋ ０，，）． 均方误 差为 ｉ 一 ｊ ｊ ＝ １２ 而 （ ＭＳ ｐ）＝ｒｏ（ Ｉ ｌ － 『 ＝ｔ ｏ （ Ｅ（ ｔ ｖｐ）－ Ｃ ＂『 Ｅｐ ｐ Ｊ ｒ ｖｐ） Ｃ 同理 ， 义 刀切最 小 二乘 估计 为 广
中图分类号 ： ２ ２ １ ０ １ ．
文献标 识码 ： Ａ
文章编号 ：０ ９２ １ （ ０ １ ０ － ０ ９ ０ １０ －７４ ２ １ ） １ ０ ６ — ４
百度文库
０‘引 言
对 于如下 线性 回归模 型 Ｙ＝ ＋ｅ Ｅ（ ， ）＝ Ｃ ｖ 口 ， ０， ｏ （ ）＝ （） １
（
） Ｘ Ｏｏ Ｘ＇ （ 中 Ｄ。 Ｘ ） Ｙ＝ ｙ， 其 ＝ ． （） ２
模型 （） １ 的一个 自然推 广形 式 为 ： Ｙ＝ ＋ Ｅ（ ）＝０ Ｃ ｖ 口 Ｏ Ｖ ， Ｐ ， ｏ （ ）＝ｔ ＂
此 时 未知参 数 向量 的广 义 最小 二乘 估计 为 ： （ ＶＩ ） １ Ｖ １ Ⅲ
１
２ 。
●
１
：
Ｉ一１ ｔ
ｌ 一
：
●
●
：
ｎ 一２
∞
１
显然 ， （ ）＝ ， Ｅ ｐ’ 协方 差 阵和 均方 误差分 别 为
ｃ（ ＝｛ ＿（ ） 。 。 ｖ ２ｏ＋ （ ） Ｄ ｌ ・ 一 一
ＭＳ （ ）＝ ｒｏ （ ） Ｅｆ ｌ ｔ ｖｐ Ｃ
张 捷
（ 北 师 范学 院 数 学 与统计 学院 ， 湖 湖北 黄石 ４ ５０ ） ３ ０２
摘要 ： 在误差 为相依 的情况 下 ， 讨论 了线性 回归模型的刀切最 小二 乘估计与 广 义刀切 最 小二 乘估计 。在 均
方 误 差 意 义 上 ， 义 刀 切 最 小二 乘 估 计 优 于 刀 切 最 小二 乘 估 计 ， 利 用 算 倒 进 行 了验 证 。 广 并 关键词 ： 线性 回 归 模 型 ； 自回 归模 型 ； 义 刀切 最 小 二 乘 估 计 ； 广 刀切 最 小 二 乘 估 计
其 中 Ｙ＝（ 一， 为观 测 向量 ， ＝（ 一， 未 知参 数 向量 ， ：（ 一， ） 差 向量 ， ＝ Ｙ Ｙ） 卢 Ｊ Ｂ 卢 ）为 ｅ ｅ 误 Ｘ （ 一， ）为设 计 矩 阵 。容易 得 到未 知参 数 向量 的最小 二乘 估 计 为 ：
＾
Ｐ ＝ ＋（ 卢 凡一１ ｎ ） 一Ｄｏ一 ∑（ Ｗ 一ＸＲｉ １～ ） ｉ ＊
其 中 Ｄ ＝ Ｖ～Ｘ， Ｄ ＝∑（ 一 ） ＸＸ＇ ｋ：１２ ， ＝ Ｄｇ～Ｘ ｉ ， ， ） １ ～ ￣ｊ （ ，）Ｗ （ ＝１ … ｎ
１
ｎ一 １
ｎ一 ２
足
—ｘ ｐ ＝（ －Ｘ １ Ｄｏ一 ） Ｖ＝ ｙ，
第３ １卷 第１ 期
湖北师范学 院学报 （ 自然科学版 ）
Ｊｕｎｌ ｆ ｕ ｅ Ｎ ｒ ｌ ｎｖｒｔ Ｎ ｔｒｌ ｃ ｎ ｅ ｏｒａ ｏ ｂ ｉ ｏｍａ Ｕ ｉｅ ｉ Ｈ ｓ ｙ（ ａｕａ Ｓｉ ｃ ） ｅ
Ｖｏ． １３１ Ｎｏ １， ０１ ． ２ １
线 性 回归模 型 的广 义 刀 切 最 小 二 乘 估 计 冰
作者简介： 张捷（ ９ ７ １８～
）女 ， ， 湖北大 冶人 ， 士生 ， 硕 主要研究方向为回归模型的估计估计 及其应 用
・
６９ ・
对于线性 回归模型（ ） 若删去第 ｉ １， 组观测值 （ ＝ ， ，） 由最小二乘估计得： ｉ １… ｎ 则
一 ＝ 一 一
其 中剩余 向量 Ｒ＝ Ｘｐ＝（ — ＤｏＸ ） ｙ－ Ｉ Ｘ ，
＝
矩阵 可 以根据 实 际情 况 而定 。例 如 ： 误 差服 从 一 阶 自回归模 型 （ 记 为 Ａ １ ）则 取 Ｉ 若 简 Ｒ（ ） ， ｌ Ｊ
１ １
： 一
●
一
１
ｎ 一２
１一
：
ｎ一１
：
－
●
：
ｎ一 ２
１
在一般情况下 ， 对于最，７ 乘估计和广义最小二乘估计 ， ＇２ ｂ 它们都是无偏估计 ， 但是广义最／ ＿ 乘 ｊ－ ￣二 估 计 的方差 、 均方 误 差都 是 小 于最 小二 乘估 计 的 ， 因此我 们 可得 广 义最 ，ｚ 乘 估计 是 优 于最 小 二乘 估 ， ２ ｂ 计 的．由于刀切估计可有效降低有偏性等优 良性质 ， 因此很多的学者对它进行 一 系列的研究… 刊 。
） 一 ）
２ 主 要 结 果
定理 １ 对 于任意 Ｐ×１已知 向量 Ｃ， ＇ 为 ｃ ｃ ｐ ＇ ｐ的唯一最 小 方差无 偏 估计．
证明 设 ｂ 是 ｃ 的任意一个线性无偏估计 ， ＇ ｙ ＇ ｐ 则有 ｃ Ｅ ６ ＝ ＇ ｐ＝ （ ） ｘｐ， 此式对一切 Ｐ× 向量 都 １ 成立 ， 以有 所
本 文利 用刀 切方 法研 究一 类 相依 线 性 回归模 型 ， 通过 研 究 广 义刀 切 最 小 二 乘 估 计 和 刀 切 最小 二 乘 估 计 的均 值 、 方误 差 ， 到前 者 优于后 者 ， 给 出一个 例 子加 以说 明． 均 得 并
１ 刀切 估 计
收 稿 日期 ：０ １ １ — １ ２ １— １ Ｏ
ＸＪ ． Ｄ
若记 Ｐ ｎ 一（ ｐ ｎ一１Ｐ一＝Ｂ＋（ ） Ｊ ｎ一１ＤｏＸ １一 （ ＝１ … ，）则 得 到刀 切最 小二乘估 ） Ｒ（ Ｗ） ｉ ， １ ， ７ ，
计 为 Ｐ＝ｎ ∑Ｐ ＝ ＋（ ｉ ｎ一１ ｎ ） Ｄｏ ∑（ ） Ｒｆ １一 ～Ｘｉ
对 于刀切最 小二 乘估 计 ， 由于 Ｅ（ ｅ ）＝０， 以显然 有 Ｅ（ 所 Ｐ）＝ ， 即它 是无 偏估 计． 方差 阵为 协
ｃ（ ＝ ＋ ）Ｄ（ 一ＤＤＤ｝ ｏ ）盯 （ ‘ ｏＤ Ｄｏ ｏ ｖ ・ １ １ ）
其 中 Ｄｔ ＝∑（ １一ｗ） ｘｘ＇ ｋ ０，，）． 均方误 差为 ｉ 一 ｊ ｊ ＝ １２ 而 （ ＭＳ ｐ）＝ｒｏ（ Ｉ ｌ － 『 ＝ｔ ｏ （ Ｅ（ ｔ ｖｐ）－ Ｃ ＂『 Ｅｐ ｐ Ｊ ｒ ｖｐ） Ｃ 同理 ， 义 刀切最 小 二乘 估计 为 广
中图分类号 ： ２ ２ １ ０ １ ．
文献标 识码 ： Ａ
文章编号 ：０ ９２ １ （ ０ １ ０ － ０ ９ ０ １０ －７４ ２ １ ） １ ０ ６ — ４
百度文库
０‘引 言
对 于如下 线性 回归模 型 Ｙ＝ ＋ｅ Ｅ（ ， ）＝ Ｃ ｖ 口 ， ０， ｏ （ ）＝ （） １