一种新的混合的共轭梯度算法的全局收敛性

其 中 ｔ＞Ｏ 口 ２ ＇ ， ｋ 为步 长 ； ｄ 为搜 索方 向 ； 为 一标量 ； ７ ｚ ） ｇ 一 ｆ（ ．
Ｃ Ｄ方法 即共轭 下 降法最先 由 Ｆｅｃ ｅｌ 于 １ ８ ｌｔｈ ｒ】 ９ ７年 引入 ， 一个 很重要 的性质是 ： 其 只要 强 Ｗｏｆ 线 搜索 ｌ ｅ
｝
假 设 Ｂ 厂在水 平集 Ｑ上 梯度 ｇ ｚ 存在 且满 足 Ｌｐ ｃ ｉ 条 件 ， （） ｉｓｈｔ ｚ 即存 在常数 Ｌ）Ｏ使
收稿 日期 ： ０ ００ — ６ ２ １—７０

作者 简 介 ： 瑞艳 （ ９） 女 ， 余 １７ 一 ， 湖北 枝 江 人 ， 士 ， 江 大 学讲 师 ， 要 从 事 计算 数学 研 究 ９ 硕 长 主
ｌ ｌ ＜ ∞・ ｌ Ｉ 、 一‘ ｄ
¨ｗ ㈣
引理 ２ 设 目标 函数满 足假设 Ａ， ｛ 由迭 代算 法 （ ） （ ） 生 ， Ｂ，５ ｝ １ ２ ２ ，３ 产 ａ 满足 ｗｏｆ Ｉ ｅ条件 （ ） （ ） 则 ８ ，９ ，
第４ 期
余 瑞 艳 ： 种 新 的 混 合 的 共 轭 梯 度 算 法 的全 局 收 敛 性 一
１ ９
１ （ ） ｇ ）Ｉ≤ Ｌ ｌｚ Ｙ ｌ， ， Ｉ ｚ 一 （ ｌ ｇ ．— Ｖ Ｙ∈ Ｑ 】 ｌ
成立 ．
（） ７
步长 ａ 由 Ｗｏｆ 非 精确 线性搜 索求 得 ， 形式 如下 ： ｌ ｅ 其
Ｓｅ 令 ｋ 一是 ， Ｓ ｅ ． ｔｐ５ ： ＋１ 转 ｔｐ２ 引理 ｌ 设 目标 函数 满足 假设 Ａ， ｛ 由迭 代 算 法 （ ） （ ） 生 ， 满 足 Ｗｏｆ Ｂ，ｚ ｝ ２ ，３ 产 ａ ｌ ｅ条 件 （ ） （ ） 则 ８ ，９ ，
Ｚ ｕｅ ｄｊ 件 成 立 ， ｏ ｔｎ ｉ ｋ条 即
＋ １
一
－
＇
。，
” 喜 ． 】 。
ｃ ６
其 中 Ｅ［ ，］ ０ １．
当 一１时 ， 式就是 Ｃ 公 Ｄ法 ， 当 一０时 ， 式就是 Ｌ 公 Ｓ法 ．
１ 新 算 法及 其 全 局 收 敛性
本 节对 目标 函数做如 下假设 ：
假设 Ａ ＿在水平集 Ｑ ． 厂 ． ≤厂 ｚ）上有下界， ． 为初始点． 厂 一｛∈Ｒ ｌ（） （ ｝ ７ ２ ｚ 其中 ３ ２
２１ ０ ０年 １ ２月
一
种新 的混合的共轭梯度算法的全局收敛性
余 瑞 艳
（ 江 大 学 一年 级 教 学 Ｘ 作 部 ， 长 － 湖北 荆 州 ４ ４ ２ ） ３ ０ ０
［ 要 ］ 文 章 提 出 了 一 个 新 的 混 合 共 轭 梯 度 法 ， 可 以 被 看 作 是 Ｈ Ｓ和 ＤＹ 的 凸 组 合 方 法 ， 摘 它 并 证 明 了 在 Ｗ ｏｆ ｌ ｅ条 件 下 具 有 全 局 收 敛 性 ， 为 一 个 算 法 的 实 际 应 用 提 供 理 论 依 据 ． 它 （ 键 词 ］ 无 约 束 优 化 ； ． 梯 度 ； 精 确 线 性 搜 索 ； ｏｆ 关 －－ Ａ￣ ３． 不 ｗ ｌｅ条 件 ； 局 收 敛 性 全
［ 章 编 号 ］ １ ７ — ０ ７ ２ １ ） ４ ０ １ — ３ （ 图 分 类 号 ］ ０２ ４ ［ 献 标 识 码 ］ Ａ 文 ６ ２２ ２ （ ０ ０ ０ —０ ８０ 中 ２ 文
Ｏ 前 言
考虑 无约束 优化 问题
ｍｉｆ（ ， ｎ ｘ） ｚ Ｅ Ｒ” （） １
质和数 值表 现类似 于 ＨＳ方法 ， 我们 可 以尝 试对 Ｃ Ｄ法和 Ｌ Ｓ进 行组 合 ， Ｄ法 和 Ｌ Ｃ ｓ法公 式形 式如下 ：
一
（） ４
“ ＾ １ 一 ５ 一
一
㈦
本章 中我们 对公 式 （ ） （ ） 行适 当 的凸组合 ， ４ ，５ 进 产生 了一类 新 的共轭梯 度法 簇． 新公 式如下 ：
厂 ＋ ａｄ ） ｆ（ ｔ ≥ 一 潞＾ （ ） ｄ （ｔ ｋ｛ 一 ｘ ） ＾ （） ８
ｄ ｚ ＋ａｄ ）≥ ｖ 女 ＾ ｌ ｇ（ ｋ ｆ（ ）ｄ
（） ９
其中 ∈（， ） ∈（，） ０寺 ， １．
新 的共轭 梯度 法的算 法如 下 ：
Ｓｅ 给定初 值 １ ｅ ， ： ｔｐ１ ∈Ｒ ，＞０ 当 ＝１时 ， １ 一－ｇ ． Ｉ ｌＩ ， Ｓｏ ； ｄ ： － １若 Ｉ １ ｇ ≤￡则 ｔｐ
第 ９卷
第 ４期
太 原 师 范 学 院 学 报 （ 自然 科 学 版 ）
Ｊ ＯＵＲＮＡＬ ＯＦ ＴＡＩ ＹＵＡＮ ＮＯＲＭ ＡＩ ＵＮＩ ＲＳＴＹ （ ｔｒ ｌ ｃｅ ｃ ｄｔ ｎ ＶＥ Ｉ Ｎａｕ ａ Ｓ ｉｎ ｅＥ ｉｏ ） ｉ
Ｖ １９ Ｎ ． ｏ． ｏ ４
Ｄｅ ． ２ １ ｃ ００
其 中 ＿ Ｒ 一Ｒ是 一 阶连续 可微 的函数 ， 在 点 的梯度 ｇ — ｆ ｘ ） 共 轭梯 度法解 （ ） 厂 ： ＿ 厂 （ ． １ 的迭 代公 式为 ：
５ｋ １＝ ｚ ＋ ａ ｄ＾ Ｏ＋ 女 （） ２
。ｊ 【
一
一
＋
＂ ， 忌≥ １
’
（ ３ ）
中参数 ＜ １ Ｃ ， Ｄ方法 在 每次迭 代过程 中产 生一个 下降方 向． Ｆ 而 Ｒ和 Ｐ ＲＰ方法 在此 时对一 致 凸函数 都有 可
能产生 一个上 升 的方 向． 虽然 每次 Ｃ Ｄ方 法都 能产生 一个下 降方 向， 其 收敛性 质却并 不好 ． 但 此外 ， 的数值 它 表现 与 Ｆ Ｒ方法 相接近 ， 这是 因为 在精 确 线 搜索 下 有 一 。 Ｌｕｓｏ ｙ 在 １ ９ ． ｉ～ｔｒ ９ １年 提 出 了 Ｌ ｓ方法 ， 性 其
Ｓｅ 由 Ｗｏｆ ｔｐ２ ｌ ｅ线搜 索计算 １ ； ２ ＇
Ｓｅ 迭代运 算 ＋ —ｚ ＋ａｄ ， １ 一ｇ 抖１． ｔｐ３ ｌ ｇ＋ ： （ ） 若 ｇ＋ ｌ ， Ｓｏ ； ＾１Ｉ ≤ｅ 则 ｔ ｐ
Ｓ ｅ 由公式 （ ） 算 ＋ 一 ， ｔｐ４ ６计 由公 式 （ ） ３ 计算 ｄ ； …