离散优化与连续优化的复杂性概念
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
收稿 日期: 2 0 1 7 - 0 4 — 0 4 基金 项 目: 国家 自然科学基金 ( No . 1 1 5 7 1 0 2 9 ) 1 .清 华大学数学科 学系 , 北京 1 0 0 0 8 4 ; D e p a r t m e n t o f Ma t h e m a t i c a l S c i e n c e s , T s i n g h u a U n i v e r s i t y
文『 3 1 . 人们 已经 熟悉 了 NP完全和 NP难这 些概 念, 并对 具有 NP完全和 NP难 问题 的难解 性 予 以广泛 接受 .
内点 算法 首先 成 功地 解 决 了线 性规 划 的复 杂 性分 类 [ 2 】 ’ 将其 归 为 多项 式 时 间可解 问 题, 这 是优 化领 域 的划 时代 的成 果 . 内点算法 的复杂 性结 论采 用 图灵机 的理论 体 系 . 随 内 点算法 在更 为广泛 问题 中使 用 , 它对 解 决连续 优化 问题 的优 势就 越 发显得 突 出 但 针 对离
0 引 言
计 算 复 杂性 理 论成 熟 于 2 0 世纪 7 0 年 代 初 ] , 是 理论 计 算机 划 时代 的一 个成 果 . 计 算 复 杂性 概 念 和 理论 非 常基 础 ,一直 吸 引研 究者 的关注 . 美 国 C l a y 数 学所 2 0 0 0 年 公 布 了2 1 世 纪 的百万 美金 待解 7 个 问题 的第 一个就 是计 算复 杂性 理论 问题 : P= NP ? 优 化 问题 的研 究和 算法 设 计总 离 不开 复杂 性 的概念 , 因此 离散 优 化和 连续 优化 领域 都 会用 到 多项 式 时 间 问题 f 可解) 或 NP难 等概 念 .近期 很 多连 续优 化领 域 的研 究 学者 愿 意用 N P 难 来说 明其 研 究 问题 的难 度 , 但 在连 续优 化模 型 的数据 中或 可行 解 区域 中可能会 出现无 理数 或求 解算 法 中会 出现开 方或 指数 运算等 , 如 何处 理这 些 的不 同?
Ab s t r a c t Co mp l e x i t y c o n c e p t s o r i e n t e d f r o m t h e t h e o r e t i c a l Tu r i n g ma c h i n e a r e wi d e l y a c c e p t e d i n s t u d y o f c o mb i n a t o r i a l o p t i mi z a t i o n pr o b l e ms . Th e po l y n o mi a l l y c o mp u t a bl e a n d NP・ h a r d c o n c e p t s a r e f r e q u e n t l y u s e d i n r e c e n t pa p e r s o n c o n t i n u o u s
离散优化 与连续优 化的复杂性概念冰
邢 文 训 ,
摘 要 问题 的 复 杂性 概 念 起 源 于 离 散 的 图 灵计 算 机 理 论 的 研 究 , 在 离 散 优 化 问题 的研 究 中 被 广 泛 的接 受 . 近 期 连 续 优 化 领 域 的很 多文 章 中提 及 NP难 这 个 概 念 .从 而 来 对 比介 绍 离 散 优 化 和 连 续 优 化 研 究 中这 两 个 概 念 的差 异 . 关键词 复杂性概念 , 离散优化, 连续 优 化 中图 分 类 号 O2 2 1 , TP 3 0 1 . 5 2 0 1 0数学分类号 9 0 C 6 0 , 6 8 Q2 5
散 问题 的 图灵 机 复杂 性理 论 就无 法完 全 适应 连续 优 化 问题 , 于 是 产生 了针 对 连续 问题 的 复杂性 概念 [ 4 - 6 ] . 连续 问题 的复杂 性概 念 或 多或少 地模 仿 了离 散 问题 的复杂 性逻 辑 方法 ,由此 引发 了 离散优 化 问题研 究 学者和 连 续优 化 问题研 究学 者各 自的理解 和 描述 . 般 优化 问题 可写 为 mi n f ( x ) s . t .9 ( x ) ≤0 , ( 1 . 1 )
Ke yw o r ds c o mp l e x i t y c o n c e p t s , c o mb i n a t o r i a l o p t i mi z a t i o n ,c o n t i n u o u s o p t i mi z a -
t i on
2 期
离散优化与连续优化的复杂性概念
4 1
加 、减 、乘 、除 、比较 、 读 、写等 基本 运 算, 最 后得 到 问题 实例 的解答 . 这些 基本 运算 的总
和称 为算 法对 实例 的计 算量 . 因为 NP难 问题 的存 在 , 算法 设计 分为 启发 式算 法和 精确 算法 . 启 发式 算法 是指那 些 在 可接 受 的计算 复杂 性要 求 内, 给 出 问题 实例 的一个 解 的算 法 , 这 个解 不 一定是 问题 的最 优解 , 甚 至连 可行解 也 不是 . 精 确算法 必 须给 出 问题 的最优解 . 记 问题 为 Q, 实例 为 , 字长 为 s ( ) , 一 个 算法 A的计 算量 为 C A ( I ) .若存 在 一个 多项 式 函数 p ( . ) 满足:
o p t i mi z a t i o n p r o b l e ms .Th i s p a pe r pr e s e n t s a v e r y b r i e f i n t r o d u c t i o n t o s h o w t h e i r r e l a - t i o n s h i p a n d d i f e r e n c e us e d i n t h e t wo i f e l d s .
Co m pl e x i t y c o nc e pt s f or c o m bi na t or i a l a nd c o n t i nuo us
o pt i mi z a t i o n pr o bl e ms
XI NG We n x u n I , t
1 实例规模 、 基本运算和可解概念
复杂 性理 论起源 于计 算机 理论 的研 究 , 在 优化 问题 研 究中是 一个 非常基 础 的理 论, 早 期的工作可以追溯到 2 0 世纪 7 0 年代初 C o o k 的一篇会议论文[ 1 ] . 他基于 图灵机的模型假 设, 给 出 了多项 式 时 间规 约和 N P 完 全 的概 念 .由此 我们 知道 有 一类 问题 迄 今为 止 还没 有 多 项式 时间算 法解 决该 问题 . 在 图灵 机 的假 设 前提 下, 我们 假 设计 算机 只能存 储有 限位 二 进 制数据 和进 行有 限位计 算 , 所 有实 例 的数据 都是整 数 或有 理数 , 无理数 在计 算机 是 没法 精 确表 示 的. 对 于离 散最 优化 问题 , 我们 不 但假 设其 所有 系数 是 整数 或有 理数 , 还 要假 设 它 的最 优解在 计 算机 中可 以精 确 的表示 , 且在 计 算机 中 占据 的规模 符合 要求 . 对 于 离散 优化 问题 ,已形 成 了非常 系 统化 的计 算复 杂 性 理论 , 详 细 的 内容 可 以参 考
1 . 1 离 散 模 型
针对 离 散 问题 , 计算 复杂 性 的理 论基 于 图灵机 模 型 , 或称 为 2 进 制模 型 . 对 于给 定 的 问题 , 当问题 中 的变 量个 数 , 系 数等 给 定后 , 称 为 问题 的一个 实例 .问题 是实 例 的统称 , 实 例 是 问题 的一 个具 体表 现 .图灵机 模 型要 求 实例 中的所 有 系数 是 整数 或 有理 数 ,目前 的 计算 机就 是这样 限定 和设置 的, 也 就有 了 3 2 位和 6 4 位机 的区别. 给 定一个 实例 后, 计 算机 以2 进制 的方式 存 贮 实例 的 系数 , 它们 在 计算 机 中 占据 的空 间大 小称 为 实例 的字长 或 规 模. 算法 针对 问题 而 设计 , 但 以每 一个 实例 为实 现对 象 . 算法对 计 算机 中存 储 的系 数进 行
Chi ne s e Li br a r y Cl as s i ic f a t i o n 02 2 1 . TP3 0 1 . 5
2 0 1 0 Ma t h e ma t i c s S u b j e c t Cl a s s i i f c a t i o n 9 0 C6 0 , 6 8 Q2 5
2 0 1 7Ope r a t i o n s Re s e a r c h T r a n s a c t i o n s
第2 1 卷 第2 期
Vo l _ 2 1 NO . 2
D O I : 1 0 . 1 5 9 6 0 / j . c n k i . i s s n . 1 0 0 7 — 6 0 9 3 . 2 0 1 7 . 0 2 . 0 0 5
Be i j i n g 1 0 0 0 8 4 , Ch i n a
十通 信 作 者 E — ma i l : w x i n g @ma t h . t s i n g h u a . e d u . a n
4 0
邢 文
2 1 卷
本文 基 于读 者有 图灵 机 复杂 性理 论 的基 本 概念 , 对于 计 算复 杂性 理 论 中一 些基 本 概 念, 如 判 定 问题 、实例 、算法 、多项 式时 间算 法与 问题 、 NP问题类 、 NP完全 和 N P难 , 只 有在 需要 的时候才 给 出定义 . 我们 仅 以离散最 优化 和连 续优 化 问题 , 以对 比的方 式给 出各 自领域 的 复杂性 概念 , 通 过 一些 简单 例子 来 理解 复杂 性在 这 两个 领 域 的差 异. 特别 针 对离 散优 化 问题 中的 多项 式 时 间 问题 和连 续优 化 问题 中 的多项 式时 间可 计算 性 问题进 行 比对解 释 .
一
X ∈ D C ”
其 中 称 为 定义域 , f: 0 5 为 目标 函数 , g: _ ÷瓞 为 约束 函数.当 为 离散 点集 时, 优 化 问题 ( 1 . 1 ) 称为 离散 优化 问题 或组 合最 优化 问题 , 当 D为连 续 点集 时, 该 问题 称 为 连续 优化 问题 . ={ ∈7 9 l 9 ( x ) ≤0 ) 称 为 问题 的可 行解 集合 .
C A ( I ) = 0( p ( s ( ) ) ) , V I∈Q , 则称 A是 问题 Q的一个 多项 式 时 间算法 , 简 称 多项 式 算法 , 其 中“ 0” 表 示 被控 制 的含 义 , 即存在 一个 与任 何 实例 无关 的正 常数 O l 满 足
C A ( I ) ≤ p ( s ( ) ) , V I∈Q
文『 3 1 . 人们 已经 熟悉 了 NP完全和 NP难这 些概 念, 并对 具有 NP完全和 NP难 问题 的难解 性 予 以广泛 接受 .
内点 算法 首先 成 功地 解 决 了线 性规 划 的复 杂 性分 类 [ 2 】 ’ 将其 归 为 多项 式 时 间可解 问 题, 这 是优 化领 域 的划 时代 的成 果 . 内点算法 的复杂 性结 论采 用 图灵机 的理论 体 系 . 随 内 点算法 在更 为广泛 问题 中使 用 , 它对 解 决连续 优化 问题 的优 势就 越 发显得 突 出 但 针 对离
0 引 言
计 算 复 杂性 理 论成 熟 于 2 0 世纪 7 0 年 代 初 ] , 是 理论 计 算机 划 时代 的一 个成 果 . 计 算 复 杂性 概 念 和 理论 非 常基 础 ,一直 吸 引研 究者 的关注 . 美 国 C l a y 数 学所 2 0 0 0 年 公 布 了2 1 世 纪 的百万 美金 待解 7 个 问题 的第 一个就 是计 算复 杂性 理论 问题 : P= NP ? 优 化 问题 的研 究和 算法 设 计总 离 不开 复杂 性 的概念 , 因此 离散 优 化和 连续 优化 领域 都 会用 到 多项 式 时 间 问题 f 可解) 或 NP难 等概 念 .近期 很 多连 续优 化领 域 的研 究 学者 愿 意用 N P 难 来说 明其 研 究 问题 的难 度 , 但 在连 续优 化模 型 的数据 中或 可行 解 区域 中可能会 出现无 理数 或求 解算 法 中会 出现开 方或 指数 运算等 , 如 何处 理这 些 的不 同?
Ab s t r a c t Co mp l e x i t y c o n c e p t s o r i e n t e d f r o m t h e t h e o r e t i c a l Tu r i n g ma c h i n e a r e wi d e l y a c c e p t e d i n s t u d y o f c o mb i n a t o r i a l o p t i mi z a t i o n pr o b l e ms . Th e po l y n o mi a l l y c o mp u t a bl e a n d NP・ h a r d c o n c e p t s a r e f r e q u e n t l y u s e d i n r e c e n t pa p e r s o n c o n t i n u o u s
离散优化 与连续优 化的复杂性概念冰
邢 文 训 ,
摘 要 问题 的 复 杂性 概 念 起 源 于 离 散 的 图 灵计 算 机 理 论 的 研 究 , 在 离 散 优 化 问题 的研 究 中 被 广 泛 的接 受 . 近 期 连 续 优 化 领 域 的很 多文 章 中提 及 NP难 这 个 概 念 .从 而 来 对 比介 绍 离 散 优 化 和 连 续 优 化 研 究 中这 两 个 概 念 的差 异 . 关键词 复杂性概念 , 离散优化, 连续 优 化 中图 分 类 号 O2 2 1 , TP 3 0 1 . 5 2 0 1 0数学分类号 9 0 C 6 0 , 6 8 Q2 5
散 问题 的 图灵 机 复杂 性理 论 就无 法完 全 适应 连续 优 化 问题 , 于 是 产生 了针 对 连续 问题 的 复杂性 概念 [ 4 - 6 ] . 连续 问题 的复杂 性概 念 或 多或少 地模 仿 了离 散 问题 的复杂 性逻 辑 方法 ,由此 引发 了 离散优 化 问题研 究 学者和 连 续优 化 问题研 究学 者各 自的理解 和 描述 . 般 优化 问题 可写 为 mi n f ( x ) s . t .9 ( x ) ≤0 , ( 1 . 1 )
Ke yw o r ds c o mp l e x i t y c o n c e p t s , c o mb i n a t o r i a l o p t i mi z a t i o n ,c o n t i n u o u s o p t i mi z a -
t i on
2 期
离散优化与连续优化的复杂性概念
4 1
加 、减 、乘 、除 、比较 、 读 、写等 基本 运 算, 最 后得 到 问题 实例 的解答 . 这些 基本 运算 的总
和称 为算 法对 实例 的计 算量 . 因为 NP难 问题 的存 在 , 算法 设计 分为 启发 式算 法和 精确 算法 . 启 发式 算法 是指那 些 在 可接 受 的计算 复杂 性要 求 内, 给 出 问题 实例 的一个 解 的算 法 , 这 个解 不 一定是 问题 的最 优解 , 甚 至连 可行解 也 不是 . 精 确算法 必 须给 出 问题 的最优解 . 记 问题 为 Q, 实例 为 , 字长 为 s ( ) , 一 个 算法 A的计 算量 为 C A ( I ) .若存 在 一个 多项 式 函数 p ( . ) 满足:
o p t i mi z a t i o n p r o b l e ms .Th i s p a pe r pr e s e n t s a v e r y b r i e f i n t r o d u c t i o n t o s h o w t h e i r r e l a - t i o n s h i p a n d d i f e r e n c e us e d i n t h e t wo i f e l d s .
Co m pl e x i t y c o nc e pt s f or c o m bi na t or i a l a nd c o n t i nuo us
o pt i mi z a t i o n pr o bl e ms
XI NG We n x u n I , t
1 实例规模 、 基本运算和可解概念
复杂 性理 论起源 于计 算机 理论 的研 究 , 在 优化 问题 研 究中是 一个 非常基 础 的理 论, 早 期的工作可以追溯到 2 0 世纪 7 0 年代初 C o o k 的一篇会议论文[ 1 ] . 他基于 图灵机的模型假 设, 给 出 了多项 式 时 间规 约和 N P 完 全 的概 念 .由此 我们 知道 有 一类 问题 迄 今为 止 还没 有 多 项式 时间算 法解 决该 问题 . 在 图灵 机 的假 设 前提 下, 我们 假 设计 算机 只能存 储有 限位 二 进 制数据 和进 行有 限位计 算 , 所 有实 例 的数据 都是整 数 或有 理数 , 无理数 在计 算机 是 没法 精 确表 示 的. 对 于离 散最 优化 问题 , 我们 不 但假 设其 所有 系数 是 整数 或有 理数 , 还 要假 设 它 的最 优解在 计 算机 中可 以精 确 的表示 , 且在 计 算机 中 占据 的规模 符合 要求 . 对 于 离散 优化 问题 ,已形 成 了非常 系 统化 的计 算复 杂 性 理论 , 详 细 的 内容 可 以参 考
1 . 1 离 散 模 型
针对 离 散 问题 , 计算 复杂 性 的理 论基 于 图灵机 模 型 , 或称 为 2 进 制模 型 . 对 于给 定 的 问题 , 当问题 中 的变 量个 数 , 系 数等 给 定后 , 称 为 问题 的一个 实例 .问题 是实 例 的统称 , 实 例 是 问题 的一 个具 体表 现 .图灵机 模 型要 求 实例 中的所 有 系数 是 整数 或 有理 数 ,目前 的 计算 机就 是这样 限定 和设置 的, 也 就有 了 3 2 位和 6 4 位机 的区别. 给 定一个 实例 后, 计 算机 以2 进制 的方式 存 贮 实例 的 系数 , 它们 在 计算 机 中 占据 的空 间大 小称 为 实例 的字长 或 规 模. 算法 针对 问题 而 设计 , 但 以每 一个 实例 为实 现对 象 . 算法对 计 算机 中存 储 的系 数进 行
Chi ne s e Li br a r y Cl as s i ic f a t i o n 02 2 1 . TP3 0 1 . 5
2 0 1 0 Ma t h e ma t i c s S u b j e c t Cl a s s i i f c a t i o n 9 0 C6 0 , 6 8 Q2 5
2 0 1 7Ope r a t i o n s Re s e a r c h T r a n s a c t i o n s
第2 1 卷 第2 期
Vo l _ 2 1 NO . 2
D O I : 1 0 . 1 5 9 6 0 / j . c n k i . i s s n . 1 0 0 7 — 6 0 9 3 . 2 0 1 7 . 0 2 . 0 0 5
Be i j i n g 1 0 0 0 8 4 , Ch i n a
十通 信 作 者 E — ma i l : w x i n g @ma t h . t s i n g h u a . e d u . a n
4 0
邢 文
2 1 卷
本文 基 于读 者有 图灵 机 复杂 性理 论 的基 本 概念 , 对于 计 算复 杂性 理 论 中一 些基 本 概 念, 如 判 定 问题 、实例 、算法 、多项 式时 间算 法与 问题 、 NP问题类 、 NP完全 和 N P难 , 只 有在 需要 的时候才 给 出定义 . 我们 仅 以离散最 优化 和连 续优 化 问题 , 以对 比的方 式给 出各 自领域 的 复杂性 概念 , 通 过 一些 简单 例子 来 理解 复杂 性在 这 两个 领 域 的差 异. 特别 针 对离 散优 化 问题 中的 多项 式 时 间 问题 和连 续优 化 问题 中 的多项 式时 间可 计算 性 问题进 行 比对解 释 .
一
X ∈ D C ”
其 中 称 为 定义域 , f: 0 5 为 目标 函数 , g: _ ÷瓞 为 约束 函数.当 为 离散 点集 时, 优 化 问题 ( 1 . 1 ) 称为 离散 优化 问题 或组 合最 优化 问题 , 当 D为连 续 点集 时, 该 问题 称 为 连续 优化 问题 . ={ ∈7 9 l 9 ( x ) ≤0 ) 称 为 问题 的可 行解 集合 .
C A ( I ) = 0( p ( s ( ) ) ) , V I∈Q , 则称 A是 问题 Q的一个 多项 式 时 间算法 , 简 称 多项 式 算法 , 其 中“ 0” 表 示 被控 制 的含 义 , 即存在 一个 与任 何 实例 无关 的正 常数 O l 满 足
C A ( I ) ≤ p ( s ( ) ) , V I∈Q