帅天平北京邮电大学数学系12可行方向法
日本京都计算机学院北京邮电大学世纪学院专业
日本京都计算机学院北京邮电大学世纪学院专业2011-06-21日本京都计算机学院北京邮电大学世纪学院专业日本京都计算机学院北京邮电大学世纪学院专业设：电子科学与技术专业(普通理工类)机械工程与自动化专业(普通理工类)物流工程专业(普通理工类)系主任：时良平教授北京邮电大学博士生导师副主任：李冠群教授主任助理：赵积春副教授电子与自动化系拥有一支雄厚的专职和专任教师队伍，依托北京邮电大学丰富的教师资源，具有高级和中级职称的教师占教师总数的75%以上，具有丰富的教学实践经验。
目前在校学生有1100余名。
本系已建成机械基础实验室、机械制造实验室、机械创新实验室、单片机与控制实验室、PLC与局域网实验室、测控与电工实验室、嵌入式与可编程片上系统实验室、物流实验室、软件实验室。
此外，北京邮区中心局、中国邮政速递物流公司、北京普源精仪科技公司、北京华晟高科科技公司等高新企业为电子与自动化系提供长期的实习实训基地。
2010年，本系正积极筹建机器人实验室，为设立新的专业方向开拓新的实习、实训基地，为提高学生的实际动手能力和培养应用型人才的基本素质奠定坚实的基础。
本系在教学和科研活动中取得了很好的成绩。
在机械工程与自动化、电子科学与技术两个专业的首届毕业生中有6%的学生考取了北京邮电大学、北京科技大学、桂林电子科技大学的硕士研究生；在2009年全国大学生电子科技创新大赛获得了两项三等奖；在2007年的全国大学生英语竞赛中获得了三等奖；在2007年的北京市高等数学竞赛中获得了三等奖；在2007年的第十届中国北京国际科技产业博览会中展出的自主研发的迷宫机器人及寻线机器人，获得了一致好评；为了提高同学的学习兴趣，本系三个专业成立科技创新小组，对机器人技术、电子技术、物流等多项课题进行开发。
本系注重对教学活动的严格管理，要求每位教师认真备课，精心讲授好每一堂课，关心每一位学生，做到教书育人。
本系密切关注学校与国外高校的合作，为学生在工业自动化控制、机电设备一体化等领域内继续深造和学习提供了良好的出国学习机会和条件。
北邮最优化课件0最优化理论与算法引言-PPT精品文档32页
最优化理论
13
2 运输问题
设某种物资有m个产地A1,A2,…Am,各产地的产量是 a1,a2,…,am;有 n个销地B1,B2,…,Bn.各销地的销量是 b1,b2,…,bn.假定从产地Ai(i=1,2,…,m)到销地 Bj(j=1,2,…,n)运输单位物品的运价是cij问怎样调运 这些物品才能使总运费最小？
最优化理论
23
6.结构设计问题
p1
p
2
h
2p
2L
B
d
受力分析图
圆杆截面图
2p
h
2L
桁杆示意图
最优化理论
24
6.结构设计问题
解：桁杆的截面积为 ： SdB
桁杆的总重量为： W2dBL2h2
负载2p在每个杆上的分力为：p1copsp
L2h2 h
于是杆截面的应力为：
1
p1 s
最优化理论
19
4选址问题（3）
m ax
ci jy ij f jx j
iI jJ
j J
s.t.
y ij 1
j J
i I;
y ij x j,
i I, j J;
x j {0,1},
j J;
yij {0,1},
i I, j J.
最优化理论
20
5负载平衡(1)
实例: 网络G(V,E) 及一组m 个数的集合{s,d>0}，表示 连接源点 s与汇点d 之间的流量
解: {s,d>0}的一组路由, 即G(V,E) 中m 条s 与 d间的路, 表示连接s与d 的负载流量的路径。
目标:极小化网络负载
用 Fisjd 表示 s到 d由 的流经 (vi,vj过 )的边 流量
组合3容斥原理鸽巢原理 共89页
3.1 容斥原理
对于求两个有限集合A和B的并的元素数目，我们有
定理1
ABABAB (1)
即具有性质A或B的元素的个数等于具有性质A的 元素个数和具有性质B的元素个数减去同时具有 性质A和B的元素个数。
3.1 容斥原理
U
A∩B
A
B
3.1 容斥原理
证 若A∩B=，则 | A∪B |= |A| + |B|, 否则 |A||A(B B)||(A B) (A B)|
类似有
A1 A3 22!
A 1 A40,A 1 A 50,
A2 A30,A2 A4A2 A520! A3 A419!,A3 A520!A4 A519!
3.1 容斥原理
例2 一个学校只有三门课程：数学、物理、化 学。已知修这三门课的学生分别有170、130、 120人；同时修数学、物理的学生45人；同时修 数学、化学的20人；同时修物理化学的22人。 同时修三门的3人。假设每个学生至少修一门课， 问这学校共有多少学生？
解：令A为修数学的学生集合； B 为修物理的学生集合； C 为修化学的学生集合；
则
U 26!
出现dog字样的排列，相当于把dog作为一个单元 参加排列，故 A1 24 !
3.1 容斥原理
类似有： A 2A 32 4 !,A 4A 52 2 !
由于god,dog不可能在一个排列中同时出现，故：
A1 A2 0;
由于gum,dog可以在dogum中同时出现，故有：
定理2 ABCABCAB -ACBCABC (2 )
3.1 容斥原理
A∩B
A
A∩C
C
A∩B ∩C
U B
B∩C
3.1 容斥原理
运筹学12 可行方向法
(12.1.24)
问题(12.1.15)于是化为： min f ( x ( k ) d k ) s.t. 0 max
(12.1.25)
于是，给定问题(12.1.1)和一个可行点，可以通过求解问题 (12.1.10)得到下降可行方向，通过求解问题(12.1.25)确定沿 此方向进行一维搜索的步长.
怎样确定一维搜索的步长？ (k ) 设x 是(12.1.1)的可行解，不妨看作第k次迭代的出发点.
d ( k )为x ( k )处一个下降可行方向。后继点x ( k 1)由下列迭代 公式给出： x ( k 1) x ( k ) k d ( k )
TP SHUAI
(12.1.14)
12
1. Zoutendijk可行方向法
由于d ( k )为可行方向，A1d ( k ) 0，A1x( k )＝b1 , 0 A1 x ( k ) A1d ( k ) b1 自然成立。
约束(12.1.19)化为
A2 x( k ) A2d ( k ) b2
(12.1.20)
TP SHUAI
15
1. Zoutendijk可行方向法
TP SHUAI 10
1. Zoutendijk可行方向法
令v=p-q, p,q. (12.1.11)写成
w T T T ( A1 , E , E ) p f ( x) q ( w, p, q)T 0 (12.1.12)
根据Farkars定理，上述方程有解的充要条件是
Ed 0 1 d j 1, j 1,..., n 得到最优解d ( k ) .
TP SHUAI 20
1. Zoutendijk可行方向法
北邮最优化课件1预备知识
1.线性空间
例子
1, R 是 实 数 域 R 上 的 一 线 性 空 间 .
n
2, R [ x ] n 是 系 数 在 实 数 域 R 上 次 数 小 于 n 的 全 体 多 项 式 组 成 的 集 合 , 则 R [ x ]n 关 于 多 项 式 的 加 法 以 及 数 与 多 项 式 的 乘 法 构 成 一 线 性 空 间.
1 2 k i i 1 k
i 0, i 1, 2, .., k .则 v ,v ,...,v 称 为 线 性 无 关 的 向 量 组 , 否 则 称 为
1 2 k
线 性 相 关 的 向 量 组.
2012-8-25
TP SHUAI 最优化理论TP SHUAI
6
1.线性空间
D f 1 .6 给 定 S ( ) V ( F ), 所 有 由 S 中 任 意 有 限 个 元 素 在 域 F 上 的 线 性 组 合 构 成 的 集 合 , 称 为 S 的 线 性 扩 张 , 记 为 L ( S ), 即 k i i L ( S ) i v | i F , v S , i 1, .., k , k i 1
R满 足 ：
(1) 正 定 性 ： x R , x 0, x 0 x 0; ( 2 )三 角 不 等 式 ： x , y R , x y x y ;
n
(3 ) 齐 次 性 ： x R , R， x =
n
x .
则 称为R 上的范数
(3) 集 合 S R 是 闭 集 无 穷 序 列 { x } S , 若 x x ,
最优化算法、智能优化算法及其应用
如此往复……
北京邮电大学数学系
7
搜索方向设计总体思路：
算法搜索前半程大致沿最速下降方向搜索， 算法搜索后半程大致沿牛顿方向搜索，即大致 在两个搜索方向之间摇摆；
最优化算法参考书 陈宝林，《最优化理论与算法》，清华大学出版社
北京邮电大学数学系
8
贪心思想与模拟退火策略
第二步：在当前解确定一个搜索方向和步长， 移动到新的解
2
一、搜索算法一般框架
一元问题是个实数
第一步：产生初始解 x0 多元问题是个向量
第二步：在当前解确定一个搜索方向和步长，
移动到新的解 xk1 xk k dk
新解与老解的取舍规则
第三步：算法终止条件，否则循环。
dk 方向：最速下降、牛顿方向
k 步长：一维搜索或线搜索
3
一维搜索的数学模型
这种算法以其实现容易、精度高、收敛快等优点引起了学术界 的重视,并且在解决实际问题中展示了其优越性。
设想这样一个场景：一群鸟在随机搜索食物。在这个区域里 只有一块食物，所有的鸟都不知道食物在那里，但它们依据 本能的认知知道当前的位置距离食物还有多远，那么找食物 的最优策略是什么呢？
最简单有效的就是搜寻目前距离食物最近的鸟的周围区域， PSO从这种模型中得到启示并用于解决优化问题。
惯性权重( inertia weight)；
c1 c2 速常数(acceleration constants)；
rand1, rand2 在[0, 1]范围内变化的随机函数。
北京邮电大学数学系
20
vk1 id
vikd
c1rand1()
pid
xikd
c2rand2 () pgd xikd
北邮最优化课件 8算法
映射在下图中说明
2013-8-6
最优任何初始点x12, 由映射A产生的任何序列都收敛于点 x*=2，对初始点x1<2, 由映射A产生的任何序列都收敛于点 x^=1. 此例表明算法在区间(-,2)上 收敛于集中点，而在[2，) 上却不收敛于中点， 从而算法不是闭的
2013-8-6
最优化理论
21
Ch8 算法-收敛定理
• 8.2.2实用收敛准则
•正如在收敛定理中所指出，若我们达到解集中的一个 点时，就终止算法。然而，在大多数情形下，收敛于中 的点仅仅出现在极限意义上，因此我们必须依靠终止迭 代过程的某些实际规则，下面给出一些常用的终止规则。 这里0和正整数N是预先给定的。 1) ||xk+Nxk||< 如果应用映射A的N次后移动的距离小于时，算法终止
2),
xk 1 - xk or xk 1 - xk xk
2013-8-6
最优化理论
22
Ch8 算法-收敛定理
3), 当函数值(或下降函数值)的下降量充分小时停止计算, 即 f ( xk 1 ) - f ( xk ) 或 f ( xk 1 ) - f ( xk ) f ( xk ) f ( xk )
时, 通常取 f ( x) 或f ( x)作为下降函数
2013-8-6 最优化理论 9
Ch8 算法－概念
• 8.1.4 闭映射
Df 8.1.3 设X 和Y 分别是空间R p 和R q中的非空闭集。 A : X Y 为点到集映射，若 x(k ) X , x(k ) x y ( k ) A( x ( k ) ), y ( k ) y 蕴含y A( x), 则称映射A在x X 处是闭的。 如果映射A在集合Z X上每一点是闭的，则称映射A 在集合Z上是闭的
离散数学北邮内部资料
景晓军
34
等值演算（判断命题公式类型法Ⅱ）
(置换定理)：设Φ(A)是含命题公式A的命题公式，Φ(B) 是命题公式B置换了Φ(A)中A之后得到的命题公式。如 果AB，则Φ(A)Φ(B)。
例如：P∧7(q∧r)P∧(7qV7r)
景晓军
27
等值演算
设A,B是两个命题,若等价式A↔B是重言式, 则A与B是等值的,记为A<=>B。 注意和“<=>”、“=”的关系。 A↔B是重言式（说明只出现A与B 的值 同时为真或同时为假的两种情况），所 以肯定A <=> B 。 注意和“<=>”、“↔”的关系。如A <=> B 则A↔B必是重言式。若A↔B，未必A <=> B 因为A↔B有4种情况.
不是所有的“和”、“与”都可用“∧”表示。
李文和李武是兄弟： p
景晓军
15
析取联结词
设p，q为两个命题,复合命题“p或q” 称 作p与q的析取式，记作p ∨ q ， ∨为 析取联结词。 p ∨ q为真当且仅当p与 q中至少一个为真。 析取联结词是逻辑“或”的意思。
王燕学过英语(p)或法语(q) p∨q
景晓军
简单命题与复合命题
简单命题：命题不能分成更简单的句子的命题，又称为 命题常项。 2是素数. 雪是黑色的. 2+3=5. 明年十月一日是晴天. 复合命题：由简单命题用联结词联结而成的命题。 3不是偶数; 2是素数和偶数; 林芳学过英语或日语; 如果角A和角B是对顶角，则角A等于角B．
景晓军
10
景晓军
24
真值表
含n(n>1)个命题变项的命题公式,共有2n组赋值,将命题 公式A在所有的赋值之下取值的情况列成表,称为A的真 值表. 如计算 p ∧ (q ∨ ┐r ) 的真值表
北邮最优化课件11 无约束最优化的直接方法
再从y(2)出发,沿e2进行探测.方法同上,得到的点记为 y(3) .按此方式作下去直至沿n个方向探测完毕,得到 点y(n+1).
若f (y
( n 1)
) f (x x
(1)
), 则 y y
( n 1)
作 为 新 的 基 点 .记 做 (1 .4 )
x
(k )
,p
(2)
,..., p
(n)
如下
p
( j)
( j) d n (i) id i j
当 j=0 当 j 0
TP SHUAI
(2 .6 )
20
2. Rosenbrock算法
将其正交化
( j) p p
( j)
, p q
( j) (i)
2 2 2
取初点x
(1)
( 2, 0 ) , 坐 标 方 向
T
e1 (1, 0 ) , e 2 (0,1) .
T T
1 2
, 1,
1 2
, 0 .2
计算结果如下
TP SHUAI
12
1. 模式搜索法
x
(k )
j
y
( j)
f (y
( j)
)
y
( j)
+ e j
T (k )
开始， ，
目标函数f 沿每个方向迭代地极小化，导出点x 特别，x
(k 1 )
(k 1 )
x
(k )
d
i i= 1
n
i
, 其 中 j是 沿 方 向 d j移 动 的 距 离 。
组合1排列组合
帅天平
北京邮电大学数学系
Email: tpshuai@
第一章 排列组合
1.1 加法法则与乘法法则 1.2一一对应 1.3排列与组合 1.4圆周排列 1.5排列的生成算法 1.6允许重复的组合与不相邻的组合 1.7组合意义的解释 1.8应用举例
1.1
加法法则与乘法法则1
[ 加法法则 ]
1.1
加法法则与乘法法则7
2)“含0”和“含1”不可直接套用。0019含1但不含0。 在组合的习题中有许多类似的隐含的规定，要 特别留神。 不含0的1位数有9个，2位数有9 2个，3位数 有93 个，4位数有9 4个 不含0小于10000的正整数有
9+92 +9 3 +9 4 =(95 －1)/(9－1)=7380个
根据乘法法则得图案数为
20 ×6840=136800
1.3 排列与组合3
定义2 从 n 个不同元素中取 r 个不重复的元素
组成一个子集，而不考虑其元素的顺序，称为 从n个中取r个的无重组合。 组合的全体组成的集合用C(n,r)表示，组合的 个数用C(n,r)表示。 C(n,r)=0,若n < r n 有的书上也用 表示. r
1.2 一一对应2
• 例7 在100名选手之间进行淘汰赛(即一场的比
赛结果，失败者退出比赛),最后产生一名冠军， 问要举行几场比赛？ 解 一种常见的思路是按轮计场，费事。 另一种思路是淘汰的选手与比赛(按场计)集一一 对应。99场比赛。
1.2 一一对应3
• 例 8 CnH2n+2是碳氢化合物,随着n的不同有下 列不同的枝链：
H | H—C—H | H—C—H | H H | H—C—H | H—C—H | H—C—H | H
数学与应用数学本科课程设置
数学与信息学院数学与应用数学专业本科培养方案(一) 专业培养目标本专业培养具有良好的政治思想素质，掌握数学科学基本理论、基础知识与基本方法，能运用数学知识和使用计算机解决若干实际数学问题，能在中等学校进行数学教学的教师、教学研究人员及其他教育工作者。
(二) 专业培养规格和要求本专业学生，应热爱祖国，拥护中国共产党的领导；掌握马列主义、毛泽东思想和邓小平理论的基本原理；树立正确的情感、态度和价值观。
具有敬业爱岗、艰苦奋斗、热爱劳动、遵纪守法、团结合作的品质；具有良好的思想品德、社会公德和职业道德。
本专业学生主要学习数学和应用数学的基本理论和方法，受到严格的数学思维训练，掌握计算机的基本原理和运用手段，并通过教育理论课程和教学实践环节，形成良好的教师素养，培养从事数学教学的基本能力和数学教育研究、数学科学研究、数学实际应用等基本能力。
毕业生应获得以下几方面的知识和能力：1．具有扎实的数学基础，初步掌握数学科学的基本思想方法，其中包括数学建模、数学计算、解决实际问题等基本能力；2．有良好的使用计算机的能力，能够进行简单的程序编写，掌握数学软件开发和计算机多媒体技术，能够对教学软件进行简单的二次开发；3．具备良好的教师职业素养和从事数学教学的基本能力，熟悉教育法规，掌握并初步运用教育学、心理学基本理论以及数学教学理论；4．了解近代数学的发展概貌及其在社会发展中的作用，了解数学科学的若干最新发展，数学教学领域的一些最新研究成果和教学方法，了解相近专业的一般原理和知识，学习文理渗透的课程，获得广泛的人文和科学修养；5．较强的语言表达能力和班级管理能力；6．掌握资料查询、文献检索及运用现代信息技术获得相关信息的基本方法，并有一定的科研能力；7．掌握一门外国语，能借助工具书阅读本学科和专业的外文书刊，具有一定的听、说、读、译的能力。
(三) 专业人才的知识、素质和能力发展要求表1 数学与应用数学本科专业人才知识、素质和能力发展细目表附图1：数学与应用数学专业知识、素质、能力结构图(四) 主干学科：数学(五) 专业主要课程数学分析、几何学、代数学、物理学、概率论与数理统计、微分方程、函数论、离散数学、数学史、数值方法与计算机技术、数学模型、数学实验、教育学与心理学基础、数学教学论、人文社会科学基础。
[数学]北邮最优化课件4单纯形方法
![[数学]北邮最优化课件4单纯形方法](https://img.taocdn.com/s3/m/890e52aae53a580216fcfe3a.png)
2019/2/24 最优化理论
iN
iN
3.1.线性规划-单纯形方法5
y 0且xi 0, i N , di yi - xi 0, i N cd c( y - x) 0 cy cx x为最优。
由上知,要减少费用, 只有当 C0时才可能，即
*
单纯形法
步1: 找出初始可行基B [ AB (1) , AB (2) ,..., AB ( m ) ]及初始可行解x；
* y j *，yB x u得新可行解y，转步1。 （i） B (i )
2019/2/24 最优化理论
3.1线性规划-单纯形方法12
Th3.4(单纯形法的收敛性） 对于相容的非退化(每个基可行解都是非退的)LP问 题， 那么经过有限次迭代后，单纯形法或者得到 最优的BFS(最优可行基B）或有一个方向d:
3.1线性规划-单纯形方法15
1 1 B= 0 0
c =(0
1 0 1 1
0 0 1 0
0 0 1 1 1 0 , B1 = 1 1 0 1 1 1
0 0 1 0
0 0 , 0 1
7 0 2 -3 0 0) T
r5 3 0, x5入基
令 y=x+d, >0, 我们能降低费用吗？
cy - cx cd (c BdB c jd j ) B 1 Aj ) c j =(c j cB
因此，若c j 0, 费用将减少。
2019/2/24 最优化理论
3.1线性规划-单纯形方法7
一个自然的问题是y x d 可行吗？ Ad 0 Ay Ax b;
xB(i ) 1 4 2 min min , , {i 1,2,..,m:d B ( i ) 0} 1 1 1 di
topkis-veinott修正的可行方向法
topkis-veinott修正的可行方向法Topkis-Veinott修正的可行方向法，也称为修正后的协作算法，是一种在线性规划中处理约束条件的方法。
该方法旨在解决传统协作算法在面对一些特定情况下产生错误的问题，通过引入可行方向的概念，进一步提高了算法的可靠性。
在传统的协作算法中，每次都优化所有变量，然后割平不满足约束的变量，直到没有变量需要割平为止。
但是，在某些情况下，这种方法可能会导致割平变量后不满足原有的约束条件，因而产生错误解。
这时，Topkis-Veinott修正的可行方向法就可以派上用场，它在每次迭代时先确定一个可行方向，然后割平与此方向不符的变量。
按照约束条件的凸性分为以下两种情况：一、当约束条件全部为凸集时。
假设当前的可行点为x，对于任意一个约束条件c_i，它都可以定义为：c_i: a_i * x >= b_i其中，a_i是约束条件的系数，b_i是约束条件的右端值。
此时，可行方向d应满足：a_i * d <= 0, if a_i * x = b_ia_i * d >= 0, if a_i * x < b_ia_i * d <= 0, if a_i * x > b_i简单来说就是，d要满足与x在c_i上平行，且朝x可行的方向。
二、当约束条件不全部为凸集时。
假设当前的可行点为x，将所有凸约束条件组成的子集记作C，将所有非凸约束条件组成的子集记作D，那么可行方向d应满足：1.如果D是空集，那么d必须满足C中任意一个凸约束条件的可行方向2.如果D非空，那么d首先要满足与x在C中任意一个凸约束条件上平行，然后朝着满足D条件的最大步长走在这个过程中，步长的计算方法与标准协作算法相同，都是取能够使约束条件得到最快改善的最小步长。
与此同时，可行方向也可以根据当前解的类型而进行调整：-当当前解为顶点时，可行方向可以任意选取且都是可行的。
-当当前解不是顶点时，可行方向只需在可行域内即可，具体方向可以根据改善速率选取。
恒速机上的MapReduce在线排序算法下界研究
恒速机上的MapReduce在线排序算法下界研究姜晓燕;帅天平【摘要】本文研究源自于MapReduce模型系统的一类排序问题.给定两台恒速机和一批按列表到达的工件,每个工件包含两类任务:Map任务和Reduce任务.假设Map任务和Reduce任务都是不可中断的,Map任务可以并行处理,即可以任意分割成若干小的任务并在两台机器上同时处理,而Reduce任务只可以在单台机器上处理.一旦工件到达,必须为其指派机器和开工时间,目标是使得这批工件的最后完工时间最小.对|Mj|≥|Rj|的情形,我们证明了任意在线算法的竞争比不小于(1+1/2s+2).【期刊名称】《软件》【年(卷),期】2019(040)001【总页数】5页(P8-12)【关键词】MapReduce;在线排序;LS-G算法;竞争比【作者】姜晓燕;帅天平【作者单位】北京邮电大学理学院,北京 100876;北京邮电大学理学院,北京100876【正文语种】中文【中图分类】O2230 引言目前，随着全球信息产业在不断融合发展，网络资源与数据规模也在不断增长，尤其是在科学研究（天文学、生物学、高能物理等）、计算机仿真、互联网应用、电子商务等领域，数据量呈现快速增长的趋势，并由此产生了许多机遇[1]。
传统的数据分析技术已经越来越不适应当前密集型海量数据处理的需求。
而近几年兴起的云计算（Cloud Computing），其实本质上是一种新的提供资源按需租用的服务模式，是一种新型的互联网数据中心（Internet Data Center，IDC）业务。
为了解决当今处理海量数据的问题，Google 实验室提出了云计算中的MapReduce[2]模型解决了这个问题，尽管MapReduce的分布式模型技术在模式上很简单，但还存在许多问题，比如需要数据分析人员自行设计编写Map与Reduce函数的具体细节，所以传统的算法需要重新设计，才能更好地实现代码向数据迁移这一目标，由此传统算法的 Map-Reduce排序成为一个研究热点，而在本文中我们主要研究MapReduce排序算法的完工时间问题。
最优化理论与算法
帅天平
北京邮电大学数学系
§7， 最优性条件
2018/10/21 最优化理论 1
第七章 最优性条件
• 无约束问题的极值条件 • 约束极值问题的最优性条件 • 对偶及鞍点
2018/10/21
最优化理论
2
7. 最优性条件-无约束1
7.1无约束问题的极值条件 1，无约束极值问题
考虑非线性规划问题
min
f ( x), x E n
其中 f ( x)是定义在E n上的实值函数
——称为无约束极值问题（UNLP）
2018/10/21
最优化理论
3
7. 最优性条件-无约束2
2，必要条件 Th7.1.1(非极小点的充分条件) 设f(x)在点x*处可微, 若存在方向d(0)Rn,使得f(x*)'d<0, 则存在>0, 使得对任意(0,),有f(x*+d)<f(x*).此时,我们称 d 为f(x)在x*的一个下降方向. 证明. 由 f(x) 在 x* 可微, 则
2018/10/21 最优化理论 6
2
2
7. 最优性条件-无约束5
由(II), 显见 d’H(x*)d/2+||d|| (x*;d)0
2
对充分小的 成立 , 对 0取极限, 则有 d’H(x*)d 0, 从而,H(x*) 半正定
3，二阶充分条件
定义1 若f(x)在点x*处可微,且f(x*)=0,则称x*为f(x)的一个 驻点或平稳点.d(0)Rn, 既不是极大点也不是极小点的驻 点称为鞍点. Th7.1.4 (二阶充分条件). 假设 f(x) 在 x*点二次可微,若 f(x*)=0 且 Hessian 矩阵 H(x*) 是正定的,则 x* 是(UNLP) 的一个(严格)局部极小点
6运输问题
min f ( x ) wij xij
i 1 j 1
m n
max g (u, v ) ai ui b j v j
i 1 j 1
m
n
n 1 xij ai i 1,2,, m j m xij b j j 1,2,, n i 1 xij 0
4
2 运输问题的求解方法
• • • • 约束条件非常有规律，技术系数非 0 即 1 基变量的个数远小于决策变量的个数 采用表上作业法，称为位势法和踏石法 运算中涉及两个表：运费表和产销平衡表(分配表)
1 2 n
销地 运费 产地 1 2 m
w 11 w 12 w 21 w 22 wm1 wm2
w 1n w 2n wmn
5
2.1 寻找初始可行解的方法
1、西北角法 – 从 x11开始分配，从西北向东南方向逐个分配
– xij 的分配公式
( ai i 行已分配的总量 ) i 行尚余物资量 xij min (b j j 列已分配的总量 ) j 列待分物资量
16
3.3.3 关于退化问题
1、初始解退化。即所求初始基变量的个数少于 m+n1。必须 补足基变量的个数，否则不能正常解出 m+n个 ui 和 vj
– 所补基变量的值为 0 ，补充的原则：(1)尽量先选运费小的实变量； (2)补充后不能有某个基变量独占一行一列（必要但不充分）
15
3 关于退化问题
2、迭代过程中出现退化
5 10 12 15 12 12
编号 II
分配表{x ij }
20 11 3 5 9 10 18 7 (4)
运费表{w ij }
3线性规划性质
xN 的各分量称为非基变量.又若B1b 0, 则称
x B B-1b 为约束条件Ax=b,x0的一个基本 x x N 0 可行解. B称为可行基矩阵
x B1 , x B2 ,..., x Bm 称为一组可行基.
TP SHUAI 18
2.线性规划-性质10
i=1,2,...m (2.1)
x j 0, j=1,2,...n
min cx s.t. Ax b, x 0,
其中A是mn矩阵，c是n维 (2.2) 行向量， b是m维列向量。
注：为计算需要，一般假设b0.否则，可在方程两端乘以(-1) 即可化为非负。 TP SHUAI 5
2.线性规划-形式
TP SHUAI 20
2.线性规划-性质12
1/ 2 1/ 2 B 1/ 2 1/ 2 1/ 2 1/ 2 1 3/ 4 1 1 x B1 b 1/ 2 1/ 4 0 1/ 2 1/ 2 0 1 1 B2 1 1
引入松弛变量xn+1， xn+2 ,… xn+m.
TP SHUAI
6
2.线性规划-形式
则有
min c1x1 c 2 x 2 ... c n x n s.t. a11x1 a12 x 2 ... a1n x n x n 1 b1 a 21x1 a 22 x 2 ... a 2n x n x n 2 b 2 ............................... a m1x1 a m2 x 2 ... a mn x n x n m b m x j 0, j 1, 2,...n m
Min 3x +2.5y
2凸分析
TP SHUAI
8
2. 凸集与凸函数
由定义可知,锥关于正的数乘运算封闭,凸锥关于加法 和正的数乘封闭,一般的,对于凸集S,集合 K(S)={λx|λ>0,xS} 是包含S的最小凸锥. 锥C称为尖锥,若0S.尖锥称为突出的,若它不包含 一维子空间. • 多面集 {x|Ax0}也是凸锥，称为多面锥。
x1 x5 x x2
x4
y
x3
TP SHUAI 7
2. 凸集与凸函数
命题2.2若集合S Rn为凸集，则它的闭包S 也是凸集。
Df 2.4设有集合C R n , 若对每一点x C ,当取 任何非负数时，都有x C , 称C为锥, 又若C为凸 集，则称C为凸锥.
例2. ，向量集(1), (2),..., (k)的所有非负线性组合 3 构成的集合 { i (i) i 0,i 1,2,..., k}为凸锥。
2. 凸集与凸函数
设S为闭凸集，y S,H {x | p T x }为超平面。 H分离点y 若pT y , 则p T x ，x S. 令pT y ，则y与S分离可表为 pT y p T x, x S.
Th 2.7 设S ( )为R n中的闭凸集，y S , 则存在p 0 及实数 0，使得对点x S , 有 pT y pT x。
x
2
y
x3
由上可知,任何有界凸集中任一点都可表成极点的凸组合.
TP SHUAI
10
2. 凸集与凸函数
Def 2.6. 设非空凸集SRn, Rn中向量d0 称为S的一个回收方 向(方向), 若对每一 xS, R(x.d)={x+d| 0 }S.S的所有方向 构成的尖锥称为S的回收锥,记为0+S 方向d1和d2 称为S的两个不同的方向,若对任意>0, 都有 d1d2；方向d称为S的极方向extreme direction ,若 d=d1+(1-)d2, (0,1),d1 ,d2 是S的两个方向,则有 d=d1=d2. 换言之d不能表成它的两个不同方向的凸锥组合 d x0 x0 d d
栅格化极坐标目标定位方法
栅格化极坐标目标定位方法邓立齐;杨卫;金晓会【摘要】For battlefield reconnaissance and other environmental objectives detection positioning have the features of quickness, multi-target, and omnibearing, this paper proposes and designs rasterized polar coordinate target positioning method and describes the integrated platform to achieve the method, which integrated laser rangefinder, thermal imager and other equipment. The platform uses a thermal imager with night vision effect for image acquisition, a laser rangefinder for calibrating distance and an electronic compass for calibrating orientation. The information processing unit uses image processing technology to set up rasterized polar coordinate model based on collected data. The method can quickly complete the matching positioning when the target passes into, achieve all-round rapid target detection and location, and especially has a large advantage for multi-targeting group.%针对战场侦察等环境下,目标侦测定位需要快速、多目标、全方位等特点,本文设计提出栅格化目标定位方法.介绍了该定位方法实现的集成激光测距、热像仪等仪器的一体化平台,利用具有夜视作用的热像仪做图像采集,激光测距仪标定距离,电子罗盘定向;信息处理单元运用图像处理技术,在采集数据的基础上建立栅格化极坐标模型,目标进入能够快速匹配对目标定位,实现全方位快速目标检测定位,尤其对群多目标定位具有较大优势.【期刊名称】《红外技术》【年(卷),期】2017(039)003【总页数】5页(P279-283)【关键词】栅格化;多目标;目标定位【作者】邓立齐;杨卫;金晓会【作者单位】中北大学电子测试技术重点实验室,山西太原 030051;中北大学仪器科学与动态测试教育部重点实验室,山西太原 030051;中北大学电子测试技术重点实验室,山西太原 030051;中北大学仪器科学与动态测试教育部重点实验室,山西太原 030051;中北大学电子测试技术重点实验室,山西太原 030051;中北大学仪器科学与动态测试教育部重点实验室,山西太原 030051【正文语种】中文【中图分类】TP391.4目标定位技术随着科技的进步已经取得了较大发展，在军用和民用领域都存在大量的研究应用。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
A1x(k) A1d (k) b1 自然成立。
约束(12.1.19)化为
A2x(k) A2d (k) b2 (12.1.20)
1. Zoutendijk可行方向法
这样,问题(12.1.15)化简为
min f (x(k) d (k ) )
s.t. A2x(k ) A2d (k ) b2 0
(12.1.14)
1. Zoutendijk可行方向法
怎样确定k ?k的取值原则有两点： 第一，保持迭代点x(k) kd (k)的可行性；
第二，使目标函数值尽可能减小。
根据上述原则,可以通过求解下列一维搜索问题来确
定步长：
min f (x(k) d k )
s.t. A(x(k) d k ) b
设非零向量d是 xˆ 处的可行方向，于是存在0,使
得对每个，有 xˆ d为可行点，即
A(xˆ d ) b
(12.1.2)
E(xˆ d ) e
由于
(12.1.3)
A( 因此
xˆ
d
)
A1 A2
(
xˆ
d
)
b1 A1d A2xˆ A2d
b1 A1d A2xˆ A2d
根据(12.1.21)的约束条件，易求出的上限,令
(12.1.21 ）
根据假设(12.1.5)及A1xˆ b1,得
A1(xˆ d ) b1 (12.1.7)
1. Zoutendijk可行方向法
(12.1.6)和(12.1.7)即
A(xˆ d ) b (12.1.8)
又由Ed 0及Exˆ e可知
E(xˆ d ) e (12.1.9)
由上可知,xˆ d是可行点.因此d是xˆ处的可行方向.
1. Zoutendijk可行方向法
怎样选择下降可行方向？
Th12.1.1设xˆ是问题(12.1.1)的可行解，在点xˆ处有
A1xˆ b1, A2xˆ b2,其中
A
A1 A2
,
b
b1 b2
则非零向量d为xˆ处的可行方向的充要条件是
A1d 0, Ed 0.
证明：必要性
1. Zoutendijk可行方向法
E(x(k) d k ) e
(12.1.15)
0
1. Zoutendijk可行方向法
问题(12.1.15)可作进一步简化。 由于d (k)是可行方向,必有
Ed (k ) 0
Ex(k ) e 因此,(12.1.15)中第2个约束是多余的
在点x(k)处,根据约束是否起作用，记A ( A1, A2 )T ,
显然d=0是可行解。由此可知,目标函数的最优 值必小于等于0。若最优值小于0，则可得下降 可行方向d,否则我们可证x是KKT点.
1. Zoutendijk可行方向法
Th12.1.2考虑问题(12.1.1),设x是可行解，在点x处有
A1x b1, A2x b2,其中
A
A1 A2
,
b
b1 b2
p
f
(
x)
q
(w, p, q)T 0
(12.1.12)
根据Farkars定理，上述方程有解的充要条件是
(A1,E, E)T d 0,f (x)T d 0
无解
(12.1.13)
1. Zoutendijk可行方向法
即
f (x)T d 0, A1d 0, Ed 0无解
所以x为KKT点的充要条件是问题(12.1.10)的目标 函数最优值为0。
于是,如果非零向量d同时满足 f (xˆ)T d 0, A1d 0, Ed 0
则d是在xˆ处的下降可行方向。
1. Zoutendijk可行方向法
Zoutendijk法把确定搜索方向归结为求解LP: min f (x)T d
s.t. A1d 0, Ed 0,
(12.1.10)
d j 1, j 1,...,n
根据上述定理，求解问题(12.1.10)的结果或者是 得到下降可行方向，或者得到KKT点。
怎样确定一维搜索的步长？
设x( k )是(12.1.1)的可行解，不妨看作第k次迭代的出发点.
d (k)为x(k)处一个下降可行方向。后继点x(k1)由下列迭代
公式给出：
x(k1) x(k ) k d (k )
Ch12 可行方向法
求解无约束问题下降算法的过程是
在当前点x(k)处，寻找目标函数f 的下降方向d (k)，然后从x(k)
出发，沿d (k)进行一维搜索,产生步长k ,进而得到
x(k 1) x(k ) k d (k )
解约束问题的可行方向法与求解无约束问题的下降算法类 似：可行方向法从问题的可行点出发，在该点的可行方 向中，寻找使目标函数下降的方向，然后沿该方向进行 线性搜索，得到一个新的可行点。
则x为KKT点的充要条件是问题(12.1.10)的目标函数
最优值为0.
证明:根据定义, x为KKT点的充要条件是,w和v,
使得 f (x) A1T w ETv 0
(12.1.11)
1. Zoutendijk可行方向法
令v=p-q, p,q. (12.1.11)写成
w
(
A1T
,
ET
,
ET
)
b1 b2
(12.1.4)
1. Zoutendijk可行方向法
注意到>0,故有 A1d 0 又由(12.1.3)得 Ed=0 下证充分性。设
A1d 0, Ed 0 (12.1.5)
由于A2xˆ b2,则存在正数 ,使得对 [0, ),成立
A2 (xˆ d ) b2
(12.1.6)
Ch12 可行方向法
1 Zoutendijk可行方向法 2 Rosen梯度投影法 3 Frank-Wolfe法 4 既约梯度法
1. Zoutendijk可行方向法
2.1 线性约束情形
考虑NLP问题 min f (x)
s.t Ax b (12.1.1) Ex e
其中f (x)可微，A为m n矩阵, E为l n矩阵， x Rn,b和c分别为m和l维列向量.
b (b1,b2 )T
A1x(k ) b1
(12.1.16)
A2 x(k ) b2
(12.1.17)
1. Zoutendijk可行方向法
于是,(12.1.15)中第1个约束可写成：
A1x(k A2 x(k
) )
A1d (k ) A2d (k )
b1
b2
(12.1.19)
由于d (k)为可行方向，A1d (k) 0，A1x(k)＝b1, 0