算法与计算复杂性课程(7)概率算法
算法设计与分析课程教学大纲
算法设计与分析课程教学大纲【适用专业】计算机科学与技术【课时】理论课时：32【学分】 2【课程性质、目标和要求】《算法设计与分析》是计算机科学与技术专业的专业课。
无论是计算科学还是计算实践，算法都在其中扮演着重要角色。
本课程的教学目的是讲授在计算机应用中常常遇到的实际问题的解法，讲授设计和分析各种算法的基本原理、方法和技术，培养学生对算法复杂性进行正确分析的能力。
课程基本要求是⑴掌握算法分析的基本概念和理论。
⑵掌握算法设计技术和分析算法以及算法复杂性。
【教学时间安排】本课程计 2 学分，理论课时32, 学时分配如下：【教学内容要点】第一章算法引论一、学习目的要求1．了解算法的计算复杂性分析方法2．理解算法分析的基本理论3．掌握算法分析的基本概念二、主要教学内容1. 算法的基本概念2. 表达算法的抽象机制3. 采用Java语言与自然语言相结合的方式描述算法的方法4. 算法的计算复杂性分析方法第二章递归与分治策略一、学习目的要求1．理解典型范例中递归与分治策略应用技巧2．掌握递归与分治策略3．掌握数学归纳法证明算法正确性方法二、主要教学内容1. 递归的概念2. 分治法的基本思想3. 二分搜索技术4. 大整数的乘法5. Strassen阵乘法6. 棋盘覆盖7. 合并排序8. 快速排序9. 线性时间选择10. 最接近点对问题11. 循环赛日程表第三章动态规划一、学习目的要求1．理解典型范例中动态规划算法的设计思想2．掌握动态规划算法的基本要求以及算法的设计要点二、主要教学内容1. 矩阵连乘问题2. 动态规划算法的基本要素3. 最长公共子序列4. 最大子段和5. 凸多边形最优三角剖分6. 多边形游戏7. 图像压缩8. 电路布线9. 流水作业调度10. 0—l背包问题11. 最优二叉搜索树12. 动态规划加速原理三、课堂讨论选题1. 最长公共子序列2. 0—l背包问题第四章贪心算法一、学习目的要求1．了解贪心算法的理论基础及基本要素2. 理解典型范例中贪心算法的设计思想3. 掌握贪心算法的设计要点二、主要教学内容1. 活动安排问题2. 贪心算法的基本要素3. 最优装载4. 哈夫曼编码5. 单源最短路径6. 最小生成树7. 多机调度问题8. 贪心算法的理论基础三、课堂讨论选题1. 最优装载2. 单源最短路径第五章回溯法一、学习目的要求1．理解回溯法的效率分析方法2．掌握回溯法的算法框架和应用技巧二、主要教学内容1. 回溯法的算法框架2. 装载问题3. 批处理作业调度4. 符号三角形问题5. n后问题6. 0—l背包问题7. 最大团问题8. 图的m着色问题9. 旅行售货员问题10. 圆排列问题11. 电路板排列问题12. 连续邮资问题13. 回溯法的效率分三、课堂讨论选题1. 0—l背包问题2. 图的m着色问题第六章分支限界法一、学习目的要求1．理解分支限界法的基本思想2．掌握典型范例中分支限界法的应用技巧二、主要教学内容1. 分支限界法的基本思想2. 单源最短路径问题3. 装载问题4. 布线问题5. 0-1背包问题6. 最大团问题7. 旅行售货员问题8. 电路板排列问题9. 批处理作业调度三、课堂讨论选题1. 0-1背包问题2. 批处理作业调度第七章概率算法一、学习目的要求1．理解概率算法的基本思想2．掌握典型范例中概率算法的应用技巧二、主要教学内容1. 随机数2. 数值概率算法3. 舍伍德算法4. 拉斯维加斯算法5. 蒙特卡罗算法第八章 NP完全性理论一、学习目的要求1．了解P类与NP类问题2．了解典型的NP完全问题二、主要教学内容1. 计算模型2. P类与NP类问题3. NP完全问题4. 一些典型的NP完全问题第九章近似算法一、学习目的要求1．掌握近似算法的基本思想2．掌握常用近似算法的应用二、主要教学内容1. 近似算法的性能2. 顶点覆盖问题的近似算法3. 旅行售货员问题近似算法4. 集合覆盖问题的近似算法5. 子集和问题的近似算法第十章算法优化策略一、学习目的要求1．掌握算法优化策略2．掌握算法优化的基本方法二、主要教学内容1. 算法优化策略的比较与选择2. 动态规划加速原理3. 问题的算法特征4. 优化数据结构5. 优化搜索策略【教学（实验）内容要点】算法设计与分析实验是算法设计与分析课的一个实践性教学环节。
如何迅速计算复杂的概率问题
如何迅速计算复杂的概率问题概率问题在数学和统计学中扮演着重要的角色，但是对于一些复杂的概率问题，我们可能会感到头疼。
然而，有一些技巧和方法可以帮助我们迅速计算复杂的概率问题。
本文将介绍一些这样的方法，以帮助您更好地解决概率问题。
一、理解问题的要求在解决任何概率问题之前，我们首先需要清楚地理解问题的要求。
我们需要弄清楚问题中涉及到的事件、概率和相关的条件。
通过仔细阅读问题，理解问题的核心要求，可以帮助我们更好地解决问题。
二、使用基本的概率公式对于一些简单的概率问题，我们可以使用基本的概率公式来计算。
例如，如果我们要计算一个事件发生的概率，可以使用下面的公式：P(A) = n(A) / n(S)其中，P(A)表示事件A发生的概率，n(A)表示事件A中有利的结果的个数，n(S)表示样本空间中的总结果数。
通过使用这个公式，我们可以计算出事件发生的概率，从而解决一些简单的概率问题。
三、使用排列组合对于一些涉及到顺序和组合的概率问题，我们可以使用排列组合的方法来解决。
排列指的是从一组元素中选取一部分元素的顺序排列的方法；组合指的是从一组元素中选取一部分元素的组合方式。
例如，如果我们要计算从10个不同的球中选取3个球的排列数，可以使用排列公式：P(n,r) = n! / (n-r)!其中，P(n,r)表示从n个元素中选取r个元素的排列数，!表示阶乘。
同样地，如果我们要计算从10个不同的球中选取3个球的组合数，可以使用组合公式：C(n,r) = n! / (r!(n-r)!)通过使用排列组合的方法，我们可以快速计算出一些涉及到顺序和组合的概率问题。
四、使用条件概率和贝叶斯定理在一些复杂的概率问题中，我们可能需要考虑到条件概率和贝叶斯定理。
条件概率是指在发生了某个事件的条件下，另一个事件发生的概率。
贝叶斯定理是一个重要的概率公式，可以用于计算在给定一些条件下的事件发生的概率。
条件概率和贝叶斯定理可以帮助我们解决一些复杂的概率问题，尤其是当涉及到多个事件和条件时。
第5章 算法与复杂性
5.7 可计算性理论基础
研究计算的可行性和函数算法的理论，又称算法 理论，是算法设计与分析的基础，也是计算机科 学的理论基础。可计算性是函数的一个特性。
5.8 NP问题
NP(Non-deterministic Polynomial)问题是非确定性多 项式问题，是指算法无法直接计算出结果，只能通过进 行一些有选择的“猜算”来得到结果。 NP问题的研究结果有两种可能： 一种是找到了求解问题的算法； 另一种就是求解问题的算法是不存在的，那么就要从数
钥，通常有两个密钥，称为“公钥”和“私钥”，它 们两个必须配对使用，否则不能打开加密文件。
5.10 加密算法
常见加密算法有如下： (1)DES(Data Encryption Standard)：数据加密标准，速 度较快，适用于加密大量数据的场合。 (2)3DES(Triple DES)：是基于DES，对一块数据用3个不 同的密钥进行3次加密，强度更高； (3)RC2和RC4：用变长密钥对大量数据进行加密，比DES 快。 (4)IDEA(International Data Encryption Algorithm)国 际数据加密算法，使用128位密钥提供非常强的安全性。 (5)RSA：由RSA公司发明，是一个支持变长密钥的公共密 钥算法，需要加密的文件块的长度也是可变的。 (6)DSA(Digital Signature Algorithm)：数字签名算法， 是一种标准的DSS(数字签名标准)。
第一讲：计算复杂性理论
大多数研究者认可 的包容关系
L m
计算复杂度的影响因素
简化模型：模型2
计算复杂度的影响因素
简化模型：模型3。
计算复杂度的影响因素
建模假设 例：高空抛球的运动轨迹。 ----抛物线模型 假设1.没有空气阻力； 假设2.地面是平面。 ----椭圆模型
计算复杂度的影响因素
探索空间1 探索空间1---解的近似度、满意度
例：0—10之间的整数解：1-9共9个可行解（一维） 0—10之间的实数解：精确到小数点后6位 共有107个可行解（一维）； 107n个可行解（n维）
n! 10141世紀 → 10120世紀 102551世紀 → 102530世紀
问题与算法
每个問題都可能有多个算法存在． 每个算法的计算量（速度）都不同。 例： 赝品金币問題： 问题：9個外观完全一样的金币.，有一个是假的 （重量轻）． 提问：用天秤来鉴别真伪，天秤需要使用几次？
贋品金币問題算法 問題算法
优化技术与方法
計算量(1) 計算量
＋,－,×,÷ 比較：≠，≤，≥，＜，＞ 5种基本演算都是用1step 可以实现. 実際上,×比＋多占用時間. 「四舍五入」不算基本演算.
計算量(2) 計算量
｛a1, a2,..., an｝：n個整数 Q1. 求和（1）： a1+a2+･･･+an. 1 + +a n-1 steps → O(n)算法. Q2. 求和（2）： (1) 2×a1+･･･+ 2×an , 2n-1 steps→ O(n)算法. (2) 2×(a1+･･･+an) , n steps→ O(n)算法.
尚未确信能否用多項式時間算法求解的问题的 集合称为NP （non-deterministic polynomial）问题 某一个问题不属于NP问题的証明 如能够找到一个多項式時間算法 （簡単） 某一个问题属于NP问题的証明 可以归结为某一类既知的NP类问题（现阶段7类））
概率算法
1
9.1.2 随机数发生器
一、产生随机数的公式：
⎧ d0 = d ⎪ ⎨ d n = b d n −1 + c ⎪ a = d / 65536 n ⎩ n n = 1, 2 , L
（9.1.1）
产生 0~65535 的随机数 a1 , a 2 , L 序列，
b 、 c 、 d 为正整数， d 称为所产生的随机序列的种子。
∑
∑
≤ n+
n −1 n −1 ⎤ 4⎡ ⎢ i + i⎥ n ⎢ i = n / 2 +1 i = n / 2 ⎥ ⎡ ⎤ ⎦ ⎣ ⎣ ⎦
∑
∑
≤ n+
n −1 n −1 ⎤ 4⎡ ⎢ i + i⎥ n ⎢ i= n / 2 i = ⎡n / 2 ⎤ ⎥ ⎣ ⎡ ⎤ ⎦
∑
∑
= n+
8 n
i = ⎡n / 2 ⎤
9.2
舍伍德（Sherwood）算法
一、确定性算法的平均运行时间
T A ( x ) ：确定性算法 A 对输入实例 x 的运行时间。 X n ：规模为 n 的所有输入实例全体。
算法 A 的平均运行时间：
2
T A(n) =
x∈ X n
∑T
A ( x) /
|Xn |
存在实例 x ∈ X n ， T A ( x ) >> T A ( n ) 。 例：快速排序算法 当输入数据均匀分布时，运行时间是 Θ ( n log n ) 。 当输入数据按递增或递减顺序排列时，算法的运行时间变坏 二、舍伍德算法的基本思想 消除不同输入实例对算法性能的影响，使随机算法 B 对规模为 n 的每一个实例 x ∈ X n ， 都有：
算法设计与分析ppt课件
ACM国际大学生程序设计竞赛
ACM国际大学生程序设计竞赛（英文 全称：ACM International Collegiate Programming Contest（ACM-ICPC或 ICPC）是由美国计算机协会（ACM）主办 的，一项旨在展示大学生创新能力、团队 精神和在压力下编写程序、分析和解决问 题能力的年度竞赛。经过30多年的发展， ACM国际大学生程序设计竞赛已经发展成 为最具影响力的大学生计算机竞赛。赛事 目前由IBM公司赞助。
第3章 动态规划 3.1 矩阵连乘问题 3.2 动态规划算法的基本要素 3.3 最长公共子序列 3.4 最大子段和 3.5 凸多边形最优三角剖分 3.6 多边形游戏 3.7 图像压缩 3.8 电路布线 3.9 流水作业调度 3.10 0-1背包问题 3.11 最优二叉搜索树 3.12 动态规划加速原理
7
1.1 算法与程序
算法：是满足下述性质的指令序列。
输 入：有零个或多个外部量作为算法的输入。 输 出：算法产生至少一个量作为输出。 确定性：组成算法的每条指令清晰、无歧义。 有限性：算法中每条指令的执行次数有限，执行
每条指令的时间也有限。
程序：是算法用某种程序设计语言的具体实现。
4
教材与参考书
教 材：
◦ 算法设计与分析(第三版) 王晓东，2007年 5月，电子工业出版社。
参考书：
◦ 徐士良编，C常用算法程序集，华大学出版 社，1998年
◦ 霍红卫编，算法设计与分析 西安电子科技 大学出版社，2005年
◦ 卢开澄编，计算机算法导引，清华大学出 版社，2003年
5
部分目录
算法分析是计算机领域的“古老”而“前沿” 的课题。
10
概率算法
1、概率算法：允许算法在执行的过程中随机的选择下一个计算步骤。
2、在多数情况下，当算法在执行过程中面临一个选择是：随机性选择常比最优选择省时，因此概率算法可在很大程度上降低算法复杂性。
3、概率算法的一个基本特征是对所求解问题的同一实例用同一概率算法求解两次可能得到完全不同的效果(所需时间或计算结果)。
4、概率算法包括：▪数值概率算法：求解数值问题的近似解，精度随计算时间增加而不断提高▪舍伍德算法：消除算法最坏情形行为与特定势力之间的关联性，并不提高平均性能，也不是刻意避免算法的最坏情况行为▪拉斯维加斯算法：求解问题的正确解，但可能找不到解▪蒙特卡罗算法：求解问题的准确解，但这个解未必正确，且一般情况下无法有效判定正确性5、随机数：随机数在概率算法设计中扮演着十分重要的角色。
在现实计算机上无法产生真正的随机数，因此在概率算法中使用的随机数都是一定程度上随机的，即伪随机数。
6、线性同余法是产生伪随机数的最常用的方法。
7、数值概率算法：通常用于数值问题的求解中，求解数值问题的近似解，精度随计算时间增加而不断提高例如：设有一半径为r的圆及其外切四边形。
向该正方形随机地投掷n个点。
设落入圆内的点数为k。
由于所投入的点在正方形上均匀分布，因而所投入的点落入圆内的概率为224rr∏。
所以当n足够大，4kn∏=程序一：double Darts(int n){ // 用随机投点法计算π值static RandomNumber dart; int k=0;for (int i=1;i <=n;i++) {double x=dart.fRandom(); double y=dart.fRandom(); if ((x*x+y*y)<=1) k++;}return 4*k/double(n);}计算定积分，同样的道理可以阐述到10()I f x dx=⎰表示曲线以下面积，那么落入曲线下面积的概率为()11000{()}()f xrP y f x dydx f x dx≤==⎰⎰⎰，即可知I mn≈8、舍伍德算法：设A 是一个确定性算法，当它的输入实例为x 时所需的计算时间记为tA(x)。
算法的计算复杂性概念
算法的计算复杂性概念
计算复杂性是一个相当普遍的概念，用来衡量算法的复杂程度及其所需要的计算和存储资源。
它指出了通过解决一个特定问题所需要的资源数量和时间，是计算机科学领域中应用非常广泛的计算时间和空间复杂度理论。
计算复杂性的基本思想是：给定的算法的运行时间，由其所执行的基本步骤的重复次数决定。
这些步骤机会包括读写输出、内存操作、比较和逻辑判断等。
每一次的重复，都会消耗算法所需的资源。
算法的运行时间，在某程度上可以用消耗的资源数量来衡量。
计算复杂性概念被用来衡量算法空间和时间复杂度，以及评价算法效率，它是一种定量量度。
运行时间和空间复杂度由大O表示法来表示，Big O表示法在数学里描述函数增加量的时候，使用主要步骤多少来表示算法的复杂程度。
算法中最耗时的基本步骤是核心步，而计算复杂性可以衡量算法的效率，并评估算法的运行性能。
计算复杂性的概念历经多年，今天已经成为计算机科学领域的核心技术，深受计算性能分析专家、软件开发者和算法设计者的重视。
它不仅能够帮助识别算法效率的关键瓶颈，而且能够用精准的度量标准来比较两个算法的性能，帮助推进算法的改进，提高计算性能。
因此计算复杂性是一个极为重要的计算机科学概念，它能够用精确的方式衡量算法的复杂程度，用于评估算法的性能，以及帮助算法设计者和开发者识别算法缺陷并进行改进。
计算理论计算复杂性ppt课件
3cnf: 每个子句文字数不大于3, 2cnf: 每个子句文字数不大于2
可满足问题SAT
• 可满足性问题: SAT = { <> | 是可满足的布尔公式 }
• 思想: 将字符串对应到布尔公式 利用接受的形式定义.
• 过程: 任取ANP, 设N是A的nk时间NTM. w(|w|=n), N接受w
N有长度小于nk的接受格局序列 能填好N在w上的画面(一个nknk表格) f(w)可满足 • 结论: SAT是NP完全的
N接受w能填好N在w上的画面
# q0 w0 w1 … wn #
2)若0,1都在带上,重复以下步骤. O(n)
3) 检查带上0,1总数的奇偶性,
若是奇数,就拒绝.
O(n) log n
4) 再次扫描带,
第1个0开始,隔1个0删除1个0; O(n)
第1个1开始,隔1个1删除1个1.
总时间:
5)若带上同时没有0和1,则接受. O(n) O(nlogn)
否则拒绝.”
{0k1k|k0}TIME(nlogn)
快速验证
HP = {<G,s,t>|G是包含从s到t的 哈密顿路径的有向图}
CLIQUE={<G,k>|G是有k团的无向图} 目前没有快速算法,但其成员是可以快速验证的. 注意:HP的补可能不是可以快速验证的. 快速验证的特点: 1. 只需要对语言中的串能快速验证. 2. 验证需要借助额外的信息:证书,身份证.
• 二元可满足性问题: 2SAT = { <> | 是可满足的2cnf }
算法设计与分析-绪论
回溯法的算法框架 实例分析
０－１背包问题 ＴＳＰ问题 N皇后问题 连续邮资
回溯法的效率分析
基础算法部分教学安排（6/10）
第六章：分支限界法
分支限界法的基本思想 实例分析
单源最短路径问题 装载问题 布线问题
基础算法部分教学安排（7/10）
第七章：概率算法
分析总结阶段
方案是否可行 是否满足预期要求 与其他方案相比，本方案有哪些优点（通过实验数 据说明），有哪些问题？如何进行改进？ ——提交工程设计论文
6000字左右 遵照标准科技论文格式 严禁抄袭!
工程论文要求
题目 作者 摘要 文献综述 典型问题 方案设计 实验分析 研究过程中发现的问题总结 结论与感想 参考文献 附件说明
如不交作业，该组同学的该次作业成绩以0分计；
每次上传作业中，除规定的课程作业外，还需注明本次作业 的负责同学姓名,学号 以及作业的分工； 每周四中午12：00前交作业，迟交一律不收
工程设计要求（1/5）
准备阶段
确定要研究的课题； 在组内进行分工； 拟订工作计划； ——提交研究小组组成情况说明，课题名称，分工以 及工作计划
考核方式
平时成绩（40%）；
请假以课前书面假条为准
小组汇报、实验+考勤
期末考试或工程设计（60%）
平时作业的分组安排
平时作业的分组安排
按2-3人/组进行分组 自由组合； 每组选出一位同学作为联系人,该联系人在10月10日前将本 组成员名单、联系方式上传到作业目录下； 作业按组上交，成绩按组评定 由联系人负责作业和实验报告。
算法设计与分析习题解答(第2版)
第1章算法引论11.1 算法与程序11.2 表达算法的抽象机制11.3 描述算法31.4 算法复杂性分析13小结16习题17第2章递归与分治策略192.1 递归的概念192.2 分治法的基本思想262.3 二分搜索技术272.4 大整数的乘法282.5 Strassen矩阵乘法302.6 棋盘覆盖322.7 合并排序342.8 快速排序372.9 线性时间选择392.10 最接近点对问题432.11 循环赛日程表53小结54习题54第3章动态规划613.1 矩阵连乘问题62目录算法设计与分析(第2版)3.2 动态规划算法的基本要素67 3.3 最长公共子序列713.4 凸多边形最优三角剖分753.5 多边形游戏793.6 图像压缩823.7 电路布线853.8 流水作业调度883.9 0-1背包问题923.10 最优二叉搜索树98小结101习题102第4章贪心算法1074.1 活动安排问题1074.2 贪心算法的基本要素1104.2.1 贪心选择性质1114.2.2 最优子结构性质1114.2.3 贪心算法与动态规划算法的差异1114.3 最优装载1144.4 哈夫曼编码1164.4.1 前缀码1174.4.2 构造哈夫曼编码1174.4.3 哈夫曼算法的正确性1194.5 单源最短路径1214.5.1 算法基本思想1214.5.2 算法的正确性和计算复杂性123 4.6 最小生成树1254.6.1 最小生成树性质1254.6.2 Prim算法1264.6.3 Kruskal算法1284.7 多机调度问题1304.8 贪心算法的理论基础1334.8.1 拟阵1334.8.2 带权拟阵的贪心算法1344.8.3 任务时间表问题137小结141习题141第5章回溯法1465.1 回溯法的算法框架1465.1.1 问题的解空间1465.1.2 回溯法的基本思想1475.1.3 递归回溯1495.1.4 迭代回溯1505.1.5 子集树与排列树1515.2 装载问题1525.3 批处理作业调度1605.4 符号三角形问题1625.5 n后问题1655.6 0\|1背包问题1685.7 最大团问题1715.8 图的m着色问题1745.9 旅行售货员问题1775.10 圆排列问题1795.11 电路板排列问题1815.12 连续邮资问题1855.13 回溯法的效率分析187小结190习题191第6章分支限界法1956.1 分支限界法的基本思想1956.2 单源最短路径问题1986.3 装载问题2026.4 布线问题2116.5 0\|1背包问题2166.6 最大团问题2226.7 旅行售货员问题2256.8 电路板排列问题2296.9 批处理作业调度232小结237习题238第7章概率算法2407.1 随机数2417.2 数值概率算法2447.2.1 用随机投点法计算π值2447.2.2 计算定积分2457.2.3 解非线性方程组2477.3 舍伍德算法2507.3.1 线性时间选择算法2507.3.2 跳跃表2527.4 拉斯维加斯算法2597.4.1 n 后问题2607.4.2 整数因子分解2647.5 蒙特卡罗算法2667.5.1 蒙特卡罗算法的基本思想2667.5.2 主元素问题2687.5.3 素数测试270小结273习题273第8章 NP完全性理论2788.1 计算模型2798.1.1 随机存取机RAM2798.1.2 随机存取存储程序机RASP2878.1.3 RAM模型的变形与简化2918.1.4 图灵机2958.1.5 图灵机模型与RAM模型的关系297 8.1.6 问题变换与计算复杂性归约299 8.2 P类与NP类问题3018.2.1 非确定性图灵机3018.2.2 P类与NP类语言3028.2.3 多项式时间验证3048.3 NP完全问题3058.3.1 多项式时间变换3058.3.2 Cook定理3078.4 一些典型的NP完全问题3108.4.1 合取范式的可满足性问题3118.4.2 3元合取范式的可满足性问题312 8.4.3 团问题3138.4.4 顶点覆盖问题3148.4.5 子集和问题3158.4.6 哈密顿回路问题3178.4.7 旅行售货员问题322小结323习题323第9章近似算法3269.1 近似算法的性能3279.2 顶点覆盖问题的近似算法3289.3 旅行售货员问题近似算法3299.3.1 具有三角不等式性质的旅行售货员问题330 9.3.2 一般的旅行售货员问题3319.4 集合覆盖问题的近似算法3339.5 子集和问题的近似算法3369.5.1 子集和问题的指数时间算法3369.5.2 子集和问题的完全多项式时间近似格式337 小结340习题340第10章算法优化策略34510.1 算法设计策略的比较与选择34510.1.1 最大子段和问题的简单算法34510.1.2 最大子段和问题的分治算法34610.1.3 最大子段和问题的动态规划算法34810.1.4 最大子段和问题与动态规划算法的推广349 10.2 动态规划加速原理35210.2.1 货物储运问题35210.2.2 算法及其优化35310.3 问题的算法特征35710.3.1 贪心策略35710.3.2 对贪心策略的改进35710.3.3 算法三部曲35910.3.4 算法实现36010.3.5 算法复杂性36610.4 优化数据结构36610.4.1 带权区间最短路问题36610.4.2 算法设计思想36710.4.3 算法实现方案36910.4.4 并查集37310.4.5 可并优先队列37610.5 优化搜索策略380小结388习题388第11章在线算法设计39111.1 在线算法设计的基本概念39111.2 页调度问题39311.3 势函数分析39511.4 k 服务问题39711.4.1 竞争比的下界39711.4.2 平衡算法39911.4.3 对称移动算法39911.5 Steiner树问题40311.6 在线任务调度40511.7 负载平衡406小结407习题407词汇索引409参考文献415习题1-1 实参交换1习题1-2 方法头签名1习题1-3 数组排序判定1习题1-4 函数的渐近表达式2习题1-5 O(1) 和 O(2) 的区别2习题1-7 按渐近阶排列表达式2习题1-8 算法效率2习题1-9 硬件效率3习题1-10 函数渐近阶3习题1-11 n !的阶4习题1-12 平均情况下的计算时间复杂性4算法实现题1-1 统计数字问题4算法实现题1-2 字典序问题5算法实现题1-3 最多约数问题6算法实现题1-4 金币阵列问题8算法实现题1-5 最大间隙问题11第2章递归与分治策略14 习题2-1 Hanoi 塔问题的非递归算法14习题2-2 7个二分搜索算法15习题2-3 改写二分搜索算法18习题2-4 大整数乘法的 O(nm log(3/2))算法19习题2-5 5次 n /3位整数的乘法19习题2-6 矩阵乘法21习题2-7 多项式乘积21习题2-8 不动点问题的 O( log n) 时间算法22习题2-9 主元素问题的线性时间算法22习题2-10 无序集主元素问题的线性时间算法22习题2-11 O (1)空间子数组换位算法23习题2-12 O (1)空间合并算法25习题2-13 n 段合并排序算法32习题2-14 自然合并排序算法32习题2-15 最大值和最小值问题的最优算法35习题2-16 最大值和次大值问题的最优算法35习题2-17 整数集合排序35习题2-18 第 k 小元素问题的计算时间下界36习题2-19 非增序快速排序算法37习题2-20 随机化算法37习题2-21 随机化快速排序算法38习题2-22 随机排列算法38习题2-23 算法qSort中的尾递归38习题2-24 用栈模拟递归38习题2-25 算法select中的元素划分39习题2-26 O(n log n) 时间快速排序算法40习题2-27 最接近中位数的 k 个数40习题2-28 X和Y 的中位数40习题2-29 网络开关设计41习题2-32 带权中位数问题42习题2-34 构造Gray码的分治算法43习题2-35 网球循环赛日程表44目录算法设计与分析习题解答（第2版）算法实现题2-1 输油管道问题（习题2-30) 49算法实现题2-2 众数问题（习题2-31) 50算法实现题2-3 邮局选址问题（习题2-32) 51算法实现题2-4 马的Hamilton周游路线问题（习题2-33) 51算法实现题2-5 半数集问题60算法实现题2-6 半数单集问题62算法实现题2-7 士兵站队问题63算法实现题2-8 有重复元素的排列问题63算法实现题2-9 排列的字典序问题65算法实现题2-10 集合划分问题（一）67算法实现题2-11 集合划分问题（二）68算法实现题2-12 双色Hanoi塔问题69算法实现题2-13 标准二维表问题71算法实现题2-14 整数因子分解问题72算法实现题2-15 有向直线2中值问题72第3章动态规划76习题3-1 最长单调递增子序列76习题3-2 最长单调递增子序列的 O(n log n) 算法77习题3-7 漂亮打印78习题3-11 整数线性规划问题79习题3-12 二维背包问题80习题3-14 Ackermann函数81习题3-17 最短行驶路线83习题3-19 最优旅行路线83算法实现题3-1 独立任务最优调度问题（习题3-3) 83算法实现题3-2 最少硬币问题（习题3-4) 85算法实现题3-3 序关系计数问题（习题3-5) 86算法实现题3-4 多重幂计数问题（习题3-6) 87算法实现题3-5 编辑距离问题（习题3-8) 87算法实现题3-6 石子合并问题（习题3-9) 89算法实现题3-7 数字三角形问题（习题3-10) 91算法实现题3-8 乘法表问题（习题3-13) 92算法实现题3-9 租用游艇问题（习题3-15) 93算法实现题3-10 汽车加油行驶问题（习题3-16) 95算法实现题3-11 圈乘运算问题（习题3-18) 96算法实现题3-12 最少费用购物（习题3-20) 102算法实现题3-13 最大长方体问题（习题3-21) 104算法实现题3-14 正则表达式匹配问题（习题3-22) 105算法实现题3-15 双调旅行售货员问题（习题3-23) 110算法实现题3-16 最大 k 乘积问题（习题5-24) 111算法实现题3-17 最小 m 段和问题113算法实现题3-18 红黑树的红色内结点问题115第4章贪心算法123 习题4-2 活动安排问题的贪心选择123习题4-3 背包问题的贪心选择性质123习题4-4 特殊的0-1背包问题124习题4-10 程序最优存储问题124习题4-13 最优装载问题的贪心算法125习题4-18 Fibonacci序列的Huffman编码125习题4-19 最优前缀码的编码序列125习题4-21 任务集独立性问题126习题4-22 矩阵拟阵126习题4-23 最小权最大独立子集拟阵126习题4-27 整数边权Prim算法126习题4-28 最大权最小生成树127习题4-29 最短路径的负边权127习题4-30 整数边权Dijkstra算法127算法实现题4-1 会场安排问题（习题4-1) 128算法实现题4-2 最优合并问题（习题4-5) 129算法实现题4-3 磁带最优存储问题（习题4-6) 130算法实现题4-4 磁盘文件最优存储问题（习题4-7) 131算法实现题4-5 程序存储问题（习题4-8) 132算法实现题4-6 最优服务次序问题（习题4-11) 133算法实现题4-7 多处最优服务次序问题（习题4-12) 134算法实现题4-8 d 森林问题（习题4-14) 135算法实现题4-9 汽车加油问题（习题4-16) 137算法实现题4-10 区间覆盖问题（习题4-17) 138算法实现题4-11 硬币找钱问题（习题4-24) 138算法实现题4-12 删数问题（习题4-25) 139算法实现题4-13 数列极差问题（习题4-26) 140算法实现题4-14 嵌套箱问题（习题4-31) 140算法实现题4-15 套汇问题（习题4-32) 142算法实现题4-16 信号增强装置问题（习题5-17) 143算法实现题4-17 磁带最大利用率问题（习题4-9) 144算法实现题4-18 非单位时间任务安排问题（习题4-15) 145算法实现题4-19 多元Huffman编码问题（习题4-20) 147算法实现题4-20 多元Huffman编码变形149算法实现题4-21 区间相交问题151算法实现题4-22 任务时间表问题151第5章回溯法153习题5\|1 装载问题改进回溯法（一）153习题5\|2 装载问题改进回溯法（二）154习题5\|4 0-1背包问题的最优解155习题5\|5 最大团问题的迭代回溯法156习题5\|7 旅行售货员问题的费用上界157习题5\|8 旅行售货员问题的上界函数158算法实现题5-1 子集和问题（习题5-3) 159算法实现题5-2 最小长度电路板排列问题（习题5-9) 160算法实现题5-3 最小重量机器设计问题（习题5-10) 163算法实现题5-4 运动员最佳匹配问题（习题5-11) 164算法实现题5-5 无分隔符字典问题（习题5-12) 165算法实现题5-6 无和集问题（习题5-13) 167算法实现题5-7 n 色方柱问题（习题5-14) 168算法实现题5-8 整数变换问题（习题5-15) 173算法实现题5-9 拉丁矩阵问题（习题5-16) 175算法实现题5-10 排列宝石问题（习题5-16) 176算法实现题5-11 重复拉丁矩阵问题（习题5-16) 179算法实现题5-12 罗密欧与朱丽叶的迷宫问题181算法实现题5-13 工作分配问题（习题5-18) 183算法实现题5-14 独立钻石跳棋问题（习题5-19) 184算法实现题5-15 智力拼图问题（习题5-20) 191算法实现题5-16 布线问题（习题5-21) 198算法实现题5-17 最佳调度问题（习题5-22) 200算法实现题5-18 无优先级运算问题（习题5-23) 201算法实现题5-19 世界名画陈列馆问题（习题5-25) 203算法实现题5-20 世界名画陈列馆问题（不重复监视）（习题5-26) 207 算法实现题5-21 部落卫队问题（习题5-6) 209算法实现题5-22 虫蚀算式问题211算法实现题5-23 完备环序列问题214算法实现题5-24 离散01串问题217算法实现题5-25 喷漆机器人问题218算法实现题5-26 n 2-1谜问题221第6章分支限界法229习题6-1 0-1背包问题的栈式分支限界法229习题6-2 用最大堆存储活结点的优先队列式分支限界法231习题6-3 团顶点数的上界234习题6-4 团顶点数改进的上界235习题6-5 修改解旅行售货员问题的分支限界法235习题6-6 解旅行售货员问题的分支限界法中保存已产生的排列树237 习题6-7 电路板排列问题的队列式分支限界法239算法实现题6-1 最小长度电路板排列问题一（习题6-8) 241算法实现题6-2 最小长度电路板排列问题二（习题6-9) 244算法实现题6-3 最小权顶点覆盖问题（习题6-10) 247算法实现题6-4 无向图的最大割问题（习题6-11) 250算法实现题6-5 最小重量机器设计问题（习题6-12) 253算法实现题6-6 运动员最佳匹配问题（习题6-13) 256算法实现题6-7 n 后问题（习题6-15) 259算法实现题6-8 圆排列问题（习题6-16) 260算法实现题6-9 布线问题（习题6-17) 263算法实现题6-10 最佳调度问题（习题6-18) 265算法实现题6-11 无优先级运算问题（习题6-19) 268算法实现题6-12 世界名画陈列馆问题（习题6-21) 271算法实现题6-13 骑士征途问题274算法实现题6-14 推箱子问题275算法实现题6-15 图形变换问题281算法实现题6-16 行列变换问题284算法实现题6-17 重排 n 2宫问题285算法实现题6-18 最长距离问题290第7章概率算法296习题7-1 模拟正态分布随机变量296习题7-2 随机抽样算法297习题7-3 随机产生 m 个整数297习题7-4 集合大小的概率算法298习题7-5 生日问题299习题7-6 易验证问题的拉斯维加斯算法300习题7-7 用数组模拟有序链表300习题7-8 O(n 3/2)舍伍德型排序算法300习题7-9 n 后问题解的存在性301习题7-11 整数因子分解算法302习题7-12 非蒙特卡罗算法的例子302习题7-13 重复3次的蒙特卡罗算法303习题7-14 集合随机元素算法304习题7-15 由蒙特卡罗算法构造拉斯维加斯算法305习题7-16 产生素数算法306习题7-18 矩阵方程问题306算法实现题7-1 模平方根问题（习题7-10) 307算法实现题7-2 集合相等问题（习题7-17) 309算法实现题7-3 逆矩阵问题（习题7-19) 309算法实现题7-4 多项式乘积问题（习题7-20) 310算法实现题7-5 皇后控制问题311算法实现题7-6 3-SAT问题314算法实现题7-7 战车问题315算法实现题7-8 圆排列问题317算法实现题7-9 骑士控制问题319算法实现题7-10 骑士对攻问题320第8章NP完全性理论322 习题8-1 RAM和RASP程序322习题8-2 RAM和RASP程序的复杂性322习题8-3 计算 n n 的RAM程序322习题8-4 没有MULT和DIV指令的RAM程序324习题8-5 MULT和DIV指令的计算能力324习题8-6 RAM和RASP的空间复杂性325习题8-7 行列式的直线式程序325习题8-8 求和的3带图灵机325习题8-9 模拟RAM指令325习题8-10 计算2 2 n 的RAM程序325习题8-11 计算 g(m,n)的程序 326习题8-12 图灵机模拟RAM的时间上界326习题8-13 图的同构问题326习题8-14 哈密顿回路327习题8-15 P类语言的封闭性327习题8-16 NP类语言的封闭性328习题8-17 语言的2 O (n k) 时间判定算法328习题8-18 P CO -NP329习题8-19 NP≠CO -NP329习题8-20 重言布尔表达式329习题8-21 关系∝ p的传递性329习题8-22 L ∝ p 330习题8-23 语言的完全性330习题8-24 的CO-NP完全性330习题8-25 判定重言式的CO-NP完全性331习题8-26 析取范式的可满足性331习题8-27 2-SAT问题的线性时间算法331习题8-28 整数规划问题332习题8-29 划分问题333习题8-30 最长简单回路问题334第9章近似算法336习题9-1 平面图着色问题的绝对近似算法336习题9-2 最优程序存储问题336习题9-4 树的最优顶点覆盖337习题9-5 顶点覆盖算法的性能比339习题9-6 团的常数性能比近似算法339习题9-9 售货员问题的常数性能比近似算法340习题9-10 瓶颈旅行售货员问题340习题9-11 最优旅行售货员回路不自相交342习题9-14 集合覆盖问题的实例342习题9-16 多机调度问题的近似算法343习题9-17 LPT算法的最坏情况实例345习题9-18 多机调度问题的多项式时间近似算法345算法实现题9-1 旅行售货员问题的近似算法（习题9-9) 346 算法实现题9-2 可满足问题的近似算法（习题9-20) 348算法实现题9-3 最大可满足问题的近似算法（习题9-21) 349 算法实现题9-4 子集和问题的近似算法（习题9-15) 351算法实现题9-5 子集和问题的完全多项式时间近似算法352算法实现题9-6 实现算法greedySetCover（习题9-13) 352算法实现题9-7 装箱问题的近似算法First Fit（习题9-19) 356算法实现题9-8 装箱问题的近似算法Best Fit（习题9-19) 358算法实现题9-9 装箱问题的近似算法First Fit Decreasing（习题9-19) 360算法实现题9-10 装箱问题的近似算法Best Fit Decreasing（习题9-19) 361算法实现题9-11 装箱问题的近似算法Next Fit361第10章算法优化策略365 习题10-1 算法obst的正确性365习题10-2 矩阵连乘问题的 O(n 2) 时间算法365习题10-6 货物储运问题的费用371习题10-7 Garsia算法371算法实现题10-1 货物储运问题（习题10-3) 374算法实现题10-2 石子合并问题（习题10-4) 374算法实现题10-3 最大运输费用货物储运问题（习题10-5) 375算法实现题10-4 五边形问题377算法实现题10-5 区间图最短路问题（习题10-8) 381算法实现题10-6 圆弧区间最短路问题（习题10-9) 381算法实现题10-7 双机调度问题（习题10-10) 382算法实现题10-8 离线最小值问题（习题10-11) 390算法实现题10-9 最近公共祖先问题（习题10-12) 393算法实现题10-10 达尔文芯片问题395算法实现题10-11 多柱Hanoi塔问题397算法实现题10-12 线性时间Huffman算法400算法实现题10-13 单机调度问题402算法实现题10-14 最大费用单机调度问题405算法实现题10-15 飞机加油问题408第11章在线算法设计410习题11-1 在线算法LFU的竞争性410习题11-4 多读写头磁盘问题的在线算法410习题11-6 带权页调度问题410算法实现题11-1 最优页调度问题（习题11-2) 411算法实现题11-2 在线LRU页调度（习题11-3) 414算法实现题11-3 k 服务问题（习题11-5) 416参考文献422。
运筹学中计算复杂性
（1）n=2时，严格不等式组为
ai1x1+ai2x2〈 bi i=1，…，m 其解集合为若干个半平面的公共部分。
用 X表示原点（0，0）与点X=（x1，x2）之
间的距离，即 X=
x2 ， x而2
1
2
≤R代X 表以原点
为圆心，R为半径的圆。
可以证明，如果①有解，则在圆 ≤X2L内一定有 ①的解，且①的解集合在圆≤2L内的部分P的面 积至少是 2-（n+1）L。
与l1 相切于C点； 包含Ei被直线l 割出的介于l 与l1 的半个椭圆。
•运筹学中计算复杂性
ar1x1+ar2x2=br A
C p
X(i+1) Xi
l1
l B
图3 从{X（i），E•运i}筹得学中到计算{复X杂（性i+1），Ei+1}的过程
（3）用上述办法做出来的一系列椭圆有下面的关系： Ei+1的面积=CEi的面积，其中0〈 C〈1，且
•运筹学中计算复杂性
L im 1jn 1 l
m
2 o (a ijg 1 )l
i 1
2 o ( b i g 1 ) l 2 o n g m 1 （4）
L大致等于把不等式组（2）的所有系数都化 为二进制数时的位数，称L为问题（2）的输入 长度，可大体上说明问题（2）的规模大小。
综上，求解LP（L）可以转化成求解不等式组：
a11x1 a12x2 a1nxn b1
a21x1
a x 22 2
ax 2n n
b 2
am1
x 1
a m2
x 2
ax mn n
b m
•运筹学中计算复杂性
算法设计与复杂度分析
(n/5+1)*(n/3+1)=n^2/15+n/5+n/3+1
O(f)+O(g)=O(max(f,g))； O(n^2/15+n/5+n/3+1)=O(N^2)
20
穷举法实例—货郎担问题
例1.2 货郎担问题：某售货员要到若干个城 市销售货物，已知各城市之间的距离，要 求售货员选择出发的城市及旅行线路使每 个城市仅经过一次，最后回到原出发城市， 而总路程最短。
I DN
I DN i 1
i 1
k
k
~ T (N, I )
•平均情况下的时间复杂性：
Tavg(N)
I DN
P(I )T ( N , I ) P( I ) t e ( N , I )
I DN i 1 i i
k
其中DN是规模为N的合法输入的集合；I*是DN中使T(N, I*)
•4
算法复杂性分析
Ω的定义：如果存在正的常数C和自然数N0，使得当N N0时, 有f(N) C g(N)，则称函数f(N)当N充分大时下有界，且g(N)是它 的一个下界，记为f(N)=Ω (g(N))。即f(N)的阶不低于g(N)的阶。 θ的定义：定义f(N)= θ (g(N))当且仅当f(N)=O(g(N))且 f(N)= Ω (g(N))。此时称f(N)与g(N)同阶。 o的定义：对于任意给定的ε＞0，都存在正整数N0，使得 当N N0时有f(N)/Cg(N)ε,则称函数f(N)当N充分大时的阶比 g(N)低，记为f(N)=o(g(N))。
•12
穷举法实例
问题的陈述
复杂事件的概率计算
复杂事件的概率计算在概率论中，复杂事件是由多个简单事件组成的事件。
计算复杂事件的概率需要根据已知的信息和概率理论进行推导和计算。
本文将介绍复杂事件的概念和计算方法，并通过实例展示应用方法。
一、复杂事件的概念复杂事件是由两个或多个简单事件组成的事件。
简单事件是指只包含一个基本结果的事件，也就是不能再细分的事件。
复杂事件是由多个简单事件的组合或交集形成的。
计算复杂事件的概率需要考虑简单事件之间的关系和可能性。
二、概率计算的基本原理概率计算是基于概率公式和概率规则进行的。
在计算复杂事件的概率时，可以利用以下两个基本原理：1. 加法原理：如果A和B是两个互不相容的事件，即它们不会同时发生，那么事件A或B发生的概率等于事件A和B发生的概率之和。
P(A or B) = P(A) + P(B)2. 乘法原理：如果A和B是两个独立事件，即事件A的发生不会影响事件B的发生，那么事件A和B同时发生的概率等于事件A发生的概率乘以事件B发生的概率。
P(A and B) = P(A) * P(B)三、复杂事件的概率计算方法1. 事件的组合如果要计算两个或多个事件同时发生的概率，需要使用乘法原理。
假设有事件A、B和C，计算它们同时发生的概率可以使用以下公式： P(A and B and C) = P(A) * P(B) * P(C)2. 事件的交集如果要计算两个或多个事件交集的概率，需要使用乘法原理。
假设有事件A和B，计算它们交集的概率可以使用以下公式： P(A and B) = P(A) * P(B|A)其中，P(B|A)表示在事件A发生的条件下事件B发生的概率。
3. 事件的并集如果要计算两个或多个事件并集的概率，需要使用加法原理。
假设有事件A和B，计算它们并集的概率可以使用以下公式： P(A or B) = P(A) + P(B) - P(A and B)四、实例演示假设有一批产品，已知其中20%存在质量问题，同时10%存在包装问题。
如何迅速计算复杂的条件概率问题
如何迅速计算复杂的条件概率问题复杂的条件概率问题是数学和统计学中常见的难题之一。
在解决这类问题时，我们需要运用一些计算方法和技巧来简化计算过程，提高计算效率。
本文将介绍如何迅速计算复杂的条件概率问题，并提供一些实用的计算技巧。
一、条件概率的基本概念在开始解决复杂的条件概率问题之前，首先需要了解条件概率的基本概念。
条件概率是指在已知一定条件下，某事件发生的概率。
用数学符号表示为P(A|B)，表示在事件B已经发生的条件下，事件A发生的概率。
二、计算条件概率的方法1. 乘法法则乘法法则是计算条件概率的基本方法。
根据乘法法则，若事件A和事件B相互依赖，则事件A和B同时发生的概率为P(A∩B)=P(A)×P(B|A)。
其中，P(A∩B)表示事件A和事件B同时发生的概率，P(A)表示事件A发生的概率，P(B|A)表示在事件A发生的条件下事件B发生的概率。
2. 条件概率的转化对于复杂的条件概率问题，有时可以通过转化简化计算过程。
一种常见的转化方法是将复杂的条件概率问题转化为简单的条件概率问题。
例如，如果我们需要计算P(A|B)，可以先计算P(B|A)，然后利用乘法法则计算P(A|B)。
三、实用的计算技巧1. 利用树形图树形图是解决条件概率问题的常用工具。
通过构建树形图，可以清晰地表示出各个事件之间的关系，并依次计算各个事件的条件概率。
树形图能够将复杂的问题分解为简单的部分，从而简化计算过程。
2. 利用贝叶斯公式贝叶斯公式是解决条件概率问题的重要公式。
根据贝叶斯公式，若事件A和事件B相互依赖，则事件A发生的条件下事件B发生的概率为P(B|A)=P(A|B)×P(B)/P(A)。
3. 利用独立性当事件A和事件B相互独立时，它们之间的条件概率为P(A|B)=P(A)。
在解决条件概率问题时，如果能够确定事件A和事件B相互独立，可以简化计算过程，提高计算效率。
四、示例分析下面通过一个具体的示例来说明如何迅速计算复杂的条件概率问题。
算法设计与分析概率算法经典讲解
显然，概率算法只能是期望的时间更有效， 但它有可能遭受到最坏的可能性。
5
3. 期望时间和平均时间的区别
❖ 确定算法的平均执行时间 输入规模一定的所有输入实例是等概率出现时，算法 的平均执行时间。
❖ 概率算法的期望执行时间 反复解同一个输入实例所花的平均执行时间。
16
Ch.2 数字概率算法
这类算法主要用于找到一个数字问题的近似解
§2.1 π值计算
实验：将n根飞镖随机投向一正方形的靶子，计算落入此正方
形的内切圆中的飞镖数目k。
假定飞镖击中方形靶子任一点的概率相等(用计算机模拟比任
一飞镖高手更能保证此假设成立)
设圆的半径为r，面积s1= πr2； 方靶面积s2=4r2 由等概率假设可知落入圆中的飞镖和正方形内的飞镖平均比
12
§1.2 概率算法的分类
1. 基本特征 随机决策 在同一实例上执行两次其结果可能不同 在同一实例上执行两次的时间亦可能不太相同
2. 分类 Numerical, Monte Carlo, Las Vegas, Sherwood. 很多人将所有概率算法(尤其是数字的概率算法) 称为Monte Carlo算法
方案1：4天计算确定地址，行程5天，你得到的宝 藏价值为：x-9y
方案2：3y付给精灵，行程5天失去5y，你得到的 宝藏价值为：x-8y
方案3：投硬币决定先到一处，失败后到另一处(冒 险方案)
} 一次成功所得：x-5y，机会1/2
二次成功所得：x-10y，机会1/2 期望赢利：x-7.5y
4
2. 意义 该故事告诉我们：当一个算法面临某种选择
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
∑ ≤ 2
n−1
T(i) + O(n)
n i=n/2
注意n为奇数，上式没有T(n/2)项 11
预期时间估计（续）
Hale Waihona Puke ∑ T(n) ≤2
n−1
T (i) + tn
n i=n/2
设T (k) ≤ ck 对一切 k < n为真,则
T (n) ≤ 2 [c n + c( n + 1) + ... + c(n − 1)] + tn n2 2
2
伪随机数生成算法
伪随机数生成算法 ---线性同余法 生成伪随机序列为{ai}, i= 0,1,…, n,…, 0<ai<m
⎩⎨⎧aa0n
=d = (ban−1
+
c ) mod
m
n = 1,2,...
模数：m, 机器最大数.
乘数：b, 2≤b<m，计算前给定
常数：c, 0≤c<m，计算前给定
种子：d, 0≤d<m, 计算时随机给出
9
例2 随机选择算法
算法 RandSelect(A, p, r, k) //从A[p..r]中选第k小 1. if p=r then return A[p] 2. i←Random(p, r) 3. 以A[i]为标准划分A 4. j←划分后小于等于A[i]的数构成数组的大小 5. if k≤ j 6. then return RandSelect(A, p, p+j-1, k) 7. else return RandSelect(A, p+j, r, k-j)
B 的平均复杂性
∑ t B
(n)
=
|
1 Xn
|
tB
x∈X n
(
x)
=
t A (n)
+
s(n)
14
Sherwood算法总结
算法能得到正确的解 算法比确定型算法简单 算法的平均性能与确定型算法一样 算法改善了最坏情况的期望运行时间 运行时间基本与输入实例无关 确定算法最坏情况在随机选择出现的概率接近0 实现途径
概率算法
随机数 概念 伪随机数生成算法
几种主要的概率算法 Sherwood算法 Las Vegas算法 Monte Carlo算法
1
伪随机数
随机数与伪随机数
概率算法中要进行随机选择，需要大量随机数. 通常根据某种规则生成随机数，这些随机数不 是真正随机的，但在一定程度上可以模拟随机 数，一般叫做伪随机数 随机变量X的取值范围是(0,1)且对任意的0<a<1, P{0<X≤a}=a, 则称X服从(0,1)上的均匀分布
3
乘同余法
⎩⎨⎧aa0 n==dban−1 mod m
n = 1,2,...
参数：c = 0，d ≠ 0，m=231-1, b=75
实例：d=1
16,807, 1,622,650,073, 1,144,108,930, 101,027,544, ……
282,475,249, 984,943,658, 470,211,272, 1,457,850,878
10
预期时间估计
假设随机选择时，1..n中每个数被选的概率相 等，并且假设第k个数总是出现在划分后两个数 组中较大的数组（最坏情况的上界）.那么，随机
选择算法的预期时间为
T (n) ≤ 1 (T (n − 1) + T (n − 2) + ... + T ( n + 1)
n
2
+ T ( n ) + T ( n + 1) + ... + T (n − 1)) + O(n) 22
7
Sherwood算法
例1 快速排序的随机算法
算法 RandQuicksort(A,p,r) 1. if p<r then 2. q←RandPartition(A,p,r) 3. RandQuicksort(A,p,q-1) 4. RandQuicksort(A,q+1,r)
算法 RandPartition(A,p,r)
=
2c
(n 2
+
n
− 1)
n 2
+
tn
n
2
= c ( 3n − 1) + tn = 3cn − c + tn
22
42
≤ 3cn + tn = ( 3 + t )cn ≤ cn 取c ≥ 4t即可
4
4c
12
算法比较
拟中位数选择算法 最坏情况 O(n) 平均情况 O(n)
随机算法 平均时间 O(n) 最坏情况 O(n2) 每次恰好选到边界元素 与实例无关，只与选择有关 概率很小，可以忽略 期望时间 O(n)
1. i←Random(p,r)
2. A[i]↔A[p]
3. return Partition(A,p,r)
8
算法比较
确定型排序算法 Quicksort 最坏情况下时间为O(n2) 平均情况下为 O(nlogn)
确定型排序+选择算法 如果选用中位数进行划分, 时间为O(nlogn)
随机快速排序算法 期望时间 O(nlogn) 最坏情况概率非常小，在实际应用中可以忽略
5.
return
5
确定型算法与随机算法
1. 特点： 确定型算法: 对某个特定输入的每次运行过程 是可重复的，运行结果是一样的. 随机算法：对某个特定输入的每次运行过程是随机 的，运行结果也可能是随机的.
2. 随机算法的优势： 在运行时间或者空间需求上随机算法比确定型算法 往往有较好的改进 随机算法设计简单
4
离散型伪随机数的产生
输入：P={ai, ai+1, …, aj}, 输出：伪随机数ak∈P
算法：Random(i, j) // 产生ai,…,aj之间随机数
1. 产生伪随机数x
//乘同余法
2. n ← j−i+1
//总个数n
3. for k←1 to n do // 检查第k个区间
4. if x/m ≤ k/n then x←ak+i-1 // 0<x<m
6
随机算法复杂性度量
随机算法A对于规模为n的某个给定的实例I 的一次 执行的时间与另一次可能不一样.
随机算法A对于某个规模为n的实例I 的运行时间的 期望：算法A反复求解实例I 的平均时间.
一般情况下，许多随机算法对于规模为n的不同的实 例，运行时间的期望都一样，因此这个值代表随机 算法的平均时间的期望.
13
预期复杂度分析
设A为求解问题π的确定型算法，B为对应的Sherwood
算法，对于输入x的计算时间分别记为tA(x), tB(x). 令 Xn={ x | x为π的实例, |x|=n }
输入等概率分布情况下，A的平均时间复杂度
t
A
(n)
=
|
1 Xn
|
∑tA
x∈X n
(
x)
B在实例x的时间期望 tB ( x) = t A (n) + s(n)