01-算法分析基本概念

目录
1 算法与程序 2 表达算法的抽象机制 3 描述算法 4 搜索算法 5 算法复杂性分析 6 最优算法 7 如何估计算法的运行时间 8 输入大小和问题实例 9 排序问题的算法
目录 上页 下页 返回 结束
2/74
1 算法与程序
算法:是满足下述性质的指令序列。
目录 上页 下页 返回 结束
n
5.1.4 o符号
2g(n) g(n) 1/2g(n) f(n)
n0 n0 n0
目录 上页 下页 返回 结束
n
5.2 空间复杂性
空间耗费的度量方法通常定义为: 算法在运行时所占用内存单元的总数； 即：存放数据的变量单元、程序代码、 工作变量、常数以及运行时的引用型 变量所占用的空间和递归栈空间的总和。
–输 入：有零个或多个外部量作为算法的输入。 –输 出：算法产生至少一个量作为输出。 –确定性：组成算法的每条指令清晰、无歧义。 –有限性：算法中每条指令的执行次数有限，执行每条 指令的时间也有限。
程序: 是算法用某种程序设计语言的具体实现。
3/74
目录
上页
下页
返回
结束
2 表达算法的抽象机制
1.从机器语言到高级语言的抽象
目录 上页 下页 返回 结束
5 算法复杂性分析
算法复杂性：
– 算法运行所需要的计算机资源的量，只依赖 于算法要解的问题的规模、算法的输入和算 法本身的函数
时间复杂性：（计算复杂性问题）
– 需要时间资源的量
空间复杂性：
– 需要的空间资源的量 – 不包括分配用来存储输入的空间
目录 上页 下页 返回 结束
目录 上页 下页 返回 结束
4/25
2.1高级程序设计语言的好处
高级语言更接近算法语言，易学、易掌握，一 般工程技术人员只需要几周时间的培训就可以 胜任程序员的工作。
高级语言为程序员提供了结构化程序设计的环 境和工具，使得设计出来的程序可读性好，可 维护性强，可靠性高。
高级语言不依赖于机器语言，与具体的计算机 硬件关系不大，因而所写出来的程序可植性好 、重用率高。
Example: find max element of an array A[1..n] Algorithm arrayMax(A, n) Input: array A of n integers Output: maximum element of A currentMax A[1] for i 2 to n do if A[i] currentMax then currentMax A[i] return currentMax
x=5 x=50
j=3 j=?
j=0
目录 上页 下页 返回 结束
Alg. 1.1 LinearSearch(线性搜索)
Input: An array A[1..n] and an element x. Output: j if x=A[j],1≤j ≤n, and 0 otherwise. j←1; While（j<n) and (x≠A[j]) j ← j+1; End while If x=A[j] then return j else return 0.
Loop invariant – At the start of each iteration of the for loop, the subarray A[1..j-1] contains original A[1..j-1] in sorted order. Proof: – Initialization : j=2, A[1..j-1]=A[1..1]=A[1], sorted. – Maintenance: each iteration maintains loop invariant. – Termination: j=n+1, so A[1..j-1]=A[1..n] in sorted order.
low ←1; high ←n; j ←0 ; while (low≤high) and (j=0) mid ←(low+high)/2; if x=A[mid] then j ←mid; else if x<A[mid] then high ←mid-1; else low ←mid+1; end while return j
5.1时间复杂性分析
阶的增长：
–算法复杂性在渐近意义下的阶
记号(符号)：
– – – – O 符号 Ω 符号 Θ 符号 o 符号
运 行 时 间
n3
n2
nlogn
n logn 输入大小
目录 上页 下页 返回 结束
5.1.1 O符号
cg(n)
f(n)
n
目录 上页 下页 返回 结束
n0
5.1.2 Ω符号
结束
4.搜索算法（Searching）
搜索问题: Let A[1..n] be a sequence of n elements. Consider the problem of determining whether a given x is in A. 描述: Find an index j, 1≤j ≤n, such that x=A[j] if x is in A, and j=0 otherwise. 实例: A[1..14]={1,4,5,7,8,9,10,12,15,22,23,27,32}
目录 上页 下页 返回 结束
5/25
2.2 抽象数据类型的好处
算法顶层设计与底层实现分离，有助于迅速开 发出程序原型，使开发过程少出差错，程序可 靠性高。 算法设计与数据结构设计隔开，允许数据结构 自由选择，优化算法效率。 数据模型和该模型上的运算统一在ADT中，灵活 地满足用户要求。 用抽象数据类型表述的算法具有很好的可维护 性； 算法结构清晰，层次分明，便于算法正确性的 证明和复杂性的分析。
目录 上页 下页 返回 结束
3 描述算法
伪代码（Pseudocode）：
– 是一种算法描述语言，介于自然语言与编程 语言之间。 – 目的是使算法可以容易地以任何一种编程语 言（C、Java等）实现。 – 以编程语言的书写形式指明算法职能，必须 结构清晰、代码简单、可读好。 – 使用伪代码， 不用拘泥于具体实现。
目录
上页
下页
返回
结束
8 输入大小和问题实例
输入大小：
– 作为一个数量，不是输入的精确测度 – 输入的数据实际占用的数据位的数量
问题实例：
– 求解问题P的一个算法的输入
举例：排序问题
输入为N个数，则输入大小为O(N)或Θ(N)
目录
上页
下页
返回
结束
9 排序问题的算法
目录
上页
下页
返回
结束
f(n) cg(n)
n0
f(n) = ( g(n))
目录 上页 下页 返回 结束
n
5.1.3 Θ符号
Θ的定义：
–定义f(N)= Θ(g(N))当且仅当f(N)=O(g(N)) 且f(N)= Ω (g(N))。
称f(N)与g(N)同阶。
c2g(n) f(n) c1g(n)
n0
f(n) = ( g(n))
– 机器语言：是一种指令集的体系。这种指令集 ，称机器码（machine code），是电脑的CPU可 直接解读的数据。 – 高级语言：主要是相对于汇编语言而言的，基 本脱离了机器的硬件系统，用人们更易理解的 方式编写程序。
2.抽象数据类型（ADT）
–抽象数据类型是算法的一个数据模型连同定义 在该模型上并作为算法构件的一组运算。
举例：排序问题
– 已经证明问题的算法下界为nlog(n)； – 合并排序算法复杂性为O(nlog(n)),故为最优算法。
目录 上页 下页 返回 结束
7 如何估计算法的运行时间
7.1 计算迭代次数
– 由于运行时间常常和while循环及类似结构的 执行次数成正比，所以，计算迭代次数将很 好地表明算法的运行时间。 – 适用于许多算法，如：
目录
上页
下页
返回
结束
Alg.1.2 BinarySearch(二分搜索)
Input: An array A[1..n] in nondecreasing order and an element x. Output: j if x=A[j],0≤j ≤n, and 0 otherwise.
语言选择：可以使用任何一种你熟悉的 文字，关键是把程序的意思表达出来。
目录 上页 下页 返回 结束
3.1伪代码举例：
Control flow
if … then … [else …] while … do … repeat … until … for … do … Indentation replaces braces
• 搜索、排序、矩阵乘法等
目录
上页
下页
返回
结束
7 如何估计算法的运行时间
7.2 计算基本运算的频度
– 定义：如果算法中的存在一个元运算，所有 其他元运算频度均在它的频度常数倍内，称 这个元运算为基本运算。 – 算法中一定存在基本运算。 – 如：在分析排序算法是，若元素比较是元运 算，则可以选它为元运算。 – 元运算：
Method declaration
Algorithm method (arg [, arg…]) Input … Output …
目录
上页
下页
返回
结束
3.2 算法练习要点
主要思想、方法、观察结论等描述
– 使用图表、举例
伪代码 复杂性分析（时间、空间的界） 正确性论证