形式语言01章 预备知识
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(3) 除(1)，(2)外， R+不再含有其他任何元素。 R+ = R R2 R3 … 且当S为有穷集时，有 R+ = R R2 R3 … R|s|
关系的克林闭包
R* = R0 R+
例1-14
设R1= {(a, b), (c, d), (b, d), (b, b), (d, e)} R2= {(a, a), (b, c), (d, c), (e, d), (c, a)} 则R1R2 ={ (a, c), (c, c), (b, c), (d, d)} R1+ = {(a, b), (c, d), (b, d), (b, b), (d, e),
6}, {1, 4, 5}, {2, 3, 5}, {1, 2, 3, 4}} 注意：没有{5，5}
习题评讲(续)
2(1) {x | x N且1 x 100} (3) 2{1, 2, 3, 4}={B | B {1, 2, 3, 4}} (5) {x | x > 0且 x mod 2 = 1}
1.2.1 二元关系
设A和B为两个集合，则A到B的关系是 A B的任何子集。
若A = B ，则称为A上的关系。 若R为A到B的关系，当(a, b) R时，
可记为aRb。
例1-7
例如，设A为整数集合，则A上的关系 “<”是集合
{(a, b) | a, b A,且a < b} = {(1, 2), (1, 3), (1, 4), ...
n
Ai
差，注意它不要求两个集合存在子集 i1
关系
补集，论域的概念
几个结论
A = B iff A B且B A。 如果A是有穷集，且A B ，则|A| < |B|。 对于无穷集，这个结论并不适用。如奇
数集是自然数集的真子集，自然数集与 奇数集之间存在一一对应关系，即它们 的基数相等。该映射可表示为：
(1) 假设该命题不成立； (2) 进行一系列的推理； (3) 在推理的过程中如果出现了下列
情况之一：
反证法(续)
➢ 与已知条件矛盾； ➢ 与公理矛盾； ➢ 与已证过的定理矛盾； ➢ 与临时的假定矛盾； ➢ 自相矛盾；
反证法(续)
(4) 由于上述矛盾的出现，可以断言 “假设该命题不成立”的假设不正确；
第1章 绪论
本章将对形式语言和有限自动机理论 中所需的数学基础知识作扼要的介绍。 内容包括集合及其运算、关系、证明 的方法、图与树的概念；以及一些常 用术语 和 形式语言与自动机的发展 。
第1章 绪论
1.1集合及其运算 1.2 关系 1.3 证明和证明的方法 1.4 图与树 1.5 语言 1.6 常用术语 1.7 形式语言与自动机的发展
习题评讲(续)
2(6) {(x, y) | x, y [4, 9]且x + y = 10} 即{(4,6),(6,4),(5,5)} (10) {B | B {1, 2, ..., 10}且x = 10，x
B}
1.2 关系
1.2.1 二元关系 1.2.2 等价关系与等价类 1.2.3 关系的合成
习题评讲
1(2) 2{1, 2, 3, 4} ={Ø, {1}, {2}, {3}, {4}, {1, 2} , {1,
3}, {1, 4} , {2, 3}, {2, 4} , {3, 4}, {1, 2, 3} , {1, 2, 4} , {2, 3, 4} , {1, 2, 3, 4}}
(3) { 1, 2, 3, 4, 5, 6, 7, 8, 9, 10} {4} {{1, 9}, {2, 8}, {3, 7}, {4, 6}, {1, 2, 7}, {1, 3,
集合的基数
如果集合A包含元素x（也称元素x在集合A
中），记为x A。否则x A。
对于任意的有穷集合A，使用|A|表示该集合 包含的元素的个数，也称基数或势。显然， |A| = 0 A = Ø 。
如果一个集合中的元素个数是有限的，称该 集合为有穷集合。如果一个集合包含的元素 是无限的，称该集合为无穷集合。无穷集合 又分为可数集(如自然数集，有理数集)和不 可数集(如实数集)。
(1) Chomsky对自然语言的研究； (2) ALGOL 60语言的语法描述方式； (3)Kleene对自动机的研究；
早在20世纪五十年代，在研究如何使“自然语 言”符号化（即形式化）的过程中，产生并发 展了“形式语言与自动机”的理论。不久，人 们就发现该理论与计算机科学中所创立和使用 的程序设计语言具有密切的关系（比如，可以 用于描述程序设计语言的词法和语法规则）。 从此以后，形式语言与自动机的理论和方法的 研究，受到了越来越多科学家的重视。
1.1集合及其运算
一些没有重复的对象的全体称为集 合(set)，而这些被包含的对象称为 该集合的元素(element)。
集合中元素可以按任意的顺序进行 排列。一般，使用大写英文字母表 示一个集合。
列举法
对于元素个数较少的集合，可以采 用列举法，即将集合的所有元素全 部列出，并放在一对花括号中。例 如集合A ={0，1，2，3，4，5，6， 7，8，9}，表示集合A由0，1，2， 3，4，5，6，7，8，9共10个元素 组成。
等价关系的一个重要性质为：集合A上的 一个等价关系R可以将集合A划分为若干 个互不相交的子集，称为等价类。对A中 的每个元素a，使用[a]表示a的等价类，即 [a]={b | aRb}。等价关系R将集合A划分成 的等价类的数目，称为该等价关系的指数。
例1-9
非负整数集合N上的模3同余关系R, R={(a, b)| a, b N, 且a mod 3 = b mod 3}。 {0,3,6,…,3n,…}形成一个等价类； {1,4,7,…,3n+1,…}形成一个等价类； {2,5,8,…,3n+2,…}形成一个等价类； 分别记为[0]，[1]和[2]。
(4) 如果对a, b A， (a, b) R且 (b, a) R a = b，则称R是反对称的。
(5) 如果对a, b, c A， (a, b) R且(b, c) R (a, c) R ，则称R为传递的。
1.2.2 等价关系与等价类
定义1-6 如果集合A上的二元关系R是自反 的、对称的和传递的，则称R为等价关系。
命题法
对于集合元素较多的或者是由无穷多个元素 组成的集合，可以使用集合形成模式{x | P(x)}进行描述，其中，x表示集合中的任一 元素, P(x)是一个谓词，对x进行限定，{x | P(x)}表示由满足P(x)的一切x构成的集合。 可以使用自然语言，或者数学表示法来描述 谓词P(x)。
例如，{n | n是偶数}，或者 {n | n mod 2 = 0}， 都表明了一个由所有偶数组成的集合。
f(x) = 2x-1
定义1-3 幂集
设A为一个集合，那么A的幂集为A的所 有子集组成的集合，记为2A，即2A={B | B A}。
❖ 例如，集合A={1，2，3}，则A的幂集为: 2A={Ø，{1}，{2}，{3}，{1，2}，{1， 3}，{2，3}，{1，2，3}}。
❖ 当集合A为有穷集时，如果集合A包含的元素 个数为n，那么集合2A的元素个数(集合A的所 有子集的个数)为2n，这就是称2A为集合A的 幂集的原因。
(a, d), (a, e), (c, e), (b, e)} R1* = {(a, a), (b, b), (c, c), (d, d), (e, e)}
R1+
1.3 证明和证明的方法
1.3.1 反证法 1.3.2 归纳法 1.3.3 递归定义与归纳证明
1.3.1反证法
反证法也称为归谬法。利用反证法 证明一个命题时，一般的步骤为：
定义1-8 关系的n次幂
设R是S上的二元关系，则Rn如下 递归定义：
(1) R0 = {(a, a) | a S} (2) Ri = Ri-1 R (i = 1, 2, 3, …)
定义1-9 关系的闭包
设R是S上的二元关系， R的正闭包R+定义为 (1) R R+ ；
(2) 如果(a, b), (b, c) R+, 则(a, c) R+ ；
形式语言和自动机的理论已经成为计算机 科学的理论基础，其应用范围已被扩展到生
物工程、自动控制系统、图象处理与模式识别 等许多领域。
实际上，“形式语言与自动机”的理论除了在
计算机科学领域中的直接应用外，对于计算机 科学人才的计算思维能力的培养，具
有重要作用。
形式化描述和抽象思维能力， 逻辑思维方法。这种能力就是 计算思维能力或计算机思维能 力。
定义1-1 子集
设A, B是两个集合，如果集合A中的每 个元素都是集合B的元素，则称集合A 是集合B的子集，集合B是集合A的包集。 记作A B，或B A。
设A, B是两个集合，如果A B ，且x B，但x A，则称A是B的真子集， 记作A B。
定义1-2 集合的运算
并，交，注意多个集合并、交的写法
1.2.3 关系的合成
定义1-7 设R1 A B是A到B的关系， R2 B C是B到C 的关系，则R1与 R2 (a, b) R1且(b, c) R2 }
例1-11
设R1和R2的是集合{1，2，3，4}上的关 系：
R1 ={(1, 1), (1, 2), (2, 3), (3, 4)} R2 ={(2, 4), (4, 1), (4, 3), (3, 1), (3, 4)} 则R1R2 ={(1, 4), (2, 1), (2, 4), (3, 1), (3, 3)} R2R1 ={(4, 1), (4, 2), (4, 4), (3, 1), (3, 2)}
定义1-4 笛卡儿积
集合A和B的笛卡儿乘积使用A B表示 （也简记为AB）
A B = {(a, b) | a A 且 b B}。
例
设A = {a, b, c}, B = {0, 1}, 则A B ={(a, 0), (a, 1), (b, 0), (b, 1), (c, 0),
(c, 1)}. 也可根据约定记为：
A B={a0, a1, b0, b1, c0, c1} 而B A={(0, a), (0, b), (0, c), (1, a), (1, b),
(1, c)}
思考
什么情况下， A B = B A ?
1）A = B 2）A = Ø或B = Ø
3）…
练习(见习题)
1(2)(3)(4) 2(1)(3) (5) (6) (10)
(5) 肯定原命题正确。
例子
有牛、羊和猪三种动物共10头，证明：在这 三种动物中至少有一种动物不会少于4头。
证明：假设该命题不成立，即在这三种动物 中没有一种动物多于4头；那么，每种动物最 多只有3头，则三种动物总数 9，而三种动 物共10头，矛盾，所以，假设不成立，在这 三种动物中至少有一种动物不会少于4头。证 毕。
(2, 3), (2, 4), (2, 5), ... ...}
设R是A上的二元关系，有
(1) 如果对a A，都有(a, a) R，则 称R是自反的。
(2) 如果对a A，都有(a, a) R ，则 称R是反自反的。
(3) 如果对a, b A， (a, b) R (b, a) R，则称R是对称的。
(本例实际上为鸽笼原理的一般形式)
1.3.2 归纳法
➢ (归纳法就是从特殊到一般的推理方法。 ➢ 分为完全归纳法和不完全归纳法两种形
式。 ➢ 完全归纳法是根据一切情况的分析而作
出的推理。由于必须考虑所有的情况， 所以得出的结论是完全可靠的。
➢ 不完全归纳法是根据一部分情况作出 的推理，因此，不能作为严格的证明 方法。
➢ 在形式语言与有限自动机理论中，大 量使用数学归纳法证明某个命题。
形式语言与自动机
陈文宇
电子科技大学计算机科学与工程学院 cwy@
教材：
形式语言与自动机
(陈文宇 欧齐 程炼） 人民邮电出版社
参考书：
形式语言与自动机理论
（蒋宗礼 清华大学出版社）
形式语言与自动机
（陈有祺 南开大学出版社）
形式语言和自动机的理论是计算机科 学的理论基础。这些理论来源于
关系的克林闭包
R* = R0 R+
例1-14
设R1= {(a, b), (c, d), (b, d), (b, b), (d, e)} R2= {(a, a), (b, c), (d, c), (e, d), (c, a)} 则R1R2 ={ (a, c), (c, c), (b, c), (d, d)} R1+ = {(a, b), (c, d), (b, d), (b, b), (d, e),
6}, {1, 4, 5}, {2, 3, 5}, {1, 2, 3, 4}} 注意：没有{5，5}
习题评讲(续)
2(1) {x | x N且1 x 100} (3) 2{1, 2, 3, 4}={B | B {1, 2, 3, 4}} (5) {x | x > 0且 x mod 2 = 1}
1.2.1 二元关系
设A和B为两个集合，则A到B的关系是 A B的任何子集。
若A = B ，则称为A上的关系。 若R为A到B的关系，当(a, b) R时，
可记为aRb。
例1-7
例如，设A为整数集合，则A上的关系 “<”是集合
{(a, b) | a, b A,且a < b} = {(1, 2), (1, 3), (1, 4), ...
n
Ai
差，注意它不要求两个集合存在子集 i1
关系
补集，论域的概念
几个结论
A = B iff A B且B A。 如果A是有穷集，且A B ，则|A| < |B|。 对于无穷集，这个结论并不适用。如奇
数集是自然数集的真子集，自然数集与 奇数集之间存在一一对应关系，即它们 的基数相等。该映射可表示为：
(1) 假设该命题不成立； (2) 进行一系列的推理； (3) 在推理的过程中如果出现了下列
情况之一：
反证法(续)
➢ 与已知条件矛盾； ➢ 与公理矛盾； ➢ 与已证过的定理矛盾； ➢ 与临时的假定矛盾； ➢ 自相矛盾；
反证法(续)
(4) 由于上述矛盾的出现，可以断言 “假设该命题不成立”的假设不正确；
第1章 绪论
本章将对形式语言和有限自动机理论 中所需的数学基础知识作扼要的介绍。 内容包括集合及其运算、关系、证明 的方法、图与树的概念；以及一些常 用术语 和 形式语言与自动机的发展 。
第1章 绪论
1.1集合及其运算 1.2 关系 1.3 证明和证明的方法 1.4 图与树 1.5 语言 1.6 常用术语 1.7 形式语言与自动机的发展
习题评讲(续)
2(6) {(x, y) | x, y [4, 9]且x + y = 10} 即{(4,6),(6,4),(5,5)} (10) {B | B {1, 2, ..., 10}且x = 10，x
B}
1.2 关系
1.2.1 二元关系 1.2.2 等价关系与等价类 1.2.3 关系的合成
习题评讲
1(2) 2{1, 2, 3, 4} ={Ø, {1}, {2}, {3}, {4}, {1, 2} , {1,
3}, {1, 4} , {2, 3}, {2, 4} , {3, 4}, {1, 2, 3} , {1, 2, 4} , {2, 3, 4} , {1, 2, 3, 4}}
(3) { 1, 2, 3, 4, 5, 6, 7, 8, 9, 10} {4} {{1, 9}, {2, 8}, {3, 7}, {4, 6}, {1, 2, 7}, {1, 3,
集合的基数
如果集合A包含元素x（也称元素x在集合A
中），记为x A。否则x A。
对于任意的有穷集合A，使用|A|表示该集合 包含的元素的个数，也称基数或势。显然， |A| = 0 A = Ø 。
如果一个集合中的元素个数是有限的，称该 集合为有穷集合。如果一个集合包含的元素 是无限的，称该集合为无穷集合。无穷集合 又分为可数集(如自然数集，有理数集)和不 可数集(如实数集)。
(1) Chomsky对自然语言的研究； (2) ALGOL 60语言的语法描述方式； (3)Kleene对自动机的研究；
早在20世纪五十年代，在研究如何使“自然语 言”符号化（即形式化）的过程中，产生并发 展了“形式语言与自动机”的理论。不久，人 们就发现该理论与计算机科学中所创立和使用 的程序设计语言具有密切的关系（比如，可以 用于描述程序设计语言的词法和语法规则）。 从此以后，形式语言与自动机的理论和方法的 研究，受到了越来越多科学家的重视。
1.1集合及其运算
一些没有重复的对象的全体称为集 合(set)，而这些被包含的对象称为 该集合的元素(element)。
集合中元素可以按任意的顺序进行 排列。一般，使用大写英文字母表 示一个集合。
列举法
对于元素个数较少的集合，可以采 用列举法，即将集合的所有元素全 部列出，并放在一对花括号中。例 如集合A ={0，1，2，3，4，5，6， 7，8，9}，表示集合A由0，1，2， 3，4，5，6，7，8，9共10个元素 组成。
等价关系的一个重要性质为：集合A上的 一个等价关系R可以将集合A划分为若干 个互不相交的子集，称为等价类。对A中 的每个元素a，使用[a]表示a的等价类，即 [a]={b | aRb}。等价关系R将集合A划分成 的等价类的数目，称为该等价关系的指数。
例1-9
非负整数集合N上的模3同余关系R, R={(a, b)| a, b N, 且a mod 3 = b mod 3}。 {0,3,6,…,3n,…}形成一个等价类； {1,4,7,…,3n+1,…}形成一个等价类； {2,5,8,…,3n+2,…}形成一个等价类； 分别记为[0]，[1]和[2]。
(4) 如果对a, b A， (a, b) R且 (b, a) R a = b，则称R是反对称的。
(5) 如果对a, b, c A， (a, b) R且(b, c) R (a, c) R ，则称R为传递的。
1.2.2 等价关系与等价类
定义1-6 如果集合A上的二元关系R是自反 的、对称的和传递的，则称R为等价关系。
命题法
对于集合元素较多的或者是由无穷多个元素 组成的集合，可以使用集合形成模式{x | P(x)}进行描述，其中，x表示集合中的任一 元素, P(x)是一个谓词，对x进行限定，{x | P(x)}表示由满足P(x)的一切x构成的集合。 可以使用自然语言，或者数学表示法来描述 谓词P(x)。
例如，{n | n是偶数}，或者 {n | n mod 2 = 0}， 都表明了一个由所有偶数组成的集合。
f(x) = 2x-1
定义1-3 幂集
设A为一个集合，那么A的幂集为A的所 有子集组成的集合，记为2A，即2A={B | B A}。
❖ 例如，集合A={1，2，3}，则A的幂集为: 2A={Ø，{1}，{2}，{3}，{1，2}，{1， 3}，{2，3}，{1，2，3}}。
❖ 当集合A为有穷集时，如果集合A包含的元素 个数为n，那么集合2A的元素个数(集合A的所 有子集的个数)为2n，这就是称2A为集合A的 幂集的原因。
(a, d), (a, e), (c, e), (b, e)} R1* = {(a, a), (b, b), (c, c), (d, d), (e, e)}
R1+
1.3 证明和证明的方法
1.3.1 反证法 1.3.2 归纳法 1.3.3 递归定义与归纳证明
1.3.1反证法
反证法也称为归谬法。利用反证法 证明一个命题时，一般的步骤为：
定义1-8 关系的n次幂
设R是S上的二元关系，则Rn如下 递归定义：
(1) R0 = {(a, a) | a S} (2) Ri = Ri-1 R (i = 1, 2, 3, …)
定义1-9 关系的闭包
设R是S上的二元关系， R的正闭包R+定义为 (1) R R+ ；
(2) 如果(a, b), (b, c) R+, 则(a, c) R+ ；
形式语言和自动机的理论已经成为计算机 科学的理论基础，其应用范围已被扩展到生
物工程、自动控制系统、图象处理与模式识别 等许多领域。
实际上，“形式语言与自动机”的理论除了在
计算机科学领域中的直接应用外，对于计算机 科学人才的计算思维能力的培养，具
有重要作用。
形式化描述和抽象思维能力， 逻辑思维方法。这种能力就是 计算思维能力或计算机思维能 力。
定义1-1 子集
设A, B是两个集合，如果集合A中的每 个元素都是集合B的元素，则称集合A 是集合B的子集，集合B是集合A的包集。 记作A B，或B A。
设A, B是两个集合，如果A B ，且x B，但x A，则称A是B的真子集， 记作A B。
定义1-2 集合的运算
并，交，注意多个集合并、交的写法
1.2.3 关系的合成
定义1-7 设R1 A B是A到B的关系， R2 B C是B到C 的关系，则R1与 R2 (a, b) R1且(b, c) R2 }
例1-11
设R1和R2的是集合{1，2，3，4}上的关 系：
R1 ={(1, 1), (1, 2), (2, 3), (3, 4)} R2 ={(2, 4), (4, 1), (4, 3), (3, 1), (3, 4)} 则R1R2 ={(1, 4), (2, 1), (2, 4), (3, 1), (3, 3)} R2R1 ={(4, 1), (4, 2), (4, 4), (3, 1), (3, 2)}
定义1-4 笛卡儿积
集合A和B的笛卡儿乘积使用A B表示 （也简记为AB）
A B = {(a, b) | a A 且 b B}。
例
设A = {a, b, c}, B = {0, 1}, 则A B ={(a, 0), (a, 1), (b, 0), (b, 1), (c, 0),
(c, 1)}. 也可根据约定记为：
A B={a0, a1, b0, b1, c0, c1} 而B A={(0, a), (0, b), (0, c), (1, a), (1, b),
(1, c)}
思考
什么情况下， A B = B A ?
1）A = B 2）A = Ø或B = Ø
3）…
练习(见习题)
1(2)(3)(4) 2(1)(3) (5) (6) (10)
(5) 肯定原命题正确。
例子
有牛、羊和猪三种动物共10头，证明：在这 三种动物中至少有一种动物不会少于4头。
证明：假设该命题不成立，即在这三种动物 中没有一种动物多于4头；那么，每种动物最 多只有3头，则三种动物总数 9，而三种动 物共10头，矛盾，所以，假设不成立，在这 三种动物中至少有一种动物不会少于4头。证 毕。
(2, 3), (2, 4), (2, 5), ... ...}
设R是A上的二元关系，有
(1) 如果对a A，都有(a, a) R，则 称R是自反的。
(2) 如果对a A，都有(a, a) R ，则 称R是反自反的。
(3) 如果对a, b A， (a, b) R (b, a) R，则称R是对称的。
(本例实际上为鸽笼原理的一般形式)
1.3.2 归纳法
➢ (归纳法就是从特殊到一般的推理方法。 ➢ 分为完全归纳法和不完全归纳法两种形
式。 ➢ 完全归纳法是根据一切情况的分析而作
出的推理。由于必须考虑所有的情况， 所以得出的结论是完全可靠的。
➢ 不完全归纳法是根据一部分情况作出 的推理，因此，不能作为严格的证明 方法。
➢ 在形式语言与有限自动机理论中，大 量使用数学归纳法证明某个命题。
形式语言与自动机
陈文宇
电子科技大学计算机科学与工程学院 cwy@
教材：
形式语言与自动机
(陈文宇 欧齐 程炼） 人民邮电出版社
参考书：
形式语言与自动机理论
（蒋宗礼 清华大学出版社）
形式语言与自动机
（陈有祺 南开大学出版社）
形式语言和自动机的理论是计算机科 学的理论基础。这些理论来源于