《高级人工智能》第六章归纳学习(1)

(1) 通用构造型规则
CTX & F1 ::> K F1 F2
|< CTX & F2 ::> K
该规则表示，若一个概念描述含有一部分F1, 已知F1蕴 涵另2019一/6/13概念F2,则通过史用忠植F2高替级人代工智F能1可得到一个更一般23 的
构造型泛化规则
(2) 计算变量规则。 计算量词变量CQ规则:
21
选择型泛化规则
(10) 反扩充规则
CTX1 & [L = R1] ::> K CTX2 & [L = R2] ::> ~ K
|< [L R2] ::> K
其中R1,R2是析取式。
2019/6/13
史忠植 高级人工智能
22
构造型泛化规则
构造性泛化规则能生成一些归纳断言，这些归纳断言使 用的描述符不出现在初始的观察陈述中，也就是说，这 些规则对初始表示空间进行了变换。
Di 概念描述
Ki 判断一个概念的名字的谓词
::> 将概念描述与概念名连接的蕴涵
ei 一个事件（对一种情况的描述）
Ei 仅对概念ki的事件为真的谓词
Xi 属性
LEF 评价函数
2019/D6/1O3M(P) 描述符P史的忠植定高义级人域工智能
8
概念获取
概念获取的一类特殊情况，它的观察语句集F是一个蕴 涵的集合, 其形式如下：
(sm y)
(lg y)
(x squ)
(x cir)
(x tri)
(sm squ) (lg squ) (sm cir) (lg cir) (sm tri)
2019/6/13
史忠植 高级人工智能
(lg tri)
33
第三个训练实例(lg cir)
(x y)
(sm y)
(lg y)
(x squ)
(x cir)
2019/6/13
没有描述
G S
训练例子
史忠植 高级人工智能
更一般
更特殊
30
初始变型空间
(x y)
(sm y)
(lg y)
(x squ)
(x cir)
(x tri)
(sm squ) (lg squ) (sm cir) (lg cir) (sm tri) (lg tri)
2019/6/13
史忠植 高级人工智能
H:{Di ::> Ki} i I
其中Di是概念Ki的描述，即表达式Di是事件的逻辑推论， 该事件可被断言为概念Ki的一个例子。
2019/6/13
史忠植 高级人工智能
10
完整性条件
i I (Ei Di)
2019/6/13
史忠植 高级人工智能
11
一致性条件
i,j I
(Di ~ Ej), 若ij
LST-对象： “最小的对象”，或链的开始对象。 MST-对象： 链的结束对象。 MID-对象： 链中间的对象。 Nth-对象： 链中第N个位置上的对象。
(4) 检测描述符之间的相互依靠关系规则。
2019/6/13
史忠植 高级人工智能
25
偏置变换
偏置在概念学习中具有重要作用。所谓偏置，是指概念 学习中除了正、反例子外，影响假设选择的所有因素。 这些因素包括：
31
第一个训练实例(sm cir)
(x y)
(sm y)
(lg y)
(x squ)
(x cir)
(x tri)
(sm squ) (lg squ) (sm cir) (lg cir) (sm tri)
2019/6/13
史忠植 高级人工智能
(lg tri)
32
第二个训练实例(lg,tri)
(x y)
|< CTX & [L = a..b] ::> K
2019/6/13
史忠植 高级人工智能
16
选择型泛化规则
(5) 爬山泛化树规则
CTX & [L = a] ::> K CTX & [L = b] ::> K
… CTX & [L = i] ::> K
|< CTX & [L = S] ::> K
其中L是结构描述符，在L的泛化树域中，S表示后继为 a,b,…, i的最低的父节点。
2019/6/13
史忠植 高级人工智能
29
变型空间
变型空间方法的初始 G 集是最上面的一个点 （最一般的概念），初 始 S集是最下面的直线 上的点（训练正例）， 初始 H集是整 个规则空间。在搜索过 程中，G 集逐步下移 （进行特化），S 集逐 步上移（进行泛化）， H 逐步缩小。最后 H收 敛为只含一个要求的概 念。
史忠植 高级人工智能
6
基本符号表
~非 &合取（逻辑乘） 析取（逻辑加） 蕴涵 逻辑等价 项重写 异或 F事实集 H 假设 |> 特化 |< 泛化
2019/6/13
史忠植 高级人工智能
7
基本符号表
|= 重新形式化
vi存在量词约束变项vi
Ivi 数值存在量词约束变项vi
vi 全称量词约束变项vi
… … V1,V2,
,Vk F[V1,V2,
,Vk]
CQ规则将产生一个新的描述符“#v-COND”, 表示满足某 条件COND的vi的个数。
2019/6/化规则
(3) 产生链属性规则。
概念描述中，若一个概念描述中传递关系不同出现的变 量形成一条链,该规则能生成刻画链中某些特定对象的 特征的描述符。这种对象可能是：
2019/6/13
史忠植 高级人工智能
18
选择型泛化规则
(7) 将合取转换为析取规则 F1 & F2 ::> K |< F1 F2 ::> K 其中F1,F2为任意描述。
2019/6/13
史忠植 高级人工智能
19
选择型泛化规则
(8) 扩充量词范围规则 x,F[x] ::> k |< x, F[x] ::> k (I1)x,F[x] ::> K |< (I2)x, F[x]::> K 其中I1,I2是量词的域（整数集合）， 且I1 I2
2019/6/13
史忠植 高级人工智能
3
归纳学习的一般模式
给定:
① 观察语句集(事实)F：这是有关某类对象中个别
具体对象的知识或某一对象的部分特征的知识。
② 假定的初始归纳断言(可空)：是关于目标的泛
化项或泛化描述。
③ 背景知识：背景知识定义了在观察语句和所产
生的候选归纳断言上的假定和限制，以及任何有关问题
(2) 正确偏置允许概念学习选择目标概念，不正确 偏置就不能选择目标概念。
2019/6/13
史忠植 高级人工智能
27
偏置变换
程序
偏置
搜索程序
假设
训练集
训练例
知识
2019/6/13
史忠植 高级人工智能
28
变型空间
变型空间(Version Space)方法以整个规则 空间为初始的假设规则集合H。依据训练例 子中的信息，它对集合 H进行泛化或特化 处理，逐步缩小集合 H。最后使 H收敛为 只含有要求的规则。由于被搜索的空间 H 逐步缩小，故称为变型空间。
2019/6/13
史忠植 高级人工智能
14
选择型泛化规则
(1) 消除条件规则
CTX & S ::> K |< CTX ::> K 其中S是任意的谓词或逻辑表达式。
(2) 增加选择项规则
CTX1 ::> K |< CTX1 CTX2 ::> K
通过增加选择项将概念描述泛化
2019/6/13
史忠植 高级人工智能
15
选择型泛化规则
(3) 扩大引用范围规则
CTX & [L = R1] ::> K |< CTX \& [L = R_2] ::> K 其中R1 R2 DOM(L), DOM(L) 为L的域，L是一个项， Ri是L取值的一个集合。
(4) 闭区间规则
CTX & [L = a] ::> K
CTX & [L = b] ::> K
2019/6/13
史忠植 高级人工智能
17
选择型泛化规则
(6) 将常量转换为变量规则
F[a] F[b]
… F[i]
|< x,
F[x]
其中F[x]是依赖于变量x的描述符，a,b, …, i是常量。
对于描述F[x], 若x的某些值(a,b, … , i)使F[x]成立，
则可得到假设：对于x的所有值，F[x]成立。
领域知识。有关问题领域知识包括特化所找归纳断言的
期望性质的择优标准。
寻找:
归纳断言H(hypothesis), H 重言或弱蕴涵观察语
句并2019满/6/13足背景知识。 史忠植 高级人工智能
4
概述
2019/6/13
史忠植 高级人工智能
5
概述
变型空间 AQ11算法 决策树方法ID3
2019/6/13
(2) 接收一个新的训练例子。如果是正例，则首先由 G中去 掉不覆盖新正例的概念，然后修改 S为由新正例和 S原有元素共 同归纳出的最特殊的结果（这就是尽量少修改 S，但要求 S覆盖 新正例）。如果这是反例，则首先由 S中去掉覆盖该反例的概念， 然后修改 G为由新反例和 G原有元素共同作特殊化的最一般的结 果（这就是尽量少修改 G，但要求 G不覆盖新反例）。