专家系统与知识工程

题的思维过程进行推理，解决相关领城内的 困难问题，并且达到领域专家的水平。
与程序的区别
程序: 问题求解的知识隐含在程序中; 专家系统: 知识与程序分离, 知识库;

知识获取 (knowledge acquisition)

将某种知识源(如人类专家、教科书、数据 库或其他已经获得了专家知识的设施)的问 题求解的专门知识转换为专家系统知识库 需采用的表示形式
专家系统与知识工程
Expert system and Knowledge engineering
内容
历史 结构 推理 开发工具

创业

Artificial intelligence
– – – – – – – – – – –
1956年夏季， 美国Dartmouth学院 J．McCarthy (MIT) M．Minsky (MIT) N．Lochester (IBM) C. Shannon (Bell) T．More (IBM) A. L. Samuel (IBM) O. Selfridge (MIT) R. Solomonff (MIT) A．Newell (CMU) H．A．Simon (CMU)
主观Bayes方法

O与P的关系；
P( X ) O( X ) 1 P( X ) O( X ) P( X ) 1 O( X )
主观Bayes方法
SMIR 0.03 H=SMIR P(H)=0.03 问E1，E2 为 真或假时对H 的影响； 火成岩侵入形状
R1(20,1) 侵入岩角闪石
转向

这是人工智能领域的一个概念性的突破。

AI转向:
– 对一般思维规律的探讨 – 以知识为中心的研究
成功
成百上千个专家系统； 人工智能最成功的应用；

什么是专家系统

迄今为止，关于专家系统还没有一个公 认的严格定义，一般认为：
– 它是一个智能程序系统； – 它具有相关领域内大量的专家知识： – 它能应用人工智能技术模拟人类专家求解问
著名系统

MYCIN
Shortliffe, Stanford. 用于细菌感染患者的诊断和治疗; 600多条产生式知识; 知识表示 规则064 如果 1)该细菌的染色斑呈革兰氏阳性。 2)该细菌的形状为球状。 3)该细菌的生长结构成链形 则有启发性证据(0．7)表明该细菌是链球菌类
– – – –
著名系统
– 信息不完备； – 信息中含有噪声； – 知识不精确； – 多条知识导的结果互相矛盾； 多个专家
不精确推理方法
主观Bayes方法； 确定性理论； 证据理论； 模糊推理；

主观Bayes方法

R.O.Duda, 1974, Stanford
– 矿藏勘探咨询系统PROSPECTOR – 模拟有经验的地质学家对给定的前景地区或地点含
– 最重要的是能实际工作，它所作的工作需要人们许
多年的训练才能胜任。虽然MYCIN的使用范围是非 常有限的，但它的出现为专家系统的研究增添了新 的生命力，使专家系统的发展进入了一个新的阶段。
研究问题
知识表示 推理

– 不精确推理

知识获取
不精确推理(inexact reasoning)

客观需求：
GPS
通用问题求解方法 11种不同类型的问题

– 猴子摘香蕉，梵塔，人一羊过河等。
用户定义一个任务环境，就可以应用这个系统； 只能在状态集合相对较少和形式规则都有完整 定义的领域内使用； 只能在一个形式化的微观世界里活动，缺少高 级专门知识，尚不能解决现实生活中的问题。

效果

求解复杂、大型的具体问题时，这种通 用的方法成果甚微
反思

另一派的反思 :
– 这样的通用推理体系可能根本不存在! – 人有知识，而机器没有; – 不要去构造一个通用的智能机器，而要构造
某个领域上的智能机器; – 智能的关键在于赋予机器很多领域知识;
知识

一个系统的求解能力来源于它所具有的 知识本身，而不是来自于它所采用的形 式和推理方式。
– 1977年，Feigenbaum（费根鲍姆） – 第五届人工智能国际联合会
– 关于特定领域的特定事实、过程和判断规则 – 不包括有关领域的一般性知识或关于世界的常
识性知识 ； – 半自动进行：知识工程师 ； – 学习系统自动进行；
知识库

具有专家水平的专门知识:
– 数据级 : 初始事实 /中间结论 病人的症状、化验结果以及由专家系统推出的病 因、治疗方案 – 知识库级: 专家的知识 医学知识、医生诊治疾病的经验 – 控制级: 关于如何运用前两种知识的知识
P( E |~ H ) P(~ H ) P(~ H | E ) P( E )
P( H | E ) P( E ) P( E | H ) P( H )（3）
（4）
P(~ H | E ) P( E ) P( E |~ H ) P(~ H )（5）
（6）
P( H | E ) P( E | H ) P( H ) O( H | E ) P(~ H | E ) P( E |~ H ) P(~ H )
主观Bayes方法
利用:
P( E ) P( E | H ) P( H ) P( E |~ H ) P(~ H )
推出:
LS P( H ) P( H | E ) ( LS 1) P( H ) 1
（9）
主观Bayes方法
总之: （8） O( H
| E ) LS O( H )
LS P( H ) P( E | H ) （9） P ( H | E ) LS ( LS 1) P( H ) 1 P( E |~ H )
•LS:充分性度量 — 表示E的出现对假设H的支持程度; —LS越大, O(H|E)越大, P(H|E)越大, 说明E越支持H; —LS=1，说明证据E的存在不影响H; LS<1，说明E的存在使H 的可能性下降; LS=0，说明E的存在使H为假; —专家给出；
（7）
主观Bayes方法
P( H | E ) P( E | H ) P( H ) O( H | E ) P(~ H | E ) P( E |~ H ) P(~ H )
LS O(H )
P( E | H ) LS （8） P( E |~ H )
表示当E为真时, 用先验几率对后验几率的修正;
R2(1, 0.wk.baidu.com002) OR
E1 RCIB
E2
主观Bayes方法

E 1:
– P(E1)=0: LN(R1)=1, P(H|E1)=P(H)=0.03 – P(E1)=1 O(H|E1)=LS*O(H) = 20*(0.03 /(1-0.03))=0.61855 P(H|E1)=O(H|E1)/(1+ O(H|E1))=0.61855/1.61855=0.382 当E1为真时，H的可能性增加了十倍；
著名系统

DENDRAL
– 1965年开始, 费根鲍姆, Stanford – 有机化学分析 – 根据质谱仪的数据, 推断可能存在的分子结构和原
子结构 – 比人类专家出色

MACSYMA(早期研究是SAINT)
– 1961年开始, Slagle, MIT – 符号积分和公式化简 – 比人类专家出色
主观Bayes方法

证据E不确定的情况居多。
—一条规则的证据是另一条规则的结论； —―证据E有80%的可能为真”：在所有的观察S 下，证据E出现的可能是80%，即P(E|S)=0.8

S是对证据E的所有观察或确定E的证据， P(E|S)表示当前E的概率； 根据P(E|S)求P(H|S);
主观Bayes方法

MYCIN
– 不精确推理 – 能够解释自己的推理过程

用户(医生， 不是病人)能够以各种方式与之对话，如询问 系统为什么要问这样的问题，或怎样得出这样的结论等。 它是用户最友好的系统之一。这种友好是基于规则的程序 设计方法所带来的。每一个规则是半独立的知识包。如果 用户要知道为什么要问某个问题, 系统可沿规则反推回去， 直到给出最合理的解释为止。
主观Bayes方法

当E为假时 ( P(E)=0, P(~E)=1 )
O( H |~ E ) LN O( H ) LN P(~ E | H )
LN P( H ) P( H |~ E ) ( LN 1) P( H ) 1
P(~ E |~ H )
•LN: 必要性度量 — 表示~E的出现对假设H的支持程度; —LN越小，O(H|~E)越小，即E不出现则H的可能性变小，E对 H的出现是十分必要的。 —LN->+ ，说明E不出现使H可能性变大； LN=1，说明E不出 现与H无关； LN<1，说明E不出现使H的可能性变小； LN=0， 说明E不出现使H为假； —专家给出；
主观Bayes方法

E 2:
– P(E2)=1 LS(R2) =1 P(H|E)= P(H) =0.03 – P(E2)=0 LN(R2) = 0.0002 O(H|~E2)=LN*O(H) = 0.0002*(0.03 /(1-0.03))=0.0000061855 P(H|~E2)= O(H|~E2)/(1+ O(H| ~E2)) = 0.000006 当E2不存在时，H成立的可能性削弱五千倍。
（元知识）

搜索策略
知识库管理
检查专家输入的知识的格式是否正确； 检查专家输入的知识的内容是否矛盾；

– 逻辑上的检查； 孔子会死； 孔子不会死；
推理机

能进行有效的推理:
– 推理是专家思考的过程; – 根据用户提供的已知事实，运用掌握的知识，
推出新的结论，以实现对问题的求解。 – 领域不同, 推理机制也不一定相同;
P( H | S ) P( H )
P(H|S) P(H|E) P(H)
当P( E | S ) P( E)
P(H|~E) 0
P(E)
1
P(E|S)
主观Bayes方法
P(H|S) P(H|E) P(H) P(H|~E) 0
P(E)
1
P(E|S)
P( H ) P( H |~ E ) P( E | S ) 0≤P(E|S)<P(E) P( H |~ E ) P( E ) P( H | S ) P( H | E ) P( H ) P( H ) [ P( E | S ) P( E )] P(E) ≤ P(E|S) ≤ 1 1 P( E )

机器模拟智能
失败
下棋; 机器翻译; 归结原理;

回顾

对早期的AI研究的回顾：
– 研究和总结人类思维的普遍规律，再用计算机模拟
–
– –
–
–
实现 关键是建立一个通用的、万能的符号逻辑系统 Newell,Simon : 物理符号系统假设; Nilson: 逻辑演绎方法; 通用问题求解GPS（General Problem Solver） 通用弱方法



精确推理 不精确推理 不完全推理 试探性推理
解释器

解释功能
– “为什么是这样? ‖ – ―是怎么得出来的? ‖ – 向用户解释它的行为动机及得出这些答案的
推理过程; – 便于维护;
特征

交互性
– 与领域专家进行对话以获取知识; – 与用户对话以索取求解问题时所需的已知事
实; – 回答用户的询问;
有某类矿藏的可能性进行估价
E LS, LN H P(H)

基本思想:
– 对断言H的信任程度应该随着新的信息的获得而改
变，即，根据P(E) ，从先验概率P(H)推出后验概率 P( H | E ) – P(肺炎)=0.01% P(肺炎| 咳嗽 )=0.09%
主观Bayes方法

用几率代替概率
P( H ) P( H ) O( H ) P(~ H ) 1 P( H )
P(H): [0,1] O(H): [0, + ] （1）
主观Bayes方法

条件几率
P( H | E ) O( H | E ) P(~ H | E )
（2）
求P(H | E)转为求O(H | E);
主观Bayes方法
P( E | H ) P( H ) P( H | E ) P( E )
P( H | S ) P( H | E ) P( E | S ) P( H |~ E ) P(~ E | S )
(1) (2) (3)
P( H | S ) P( H | E)
P( H | S ) P( H |~ E)
当P( E | S ) 1
当P( E | S ) 0