基于神经网络的专家系统
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
基于神经网络的专家系统
摘要:人工神经网络与专家系统,作为人工智能应用的两大分支,在实际应用中都有许多成功的范例,但作为单个系统来讲,二者都存在很大的局限性。主要是专家系统知识获取的“瓶颈问题”和神经网络知识表达的“黑箱结构”。为解决这个问题,本文提出将专家系统与神经网络技术集成,达到优势互补的目的。利用神经网络优良的自组织、自学习和自适应能力来解决令家系统知识获取的困难,同时用专家系统良好的解释机能来弥补神经网络中知识表达的缺陷。论文提出了基于神经网络专家系统的结构模型,知识表示方式以及推理机制等。
关键词:专家系统;神经网络;系统集成;
0 引言
专家系统(Expert System)是一种设计用来对人类专家的问题求解能力建模的计算机程序。专家系统是一个智能计算机程序,其内部含有大量的某个领域专家水平的知识和经验,能够利用人类专家的知识和解决问题的方法来处理该领域问题。一个专家系统应具有以下三个基本特征:启发性——不仅能使用逻辑性知识还能使用启发性知识;透明性——能向用户解释它们的推理过程,还能回答用户的一些问题;灵活性——系统中的知识应便于修改和扩充;推理性——系统中的知识必然是一个漫长的测试,修改和完善过程。专家系统是基于知识的系统。它由如图1所示的5个基本的部分组成[1,2,3]。
知识库存储从专家那里得到的特定领域的知识,这些知识包括逻辑性的知识和启发性知识两类。数据库用于存放专家系统运行过程中所需要和产生的信息。推理机的作用是按照一定的控制策略,根据用户提出的问题和输入的有关数据或信息,按专家的意图选择利用知识库的知识,并进行推理,以得到问题的解答,它是专家系统的核心部分。人机接口部分的功能是解释系统的结论,回答用户的问题,它是连接用户与专家系统之间的桥梁。知识的获取是为修改知识库原有的知识和扩充知识提供的手段。
1 传统专家系统存在的问题
传统专家系统是基于知识的处理的系统,将领域知识整理后形式化为一系列系统所能接受并能存储的形式,利用其进行推理实现问题的求解。尽管与人类专家相比,专家系统具有很大的优越性。但是,随着专家系统应用的日益广泛及所处理问题的难度和复杂度的不断扩大和提高,专家系统在某些方面已不能满足是实际工作中的需求,具体体现在以下一个方面[1,2]:(1)知识获取的“瓶颈”问题。(2)知识获取的“窄台阶”。(3)缺乏联想功能、推理能力弱。(4)智能水平低、更谈不上创造性的知识。(5)系统层次少。(6)实用性差。
2 神经网络与传统专家系统的集成
神经网络是基于输入\输出的一种直觉性反射,适用于进行浅层次的经验推理,其特点是通过数值计算实现推理;专家系统是基于知识匹配的逻辑推理,是深层次的符号推理。将两者科学的结合形成神经网络专家系统,可以取长补短。根据侧重点的不同,神经网络与专家系统的集成有三种模式[2]:(1)神经网络支持专家系统。以传统的专家系统为主,以神经网络的有关技术为辅。
(2)专家系统支持神经网络。以神经网络的有关技术为核心,建立相应领域的专家系统,采用专家系统的相关技术完成解释等方面的工作。
(3)协同式的神经网络专家系统。针对大的复杂问题,将其分解为若干子问题,针对每个子问题的特点,选择用神经网络或专家系统加以实现,在神经网络和专家系统之间建立一种耦合关系。
3 神经网络专家系统的结构
图2表示一种神经网络专家系统的基本结构。其中自动获取模块输入、组织并存储专家提供的学习实例,选定神经网络的结构,调用神经网络的学习算法,为知识库实现知识的获取。当新的学习实例输入后,知识获取模块通过对新实例的学习,自动获得新的网络权值分布,从而更新了知识库。
4 神经网络专家系统知识库的形成
4.1 知识的表示
传统专家系统的知识表示技术是采用一系列标准的形式(如规则、框架、语义网络等)对知识进行显示表示,而神经网络知识库是利用神经网络自身的分布式连接机制对知识进行隐式表示。知识表示不再是独立的一条条规则,而是分布于整个网络中的权和阈值。神经网络专家系统的神经元知识表示如图
3所示[4]。表示来自其它神经元知识的激励信号,表示神经元之间的权,表示神经元的阈值,y表示神经元的信号输出。
建立知识库就是确定神经网络的各个神经元,隐含神经元和输出神经元的权值和阀值。因而,知识库的建立实际上就是神经网络的学习过程。知识库的建立包括知识的获取几存储两个过程。
4.2 知识获取及存储
知识的获取表现为训练样本的获取与选择,训练样本来源于同类型对象的各种特征参数。在进行知识获取时,它只要求专家提供样本,通过特定的学习算法对样本进行学习,经过网络内部自适应算法不断修改权值分布以达到要求,把专家求解实际问题的启发式知识分布到网络的互连及权值分布上。各结点的信息是由多个与它相连的神经元输入信息和连接权合成的。这样它就将知识隐式地分散存储在神经网络的各项连接权和阀值中。如采用BP算法[4]来训练神经网络,网络的隐含层和输出层的神经元的操作特性为:
(式1)
式中为第j个神经元的输入,是第i个神经元的输出,为第i个神经元到第j个神经元的连接强度。为第j个神经元的阈值。神经元的作用函数采用S(Sigmoid)型函数,则第J个神经元的输出为:
(式2)
设第j 个神经元的输出值为,期望输出值为;,则误差函数为:
(式3)
采用梯度下降算法调整个层神经元的权值,同时为了加强收敛速度,在权值修正量中加上一个惯性项即前一次的权值修正量。则权值修正的迭代方程为:
(式4)
式中为惯性系数,为学习步长。若神经元j 是输出单元,则
(式5)
若神经元j 是隐层单元,则
(式6)
当误差函数E满足实际要求时,专家系统知识获取的过程结束,这时领域专家解决实际问题的经验知识就转化为神经网络中各神经元之间的连接强度。整个网络成了专家系统的知识库。
4.3 推理机制
一般专家系统中有三种推理机制:正向推理,反向推理和混合推理[1,2,3]。正向推理又称为正向链接推理,其推理基础是逻辑演绎的推理链,它从一组表示事实的谓词或命题出发,使用一组推理规则,来证明目标谓词公式或命题是否成立。反向推理又称为后向链接推理,其基本原理是从表示目标的谓词或命题出发,使用一组规则证明事实谓词或命题成立,即提出一批假设(目标),然后逐一验证这些假设。混合推理的指导思想是:输入已知的部分信息,神经网络根据这些信息提出一个最有可能发生的事件,然后再证实这个假设,若这个假设经证实成立,则结束;否则做出新的假设并继续证实。
神经网络专家系统的推理机制与传统专家系统基于逻辑的演绎方法不同,它的推理机制实质上就是网络的数值计算过程。主要由以下三个部分组成。
A.输入逻辑概念到输入模式的转换:根据论域的特点确定相应的变换规则,在将目前的状态变换为神经网络的输入模式。
B.网络内的前向计算:根据神经元特征,其输入为
,,(式7)
为连接权系数,为神经元的输出。其中的为神经元的阀值,为转移函数。通过上述计算即可产生神经网络的输出模式。
C.输出模式解释:随着论域的不同,输出模式的解释规则亦各异。解释的目的是将输出数值向量转换成高层逻辑概念。
同传统专家系统的推理机制相比,神经网络的正向推理机制具有很大的优势。
A. 同一层的处理单元是完全并行的,但层间的信息传递是串行的。由于层中处理单元的数目要比网络
层数多的多,因此它是一种并行推理。
B. 在网络推理过程中不会出现传统人工智能系统推理的冲突问题。
C. 网络推理只与输入及自身的参数有关,而这些参数又是通过使用学习算法对网络训练得到的,因此
它是一种自适应推理。
4.4 解释机制
要实现神经网络专家系统的解释机能,需利用神经网络中的各个数据,如输入数据,输出数据及隐含层神经元输出数据。利用输入层神经元及输出层神经元的物理含义及对应的连接权值形成规则,以这些规则实现解释机能,其过程相当于神经网络训练的一个逆过程,在训练的过程中是将输入信号和教师信号进行组合作为样本,经过训练形成各项权值,得出解释规则,用以实现对用户疑问的回答,完成解释任务。
5 结束语
与传统专家系统相比,神经网络专家系统具有如下几个优点:(1)具有并行结构和并行处理方式;(2)具有高度的自适应性;(3)具有很强的自学习能力;(4)具有很强的容错性;(5)具有统一的内部知识表示方式;(6)它实现了知识表示、知识获取与知识处理三种融神经网络于一体的快速处理机制
虽然基于神经网络的专家系统较传统专家系统有较大的优越性(特别在分类,诊断和优化方面),但在更广阔的领域研制、开发和应用,仍存在不少问题,表现在以下几个方面:(1)神经网络专家系统的性能很大程度上受到训练样本的影响。如果样例数据的正交性和完备性不好,就会降低专家系统的性能。(2)目前的神经网络专家系统没有询问机制。当推理计算过程中遇到不充分的信息时,它不向用户索取相关的证据,有些证据用户是知道的,但用户不知道他们是否对专家系统求解有用;因此,必然影响求解结果的质量。(3)神经网络专家系统的知识表示,输入证据和输出结果要求数字化,推理为数值计算。对有些知识,证据结果是很难数字化的,这样就限制了基于神经网络专家系统的应用。