第11章-自然语言理解
语言学第十一章
language，mother tongue和 native language的共同特点是： （1）最早习得的语言，常常是在家 庭环境中学习; （2）熟练程度高，语言直觉强。
first
language，foreign language 的共同特点是： （1）是一种双语现象； （2）在掌握的时间顺序上次于第一语言； （3）熟练程度一般不如第一语言； （4）习得方式一般是学校教育、家庭教育 或自学。
What
elements of language are most amenable to Focus on Form? 哪些语言成分最适合通过“关注语言形 two variables (两个变量): (1) the relevance of universal 式”的途径来学习？
grammar (普遍语法的相关度) (2) complexity of language structures (语言结构的复杂度)
second
在语言环境方面，第二语言与外语有着根本
的差别。第二语言学习者般都有一个比较自然 的语言环境。周围有众多的该语言的本族语使 用者。该语言可能是“官方语言的一种（如法 语在加拿大，英语在印度等）。” 而“外语” 学 习者一般来说则很难有这样的语言环境。
第二语言和外语学习者所能掌握的语言
to Jo McDonough, a teacher who is able to explain some linguistic features would have a stronger position than one who handles the argument by using authority – "it's like that", "it's an exception", or "it's less formal".
《人工智能》课程教学大纲.doc
《人工智能》课程教学大纲课程代码：H0404X课程名称：人工智能适用专业：计算机科学与技术专业及有关专业课程性质：本科生专业基础课﹙学位课﹚主讲教师：中南大学信息科学与工程学院智能系统与智能软件研究所蔡自兴教授总学时：40学时﹙课堂讲授36学时，实验教学4学时﹚课程学分：2学分预修课程：离散数学，数据结构一.教学目的和要求：通过本课程学习，使学生对人工智能的发展概况、基本原理和应用领域有初步了解，对主要技术及应用有一定掌握，启发学生对人工智能的兴趣，培养知识创新和技术创新能力。
人工智能涉及自主智能系统的设计和分析，与软件系统、物理机器、传感器和驱动器有关，常以机器人或自主飞行器作为例子加以介绍。
一个智能系统必须感知它的环境，与其它Agent和人类交互作用，并作用于环境，以完成指定的任务。
人工智能的研究论题包括计算机视觉、规划与行动、多Agent系统、语音识别、自动语言理解、专家系统和机器学习等。
这些研究论题的基础是通用和专用的知识表示和推理机制、问题求解和搜索算法，以及计算智能技术等。
此外，人工智能还提供一套工具以解决那些用其它方法难以解决甚至无法解决的问题。
这些工具包括启发式搜索和规划算法，知识表示和推理形式，机器学习技术，语音和语言理解方法，计算机视觉和机器人学等。
通过学习，学生能够知道什么时候需要某种合适的人工智能方法用于给定的问题，并能够选择适当的实现方法。
二.课程内容简介人工智能的主要讲授内容如下：1.叙述人工智能和智能系统的概况，列举出人工智能的研究与应用领域。
2.研究传统人工智能的知识表示方法和搜索推理技术，包括状态空间法、问题归约法谓词逻辑法、语义网络法、盲目搜索、启发式搜索、规则演绎算法和产生式系统等。
3.讨论高级知识推理，涉及非单调推理、时序推理、和各种不确定推理方法。
4.探讨人工智能的新研究领域，初步阐述计算智能的基本知识，包含神经计算、模糊计算、进化计算和人工生命诸内容。
自然语言理解精品PPT课件
自然语言理解的一般问题(6)
• 语言学的研究－理解的层次 – 语音分析：找出最小可独立的声音单元----音素 – 词法分析：找出词汇的各个词素（词根），从中获得语 言学信息 例：我们研究所有东西;把手放在桌上 我们--研究所--有--东西 （交叉歧义） 我们--研究--所有--东西 把--手--放在--桌上 （组合歧义） 把手--放在--桌上
10
自然语言理解的一般问题(9)
• 研究目标
– 建立一个足够精确的语言数学模型使计算机通过编程来 完成自然语言的相关任务。如：听、读、写、说，释义 ，翻译，回答问题等。通过语言索取信息，由此能力则 说明该系统对语言已理解了 。
11
自然语言理解的一般问题(10)
自然语言的层次划分及对应技术
理论 模板匹配、基于规则
9
自然语言理解的一般问题(8)
• 语言学的研究－理解的层次
– 语义分析：通过分析找出词义，结构意义及其结合意义，从而确定 语言所表达的真正（实际）含义或概念。在语言自动理解中，语义 越来越成为一个重要的研究内容。（尤其是对话系统）
你打我 我打你
– 语用分析：研究语言所在的外界环境对语言使用所产生的影响。描 述语言的环境知识、语言与语言使用者在某个给定语言环境中的关 系。为确定真正含义，对表达的结构重新加以解释。（故宫、一块 ）
14
自然语言理解的一般问题(13)
• 自然语言理解的研究大体上经历了三个 时期
– 萌芽时期 – 发展时期
• 早期: 60年代以关键词匹配为主流 • 中期: 70年代以句法－语义分析为主流 • 近期: 80年代以来开始走向实用化和工程化
6
自然语言理解的一般问题(5)
• 语言学的研究
简述自然语言理解的定义和层次
自然语言理解(NLU)是指计算机系统对人类语言进行理解和解释的过程。
它涉及到从语言中提取出意义、逻辑和情感等信息，使得计算机能够像人类一样理解并与之进行交互。
在深入探讨自然语言理解的层次之前，让我们先简要地了解一下自然语言理解的定义。
自然语言理解是指计算机能够解析和理解人类自然语言的能力，包括对语义、语法、逻辑和语用的理解。
它旨在使计算机能够准确地理解并处理人类语言的各种含义和目的，从而能够进行智能的对话和决策。
自然语言理解的层次可以分为几个层次，从简单到复杂逐步深入。
首先是基本的语义理解，计算机需要能够识别出句子中的实体、动作和关系等基本信息。
其次是逻辑推理，计算机需要能够根据语句之间的逻辑关系进行推理和推断。
再次是情感理解，计算机需要能够识别出句子中表达的情感色彩和态度，如正面情感、负面情感或中性情感等。
最后是语境理解，计算机需要能够根据上下文和语境来理解句子的真实含义和目的。
在实际的应用中，自然语言理解的层次可以根据具体的任务和需求进行不同的扩展和深化。
例如在智能客服系统中，自然语言理解需要能够理解用户的问题并给出准确的回答；在智能文本分析系统中，自然语言理解需要能够理解文本中的信息并进行分类和关联分析等。
个人观点来说，自然语言理解是人工智能领域非常核心和关键的一个领域。
随着人工智能技术的不断发展和普及，自然语言理解的能力将极大地改变人机交互的方式，并在各种应用领域发挥着重要作用。
自然语言理解是计算机理解和处理人类语言的重要能力，它涉及到基本的语义理解、逻辑推理、情感理解和语境理解等多个层次，并在实际应用中发挥着重要的作用。
希望通过本文的介绍，你能对自然语言理解有一个更深入和全面的了解。
自然语言理解(NLU)是指计算机系统对人类语言进行理解和解释的过程。
它涉及到从语言中提取出意义、逻辑和情感等信息，使得计算机能够像人类一样理解并与之进行交互。
在深入探讨自然语言理解的层次之前，让我们先简要地了解一下自然语言理解的定义。
自然语言理解 教学大纲
自然语言理解教学大纲教材：自然语言理解赵海清华大学出版社第1章：自然语言处理概要1.概念和术语包括什么是自然语言、自然语言处理和自然语言理解的关系、以及计算语言学。
2.自然语言处理技术的挑战自然语言处理被迫需要承担两类知识一一常识知识与语言学知识的处理和解析任务。
后者属于自然语言处理这一领域独一无二的需求。
3.机器翻译4.语言处理层次形态分析、句法分析、语义分析、语用分析、篇章分析、世界知识分析5.应用型自然语言处理人机对话系统6.自然语言处理的学术出版体系国际计算语言学会(AC1)等第2章：n元语言模型1.概率论基础首先回顾概率论的基本知识，如联合概率、条件概率、贝叶斯等。
2.语言模型用于语言生成语言生成的过程称为解码。
n元语言模型给出的是n元组出现的概率，因此合理或正确的语言现象必然有更大的概率或似然，这一观察是语言模型能在预测性解码任务之中发挥作用的关键。
3.n元语言模型的工作方式n元机制、马尔可夫假设4.评价指标困惑度5.n元语言模型的平滑方法1aP1aCe平滑、Good-TUring平滑、Je1inek-MerCer平滑、KatZ平滑、KneSer-Ney平滑、Pitman-YOr平滑6.非n元机制的平滑方法缓存、跳词、聚类7.平滑方法的经验结果对比几种平滑技巧的组合效果，以及对比它们在困惑度和语音识别的单词准确率上的差异。
8.n元语言模型的建模工具介绍了一些常用的平滑工具包第3章：语言编码表示1.独热表示用独热码表示语言符号2.特征函数一个文本对象样本基于词一级的独热表示就是展示n元组本身，因此这个部分也称之为n元组特征，它也是自然语言最直接、最基本的特征。
3.通用特征模板在实际机器学习模型建立过程中，会用到成千上万维的特征向量，故而涉及成千上万个特征函数，如果这些函数要一个个定义，建模过程将会变得烦琐不堪。
因此，实际上，特征函数可以按照定义属性进行分组，这样统一定义的一组特征函数（对应于特征向量维度上的一个片段）称之为特征模板。
《大自然的语言》概念
《大自然的语言》概念
《大自然的语言》是一篇生动的说明文，旨在以语言为媒介，引导读者从气象、动物、植物等自然现象中了解大自然，感受其神奇之处，并激发探索和研究大自然的兴趣。
该文主要分为三个部分：第一部分描述大自然的语言是什么，第二部分解释大自然语言的形成原因和影响，第三部分探讨如何理解和利用大自然的语言。
该文主要运用了生动的语言和丰富的例子来说明大自然语言的奥秘，让读者更加直观地了解大自然语言的美丽和神奇。
同时，文章也探讨了大自然语言的重要性和意义，指出只有通过了解和掌握大自然的语言，才能更好地与自然和谐相处，保护环境，维护生态平衡。
总之，《大自然的语言》一文旨在引导读者更加深入地了解大自然的奥秘，增强环保意识，珍惜自然资源，为人类与自然的和谐共存贡献力量。
自然语言理解讲义
语言分析的主要困难(1)
困难之一：大量歧义(ambiguity)现象 词法歧义
语义学—Semantics，研究符号与其所指事物 间的(深层)关系。
语用学—Pragmatics，研究交际中如何选用 符号来表达意义。
语言学基本知识：现代语法学
受符号学的影响与推动，现代语法学(表示 为Grammar2)形成三个分支：
句法学—Syntax = Grammar1(含词法与句 法)。
哲学
什么是意义？词与句子如何 获得意义？词如何识别现实 世界的对象？
计算语言学 如何识别句子结构？怎样对 知识和推理进行建模？语言 如何被用以完成特定任务？
运用关于反例的直觉知识进行 自然语言论证; 数学模型 (例如, 逻辑与模型理论)
数据结构和算法；表示与推理 的形式理论；AI技术(搜索和 知识表示方法)
语义学—Semantics，研究词意、句子的语义 结构、概念与概念结构等。
语用学—Pragmatics。
为什么要研究计算语言学？
信息时代的需要！语言是信息的载体。 提高计算机的智能：能理解和处理大量语言信息。
自然语言理解的应用
基于文本的应用 在一文本数据库中查找关于某些主题的合适文档(例如在图书 馆找相关书籍) 从关于某些主题的消息或文章中抽取信息 将文本从一种语言翻译成另一种语言 根据某种目标进行自动文摘
语言与自然语言(2)
语言的第一系统和第二系统
第一系统：语音系统—Sound System。 第二系统：文字系统(书写系统)—Writing
自然语言理解PPT课件
依存关系
词语之间的依赖关系，包括主谓关系、 动宾关系等。
语义分析
语义分析
理解句子所表达的实际意义，涉 及词义消歧、句义理解等方面。
词义消歧
确定多义词在具体语境中的意义。
句义理解
理解整个句子的意义，涉及句子的 主旨、意图等。
语境理解
语境理解
结合上下文信息，理解当前词语 或句子的意义。
上下文信息
当前词语或句子之前的文本信息， 用于推断当前词语或句子的意义。
自然语言理解的重要性
提高人机交互的效率和体验
自然语言理解技术使得人机交互更加自然、便捷，提高了用户体 验。
推动人工智能技术的进步
自然语言理解技术的发展对于人工智能技术的进步具有重要意义， 是人工智能技术发展的重要方向之一。
促进跨语言交流
自然语言理解技术可以帮助不同语言和文化背景的人们进行交流， 促进跨文化交流和理解。
语境效应
上下文信息对当前词语或句子意 义的改变效果。
04 自然语言理解的技术挑战 与解决方案
数据稀疏性问题
总结词
数据稀疏性是指训练数据不足或数据分布不均匀，导致模型难以学习到有用的特征和模式 。
详细描述
在自然语言处理任务中，数据稀疏性是一个常见问题。由于语言本身的复杂性和多样性， 很难收集到足够丰富和多样的训练数据。此外，不同领域和场景的数据分布也可能存在很 大差异，导致模型在某些情况下表现不佳。
语境理解问题
总结词
语境理解问题是指模型需要理解句子或段落之间的逻辑关系和语义联系，以推断出正确的意义。
详细描述
在自然语言处理中，语境理解是非常重要的。一个词或句子的含义往往需要结合上下文才能确定。例如，“他是一名 医生”这句话在不同的语境下可能有不同的含义，可能是指他是医生这个职业，也可能是指他正在扮演医生的角色。
利用自然语言处理技术进行自然语言理解的结果分析(六)
自然语言处理（NLP）技术是一种人工智能技术，能够使计算机系统能够理解和处理人类语言。
在当今数字化社会中，NLP技术被广泛应用于自动翻译、智能客服、舆情分析等领域。
其中，自然语言理解（NLU）是NLP技术中的一个重要分支，它致力于使计算机能够理解人类语言的含义和情感，从而实现更加智能化的人机交互。
NLU技术的核心是通过对文本和语音进行分析，从中提取出信息和情感，实现对语言的理解。
在现实应用中，NLU技术可以应用于智能助手、智能客服、自然语言搜索等场景中，帮助用户更加高效地获取信息和进行交流。
在这些应用中，NLU技术的表现直接影响着用户体验和系统效果，因此对NLU技术的结果进行分析和评估是至关重要的。
首先，NLU技术的结果分析可以从准确性和全面性两个方面进行。
准确性是指NLU技术对于输入文本或语音的理解是否与人类理解一致，全面性则是指NLU技术是否能够将文本或语音中的各种信息和情感都准确地提取出来。
对于不同的NLU 应用场景，准确性和全面性的重要性也各有不同。
比如在智能客服场景中，准确性是最为重要的，因为用户希望系统能够准确理解并解决自己的问题；而在舆情分析场景中，全面性则更为关键，因为用户希望系统能够全面地分析社会舆论，不漏掉任何重要信息。
其次，NLU技术的结果分析还可以包括情感分析和语义分析两个方面。
情感分析是指NLU技术对于文本或语音中所含有的情感色彩的识别和理解，能够分析出其中所包含的积极和消极情感，并对其进行评分。
情感分析在智能客服、舆情分析等应用场景中有着重要的作用，可以帮助系统更好地理解用户的态度和情感，从而进行更加智能化的交互。
语义分析则是指NLU技术对于文本或语音中的语义信息的理解和提取，能够准确把握文本或语音的含义和逻辑结构。
语义分析在自然语言搜索、自动翻译等应用场景中有着重要的作用，可以帮助系统更好地理解和处理复杂的语义信息，提升系统的智能化水平。
最后，NLU技术的结果分析还可以包括对于不同语言和文化的适应性分析。
自然语言理解的五个层次
自然语言理解的五个层次
题目：自然语言理解的五个层次是:词法分析、句法分析、语义分析和( )。
A.语用分析
B.语言分析
C.词素分析
D.语音分析
答案：A.语用分析
自然语言的五个层次分别是语音分析、词法分析、句法分析、语义分析和语用分析。
语音分析是指根据人类的发音规则，以及人们的日常习惯发音，从语音传输数据中区分出一个个独立的音节或者音调，再根据对应的发音规则找出不同音节所对应的词素或词，进而由词到句，识别出人所说的一句话的完整信息，将其转化为文本存储，这也正是现在很火的语音识别的核心。
词法分析是找出词汇的各个组成部分，分析这些组成部分之间的关系，进而从中获得语言学的信息。
句法分析是对句子和短语的结构进行分析，目的是要找出词或短语等的相互关系以及各自在句中的作用。
语义分析就是要找出词的意思，并在词的意义的基础上，拼接出一段完整的话的意思，进而得到完整语篇的含义，从而确定语言所表达的真正含义或概念。
语用分析是离我们生活最近的层次，但也是相对较难的部分，它是指研究语言所存在的外界环境对语言使用者所产生的影响，例如人在恐慌的条件下所进行表达的方式与平时生活中的表达方式有很大的不同，而这是由环境变化引起的，其本人并没有改变。
第11章 自然语言理解(AI应用3版)
汉语词法分析 特点：找出词素简单，切分出词困难。 例如：优秀人才学人才学 1. 优秀人－才学人才学 2. 优秀人才－学人才学
10
第11章 自然语言理解及其应用
11.1自然语言理解的概念与发展历史
11.2 语音分析
11.3 词法分析
11.4 句法分析
11.5 语义分析 11.6 基于语料库的大规模文本处理 11.7 机器翻译 11.8 语音识别 11.9基于隐马尔科夫模型的语音识别方法
T =（the,man,killed,a,deer,likes) N =（S,NP,VP,N,ART,V,Prep,PP) S=S P：(1) S→NP+VP (2) NP→N (3) NP→ART+N (4) VP→V (5) VP→V+NP (6) ART→the|a
13
(7)N→man|deer
22第11章自然语言理解及其应用111自然语言理解的概念与发展历史112语言处理过程的层次113词法分析114句法分析115语义分析116基于语料库的大规模文本处理117机器翻译118语音识别119基于隐马尔科夫模型的语音识别方法3第11章自然语言理解及其应用?111自然语言理解的概念与发展历史112语言处理过程的层次113词法分析114句法分析115语义分析116基于语料库的大规模文本处理117机器翻译118语音识别119基于隐马尔科夫模型的语音识别方法41111自然语言理解的概念微观角度
.
→ART + N + VP →The man + V + NP
→The man killed + NP
→The man killed + ART + N
→The man killed a deer.
人工智能理论的自然语言理解PPT
5
11.1 语言及其理解的一般问题
自然语言理解过程的层次
语言的分析和理解过程是一个层次化 的过程，它主要包括如下四个层次：
❖ 语音分析 ❖ 词法分析 ❖ 句法分析 ❖ 语义分析
6
11.2 句法和语义的自动分析
(Automatic Analysis of Syntax and Semantics)
13
11.3 句子的自动理解 (Automatic Understanding of Sentences) 简洁为句了理的解理一解个方简法洁句，需要做以下两方
面 的工作： 理解语句中的每一个词。 以这些词为根底组成一个可以表达整个语
句意义的构造。其中其次项工作又可 分成以下3个局部来进展：
14
11.3 句子的自动理解
23
❖句法分析将单词之间的线性次序变换 成一个显示单词如何与其它单词相关 联的构造。
❖语义分析各种意义被赋于由句法分析 程序所建立的构造，即在句法构造和 任务领域内对象之间进展映射变换。
❖语用分析为确定真正含义，对表达的 构造重新加以解释。
15
11.3 句子的自动理解
复合句的理解方法
复合句的理解，要求觉察句子之间的相 互关系。这种关系包括以下几种： 一样的事物 事物的一局部 行动的一局部 与行动有关的事物 因果关系 打算次序
句。 假设该语句是陈述句，则在学问库中增加
该子句，否则认为该子句为一个问题， 并演绎地检索相应的答案。
19
11.5 自然语言理解系统应用举例
此3项功能主要由谓词talk完成，talk的 定义是：
talk(Sentence,Reply)： -Parse(Sentence,LF,-Type), clausify(LF,Clause,Freevars),!, reply(Type,Ereevars,Clause,Reply). talk(Sentence,error(‘too difficult”)). 上述定义中引出 3 个谓词，即parse, clausify, reply分别对应上述 3 项功能。
2019年自然语言理解.ppt
自然语言理解
乘飞机应看成是出差的一部分。
(4)与行动有关的事物，例如： “李明准备骑车去上学，但他骑上车子时，发现车胎没 气了。” 李明的自行车应理解为是与他骑车去上学这一行动有关 的事物。 (5)因果关系，例如： “今天下雨，所以不能上早操。”
下雨应理解为是不能上操的原因。
(6)计划次序，例如： “小张准备结婚，他决定再找一份工作干。”
noun(Z).
verb-phrase(X):append(Y ， Z ， X) ， verb(Y) ， nounphrase(Z). verb-phrase(X):verb(X). determiner(［the］).
自然语言理解
noun( ［ H|- ］ ):member(H ， ［ man ， student ， apple ，
例如，下面就是一个英语子集的上下文无关文法：
自然语言理解
<sentence>∷=<noun-phrase><verb-phrase> <noun-phrase>∷=<determiner><noun> <verb-phrase>∷=<verb><noun-phrase>|<verb> <determiner>∷=the|a|an <noun>∷=man|student|apple|computer <verb>∷=eats|operats
自然语言理解
例10.1 下面是一个基于上述文法的语法分析程序。它采
用自顶向下搜索。 sentence(X):append(Y ， Z ， X) ， noun-phrase(Y) ， verbphrase(Z). noun-phrase(X):append(Y ， Z ， X) ， determiner(Y) ，
第11章自然语言理解
“接着, 把虎钳固定到工作台上。螺栓就放在小塑料袋 中。 ”
显然, 第二句中的螺栓就是第一句中用来固定虎钳的螺 栓。 所以, 如果在理解第一句时, 就把需用的螺栓置于 “焦点”之中, 则全句的理解就容易了。因此, 需要表示出 与“固定”有关的知识, 以便当见到“固定”时, 能方便地 提取出来。
第 11 章 自然语言理解
(1) 语法分析。 将单词之间的线性次序变换成一个显示单 词如何与其他单词相关联的结构。语法分析确定语句是否合乎 语法, 因为一个不合语法的语句就更难理解。
(2) 语义分析。各种意义被赋予由语法分析程序所建立的 结构, 即在语法结构和任务领域内对象之间进行映射变换。
(3) 语用分析。 为确定真正含义, 对表达的结构重新加以解 释。
第 11 章 自然语言理解 图 11-1 文法树
第 11 章 自然语言理解
例11.1 下面是一个基于上述文法的语法分析程序。 它
采用自顶向下搜索。
sentence(X):append(Y, Z, X), noun_phrase(Y), verb_phrase(Z). noun_phrase(X):append(Y, Z, X), determiner(Y), noun(Z). verb_phrase(X):append(Y, Z, X), verb(Y), noun_phrase(Z). verb_phrase(X):verb(X). determiner(［the］). noun(［H|_］): member(H, ［man, student, apple, banana, computer］). verb(［H|_］):member(H, ［eats, study, programming, operats］). append(［］, L, L). append(［H|T］, L, ［H|L2］): append(T, L, L2). member(X, ［X|_］). member(X, ［_|T］): member(X, T).
自然语言理解PPT课件
• Perhaps I could learn to get along with my mother. （也许我可以学会如何和 我母亲相处。）
• My mother takes care of me.（我母亲照顾我。）
• My father.（我父亲。） • You are like my father in
层次。
例如：
She read me a story 和 A story was read to me
的表层结构不一样，但它们的深层结构则是一样的。再如，主动句和被动句
也只是表层结构不同，其深层结构则是相同的。
在变换文法中，句子深层结构和表层结构之间的变换是通过变换规则实
现的。 句子
句子
名词短语1 动词短语
发展时期
• 20世纪60年代和70年代，对自然语言理解对话系 统的研究取得进展。
• 60年代：拉法勒（B.Raphael）在麻省理工学院完 成的信息检索系统SIR；韦森鲍姆在麻省理工学院 的ELIZA。
• 70年代：伍兹(Woods)的LUNAR系统、威诺甘德 (Winogand)的SHRDLU系统和香克(Schank)的 MARGIE系统等。
book
句法规则的表示方法——上下文无关法
上下文无关文法(Context-free Grammars)是乔姆斯基提出的一种对自 然语言语法知识进行形式化描述的方法。在这种文法中，语法知识是 用重写规则表示的。作为例子，下面给出了一个英语的很小的子集。
语句 → 句子 终标符
句子 → 名词短语 动词短语
动词短语 → 动词 名词短语
名词短语 → 冠词 名词
名词短语 → 专用名词
冠词 → the
名词 → professor
大语言模型 自然语言理解能力
大语言模型自然语言理解能力自然语言理解是指机器对人类自然语言进行理解和解释的能力。
它是人工智能领域中的一个重要研究方向，旨在使机器能够像人类一样理解和处理自然语言。
自然语言理解的核心任务之一是语义理解，即理解句子的意思。
语义理解涉及词义的理解、句法结构的分析和语境的推断等多个方面。
通过对词义进行分析，机器可以确定句子中每个词的含义，从而理解整个句子的意思。
句法结构的分析可以帮助机器理解句子中各个成分之间的关系，从而更好地理解句子的意义。
语境的推断则可以帮助机器理解句子中一些隐含的信息，使其能够更全面地理解句子的意思。
除了语义理解，自然语言理解还包括其他一些任务，如情感分析、信息抽取、问答系统等。
情感分析是指对文本情感进行分析和判断的任务，可以帮助机器理解文本的情感色彩，从而更好地与人类进行交流。
信息抽取是指从文本中提取出有用的信息，如人名、地名、时间等，可以帮助机器快速获取信息。
问答系统是指根据用户提出的问题，从文本中找到相应的答案并返回给用户的系统，可以帮助机器更好地与人类进行交互。
为了提高自然语言理解的能力，研究人员采用了多种方法和技术。
其中，机器学习是一种常用的方法，通过训练模型来学习语言的规律和模式。
深度学习是机器学习中的一种重要方法，它可以通过构建深层神经网络模型来进行语义理解和其他自然语言处理任务。
此外，知识图谱和语义网等技术也被广泛应用于自然语言理解中，可以帮助机器更好地理解文本的语义。
虽然自然语言理解在很多任务中已取得了显著的进展，但仍然存在一些挑战。
首先，人类自然语言的表达方式非常多样，因此机器需要具备很强的泛化能力才能理解各种类型的文本。
其次，语言中常常存在歧义和模糊性，机器需要具备一定的推理和判断能力才能正确理解文本的意思。
此外，语言中常常存在上下文依赖关系，机器需要能够根据上下文的信息来理解文本的意义。
总的来说，自然语言理解是机器理解和解释人类自然语言的能力，是人工智能领域中的一个重要研究方向。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
个英语子集的上下文无关文法：
第 11 章 自然语言理解 11.1.2 语法分析 要进行语法分析 , 必须首先给出该语言的文法规则 , 以
而是用了PRESENT、ATTRIBUTE、SHIP等专门领域中的类别。
对于语义文法的分析方法 , 可以使用与上下文无关文法相 类似的方法。利用上面给出的语义文法, 可以从语义上识别如 下的语句： What is the class of the Changjiang?
Can you tell me the length of the Huanghe?
SHIP→the SHIPNAME|CLASSNAME class ship
SHIPNAME→Huanghe|Changjiang CLASSNAME→carrier|submarine 这是一个舰船管理数据库系统自然语言接口的语义文法片段。
第 11 章 自然语言理解 可以看出 , 语义文法的重写规则与上下文无关文法的形式 是类似的。但这里没有出现像名词短语和动词短语等语法类别,
第 11 章 自然语言理解
要能做到理解这些复杂的关系, 必须具有相当广泛领域
的知识才行, 也就是要依赖于大型的知识库, 而且知识库的 组织形式对能否正确理解这些关系, 起着很重要的作用。特
别对于较大的知识库, 应考虑如何将问题的“焦点”集中在
知识库的相关部分。 例如,对于下面的一段话： “接着, 把虎钳固定到工作台上。螺栓就放在小塑料袋 中。 ” 显然, 第二句中的螺栓就是第一句中用来固定虎钳的螺 栓。 所以 , 如果在理解第一句时 , 就把需用的螺栓置于 “焦点”之中, 则全句的理解就容易了。因此, 需要表示出 与“固定”有关的知识, 以便当见到“固定”时, 能方便地 提取出来。
关系。 符号“∷=”也可以用箭头“→”表示。
第 11 章 自然语言理解 有了文法规则, 对于一个给定的句子, 就可以进行语法分 析, 即根据文法规则来判断其是否合乎语法。可以看出, 上面 的文法规则实际是非终结符的分解、变换规则。分解、变换从 起始符开始, 到终结符结束。所以,全体文法规则就构成一棵 如图 11－1所示的与或树, 我们称其为文法树。所以, 对一个 语句进行语法分析的过程也就是在这个与或树上搜索解树的过 程。 可以看出, 搜索解树可以自顶向下进行, 也可以自底向 上进行。自顶向下搜索就是从起始符sentence出发, 推导所给
verb_phrase(X, Y): verb(X, Z), noun_phrase(Z, Y). verb_phrase(X, Y): verb(X, Y). determiner(［the|T］, T). noun(［H|T］, T): member(H, ［man, student, apple, computer］).
?-sentence(［the,student,operats,the,computer］, ［］). 则系统仍然回答： yes 这个程序虽然难读, 但它的运行效率较高。
语法分析可判断一个句子的语法结构是否正确, 但不能判断 一个句子是否有意义。
?-sentence(［the,computer,operats,the,student］,［］).
词短语等不含语义信息的纯语法类别,用所讨论领域的专门类 别来代替。 例如, 下面就是一个语义文法的例子：
第 11 章 自然语言理解 S→PRESENT the ATTRIBUTE of SHIP PRESENT→what is|can you tell me ATTRIBUTE→length|class
第 11 章 自然语言理解
第 11 章 自然语言理解
11.1 简单句理解
11.2 复合句理解
11.3 转换文法和转换网络
第 11 章 自然语言理解
11.1.1 理解的实现过程
10.1.1 理解的实现过程
要理解一个语句，需建立起一个和该简单句相对应的机内
表达。而要建立机内表达，需要做以下两方面的工作： (1)理解语句中的每一个词。 (2) 以这些词为基础组成一个可以表达整个语句意义的结 构。
John saw Susan’s diamond shimmering from across the room.
中, 由于“shimmering”的出现, 则显然“diamond”是“钻石” 的含义, 因为“菱形”和“棒球场”都不会闪光。 再如在语
I’ll meet you at the diamond.
phrase〉∷=〈determiner〉〈noun phrase〉∷=〈verb〉〈noun phrase〉|〈verb
〈determiner〉∷=the|a|an 〈noun〉∷=man|student|apple|computer 〈verb〉∷=eats|operats 这个文法有 6 条文法规则 , 它们是用 BNF 范式表示的。其 中带尖括号的项为非终结符,第一个非终结符称为起始符, 不 带尖括号的项为终结符 , 符号“∷ = ” 的意思是“定义为” , 符号“|”是“或者”的意思 , 而不带“|” 的项之间是“与”
第 11 章 自然语言理解 这个程序是先把所给的句子以符号表的形式约束给谓词 sentence 的变量 X,然后对其进行分解和变换。如果最终分解、 变换的结果与语言的文法树相符 , 则证明所给的句子语法正确； 否则语法错误。 例如, 对于句子 the student operats the computer
的句子； 自底向上搜索就是从所给的句子出发 , 推导起始符
sentence。
第 11 章 自然语言理解
图 11-1 文法树
第 11 章 自然语言理解
例11.1
下面是一个基于上述文法的语法分析程序。 它
采用自顶向下搜索。
sentence(X):append(Y, Z, X), noun_phrase(Y), verb_phrase(Z). noun_phrase(X):append(Y, Z, X), determiner(Y), noun(Z). verb_phrase(X):append(Y, Z, X), verb(Y), noun_phrase(Z). verb_phrase(X):verb(X). determiner(［the］). noun(［H|_］): member(H, ［man, student, apple, banana, computer］). verb(［H|_］):member(H, ［eats, study, programming, operats］). append(［］, L, L). append(［H|T］, L, ［H|L2］): append(T, L, L2). member(X, ［X|_］). member(X, ［_|T］): member(X, T).
第 11 章 自然语言理解 中 , 由于“ at” 后面需要一个时间或地点名词作为它的宾语 , 显然这里的“ diamond”是“棒球场”的含义, 而不能是其他 含义。 第二项也是一个比较困难的工作。因为要以这些单词为基 础来构成表示一个句子意义的结构, 需要依赖各种信息源, 其
中包括所用语言的知识、 语句所涉及领域的知识以及有关该
语义文法可以排除无意义的句子。 当然, 它只能适应于严
格限制的应用领域。
第 11 章 自然语言理解
11.2 复 合 句 理 解
简单句的理解不涉及句与句之间的关系,它的理解过程首 先是赋单词以意义 , 然后再给整个语句赋予一种结构。而一 组语句的理解 , 无论它是一个文章选段 , 还是对话节录 , 句子 之间都有相互关系。所以 , 复合句的理解 , 就不仅要分析各个 简单句 , 而且要找出句子之间的关系。这些关系的发现 , 对于 理解起着十分重要的作用。 句子之间的关系包括以下几种：
要用该程序进行语法分析, 则应给出询问：
?-sentence(［the, student, operats, the, computer］).
这时, 系统则回答：
yes 分析这个句子所产生的解树如图 11-2所示。 这个解树称 为该句子的语法分析树。
第 11 章 自然语言理解
图 11-2 语法分析树
第 11 章 自然语言理解 第一项工作看起来很容易 , 似乎只是查一下字典就可以 解决。 而实际上由于许多单词有不止一种含义, 因而只由单 词本身不能确定其在句中的确切含义 , 需要通过语法分析 , 并根据上下文关系才能最终确定 , 例如, 单词diamond有“菱 形”、“棒球场”和“钻石”三种意思,
(2) 语义分析。各种意义被赋予由语法分析程序所建立的 结构, 即在语法结构和任务领域内对象之间进行映射变换。 (3) 语用分析。 为确定真正含义, 对表达的结构重新加以解 释。
第 11 章 自然语言理解 11.1.2 要进行语法分析, 必须首先给出该语言的文法规则, 以便
为语法分析提供一个准则和依据。 对于自然语言人们已提出
(1) 相同的事物,
“小华有个计算器 , 小刘想用它。”单词“它”和“计 算器”指的是同一物体。
第 11 章 自然语言理解 (2) 事物的一部分, “小林穿上她刚买的大衣, 发现掉了一个扣子。 ”
“扣子”指的是“刚买的大衣”的一部分。
(3) 行动的一部分, “王宏去北京出差, 他乘早班飞机动身。” 乘飞机应看成是出差的一部分。 (4) 与行动有关的事物, 李明的自行车应理解为是与他骑车去上学这一行动有关的事物。
第 11 章 自然语言理解
需指出的是, 这个程序虽然易于理解, 但运行效率较低。
因为在用append谓词对句子进行分解时一般要进行多次回溯。 为此, 我们把这个程序修改为如下形式：