第8章 自然语言理解
自然语言理解
语料库
研究语言知识所用的真实文本称为语料， 研究语言知识所用的真实文本称为语料， 大量的真实文本即构成语料库。 大量的真实文本即构成语料库。 WordNet、MindNet、FrameNet 、 、 知网(How-Net)是一个以英汉双语所代 知网 表的概念以及概念的特征为基础的，以 揭示概念与概念之间以及概念所具有的 特性之间的关系为基本内容的常识知识 库。
概述
理解并回答人们用自然语言提出的有关问题。 理解并回答人们用自然语言提出的有关问题。 生成文本摘要和对文本进行释义。 生成文本摘要和对文本进行释义。 把一种自然语言表示的信息自动地翻译为另一 种自然语言。 种自然语言。
语言的概念
语言是人类进行通讯的自然媒介， 语言是人类进行通讯的自然媒介，它包 括口语、书面语以及动作语等。 括口语、书面语以及动作语等。 语言是用于传递信息的表示方法、 语言是用于传递信息的表示方法、约定 和规则的集合。 和规则的集合。 由语句组成，每个语句又有单词组成。 由语句组成，每个语句又有单词组成。 组成语句时， 组成语句时，应遵循一定的语法和语义 规则。 规则。
自然语言理解
概述
自然语言处理就是研究如何能让计算机理解并 自然语言处理就是研究如何能让计算机理解并 生成人们日常所使用的 如汉语、英语)语言 人们日常所使用的(如汉语 语言， 生成人们日常所使用的 如汉语、英语 语言， 使得计算机懂得自然语言的含义，并对人给计 使得计算机懂得自然语言的含义， 算机提出的问题，通过对话的方式， 算机提出的问题，通过对话的方式，用自然语 言进行回答。 言进行回答。目的在于建立起一种人与机器之 间的密切而友好的关系， 间的密切而友好的关系，使之能进行高度的信 息传递与认知活动。 息传递与认知活动。自然语言理解系统可以用 作专家系统、知识工程、情报检索、 作专家系统、知识工程、情报检索、办公室自 动化的自然语言人机接口，有很大的实用价值。 动化的自然语言人机接口，有很大的实用价值。
自然语言理解NLP
2.语法分析歧义：
“那只狼咬死了猎人的狗” “咬死了猎人的狗失踪了”
3.语义分析歧义：
机器翻译句子 “At last, a computer that understands you like your mother” 可以有多种含义，如下： “计算机会像你的母亲那样很好的理解你（的语言） ” “计算机理解你喜欢你的母亲” “计算机会像很好的理解你的母亲那样理解你”
Party May 27 add
基本解决：词性标注、命名实体识别、Spam识别
取得长足进展：情感分析Sentiment analysis、共指消 解Coreference resolution、词义消歧Word sense disambiguation 、句法分析Parsing、机器翻译Machine translation (MT )、信息抽取Information extraction (IE)
包括查询资料、解答问题、摘录文献、汇编资料以 及一切有关自然语言信息的加工处理。 例如，如果有一台机器既能理解中文又能理解英文 ，那么，这台机器就可以为人类充当翻译；如果电 视能理解中文，那么，用户就可以不用按钮，而是 通过说话来遥控电视
语言究竟是怎样组织起来传输信息的？人又是怎样 从一连串的语言符号中获取信息的？
3.情感分析（Sentiment Analysis，SA）：又称倾向 性分析和意见挖掘，它是对带有情感色彩的主观性文 本进行分析、处理、归纳和推理的过程，如从大量网 页文本中分析用户对“数码相机”的“变焦、价格、 大小、重量、闪光、易用性”等属性的情感倾向； 4.机器翻译（Machine Translation，MT）：将文本从 一种语言转成另一种语言，如中英机器翻译。
自然语言理解
一分词概述语言学中一般将“词”定义为“能够独立运用的，有意义的最小语法单元”。
自然语言中句子是由词组成的，而计算机要理解和处理自然语言就是从词这一步开始的。
汉语不同于西文，在一个汉语句子中，词与词之间没有明显的分隔符（如空格）。
此外，汉语的词法约束很不规范，而且千变万化，就给汉语分词带来了很大的麻烦。
正是由于汉语分词的困难及其在中文信息自动处理中的重要地位，自70 年代末以来，许多人投入到了汉语自动分词的研究工作中来，也出现了好多具有应用前景的分词方法。
1.1 汉语分词的歧义汉语分词是汉语分析以及计算机处理汉语的一大难点，导致汉语分词精度不高的原因一般有：词语（抑或说汉语分析基本单位）的界定、词典范围、分词中因为算法问题产生的歧义。
分词过程中歧义产生的根源可归结为以下三类：（1）由自然语言的二义性所引起的歧义，称为第一类歧义。
如：“乒乓球拍卖完了”可切分为“乒乓球/拍卖/完了”又可以切分为“乒乓球拍/卖/完了”。
这两种切分形式无论在语法上还是语义上都是正确的，就是人工分词也会产生歧义，只有结合上下文才能给出正确的切分。
（2）由机器自动分词产生的特有歧义，称为第二类歧义。
如：“在这种环境下工作是太可怕了”用机器切分可以切分为“在/这种/环境/下工/作/是/太/可怕/了”也可以切分为，“在/这种/环境/下/工作/是/太/可怕/了”。
对本句来说，只有第二种切分是正确的，用人工分词是不可能产生歧义的，歧义是由于机器机械切分产生的。
（3）由于分词词典的大小而引起的歧义，称为第三种歧义。
如：“王小二是一个农民”用机器切分被分为“王/小/二/是/一个/农民”，这里“王小二”是一个人名，在汉语中应是一个词，所以这个切分是错误的。
由于机器自动切分是依据分词词典进行的，故词典中没有的词，就不可能被正确切分，分词词典不可能也没有必要包括所有的词（如人名、地名），同时，词典中所包括的词越多，就会产生新的歧义。
例如“发展社会主义的新乡村”，新乡是一个地名，若词典中有该词，则“新乡村”是一个歧义字段。
人工智能习题参考答案
• 神经网络主要通过指导式（有师）学习算法和非指导式（无师）学习 算法。此外，还存在第三种学习算法，即强化学习算法；可把它看做 有师学习的一种特例。 • （１）有师学习 • 有师学习算法能够根据期望的和实际的网络输出（对应于给定输入） 间的差来调整神经元间连接的强度或权。因此，有师学习需要有个老 师或导师来提供期望或目标输出信号。有师学习算法的例子包括 Delta规则、广义Delta规则或反向传播算法以及ＬＶＱ算法等。 • （２）无师学习 • 无师学习算法不需要知道期望输出。在训练过程中，只要向神经网络 提供输入模式，神经网络就能够自动地适应连接权，以便按相似特征 把输入模式分组聚集。无师学习算法的例子包括Kohonen算法和 Carpenter-Grossberg自适应谐振理论（ＡＲＴ)等。 • （３）强化学习 • 强化（增强）学习是有师学习的特例。它不需要老师给出目标输出。 强化学习算法采用一个“评论员”来评价与给定输入相对应的神经网 络输出的优度（质量因数）。强化学习算法的一个例子是遗传算法 （GA）。
• • • • • • • • • •
• 6-2专家系统由哪些部分构成?各部分的作用为何? • 答： •
• 5-7遗传算法、进化策略和进化编程的关系如何？有何区别？ • 遗传算法是一种基于空间搜索的算法，它通过自然选择、遗传、变异 等操作以及达尔文适者生存的理论，模拟自然进化过程来寻找所求问 题的解答。 • 进化策略(Evolution Strategies，ES)是一类模仿自然进化原理以求 解参数优化问题的算法。 • 进化编程根据正确预测的符号数来度量适应值。通过变异，为父代群 体中的每个机器状态产生一个子代。父代和子代中最好的部分被选择 生存下来。 • 进化计算的三种算法即遗传算法、进化策略和进化编程都是模拟生物 界自然进化过程而建立的鲁棒性计算机算法。在统一框架下对三种算 法进行比较，可以发现它们有许多相似之处，同时也存在较大的差别。 • 进化策略和进化编程都把变异作为主要搜索算子，而在标准的遗传算 法中，变异只处于次要位置。交叉在遗传算法中起着重要作用，而在 进化编程中却被完全省去，在进化策略中与自适应结合使用，起了很 重要的作用。 • 标准遗传算法和进化编程都强调随机选择机制的重要性，而从进化策 略的角度看，选择（复制）是完全确定的。进化策略和进化编程确定 地把某些个体排除在被选择（复制）之外，而标准遗传算法一般都对 每个个体指定一个非零的选择概率。
自然语言理解中
自然语言理解中什么是自然语言理解？自然语言理解（Natural Language Understanding，NLU）是人工智能领域中的一个重要研究方向，旨在使计算机能够理解和处理人类自然语言的能力。
自然语言是人类用来进行交流和表达思想的方式，它具有丰富的表达能力和复杂的结构。
自然语言理解的目标是帮助计算机理解和解释人类的语言，从而能够准确地理解用户的意图和情感，实现更加智能的对话和交互。
自然语言理解的基本流程自然语言理解的实现过程可以分为以下几个基本步骤：1.分词与词性标注：将自然语言文本切分成一个个的词语，并为每个词语标注其词性，以便后续的处理和分析。
2.句法分析：通过分析语言中的语法结构，确定句子中各个成分之间的关系。
句法分析包括词法分析、句法分析和语义分析，是自然语言理解的关键环节。
3.语义角色标注：对句子中的词语进行语义分析，确定其在句子中的语义角色，如主语、宾语、谓语等。
语义角色标注有助于理解句子的意图和结构。
4.意图识别：根据用户的表达，推断其真实意图。
意图识别是自然语言处理的一个核心任务，通过分析用户的语言表达，判断用户的需求和意图，从而给出合适的回答或操作。
5.情感分析：分析自然语言中蕴含的情感和态度，判断其情感极性。
情感分析可以用于情感倾向的预测、产品评论的分析等应用。
自然语言理解的应用自然语言理解在许多领域都有着广泛的应用，其中一些主要的应用领域包括：1. 机器翻译机器翻译是指将一种自然语言文本自动翻译成另一种自然语言的技术。
自然语言理解在机器翻译中起着核心作用，通过深入理解源语言的语义和结构，然后将其转换为目标语言。
2. 问答系统问答系统是指通过对用户的自然语言提问进行解析和处理，给出与问题相关的回答。
自然语言理解在问答系统中起着关键的作用，通过理解用户问题的语义和意图，准确地回答用户的问题。
3. 智能助理智能助理是一类能够理解和执行自然语言指令的人工智能应用。
自然语言理解使得智能助理能够理解用户的指令并执行相应的操作，从而提供智能化的服务。
简述自然语言理解的定义和层次
自然语言理解(NLU)是指计算机系统对人类语言进行理解和解释的过程。
它涉及到从语言中提取出意义、逻辑和情感等信息，使得计算机能够像人类一样理解并与之进行交互。
在深入探讨自然语言理解的层次之前，让我们先简要地了解一下自然语言理解的定义。
自然语言理解是指计算机能够解析和理解人类自然语言的能力，包括对语义、语法、逻辑和语用的理解。
它旨在使计算机能够准确地理解并处理人类语言的各种含义和目的，从而能够进行智能的对话和决策。
自然语言理解的层次可以分为几个层次，从简单到复杂逐步深入。
首先是基本的语义理解，计算机需要能够识别出句子中的实体、动作和关系等基本信息。
其次是逻辑推理，计算机需要能够根据语句之间的逻辑关系进行推理和推断。
再次是情感理解，计算机需要能够识别出句子中表达的情感色彩和态度，如正面情感、负面情感或中性情感等。
最后是语境理解，计算机需要能够根据上下文和语境来理解句子的真实含义和目的。
在实际的应用中，自然语言理解的层次可以根据具体的任务和需求进行不同的扩展和深化。
例如在智能客服系统中，自然语言理解需要能够理解用户的问题并给出准确的回答；在智能文本分析系统中，自然语言理解需要能够理解文本中的信息并进行分类和关联分析等。
个人观点来说，自然语言理解是人工智能领域非常核心和关键的一个领域。
随着人工智能技术的不断发展和普及，自然语言理解的能力将极大地改变人机交互的方式，并在各种应用领域发挥着重要作用。
自然语言理解是计算机理解和处理人类语言的重要能力，它涉及到基本的语义理解、逻辑推理、情感理解和语境理解等多个层次，并在实际应用中发挥着重要的作用。
希望通过本文的介绍，你能对自然语言理解有一个更深入和全面的了解。
自然语言理解(NLU)是指计算机系统对人类语言进行理解和解释的过程。
它涉及到从语言中提取出意义、逻辑和情感等信息，使得计算机能够像人类一样理解并与之进行交互。
在深入探讨自然语言理解的层次之前，让我们先简要地了解一下自然语言理解的定义。
自然语言理解综述
自然语言理解综述
自然语言理解（Natural Language Understanding）是人工智能
领域中，研究如何使计算机能够理解和处理自然语言的一项重要任务。
它涉及以人类语言为输入，并将其转换为机器可理解的形式，以便进
行进一步的处理和分析。
自然语言理解的目标是使计算机能够理解和解释人类语言的含义，包括语法、词义、语义和上下文等方面。
这种理解能力使计算机能够
根据用户的指令或问题，准确理解其意图并做出相关响应。
自然语言理解涉及各种技术和方法，包括文本分析、句法分析、
语义分析、语义角色标注、语义关系抽取等。
这些技术通过模型训练
和算法优化，使计算机能够根据上下文和语义规则对文本进行解析和
理解。
自然语言理解在许多应用领域中起着重要的作用，例如智能助理、机器翻译、智能客服、信息检索等。
通过自然语言理解，计算机能够
处理人类语言，并从中获取信息，为用户提供更好的服务和支持。
尽管自然语言理解在过去几十年中取得了显著的进展，但其挑战
仍然存在。
由于自然语言的复杂性和多义性，理解自然语言仍然是一
个非常困难的问题。
因此，研究人员一直在努力改进自然语言理解的
精度和效率，并开展更深入的研究，以应对更复杂的语言环境。
总而言之，自然语言理解是一项富有挑战性又具有广泛应用前景
的研究领域。
随着人工智能的发展，我们可以期待自然语言理解在各
个领域中发挥越来越重要的作用。
自然语言理解
自然语言理解自然语言理解自然语言也就是我们是日常使用的语言，像各国语言汉语，英语等只要能完成人们之间相互交流的语言就成为自然语言，自然语言是人类学习环境和互相通讯的工具。
在人类历史上以语言文字形式记载和流传的知识占到知识总量的80%以上。
就计算机的应用而言，据统计用于数学计算的仅占10%，用于过程控制的不到5%，其余85%左右都是用于语言文字的信息处理。
所谓语言信息处理，是指用计算机对自然语言的形、音、义等信息进行处理，即对字、词、句、篇章的输入、输出、识别、分析、理解、生成等的操作和加工。
根据可计算性理论，任一计算机的运算都是按一定程序，分步骤相继作用在离散对象之上所完成的，而这些对象又都以线性序列相邻接地排列组合所构成。
而自然语言具有的离散性、序列性和邻接性三个特征其具备了“可计算性”，为自然语言处理奠定了物质基础。
语法是语言的组织规律。
语法规则制约着如何把词素构成词，把词构成词组和句子。
语言正是在这种严格的制约关系中构成的。
用词素构成词的规则称为构词规则，如“学”＋“生”构成“学生”。
一个词又有不同的词形、单数、复数、阴性、阳性等等。
这种构造词形的规则称为构形法，如“学生”＋“们”构成“学生们”。
这里，只是在原来的词的后面加上了一个具有复数意义的词素，所构成的并不是一个新词，而是同一个词的复数形式。
构形法和构词法称为词法。
语法中的另一部分是句法。
句法可分为词组构造法和造句法两部分。
词组构造法是把词搭配成词组的规则，例如，把“新”＋“朋友”构成“新朋友”。
这里，“新”是一个修饰“朋友”的形容词，它们的组合构成了一个新的名词。
造句法则是用词和词组构造句子的规则，如“我们是计算机系的学生”就是按照汉语造句法构造的句子。
对于自然语言德理解，能够更好的处理计算机语言与人类语言的交互。
他也就是利用计算机技术研究和处理语言的一门学科，即把计算机作为语言研究的强大工具，在计算机的支持下对语言信息进行定量化的研究，并提供可供人与计算机之间能共同使用的语言描写。
自然语言理解PPT课件
依存关系
词语之间的依赖关系，包括主谓关系、 动宾关系等。
语义分析
语义分析
理解句子所表达的实际意义，涉 及词义消歧、句义理解等方面。
词义消歧
确定多义词在具体语境中的意义。
句义理解
理解整个句子的意义，涉及句子的 主旨、意图等。
语境理解
语境理解
结合上下文信息，理解当前词语 或句子的意义。
上下文信息
当前词语或句子之前的文本信息， 用于推断当前词语或句子的意义。
自然语言理解的重要性
提高人机交互的效率和体验
自然语言理解技术使得人机交互更加自然、便捷，提高了用户体 验。
推动人工智能技术的进步
自然语言理解技术的发展对于人工智能技术的进步具有重要意义， 是人工智能技术发展的重要方向之一。
促进跨语言交流
自然语言理解技术可以帮助不同语言和文化背景的人们进行交流， 促进跨文化交流和理解。
语境效应
上下文信息对当前词语或句子意 义的改变效果。
04 自然语言理解的技术挑战 与解决方案
数据稀疏性问题
总结词
数据稀疏性是指训练数据不足或数据分布不均匀，导致模型难以学习到有用的特征和模式 。
详细描述
在自然语言处理任务中，数据稀疏性是一个常见问题。由于语言本身的复杂性和多样性， 很难收集到足够丰富和多样的训练数据。此外，不同领域和场景的数据分布也可能存在很 大差异，导致模型在某些情况下表现不佳。
语境理解问题
总结词
语境理解问题是指模型需要理解句子或段落之间的逻辑关系和语义联系，以推断出正确的意义。
详细描述
在自然语言处理中，语境理解是非常重要的。一个词或句子的含义往往需要结合上下文才能确定。例如，“他是一名 医生”这句话在不同的语境下可能有不同的含义，可能是指他是医生这个职业，也可能是指他正在扮演医生的角色。
第八章-自然语言处理
用程序从句子中切分出单词
自动分词
主要分词算法: 1.基于词表的分词-最大匹配 即“长词优先”原则，来进行分词 2.基于统计的分词
分词的难点 歧义字段处理 未登入词处理: 人名识别, 地名识别, 译名 识别, 新词识别
分词歧义
例：南京市长江大桥
南京|市长|江大桥
计算语言学是从计算角度处理语言 将人们对语言的结构规律的认识用精确的、形式化 的、可计算的方式（计算模型）加以表示。
中文信息处理
中文信息处理的研究内容是利用计算机对汉语的音、 形、义等语言文字信息进行的加工和操作，包括：对 字、词、短语、句、篇章的输入、输出、识别、转换、 压缩、存储、检索、分析、理解和生成等各方面的处 理技术。
理解一段文字所需的NLP基本技术
文本预处理：文本格式转换、HTML->TXT 转换、 文件合并噪音信息过滤
句子切分：把段落切分成一个个句子 分词；把句子分成一个个单词 词性标注(Part-of-Speech Tagging)：名词、动词、形
容词等 句法分析：句子的句法结构 词义消歧(Word Sense Disambiguation) 语义关系分析； 指代消解(Anaphora Resolution)； 篇章理解； 自动摘要生成；
命名实体
时间、地名、人名、组织机构名 商标、公司名、电话号码、电子邮件地址等等
合成词，简称，派生词
三个代表、十六大 牛市、熊市 微博
语法分析/句法分析
目的 : 分析句子结构, 找出词,短语在句中的相互关系 以及各自的作用, 并用层次结构来加以表示
S
NP
VP
V NP
PP
Miss Smith put two books on this dining table.
第八章 自然语言处理教案资料
构建大规模中文文本语义体系和语料库，开发相应软 件系统原型。
文本校对
正确的用法 执著 思维 唯一 唯心 磨炼 历事练心 做主 做一位智者 叫做
理解自然语言的准则
给计算机输入一段自然语言文本，如果计算机能 问答(question-answering)－机器能正确地回答输入 文本中的有关问题； 文摘生成(summarizing)－机器有能力产生输入文本 的 摘要； 复述(paraphrase)－机器用不同的词语和语句复述输入 文本； 翻译(translation)－机器把一种语言(源语言)翻译为 另一种语言(目标语言)
计算语言学是从计算角度处理语言 将人们对语言的结构规律的认识用精确的、形式化 的、可计算的方式（计算模型）加以表示。
中文信息处理
中文信息处理的研究内容是利用计算机对汉语的音、 形、义等语言文字信息进行的加工和操作，包括：对 字、词、短语、句、篇章的输入、输出、识别、转换、 压缩、存储、检索、分析、理解和生成等各方面的处 理技术。
语义分析：识别一句话所表达的实际意义。
语用分析：研究语言所在的外界环境对语言 使用所产生的影响。
语义与语用
同一词语在不同的“语境”中具有不同 “语义”
例如：中国奥运史上十大女杰的精彩“转身”
病毒
计算机领域：计算机病毒 医学领域：生物学病毒
自然语言处理的概念
自然语言处理（ Natural Language Processing,NLP ） 也称自然语言理解或计算语言学； 主要研究如何让机器进行自然语言信息处理，即人 类语言活动中，信息成分的发现、提取、存储、加 工与传输。 NLP是计算机科学、语言学、人工智能与数学等学 科的交叉学科和边缘学科。
第八章 自然语言处理
董燕举
2012年10月15日
语言的习得之谜
当今的语言学界都承认这样一个基本事实： “任何一位四、五岁的儿童都能无师自通地 很好掌握包含数不清语法规则变化的本民族 口头语言”（只是对于“儿童为何只用几年 时间就能无师自通掌握本民族口头语言”这 样一个问题，目前语言学界还有各种不同的 说法和争论）。
自动分词: 汉语处理的难题之一
用程序从句子中切分出单词
自动分词
主要分词算法: 1.基于词表的分词-最大匹配 即“长词优先”原则，来进行分词 2.基于统计的分词 分词的难点
歧义字段处理 未登入词处理: 人名识别, 地名识别, 译名 识别, 新词识别
分词歧义
例：南京市长江大桥 南京|市长|江大桥 南京市|长江|大桥 例：我们研究所有东西 我们--研究所--有--东西 （交叉歧义） 我们--研究--所有--东西 把手放在桌上 把--手--放在--桌上 （组合歧义） 把手--放在--桌上
语言学是研究语言规律的科学
网络语言
“昨晚，我的JJ带着他的青蛙BF到我家来 吃饭。在饭桌上，JJ的BF一个劲儿地对 我妈妈PMP，说她年轻的时候一定是个 漂亮MM，那酱紫真是好BT，7456……”
JJ : 姐姐 BF : boy friend 酱紫：这样子
青蛙ＢＦ：长相不好的男朋友
PMP:拍马屁 MM：妹妹 BT：变态 7456：气死我了
给计算机输入一段自然语言文本，如果计算机能 问答(question-answering)－机器能正确地回答输入 文本中的有关问题； 文摘生成(summarizing)－机器有能力产生输入文本 的 摘要； 复述(paraphrase)－机器用不同的词语和语句复述输入 文本； 翻译(translation)－机器把一种语言(源语言)翻译为 另一种语言(目标语言)
人工智能第8章__自然语言理解
8.3.1 句法规则的表示方法
变换文法(1/2)
上下文无关文法反映的仅是一个句子本身的层次结构和生成过程，而自然 语言是上下文有关的。为此，乔姆斯基又提出了变换文法(Transformational Grammar)。该文法认为，句子的结构有深层和表层两个层次。例如： She read me a story 和 She read a story to me 的表层结构不一样，但它们的深层结构则是一样的。再如，主动句和被动句 也只是表层结构不同，其深层结构则是相同的。 在变换文法中，句子深层结构和表层结构之间的变换是通过变换规则实现 的，如图8.6给出了一条把主动句变换为被动句的变换规则。
8.3.2 自顶向下与自底向上分析
自底向上分析法 自底向上分析，是以输入语句的单词为基础，首先按重写规则的箭头指向， 反方向使用那些最具体的重写规则，把单词归并成较大的结构成分，如短语 等，然后对这些成分继续逆向使用规则，直到分析树的根节点为止。 仍以语句 The professor trains Jack 为例，逆向使用图8.4中的那些具体规则后，可得到图8.9所示的 部分分析树。
6
8.3.1 句法规则的表示方法
上下文无关文法(2/2)
例8.2 利用上述上下文无关文法，给出如下语句的分析树。 The professor trains Jack. 解：如图8.5
句子 名词短语 动词短语 语句 终标符
冠词
名词
动词
名词短语
专用名词 The professor trains Jack .
8.3 句法分析
句法分析是对句子和短语的结构进行分析，其最大单位是一个句子。分析 的目的是要找出词、短语等的相互关系，以及他们在句子中的作用等，并用 一种层次结构加以表达。这种层次结构可以是句子的成分关系、，也可以是 语法功能关系。
自然语言理解概念
自然语言理解概念嘿，朋友！咱今儿来聊聊自然语言理解这档子事儿。
您想想啊，咱们每天说话、写字，这看似简单平常，可背后藏着的自然语言理解可大有门道！就说您跟朋友聊天吧，您随口说一句“今儿天气真不错！”朋友立马就明白您的意思，这是为啥？因为大家都能理解这自然的语言呀。
那这自然语言理解到底是啥呢？其实啊，它就像是一个神奇的翻译官，能把咱们嘴里蹦出来的那些话、笔下写出来的那些字，翻译成能让计算机明白的意思。
您说计算机它懂啥呀？它可不像咱们，有感情，能感受。
但有了自然语言理解，计算机就能试着“懂”咱们啦！比如说，您在网上搜索个东西，输入“好吃的川菜馆”，计算机就得明白您是想要找那种能让您大饱口福的川菜馆子。
这可不容易，得分析您这几个字的意思，弄清楚重点是“好吃”和“川菜馆”，然后给您找出合适的结果来。
再打个比方，您用语音助手，跟它说“帮我定个明天早上七点的闹钟”，它就得搞清楚您是要定闹钟，时间还得是明天早上七点。
这是不是有点神奇？那自然语言理解是咋做到的呢？这就好比是在解一个超级复杂的谜题。
它得先把您说的话或者写的字拆分成一个个小部分，就像把一个大拼图拆开。
然后呢，去分析每个部分的意思，再把它们拼起来，弄明白您到底想说啥。
这当中可少不了各种技术和算法的帮忙。
就像一个大厨做菜，得有好的食材、精湛的厨艺，还得有合适的调料，才能做出美味佳肴。
自然语言理解也是，得有强大的数据支持，厉害的模型算法，才能越来越准确地理解咱们的话。
您说要是自然语言理解能更厉害些，那会咋样？那说不定以后您跟家里的电器都能像跟朋友聊天一样，让它们乖乖听话。
您说“电视，放我喜欢的电影”，电视马上就给您放出来；您说“空调，温度调高点”，空调就立马升温。
这日子，得多舒坦！不过现在啊，自然语言理解虽然已经很牛了，但还是有进步的空间。
有时候它也会犯错，理解错您的意思。
但这就像咱们学走路，一开始会摔跤，可慢慢就走得稳当了。
所以啊，咱们可得对自然语言理解充满期待，说不定未来的某一天，它能真正和咱们心有灵犀一点通呢！我觉得自然语言理解这玩意儿，未来肯定会越来越厉害，给咱们的生活带来更多的便利和惊喜！。
高级人工智能-8自然语言理解共81页
39、勿问成功的秘诀为何，且尽全力做你应该做的事吧。——美华纳
40、学而不思则罔，思而不学则殆。——孔子
高级人工智能-8自然语言理解
1、纪律是管理关系的形式。——阿法 纳西耶 夫 2、改革如果不讲纪律，就难以成功。
3、道德行为训练，不是通过语言影响 ，而是 让儿童 练习良 好道德 行为， 克服懒 惰、轻 率、不 守纪律 、颓废 等不良 行为。 4、学校没有纪律便如磨房里没有水。 ——夸 美纽斯
5、教导儿童服从真理、服从集体，养 成儿童 自觉的 纪律性 ，这是 儿童道 德教育 最重要 的部分 。—— 陈鹤琴
谢谢！
36、自己的鞋子，自己知道紧在哪里。——西班牙
37、我这个人走得很慢，但是我从不后退。——亚伯拉罕·林肯
第8章 自然语言理解【人工智能 精品讲义】
8.3 句法分析
8.3.1 句法模式匹配和转移网络
• 模式匹配 • 句法转移网络（Transition Network）
pron. verb
q1
q4 pron.
q0
q3
qT
q2 noun verb
adj.
q5 noun
adj.
图8.2 转移网络（TN）
ducks flies little orange swallow the
8.6 语料库语言学
• 语料库的类型
• 按语种分：单语种语料库和多语种语料库 • 按记载媒体分：单媒体语料库和多媒体语料库 • 按地域区别分：国家语料库和国际语料库 • 按使用领域分：通用语料库和专用语料库 • 按分布性分：平衡语料库和平行语料库 • 按语料时间段分：共时语料库和历时语料库 • 按语料加工与否分：生语料库和标注语料库
26
8.8.2 语音识别的基本原理
• 预处理 • 特征提取 • 训练 • 模式匹配
图8.10 语音识别系统基本原理框图
27
8.8.3 语音识别中的难点
• 语音识别系统的适应性差 • 高噪声环境下语音识别进展困难 • 如何把知识量化、建模用于语音识别 • 对人类的听觉理解、知识积累和学习机制以及大脑神经系统的控
• 句法分析 • 语义分析 • 语用分析
17
8.5.1 简单句的理解方法
• 关键字匹配法
• 在程序中规定匹配和动作两种类型的样本。然后建立一种由匹配样本 到动作样本的映射。
• 句法分析树法
• 确保语句含义的细节不被忽略，必须确定其语句结构上的细节，即要 进行文法分析。
18
8.5.2 复合句的理解方法
24
8.7 机器翻译
第八章 自然语言理解
第八章自然语言理解语言理解和处理是人工智能早期的和活跃的研究领域之一。
由于它的难度很大，至今仍未能达到很高的水平。
本章将首先讨论自然语言理解的概念、发展简史以及系统组成与模型等；然后，逐一研究语言的自动分析、句子的自动理解、语言的自动生成、机器翻译和语音识别等重要问题；最后举例介绍自然语言理解系统。
8.1 语言及其理解的一般问题什么是语言和语言理解?自然语言理解与人类的哪些智能有关?自然语言理解研究是如何发展的?理解自然语言的计算机系统是如何组成的以及它们的模型为何?等等。
这些问题是我们开始研究自然语言理解时感兴趣的。
8.1.1 语言和语言理解语言是用于传递信息的表示方法、约定和规则的集合，它由语句组成，每个语句又由单词组成；组成语句和语言时，应遵循一定的语法与语义规则。
如果没有各种口语和书面语，如英语、华语、法语和德语等，人类之间的充分和有效交流就难以想象。
语言是随着人类社会和人类自身的发展而不断进化的。
现代语言允许任何一个具有正常语言能力的人与他人交流思想感情和技术等。
要研究自然语言理解，首先必须对自然语言的构成有个基本认识。
语言是音义结合的词汇和语法体系，是实现思维活动的物质形式。
语言是一个符号体系，但与其他符号体系又有所区别。
语言是以词为基本单位的，词汇又受到语法的支配才可构成有意义的和可理解的句子，句子按一定的形式再构成篇章等。
词汇又可分为词和熟语。
熟语就是一些词的固定组合，如汉语中的成语。
词又由词素构成，"教师"是由"教"和"师"这两个词素所构成的。
词素是构成词的最小的有意义的单位。
"教"这个词素本身有教育和指导的意义，"师"则包含了"人"的意义。
语法是语言的组织规律。
语法规则制约着如何把词素构成词，词构成词组和句子。
语言正是在这种严密的制约关系中构成的。
用词素构成词的规则叫构词规则，如教+师-→教师。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第8章 自然语言理解及其应用
8.1 自然语言理解的概念与发展历史 8.2 语音分析 8.3 词法分析 8.4 句法分析 8.5 语义分析 8.6 基于语料库的大规模真实文本的处理 8.7 机器翻译 8.8 语音识别
21
8.5 语义分析
语义分析是将句法成分与应用领域中的目标表示 相关联。 相关联。
(8) V→killed|likes
8.4.1 乔姆斯基的形式文法
3型文法：正则文法 型文法： 型文法 2型文法：上下文无关文法 型文法： 型文法 1型文法 上下文有关文法 型文法: 型文法 0型文法：无约束短语结构文法 型文法： 型文法
左线性文法：A→Bt 或 A→t(A→Bt→Ct*t) 线性文法： 产生式规则: x→y 产生式规则：A→x 产生式规则： 产生式规则 右线性文法 ： x→y 或A→t 产生式规则: √ ABC→DE × XaY→XbY 产生式规则 A→tB或 例：AB→CDE
4
8.1.2 自然语言理解研究的产生与发展
1. 萌芽时期（20世纪 年代末 年代初） 世纪40年代末 年代初） 世纪 年代末50年代初
2. 以关键词匹配技术为主的时期 （A. Donald Booth & W. Weaver 20世纪 年代始） 世纪60年代始 世纪 年代始）
M. Chomsky 形式语言和文法
例：
NP VP
开始状态
ART
中间状态
N
S→NP + VP 终止状态
开始状态 NP→ART + N NP→N 开始状态
中间状态
N V NP
终止状态
中间状态
V
终止状态
NP→V + NP NP→V
17
8.4.3 转移网络
例 The man laughed.
18
8.4.4 扩充转移网络
ATN（augmented transition network ） （ ATN由一组转移网络组成： 每个 都有一个网络名 ， 由一组转移网络组成：每个TN都有一个网络名 都有一个网络名， 由一组转移网络组成 弧上的条件扩充为条件加上操作。由寄存器的方式实现。 弧上的条件扩充为条件加上操作。由寄存器的方式实现。
（1）回答问题：计算机正确地回答用自然语言输入的有关问 ）回答问题： 题。 （2）文摘生成：机器能产生输入文本的摘要。 ）文摘生成：机器能产生输入文本的摘要。 （3）释义：机器能用不同的词语和句型来复述输入的自然语 ）释义： 言信息。 言信息 把一种语言翻译成另外一种语言。 （4）翻译：机器能把一种语言翻译成另外一种语言。 ）翻译：机器能把一种语言翻译成另外一种语言
5. 基于大规模语料库的自然语言理解发展时期
5
第8章 自然语言理解及其应用
8.1自然语言理解的概念与发展历史 自然语言理解的概念与发展历史 8.2 语音分析 8.3 词法分析 8.4 句法分析 8.5 语义分析 8.6 基于语料库的大规模真实文本的处理 8.7 机器翻译 8.8 语音识别
6
8.2 语音分析
.
→ART + N + VP →The man + V + NP
→The man killed + NP →The man killed + ART + N →The man killed a deer.
15
8.4.2 句法分析树
句法分析树举例
16
8.4.3 转移网络
转移网络的一般结构
由结点和带有标记的弧构成，其中结点表示状态，弧对 由结点和带有标记的弧构成，其中结点表示状态， 应于符号，实现从一个状态转移到另一个状态。 应于符号，实现从一个状态转移到另一个状态。
∀
1990年l 3届国际计算机语言学大 传统词典特征及不足： 传统词典特征及不足： 会提出大规模真实文本目标 特征：把各类不同的信息放入一个词汇单元中， 特征 ： 把各类不同的信息放入一个词汇单元中 ， 包 括拼音、 读音、 词形变化及派生词、 词根、 短语、 括拼音 、 读音 、 词形变化及派生词 、 词根 、 短语 、 时 态变换的定义及说明、 同义词、 反义词、 特殊用法注 态变换的定义及说明 、 同义词 、 反义词 、 偶尔还有图示或插图。 释，偶尔还有图示或插图。 不足： 为例，解释为一种大型的、木制的、 不足 ： 以 “ 树 ” 为例 ， 解释为一种大型的 、 木制的 、 多年生长的、具有明显树干的植物。 多年生长的、具有明显树干的植物。 缺失了很多构造性信息
汉语词法分析 特点：找出词素简单，切分出词困难。 例如： 例如：优秀人才学人才学 1. 优秀人－才学人才学 优秀人－ 2. 优秀人才－学人才学 优秀人才－
10
第8章 自然语言理解及其应用
8.1自然语言理解的概念与发展历史 自然语言理解的概念与发展历史 8.2 语音分析 8.3 词法分析 8.4 句法分析 8.5 语义分析 8.6 基于语料库的大规模真实文本的处理 8.7 机器翻译 8.8 语音识别
Artificial Intelligence Principles and Applications
第 8 章 自然语言理解及其应用
第8章 自然语言理解及其应用
8.1 自然语言理解的概念与发展历史 8.2 语音分析 8.3 词法分析 8.4 句法分析 8.5 语义分析 8.6 基于语料库的大规模真实文本的处理 8.7 机器翻译 8.8 语音识别
T =（the,man,killed,a,deer,likes) （ N =（S,NP,VP,N,ART,V,Prep,PP) （ S=S P：(1) S→NP+VP (2) NP→N (3) NP→ART+N ： (4) VP→V (5) VP→V+NP (6) ART→the|a
13
(7)N→man|deer
ATN的寄存器构成：句法特征寄存器和句法功能寄存器。 的寄存器构成：句法特征寄存器和句法功能寄存器。 的寄存器构成
数：单数和复数，缺省为空 单数和复数，
特征寄存器： 特征寄存器：每一维特征都由一个特征名和一组特征 值以及一个缺省值来表示。 值以及一个缺省值来表示。 功能寄存器：反映了句法成分之间的关系和功能 功能寄存器：反映了句法成分之间的关系和功能。
文字表达句子的层次：词素→词或词形→词组或句子。 声音表达句子的层次：音素→音节→音词→音句。 语言处理过程分为五个层次：语音分析、词法分析、 句法分析、语义分析和语用分析。 语用分析：研究语言所存在的外界环境对语言使用产 语用分析： 生的影响。 生的影响。 构成单词发音的独立单元是音素。上下文不同而发音 不同。 语音分析就是根据音位规则，从语言流中区分出一个 个独立的音素，再根据音位形态规则找出一个个音节 及其对应的词素或词。
11
8.4 句法分析
8.4.1 乔姆斯基的形式文法 8.4.2 句法分析树 8.4.3 转移网络 8.4.4 扩充转移网络
12
8.4.1 乔姆斯基的形式文法
1950年提出，表示形式：G = (T，N，S，P) 年提出，表示形式： 年提出 ， ， ， T：终结符集合 N：非终结符集合 ： ： S：起始符 P：产生式规则集 ： ： 例 1 G=（T，N，S，P） （ ， ， ， ）
7
第8章 自然语言理解及其应用
8.1自然语言理解的概念与发展历史 自然语言理解的概念与发展历史 8.2 语音分析 8.3 词法分析 8.4 句法分析 8.5 语义分析 8.6 基于语料库的大规模真实文本的处理 8.7 机器翻译 8.8 语音识别
8
8.3 词法分析
定义：从句子中切分出单词，找出词汇的各个 定义 词素 ，并确定其词义。
19
8.4.4 扩充转移网络
短语（ ） 短语（NP）的扩充转移网络 ：
① f→g A:Number←*.Number ② g→h C:Number←*.Number or Ф
应用：检查 中数的一致问题 其中特征是“ 中数的一致问题， 应用：检查NP中数的一致问题，其中特征是“数”， 值为单数和复数。 是弧上的条件 是弧上的条件， 是弧上的操作 是弧上的操作。 值为单数和复数。C是弧上的条件，A是弧上的操作。* 是当前值。 是当前值。 this book，the book，the books，these books 可以顺利 ， ， ， 通过， 就无法通过。 通过，而this books或these book就无法通过。 或 就无法通过
例：unchangeable： ： un-change-able 英语词法分析
特点：切分单词容易，找出词素复杂。 特点：切分单词容易，找出词素复杂。
词法分析算法举例： 词法分析算法举来自：repeat look for word in dictionary if not found then modify the word
2
第8章 自然语言理解及其应用
8.1 自然语言理解的概念与发展历史 8.2 语音分析 8.3 词法分析 8.4 句法分析 8.5 语义分析 8.6 基于语料库的大规模真实文本的处理 8.7 机器翻译 8.8 语音识别
3
8.1.1 自然语言理解的概念
微观角度：从自然语言到机器内部的一个映射。 微观角度：从自然语言到机器内部的一个映射。 宏观角度： 宏观角度：使机器能够执行人类所期望的某种语言 功能。 功能。
14
8.4.2 句法分析树
在对一个句子进行分析的过程中， 在对一个句子进行分析的过程中，如果把分析句子各 成分间关系的推导过程用树形图表示出来，那么这种图 成分间关系的推导过程用树形图表示出来， 称为句法分析树。 称为句法分析树。 例如：The man killed a deer 例如 S →NP + VP →The man + VP
23
8.5.2 格文法