新版自然语言处理导论课复习提纲课件.doc
《自然语言处理》课件
模型在训练数据上表现良好，但在测试数据上表现不佳，这是因为模型过于复 杂并过度拟合训练数据。为了解决这个问题，可以采用正则化、早停法、集成 学习等技术。
语义理解的深度与广度问题
深度问题
目前自然语言处理模型主要关注词义和 句子的表面结构，难以理解更深入的语 义信息和语境。为了解决这个问题，需 要研究如何让模型更好地理解语境、把 握对话进程、理解比喻和隐喻等。
句法分析可以采用基于规则 的方法或基于统计的方法进 行。
基于规则的方法主要依靠人 工制定的规则进行句法分析 ，而基于统计的方法则通过 训练模型进行句法分析。
语义分析
01
语义分析是指对句子进行语义理解，识别句子中的 概念、实体、关系等语义信息。
02
语义分析是自然语言处理中的高级任务，需要结合 上下文信息和领域知识进行理解。
03
分词算法可以分为基于规则的方法和基于统计的方法两类。
04
基于规则的方法主要依靠人工制定的规则进行分词，而基于统计的方 法则通过训练模型进行分词。
词性标注
01 02 03 04
词性标注是指在分词的基础上，对每个词进行语义分类，确定其词性 。
词性标注是自然语言处理中的重要任务之一，有助于理解句子的结构 和语义。
06
自然语言处理前沿技术
预训练语言模型
预训练语言模型概述
预训练语言模型是一种深度学习模型，通过对大量文本数据的学 习，获得对语言的内在理解和生成能力。
代表性模型
如Transformer、BERT、GPT系列等，这些模型在自然语言处理任 务中表现出色，具有强大的语言生成和理解能力。
预训练语言模型的应用
VS
广度问题
自然语言处理模型在处理不同领域Байду номын сангаас不同 语言的文本时，表现往往不够稳定。为了 提高模型的泛化能力，需要研究如何让模 型更好地适应不同领域和语言的文本。
自然语言处理介绍课件
深度学习技术可以提高自然语言处 理的准确性和效率，降低人工成本。
深度学习技术可以处理大规模数据， 提高自然语言处理的性能。
深度学习技术可以应用于各种自然语 言处理任务，如文本生成、问答系统 等。
跨语言处理
跨语言翻译：实现不同语 言之间的自动翻译
跨语言信息检索：从多种 语言中检索相关信息
跨语言情感分析：分析不 同语言中的情感表达
演讲人
目录
01. 自然语言处理的概念 02. 自然语言处理的技术 03. 自然语言处理的挑战 04. 自然语言处理的未来发展
自然语言的定义
自然语言是人 类交流的主要 工具
01
自然语言处理 是指让计算机 理解、解释和 生成自然语言
03
02
自然语言具有 多样性和复杂 性
04
自然语言处理 是人工智能领 域的重要分支
场景进行专门处理
语言演化：语言随着 时间的推移不断演化， 需要不断更新处理模
型
歧义性
01
词语的多义性： 同一个词语在不 同语境下可能有
不同的含义
02
句子结构的复杂 性：句子结构复 杂，难以准确理
解其含义
03
语境依赖性：自 然语言理解需要 结合上下文才能
准确理解
04
语言多样性：不 同语言之间的差 异给自然语言处
02 句法分析的目的是理解句 子的结构和意义
03 句法分析的方法包括：基 于规则的句法分析、基于 统计的句法分析和基于深 度学习的句法分析
04 句法分析的应用包括：机 器翻译、信息检索、问答 系统等
语义分析
词义消歧：消除歧义，确定词义
语义角色标注：识别句子中词语 的语义角色
语义相似度计算：计算词语、句 子或文档之间的语义相似度
自然语言处理ppt课件
（1）K是事先给定的，这个K值的选定是非常难以估 计的。很多时候，事先并不知道给定的数据集应该分 成多少个类别才最合适。（ISODATA算法通过类的自动 合并和分裂，得到较为合理的类型数目K） （2）K-Means算法需要用初始随机种子点，这个随机 种子点太重要，不同的随机种子点可能会得到完全不 同的结果。（K-Means++算法可以用来解决这个问题， 它可以有效地选择初始点）
3
爬虫的数据处理： 新闻类的网页一般放在Doc下，获取新闻的标 题，正文，时间来源，正文，责任编辑，评 论数。
4
5
6
K-Means算法
在数据挖掘中，K-Means算法是一种 cluster analysis 的算法，主要用来计算数据的聚集问 题，方法是不断地取离种子点最近的均值。
问题引入：在下图的左边有一些点，我们用 肉眼可以看出来有四个点群，但是我们怎么 通过计算机程序找出这几个点群来呢？于是 就有了K-Means算法。
11
4）然后重复第2）和第3）步，直到种子点没 有移动（我们可以看到图中的第四步上面的 种子点聚合了A，B，C，下面的种子点聚合了 D，E）。
12
求点群中心的算法
一般来说，求点群中心点的算法最简单的是使 用各个点的 X 或 Y 坐标的平均值。其实还有另 外三个求中心点的的公式：
1）Minkowski Distance公式——λ可以随意取值， 可以是负数，也可以是正数，或是无穷大。
13
2）Euclidean Distance公式——也就是第一个 公式λ=2的情况
3）CityBlock Distance公式——也就是第一个 公式λ=1的情况
自然语言处理课件
NLP-自然语言处理 NLP的历史
NLP的发展趋势：
基于规则
基于统计
自然语言中词的多义性很难用规则来描述，而是严重依赖于上下文， 语境，甚至是常识，基于统计理论避开了一些技术难题
NLP-自然语言处理 编程语言和自然语言
相同点：表达的都是想法
不同点： 编程语言基于人构建的一些规则，有语法规则，规则性强
NLP-自然语言处理 Synonyms词语近义词
NLP-自然语言处理 Synonyms短句相似度
NLP-自然语言处理 NLP研究困难总结
歧义 (ambiguity) 病构 (ill-formedness) 复述 (paraphrasing)
NLP-自然语言处理
NLP研究困难总结
歧义
[咬死猎人] 的狗 咬死 [猎人的狗]
NLP-自然语言处理 NLP实际问题（歧义）
Time flies like an arrow 怎么翻译？
time 名词：“时间” 动词：“测定、拨准”
flies 单数第三人称动词“飞” 名词复数“苍蝇”
like 动词“喜欢” 介词“像”
NLP-自然语言处理 NLP实际问题（歧义）
基于上述得出的含义分别为： ① 时间像箭一样飞驰； ② 测量那些像箭一样的苍蝇；
• 权重系数 • 逆文档频率IDF（ Inverse Document Frequency基于统计）： • 它的大小与一个词的常见程度成反比。 • 最小权重：是 的 在 …… • 较小权重：中国 • 较大权重：蜜蜂 养殖 蜂蜜
NLP-自然语言处理 TF-IDF
某个词对文章的重要性越高，它的TF-IDF值就越大。所以，排在最 前面的几个词，就是这篇文章的关键词。
NLP要研制表示语言能力和语言应用的模型，建立计算框架来实现这样 的语言模型，提出相应的方法来不断完善这样的模型，并根据语言模型 设计各种实用系统，以及对这些系统的评测技术。
第三章自然语言的处理共152张PPT2024新版
常用方法
基于规则的方法、基于词 典的方法、基于机器学习 的方法等。
词汇关系与语义网络
词汇关系
指词汇之间的语义关系， 如上下位关系、同义关系 、反义关系等。
语义网络
一种表达词汇之间复杂语 义关系的网络结构，有助 于理解词汇的深层含义和 语境。
常用方法
基于知识图谱的方法、基 于深度学习的方法、基于 语料库的方法等。
3
基于神经网络的机器翻译
使用深度学习技术，构建神经网络模型实现端到 端的翻译。
文本生成技术及应用
文本生成技术
包括基于模板、基于规则、基于统计 和基于深度学习的方法。
应用领域
自动摘要、对话系统、智能写作、自 动问答等。
多模态自然语言处理
多模态数据
包括文本、图像、音频、视频等多种类型的数据。
多模态自然语言处理技术
上下文感知
利用上下文信息来提高词义消歧和实体链接的准确性。例如，通过考虑句子或段落中的其 他词语和语境信息，可以更准确地确定一个词的含义或链接到正确的实体。
情感分析与观点挖掘
情感分析
识别和分析文本中的情感倾向，如积极、消极或中立。情感分析技术可以应用于产品评论、社交媒体帖子、 新闻报道等各种文本数据。
第三章自然语言的处理共152张 PPT
• 自然语言处理概述 • 词汇处理 • 句法分析 • 语义理解 • 信息抽取与知识图谱 • 机器翻译与文本生成 • 自然语言处理前沿技术
01
自然语言处理概述
自然语言处理定义
01
自然语言处理（NLP）是人工智 能领域的一个分支，旨在让计算 机理解和生成人类语言。
深度学习阶段
采用深度神经网络模型进行自然语 言处理，如循环神经网络、卷积神 经网络、Transformer等。
自然语言处理讲义
研究者
计算机
自然语言 处理程序 语言 知识
自然语言处理系统
1 9
动态视角（流程）
S1： 研究者以特定的方式对自然语言（NL0）的规律进行抽象， 以计算机能够处理的形式来表述关于自然语言的规律——得 到语言 知识K； S2： 针对特定的语言知识表示形式，研制适合的分析和处理算法 ； S3： 根据算法编制计算机可执行的自然语言处理程序P。这样的 程序 加上语言知识，加上计算机硬件系统，共同构成一个 自然语言 处理系统（NLPs）； S4： 用这样一个自然语言处理系统对自然语言NL0进行分析处理 ，根据反馈的结果调整原来的设计，改进NLPs。
Eliza: Your father.
Young woman: You are like my father in some ways. Eliza: What resemblance do you see?
6
Searle的“Chinese Room”
1980s
哲学家约翰·西尔勒(John R. Searle)否认可以模拟大脑算法的计算机具有意 识 ，他在上个世纪80年代给出了一个著名的理想实验“西尔勒的中文屋子”来 支持他的论点。 实验（改编版）的要旨是这样的： 一个用中文讲的笑话，中国人听了会哈哈大笑 。如果用一台可以执行复杂 算法的计算机根据这个笑话的词句进行一系列运算，得出的结果正确，也是 “哈哈大笑”，于是计算机用它自己的方式笑了几声，我们是否可以认为这台 计算机“理解”了这个笑话呢？ 类似的，用一大群不懂中文的美国人取代计算机，他们拿着铅笔和纸重复 计算机所做的一切，因为算法很复杂，可能要全美不懂中文的美国人算上一年 才得到了结果“哈哈大笑”，他们派一个代表出来笑了几声。虽然反应很慢， 但他们和一个中国人做得一样好，不过，这样仍然无法认定这群美国人“理 解”了这个中文笑话。
自然语言处理导论 教学大纲及教案
自然语言处理导论教学大纲及教案一、课程简介本课程旨在介绍自然语言处理（Natural Language Processing，NLP）的基本概念、原理和技术，帮助学生了解和掌握NLP领域的最新进展和应用。
本课程将结合理论与实践，培养学生对NLP问题的分析和解决能力。
二、教学目标1. 了解自然语言处理的定义和研究范围；2. 掌握自然语言处理的常见任务和技术方法；3. 熟悉自然语言处理的应用领域和发展趋势；4. 培养学生的编程能力和实验设计能力。
三、教学内容第一章：自然语言处理概述- 自然语言处理的定义和基本任务- 自然语言处理的历史发展和应用场景- 自然语言处理的挑战和研究方法第二章：文本预处理与文本表示- 文本预处理的基本任务和技术方法- 词袋模型和TF-IDF模型- 词向量和文本向量表示方法第三章：中文分词与词性标注- 中文分词的基本任务和技术方法- 中文分词的评价指标和应用场景- 词性标注的概念和算法第四章：文本分类和情感分析- 文本分类的基本原理和方法- 情感分析的定义和应用领域- 基于机器研究和深度研究的文本分类方法第五章：信息抽取和命名实体识别- 信息抽取的任务和方法- 命名实体识别的定义和应用场景- 基于统计和规则的信息抽取方法第六章：问答系统和对话系统- 问答系统的基本原理和构成要素- 对话系统的定义和挑战- 基于知识库和神经网络的问答系统设计方法四、教学方法- 授课方式：理论讲解和案例分析相结合- 实践环节：编程实践和小组项目设计- 学生评价：作业和实验报告五、教学评估- 平时成绩：出勤、课堂参与和作业完成情况- 期中考试：理论知识的考核- 期末项目：结合课程内容进行实际应用设计六、参考教材1. 《自然语言处理综论》曹晨阳，机械工业出版社2. 《自然语言处理入门》 Jacob Eisenstein，清华大学出版社3. 《Python自然语言处理》皮耶罗-莫迪亚尼，机械工业出版社以上为《自然语言处理导论》的教学大纲及教案，仅供参考。
自然语言处理导论课(语言知识部分)要点
“自然语言处理导论”课（语言知识部分）要点詹卫东 北京大学中文系 2018-11第1讲 第一部分 语言与语言学概述第二部分 汉语的构词法与中文文本自动分词中的问题1. 如何认识我们人类的自然语言？（1）语言的功用： 交际工具、思维工具 （语言是知识的载体）（2）语言的外在形式：有声语言（听觉系统）、书面语言（视觉系统）、体态语/手势语（视觉系统）（3）语言的内在性质：符号性（任意、理据）、结构性（离散、线性、层次、组合、聚合） → 稳定与变异2. 语言学：关于语言的知识系统观念变迁：（1）看作法律的语言学 → （2）看作生物学的语言学 → （3） 看作化学的语言学 → （4）看作数学的语言学 核心内容：（1）句法学 （2）语义学 （3）语用学两个任务：（1）观察语言现象（知其然） （2）解释语言现象（知其所以然）3. 汉语构词法：基本单位：语素（词根、词缀、词尾） 构词模式（17种）：单纯词（7）、合成词（复合6、重叠2、附加2）造词形式：仿词、缩略、词语变形/语言游戏 （新词涌现：各类网络新词，合音、译音、谐音、拼音、缩略……） 词的内部层次（语素组）4. 中文文本自动分词中的问题词的定义（语法学定义、词典定义type 、语料库定义token ）分词歧义（交集型歧义，组合型歧义），交集型歧义链长未登录词（专名、领域词/术语、新词、非汉语词/字母词）第2讲 汉语的句法结构系统与词类划分1. 词类划分的目的：词类（聚合关系） → 构建/表述语法系统（组合关系）2. 词类划分的依据： 意义、形态、句法功能√ 如何确定句法功能的框架？3. 现代汉语词类划分的具体操作：汉语的基本句法结构系统：主谓、述宾、述补、状中、定中、连谓、联合、的字、地字、所字、介宾、方位、数量 词类的层级划分与各类的鉴别标准（20个词类） 4. 词类划分中的若干问题（1）词的同一性：词形、词音、词义（2）词的多功能性（3）词的临时功能（活用）（4）词的兼类（5）词类的相对性 * 5. 现代汉语语法信息词典 词类 + 属性特征描述 （面向人的词类划分体系 vs. 面向计算机的词性标记集+特征描述）第3讲句法分析1. 句法分析任务：句法结构知识（语法模型）+ 分析算法（在语法模型中寻找正确的“树”）2. 句法结构的形式表示模型：上下文无关文法，依存文法3. 句法结构歧义：外显型歧义-内含型歧义真歧义-准歧义-伪歧义4. 句法分析算法：CYK算法、Earley算法、LR算法、GLR算法……5. 现代汉语句法结构系统：常规结构（每类结构的特点，包括成分间关系、形式特点）短语（词组）结构分析的原则：成分独立；功能约束；意义一致；系统普适非常规结构：易位、插入、省略第4讲语义分析1. 语义分析任务：给出句子的语义表示：谓词逻辑表达式、语义网络、概念依存图、框式图组合性原则（principle of compositionality）: 词义+结构义2. 词汇语义：语义特征集、语义分类树、语义关系网基于词典释义的语义特征分析、基于句法格式等义变换的语义特征分析配价/论元结构理论、框架语义、生成词库论3. 语义知识与句法分析的融合特征结构、合一运算（Unification）、加入了合一运算的CYK算法第5讲语篇分析1.篇章的连贯性衔接手段：代词回指、零形回指、词语关联、结构关联、语义关联2.篇章结构分析篇章层级结构与篇章单元之间的关系(Rhetorical Structure Theory，RST:23种)Penn Chinese Discourse Treebank（11种）中文复句内部小句间关系（14种）3. 篇章指代分析指代语言成分（人称代词、反身代词、零形成分）指代实物（直指）面称/背称通指/专指语段中心成分理论（Centering Theory）forward-looking center / backward-looking center / preferred centerCentering transition state: continue / retain / smooth shift / rough shift附：自然语言理解中的语用因素指示语理论（deixis）会话含义理论（conversational implicature: Grice’s theory of implicature）言语行为理论（speech act）话语结构的语用分析（conversational structure）。
自然语言处理教学课件1
分布式词向量的出现，深度学习开始在自然语言处 理中大范围应用
ELMo、GPT、BERT为代表的上下文相关词向量的 出现缓解了传统上下文无关词向量中静态向量的问 题，得到进一步发展
20
第1章 绪论
1.1 自然语言处理的定义 1.2 自然语言处理的研究内容 1.3 自然语言处理的流派
词法分析 句法分析 语义分析
目标是获得不同语言单位的语义信息 包括：
词义消歧（Word sense disambiguation） 语义角色标注（Semantic role labeling） 语义依存分析（Semantic dependency parsing）
语义角色标注
语义依存分析 13
自然语言处理
第 1 章 绪论
教材：
刘挺等《自然语言处理》 高等教育出版社，2021
1
绪论
自然语言
通常指人类的语言 人类思维和逻辑的载体
对自然语言的研究是人工智能的重要研究内容
2
绪论
自然语言
通常指人类的语言 人类思维和逻辑的载体
对自然语言的研究是人工智能的重要研究内容
被测试者：一个人和一台机器
11
自然语言处理的研究内容
基础研究
词法分析 句法分析
目标是确定句中词的语法功能或词之间的关系 包括：
短语结构分析（Phrase structure parsing）：短语结构树 依存关系分析（Dependency parsing）：依存树
短语结构树
依存树
12
自然语言处理的研究内容
基础研究
✓ 1.4 自然语言处理的挑战
2024版NLP培训PPT课件
自然语言处理发展历程
1 2
3
早期阶段
以词法和句法分析为主，实现简单的文本处理和机器翻译。
统计机器学习阶段
基于大规模语料库进行统计学习，提高处理效率和准确性。
深度学习阶段
利用神经网络模型对文本进行深层次的理解和学习，实现更高 级的自然语言处理任务。
案例二
基于统计的方法进行词法分析和词性 标注。
04
句法分析与依存句法
句法分析原理及方法
基于规则的方法
通过预定义的语法规则进行句法 分析，如上下文无关文法、转换
生成语法等。
基于统计的方法
利用大规模语料库进行统计学习， 得到句法结构的概率模型，如基于 PCFG、RNN、Transformer等的 句法分析方法。
的信息。
基于统计的方法
利用机器学习算法对大 量文本数据进行学习， 自动识别和抽取关键信
息。
问答系统原理及方法
原理
01
根据用户提出的问题，在文本数据库中检索相 关信息，并生成简洁明了的回答。
基于模板的方法
02
预先定义好问题和答案的模板，通过匹配问题 模板生成相应的答案。
基于检索的方法
03
在文本数据库中检索与问题相关的文档，并从 中提取出答案。
注意力机制
用于处理序列数据的神经网络，具有 记忆功能。
03
词法分析与词性标注
词法分析原理及方法
基于规则的方法
通过预定义的词法规则对文本进行分词、词性标注等处理。
基于统计的方法
利用大规模语料库进行统计学习，得到词法分析模型。
深度学习方法
使用神经网络模型对文本进行词法分析，如RNN、LSTM等。
自然语言处理课件PPT课件2024新版
利用标注数据训练观点挖掘模型，实现对文本中观点的自动识别和 提取。
基于深度学习的观点挖掘
通过神经网络模型学习观点的表征，提高观点挖掘的效果。
典型案例分析
电影评论情感分析
对电影评论进行情感分析，识别评论者的情感倾向。
商品评价观点挖掘
从商品评价中挖掘出消费者对商品的观点和态度。
社交媒体情感分析
依存关系图
表示词语之间的依存关系 ，如主谓关系、定中关系 等，通常用有向图表示。
深层语义表示
将句子转换为逻辑形式或 语义网络，揭示句子深层 的语义关系。
句法分析算法及实现
基于规则的方法
通过预定义的语法规则进行句法 分析，如上下文无关文法、转换
生成语法等。
基于统计的方法
利用大规模语料库学习句法结构 概率模型，如基于PCFG、RNN 、Transformer等的句法分析模
自然语言处理课件PPT课件
• 自然语言处理概述 • 基础知识与技术 • 词法分析与词性标注 • 句法分析与句子理解 • 语义理解与表示学习
• 信息抽取与问答系统 • 情感分析与观点挖掘 • 机器翻译与自动摘要 • 自然语言处理前沿技术
01
自然语言处理概述
自然语言处理定义
自然语言处理（NLP）是计算机科学 和人工智能领域的一个分支，研究如 何实现人与计算机之间用自然语言进 行有效通信的各种理论和方法。
词法分析原理及方法
基于规则的方法
通过定义一系列词法规则，对输入的文本进行分词、词性标注等处理。这种方法需要人工 编写规则，对语言知识的依赖程度较高。
基于统计的方法
利用大规模语料库进行统计学习，自动获取词语的词性、用法等信息。常见的统计模型包 括隐马尔可夫模型（HMM）、条件随机场（CRF）等。
第一章 自然语言处理概论ppt课件
--Franz Josef Och
哈尔滨工业大学计算机学院语言技 术研究中心
几个时间段（续）
• 还需要多少年才能实现计算机与人类无障 碍地沟通？
• 语法分析歧义
– 咬死了猎人的狗
• 那只狼咬死了猎人的狗 • 咬死了猎人的狗失踪了
自然语言处理中的歧义问题（续 ）
• 语义分析歧义
– At last, a computer that understands you like your mother.
– 1985 McDonnell-Douglas ad
– 含义1：计算机会象你的母亲那样很好地理解 你（的语言）
– 含义2：计算机理解你喜欢你的母亲 – 含义3：计算机会象很好地理解你的母亲那样
理解你
自然语言处理中的歧义问题（续 ）
• 语用分析歧义
– “你真坏”至少有如下三种理解：
• 当人们对干了坏事的成年人说时，是一种严厉的斥 责
• 当妈妈对淘气的儿子说时，实际表达的是对儿子的 一种疼爱
几点感性认识
• 有点繁琐枯燥
– “从繁体词库到简体词库” – 要求同学们一丝不苟的认真精神
• 充满乐趣
– “机器翻译及其应用激起了人们极其浓厚 的兴趣”
– 要求同学们有愚公移山，坚持到底的精神
几点感性认识（续）
• 团队合作
– “128个字节的偏移量” – 要求同学们善于协作，有团队精神
• 独创精神
哈尔滨工业大学计算机学院语言技 术研究中心
《自然语言处理》课件
自然语言处理是指将人类语言转换为计算机语言，从而让计算机能够理解、 学习、翻译和生成人类语言。这是人工智能领域中最具挑战性和最前沿的研 究方向之一。
自然语言处理的应用领域
智能客服
让语音或文本聊天机器人代替 人类客服工作，帮助用户快速 查询和解决问题。
语音助手
智能语音助手能够协同多个硬 件设备，为用户提供便捷的日 常操作和查询。
2
歧义理解
同一段话在不同语境下可以产生不同含义，自然语言处理中如何理解歧义是非常 具有挑战性的。
3
语言差异
语言的表达方式、文化、历史背景等都会影响理解和生成文本的方式，使得自然 语言处理受到语言差异的限制。
自然语言处理的发展现状
智能家居
借助自然语言处理技术，让用 户轻松地控制家居设备，实现 自然语言处理中最难的一步。
语义分析
从文本中提取有用信息、知识和数据。包括 实体识别、关系提取、文本分类和情感分析。
语音识别
将语音信号转换成可处理的文本表示，为语 音助手和智能客服提供支持。
自然语言处理的挑战和难点
1
多语言处理
自然语言处理需要处理大量不同语言的语音和文本，且不同国家和地区间的表达 方式也存在不同之处。
医疗健康
自然语言处理可以帮助医生理 解和分析语音和文本信息，辅 助医学诊断和治疗，提高医疗 质量和效率。
虚拟助理
自然语言处理可以使语音和文 本通讯更加方便、智能、自然。 用户可以用自然语言与虚拟助 理进行交互。
自然语言处理的前景和趋势
1 个性化处理
根据用户的语言特点、 兴趣偏好和习惯等，实 现自然语言内容和体验 的个性化处理和优化。
2 深度学习
自然语言处理将会进一 步推动深度学习技术发 展，达到更高效、精确 和智能的处理效果。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
“自然语言处理导论”课复习提纲
上半部分（参考材料：课程讲义）
第1讲绪论：什么是自然语言处理（NLP）
1.请举例说明自然语言和人工语言有哪些差异。
2.请举例说明语言知识与自然语言处理之间的关系。
第2讲中文文本的自动分词
3.计算机对中文文本进行自动分词的困难主要有哪些？
4.请概括说明最大匹配法分词和最大概率法分词的基本思想。
二者是什么关系？
5.分词质量的常用评价指标主要有哪些？
第3讲词性标注方法
6.请举例说明汉语的基本句法结构类型有哪些，各类结构的主要特点是什么。
7.请举例说明汉语的主要词类有哪些，各类词的特点是什么。
8.请概述用隐马尔可夫（HMM）模型进行词性标注的基本思想是什么。
9.请概述韦特比算法（Viterbi）的主要过程。
10.请概述基于转换的错误驱动的词性标注方法的主要思想及其处理流程。
第4讲汉语的句法结构分析（上）
11.什么是有限状态文法，上下文无关文法，两种文法的区别是什么。
12.自底向上的句法分析与自顶向下的句法分析的区别是什么。
13.Earley算法。
14.Tomita算法。
Tomita算法对LR算法的主要改进是什么。
第5讲汉语的句法结构分析（下）
15.请举例说明句法结构歧义有哪些不同的类型。
16.什么是特征结构？请举例说明如何运用特征结构表达自然语言知识。
17.什么是合一运算（Unification）？请举例说明如何运用合一运算表达自然语言知识。
18.请概述如何在Earley算法中融入合一运算。
第6讲语义分析*
19.请举例说明自然语言中形式和意义之间的对应关系有哪些情况。
20.义素分析法。
21.配价分析法。
22.请举例说明如何利用语义知识来帮助消除句法结构分析中的歧义。
*不在考题范围内但属于本课程应掌握的知识内容。
下半部分
参考材料：Steven Bird, Ewan Klein and Edward Loper. 2009. Natural Language Processing with Python. O’Reilly Media.
参见教学网页中对各章节的具体说明。
特别说明，期末考试第8章第1、2、3、4节及第6章第4、5、6节不作要求。
在复习中，注意区分熟悉1、了解2等不同层次的要求。
1对涉及的NLTK包及Python语言，掌握其核心的编程技能，对琐碎的细节并不做要求。
2对涉及的NLTK包及Python语言，知道其常识的编程知识，对琐碎的细节并不做要求。