常见语料库使用入门
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
范文下载:www. 1ppt.co m/fan wen/
试卷下载:www.1ppt.c om/shiti /
教案下载:www. 1ppt.co m/jiao an/
PPT论坛:www.1ppt .cn
主要部分
第一节 第二节 第三节
语料库及其分类 公共语料库检索 个人语料库创建
第一节 语料库及其分类
——以BCC语料库为例
构 式
30 公共语料库检索
自 定 义 搜 索
公共语料库的检索说明
——以BCC语料库为例
31 公共语料库检索
检 索 结 果
公共语料库的检索说明
——以BCC语料库为例
32 公共语料库检索
历 时 检 测
公共语料库的检索说明
——以BCC语料库为例
33 公共语料库检索
检 索 统 计
21 公共语料库检索
词 性 列 表
公共语料库的检索说明
——以BCC语料库为例
22 公共语料库检索
构 词
公共语料库的检索说明
——以BCC语料库为例
23 公共语料库检索
构 词
合 成 词
公共语料库的检索说明
——以BCC语料库为例
24 公共语料库检索
搭 配
公共语料库的检索说明
——以BCC语料库为例
25 公共语料库检索
按用途
按时效性
按语体
按语种
按是否 母语
按是否 被标注
通专 用用 语语 料料 库库
共历 时时 语语 料料 库库
书口 面语 语语 语料 料库 库
单双多
语语语
语
/
语
料平料
库行库
语
料
库
母外 语语 语学 料习 库者
语 料 库
生熟 语语 语语 料料 库库
3 语料库及其分类
第二节 公共语料库检索
4 公共语料库检索
优秀PPT下载:www.1p pt.co m/ xiazai/
PPT教程: www.1ppt.com/powerpoint/
Word教程: www.1ppt.com/word/
Excel教程:www.1ppt.c om/excel/
资料下载:www. 1ppt.co m/zilia o/
PPT课件下载:www.1p pt.co m/ kejian/
1 语料库及其分类
语料库(corpus):存放语言材 料的仓库。
现代的语料库是指存放在计算 机里的原始语料文本或经过加 工后带有语言学信息标注的语 料文本的汇集。
三点基本认识:
A.必须是实际使用中真实出现 过的语言材料;
B.须以计算机为必要载体;
C.材料分析加工后才有用。
2 语料库及其分类
语料库
“宏”
1、电脑、办公软件 2、语料的选取标准 3、语料库大小设定 4、已收好集的语料 5、采取txt格式保存
词性标记 句法标记 词义标记 篇章指代标记 韵律标记 ……
生语料库 加 工 标 注 熟语料库
39 个人语料库创建
熟语料库加工阶段
需要工具/材料: 1、电脑、办公软件 2、语料库加工工具 2、语料的选取标准 3、语料库大小设定 4、已存的生语料库 5、采取txt格式保存
公共语料库的检索说明
——以BCC语料库为例
离 合
26 公共语料库检索
公共语料库的检索说明
——以BCC语料库为例
句 型
27 公共语料库检索
公共语料库的检索说明
——以BCC语料库为例
定 界
28 公共语料库检索
公共语料库的检索说明
——以BCC语料库为例
构 式
29 公共语料库检索
公共语料库的检索说明
40 个人语料库创建
熟语料库加工阶段
可以采用这个工具
双 击 打 开 软 件
41 个人语料库创建 熟语料库加工阶段
需要说明的是:自
己找到的语料库必
点
须是已经集中放好
击
到“语料库”这样
打
检 索 式 示 例
公共语料库的检索说明
——以BCC语料库为例
18 公ቤተ መጻሕፍቲ ባይዱ语料库检索
检 索 式 示 例
公共语料库的检索说明
——以BCC语料库为例
19 公共语料库检索
特 殊 含 义 符 号
公共语料库的检索说明
——以BCC语料库为例
20 公共语料库检索
特 殊 含 义 符 号
公共语料库的检索说明
——以BCC语料库为例
三个基本点:
1)呈钟形,形态如 左图; 2)两个参数,均值 和标准差; 3)图象大致表示: 平均数周围的属性 值在总体上占到大 多数。
14 公共语料库检索
公共语料库的检索说明
——以BCC语料库为例
仅输入 关键字
查找
关键字 特殊符号 搜索 检索式
进阶的
语料库检索
≠
百度一下
初阶的
15 公共语料库检索
6 公共语料库检索
我国21个知名语料库
08.北京大学《人民日报》标注语料库:http://www.icl.pku.edu.cn 09.北京语言大学的语料库:http://www.blcu.edu.cn/kych/H.htm 10.清华大学TH-ACorpus:http://www.lits.tsinghua.edu.cn/ainlp/source.htm 11.山西大学语料库:http://www.sxu.edu.cn/homepage/cslab/sxuc1.htm 12.台湾南岛语典藏:http://www.ling.sinica.edu.tw/Formosan/ 13.闽南语典藏:http://southernmin.sinica.edu.tw/ 14.香港城市大学LIVAC共时语料库:http://www.livac.org/search.php
统
离散与连续
计
样本与总体
由收集验证到实证分析
需要学点统计学
频率与分布
估计与检验 描述与图示
置信区间 T检验
12 公共语料库检索
由收集验证到实证分析
需要学点统计学
集中趋势的特征数:
平均数、众数、中位数、调和平均数、几何平均数
变异程度的特征数:
极差、四分位差、平均差、方差、标准差
参数估计与假设检验
——以样本对总体的推断
10 公共语料库检索
小问题:
一种语言现象我们至少得收集多少条语料呢?
500 徐杰教授认为,语料多多益善,至少应收集
条。
大数定律(Law of Large Numbers): 指在随机试验中,每次出现的结果不同,但是大量重复
试验出现的结果的平均值却几乎总是接近于某个确定的值。
11 公共语料库检索
抽样与调查
公共语料库的检索说明
——以BCC语料库为例
34 公共语料库检索
公共语料库的检索说明
——以BCC语料库为例
查
看
筛
上
选
下
如果想对检索结果进一步筛选, 可以使用筛选功能,对检索结
文
果进一步剔除或者仅仅保留符
合筛选检索式的实例。
35 公共语料库检索
下 载
高 级 设 置
公共语料库的检索说明
——以BCC语料库为例
9 公共语料库检索
国外18个知名英语语料库
10.LLC口语语料库: http://khnt.hit.uib.no/icame/manuals/ 11.COBUILD语料库:http://www.collins.co.uk/Corpus/CorpusSearch.aspx 12.ICE东非等分库:http://www.ucl.ac.uk/english-usage/ice/avail. htm 13.ARCHER语料库:http://www.cal.nau.edu/english/degree_programs. asp 14.CEECS语料库:http://www.eng.helsinki.fi/varieng/main/corporal.htm 15.SCTS语料库:http: //www.scottishcorpus.ac.uk/ 16.VOICE语料库:http: //www.univie.ac.at/Anglistik/voice/ 17.ELFA语料库:http: //www.uta.fi/laitokset/kielet/engf/research/elfa/ 18.朗曼语料库:http: //www.long-man.com/dictionaries/corpus/index.html
一般步骤
(1)明确问题 (2)收集信息 (3)提出假设 (4)构建模型 (5)模型求解 (6)分析检测
13 公共语料库检索
由收集验证到实证分析
需要学点统计学
正态分布
在自然现象和社会现象中,大量的随机变量都服从或近似地服从正 态分布。大部分参数检验,比如t检验,方差分析,回归分析等, 要求数据符合正态分布。
36 公共语料库检索
句 法 树
公共语料库的检索说明
——以BCC语料库为例
37 公共语料库检索
注意检索格式 依据调查需要 学点儿统计学 多摸索多使用 设置调查项目 学点编程语言
第三节 个人语料库创建
38 个人语料库创建
材料/工具准备阶段
若只是要词频数据, 则生语料库足够, word/wps或txt记事本 都可以建立word/wps 的“查找替换”工具即可, txt记事本的“编辑-查找” 工具也行。
8 公共语料库检索
国外18个知名英语语料库
01.国际英语语料库 (ICE):http: //www.ucl.ac.uk/english-usage/ice/htm 02.美国国家语料库(ANC):http://www.anc.org/ 03.美国当代英语语料库(COCA):http://www.americancorpus.org/ 04.美国近当代英语语料库(COHA):http://corpus.byu.edu/coha/ 05.英国国家语料库(BNC):http://corpus.byu.edu/bnc/ 06.柯林斯英语语料库(BOE):http://www.collinslanguage.com/wordbanks/ 07.英国英语语料库(SEU):http: //www.ucl.ac.uk/english-usage/ 08.澳大利亚英语语料库(ACE):http: //khnt.hit.uib.no/icame/manuals/ 09.新规范语料库(NMC):http: //www.sketchengine.co.uk/
常见语料库使用入门
0 PPT模板下载:www.1ppt.com/moban/ 行业PPT模板:www.1ppt.com/hangye/
节日PPT模板:www.1p pt.co m/ jieri/
PPT素材下载:www.1ppt.com/sucai/
PPT背景图片:www.1ppt.com/beijing/ PPT图表下载:www.1ppt.com/tubiao/
统计频率
基
于 检
查找例句
索
验证分析
参 数
带着 问题
设
收集
置
证据
5 公共语料库检索
我国21个知名语料库
01.中央研究院近代汉语标记语料:http://www.sinica.edu.tw/Early_Mandarin/ 02.中央研究院汉籍电子文献:http://www.sinica.edu.tw/ftms-bin/ftmsw3 03.国家现代汉语语料库:http://124.207.106.21:8080/ 04.国家语委现代汉语语料库:http://www.clr.org.cn/retrieval/index.html 05.树图数据库:http://treebank.sinica.edu.tw/ 06.语料库语言学在线:corpus4u.org 07.北京大学CCL语料库:http://ccl.pku.edu.cn/Yuliao_Contents.Asp
公共语料库的检索说明
——以BCC语料库为例
统 计
16 公共语料库检索
公共语料库的检索说明
——以BCC语料库为例
检索式说明
检索式可以是字串、词串、词性的组合而成的查询模式。 例如:如果检索“我想吃”后面紧接着一个名词的语言实例,检索式为: 我想吃n,这里 n 是词性符号,表示名词。
17 公共语料库检索
7 公共语料库检索
我国21个知名语料库
15.浙江师范大学的历史文献语库:http://lib.zjnu.net.cn/xueke/hyywzx/xkjj.htm 16.中科院计算所语料库:http://mtgroup.ict.ac.cn/corpus/query_process.php 17.中文语言资源联盟:http://www.chineseldc.org/xyzy.htm 18.SKETCHENGINE多语言语料库:www.sketchengine.co.uk 19.LIVAC共时语料库:http://www.livac.org/ 20.红楼梦汉英平行语料库:http://corpus.usx.edu.cn/hongloumeng/ 21.北京语言大学BCC语料库:http://bcc.blcu.edu.cn/