语料库常用术语

语料库常用术语

Type 类符

Tokens 形符

例如“I see a cat and a dog”类符6个，形符7个

Type/token ratio =TTR

TTR 是衡量文本中词汇密度的常用方法，可以辅助说明文本的词汇难度。但是，文本中有大量功能词出现，文本每增加一个词，形符就会增加一个，但类符却未必随之增加。这样文本越长，功能词重复次数越多，TTR会越低。因此用TTR衡量词汇密度不合理，于是，出现了标准化类符/形符比，即STTR。例如，计算每个文本1000词的TTR，均值处理，得出STTR。Frequency（频率）

例如每百万词、十万词中，某单词出现次数。常常将某个单词在两个语料库中出现的频率参照两个语料库的容量，用卡方检验或对数似然率进行对比，来确定两个库中该单词的使用是否有差异。

Wordlist词表

根据单词或词组在语篇中出现的频率大小而排列形成的列表。

Ranks

Lemma词目，词元

比如go是lemma，对应各种屈折变化形式（inflections），go,goes,went,going,gone共5种屈折变化形式。在分析语言时，需要将它们全部归到go名下，这个过程叫词形还原。Keywords关键词、主题词positive keywords 正关键词negative keywords 负关键词Concordance 索引（KWIC 语境中的关键词key words in context）

运用索引软件在语料库中查询某词或短语的使用实例，然后将所有符合条件的语言使用实例及其语境以清单的形式列出。通过前后语境，可以分析“collocation词汇搭配”“colligation 类连接、语法搭配”“semantic preference语义倾向”“semantic prosody语义韵”Collocation词汇搭配

搭配强度MI,T-score ,Z-score

Colligation类连接、语法搭配

semantic prosody语义韵

词汇的语义韵大体可分为积极语义韵、中性语义韵、消极语义韵。

POS tagging 词性赋码

Regular expression regex 正则表达式