对语料库的词语进行嵌入的计算机实施方法[发明专利]

专利名称：对语料库的词语进行嵌入的计算机实施方法专利类型：发明专利
发明人：肯尼斯·沃德·丘奇,俊熙雄,乔尔·赫斯特尼斯
申请号：CN201911285084.7
申请日：20191213
公开号：CN111324731A
公开日：
20200623
专利内容由知识产权出版社提供
摘要：本文中描述了用于词语嵌入的系统和方法，以避免需要丢弃在语料库中出现少于特定次数的罕见词语。

本公开的实施方式涉及使用将包含词语的一组词汇分配到多个类的不同分配，来将词语多次分组到集群/类。

然后使用分配生成训练语料库的多个副本，以将每个词语替换为合适的类。

在多个类语料集上运行词语嵌入生成模型以生成多个类嵌入。

然后，根据多对分配、类嵌入和协方差来重建黄金词语嵌入矩阵的估计。

测试结果表明了本公开的实施方式的有效性。

申请人：百度(美国)有限责任公司
地址：美国加利福尼亚州
国籍：US
代理机构：北京英赛嘉华知识产权代理有限责任公司
更多信息请下载全文后查看。