基于朴素贝叶斯模型的自动引用分类研究_尹莉

合集下载

基于朴素贝叶斯与协同过滤的分布式推荐模型研究

基于朴素贝叶斯与协同过滤的分布式推荐模型研究何丽;李熙伟【摘要】针对传统矩阵分解算法在处理海量数据时所面临的性能瓶颈以及大量数据的关键特征缺失问题,本文基于并行化矩阵分解算法对推荐系统效率进行提升,使用朴素贝叶斯分类算法提高推荐的准确率.首先基于TF-IDF算法构建图书评论的情感词典;然后结合朴素贝叶斯算法完善缺失关键特征的数据;最后使用并行化后的协同过滤推荐算法得到推荐结果.本文采用豆瓣读书网站上的真实图书评论数据进行实验验证,实验结果表明,分布式环境下的协同过滤推荐算法与朴素贝叶斯算法能够高效结合,显著提高推荐效率,准确度也有所提升.【期刊名称】《北方工业大学学报》【年(卷),期】2017(029)005【总页数】7页(P87-93)【关键词】分布式推荐系统;Spark;协同过滤;文本情感分析;朴素贝叶斯【作者】何丽;李熙伟【作者单位】北方工业大学计算机学院,100144,北京;北方工业大学计算机学院,100144,北京【正文语种】中文【中图分类】TP311随着互联网信息的快速增长，为满足不同用户、不同平台的信息需求，个性化推荐系统应运而生.一个好的推荐系统不仅能准确地预测用户的偏好，提升用户对产品的体验，同时也能让企业收益颇丰.根据VentureBeat的统计[1]，Amazon的推荐系统为自己的网站提供了高达35%的商品销售额.目前推荐算法种类繁多，协同过滤(Collabroative Filtering，简称CF)推荐[2]是推荐算法中较为成熟的一种，该算法通过分析部分用户的偏好，来对未知用户的偏好提供个性化推荐.协同过滤推荐主要分3类：基于用户(User-Based)、基于物品(Item-Based)和基于模型(Model-Based)的协同过滤.由于User-Based和Item-Based的推荐方法的共同缺点是评分矩阵稀疏，相似“用户”或相似“物品”较少，因而导致推荐精度有限.随着互联网数据量的快速增长，大数据时代已经来临，社区用户信息数量不断增长，如此庞大的数据量给社区数据的存储和计算速度带来极大的挑战.因此，分布式协同过滤推荐算法逐渐成为推荐系统研究中的一个新的研究方向[3-4].Su H等人提出了基于两相相似度和加权距离相似性度量并行协同过滤推荐模型,解决了推荐算法冷启动问题[5]；Xie L等人提出了一种新的损耗函数，提升了ALS算法的性能[6]；Che J等人提出了通过并行化最大化聚类算法提升推荐准确性[7]；Gates M等人提出了通过并行批处理内核的使用以提升推荐速度[8].协同过滤推荐算法对数据要求严格，用户、物品、用户对物品的评分缺一不可.然而在真实的社区环境中，用户对物品的评分并不是强制要求的，因此传统的推荐系统不得不将这些数据从训练数据集中清除，从而导致了推荐结果不准确.本文将采用自然语言处理领域中的中文文本情感分析相关算法，将这些不完整的数据进行修补，根据用户对物品的评论信息预测出用户对该物品的评分值，以避免大量数据的浪费，进而提高推荐的准确度.近年来中文文本情感分类在推荐系统研究中越来越引起关注.大部分研究是基于机器学习方法构建出分类器[9]，使用不同的特征权值公式、特征选取方法对采集来的语料数据进行分类实验，并比较不同机器学习方法的优缺点和对文本的分类性能，例如比较不同的特征选择和使用多种机器学习构建分类器[10]、利用多种特征选取方法和权值计算方法以及用SVM构建分类器对文本情感类别进行研究[11].基于朴素贝叶斯分类算法对中文文本进行情感分析[12-13]，此方法优点是实现简单，分类效率较高，在中文文本分类方面表现较好.由于朴素贝叶斯分类算法需要有极性标注的情感词典来训练分类器，因此本文首先基于TF-IDF算法对豆瓣读书论坛的图书评论语料进行分词和关键词提取，进而构建出针对图书评论的情感词典.之后基于朴素贝叶斯分类算法与情感词典，对图书评论语料进行极性情感分析、训练，最终得到中文文本极性情感分类器，将推荐系统训练集中缺失关键属性的数据用本文所构建的情感分类器进行极性分类，将分类结果整合到推荐系统的训练集中，利用并行化后的协同过滤推荐算法进行推荐，最终实现提高推荐系统的准确度的目的.1 基于朴素贝叶斯算法的中文情感分析情感文本处理和表示是分类器构建的必要条件，包括对训练语料库、测试语料库的文本进行中文分词、特征选取、特征权重计算及文本向量表示等.训练语料和测试语料都需要先进行文本预处理才能输入分类器进行分类.1.1 中文分词与关键词提取本文基于TF-IDF算法对中文文本进行切词和关键字提取，如某个词或短语在1个文档中出现的频率(TF词频)相比于其他词或短语出现的频率较高，并且在其他文档中很少出现(IDF反文档频率)，则认为此词或短语具有很好的类别区分力，适合用来分类.计算方法如下：tfidfi,j=tfi,j×idfi其中表示词频，词向量wi,j在本文档中出现的频率为ni,j.其中表示反文档频率，D表示书评语料文档总记录数为，{j:ti∈dj}表示包含该词的所有文档数目.TF-IDF算法是基于字符串匹配的特征加权技术，需要分词词典支持.本文采用的分词词典是国家语言文字工作委员会发布的《现代汉语常用词表(草案)》[14]，该词典搜集了日常生活中使用频率较高的56008个词汇，在本文中能够满足分词的需要.对训练预料的中文文本分词处理流程如图1所示.图1 文本分词与关键词提取处理流程1.2 构建情感词典本文自主构建一个基于图书评论的情感词库，从训练预料库中提取等量的不同极性的文本语料进行中文分词与关键词提取，处理流程如图2所示：图2 构建分词矩阵和极性标注向量流程通过图2得到分词文本矩阵后，分析发现分词文本矩阵中存在部分中性词语，此节点可以加入人工干预，将分词文本矩阵按词名合并、按词频排序后即可得到自主定义的情感词库.构建流程如图3所示.图3 构建情感词库流程其中情感词典的数据源为未做任何处理的原始有评价(有情感极性标注)数据，用户对物品的星级评分为1时的数据作为消极数据，用户对物品的星级评分为5时作为积极数据.由于数据集数据较多，文本切分结果数据量庞大，有些频率较低的冷门词语会占用大量系统资源导致后续的朴素贝叶斯算法执行缓慢，并且通过观察这些词语，发现它们并不能作为情感标注的代表性词语，因此先将分词结果进行词名(KEY)合并后再按照词频(VAL)进行降序排列得到结果如表1的情感词典.表1 词频排序情感词典词名词频本书9573喜欢6318……看不下去2414垃圾2400……其中“本书”这样的词汇属于高频词汇，但是这类词并不能很好地成为对文本进行情感分析的依据，因此可以选择人工干预的方式删除这些词汇同时去掉一些低频词汇，以使得后续文本情感分析结果更加准确.人工干预后结果如表2所示.表2 干预后情感词典词名词频喜欢6318不错3025看不下去2414垃圾2400好书1557……1.3 中文情感分类器本文所收集的图书评论语料数据集经过向量化后得到词向量矩阵，为了方便计算，本文将词条向量矩阵转化为基于情感词典的的向量矩阵，其过程如下：1)遍历图书评论文档库d={w1,w2,…,wn}，记情感词典向量为vac.2)初始化一个新的词向量wi，赋初始值为wi={0,0,…,0}其长度为vac的长度.3)遍历ki中的每个词vij，若vij存在于vac中，则将wi中第j个元素的值加1.4)最后重新给文本赋值，即d={w1,w2,…,wn}本文采用朴素贝叶斯分类算法来构建情感分类器.朴素贝叶斯分类算法是基于概率学习的算法，基于假设的先验概率，在指定假设的前提下观察不同特征的出现概率.假设词典向量有100个词汇，如果每个特征需要N个样本，那么对于包含100个特征的词汇表需要N100个样本.如果特征之间相互独立，那么样本可以减少到100×N.本文训练算法过程如下：1)设评论文档库d={w1,w2,…,wn}的情感倾向属于C={Cp,Cn}，训练语料库中积极评论数量为np，消极数量为nn.2)计算先验概率3)遍历训练文档库d，为防止后验概率为0影响计算结果，本文采用Laplace平滑处理.本文中wi都是独立的特征，则计算后验概率的公式可以展开为：4)最后将测试语料库代入分类公式得到分类计算结果.2 基于Spark的分布式协同过滤推荐本文通过上述操作，对特征完整的训练数据集依次进行了中文分词、关键词提取、构建情感词典、构建中文情感分类器；然后将缺失关键特征项“用户对图书的评分”的数据通过分类器分类，进而预测出用户对图书的评分值；最后将分类后的数据与原始训练数据整合到分布式文件系统HDFS中.在后续的分布式推荐过程中，推荐算法将从HDFS直接获取经过情感分类器分类整合后的训练数据集.2.1 分布式计算框架Spark是基于Hadoop的分布式计算框架，支持内存计算、多迭代处理、流处理与图计算等，是MapReduce分布式计算模型的实现.Spark分布式计算框架可以将任务分解、发送、执行、归并，对开发者而言可以免去定制分布式调度系统.Spark建立在HDFS分布式文件存储系统的基础上，但它计算过程的中间结果可以保存在内存中，硬盘I/O次数因此而减小,从而可以有较高的速度，并且对多步骤和多迭代运算有更好的处理与支持能力.Spark的核心模块是RDD(弹性分布式数据集)，在RDD的支持基础上，Spark计算框架开放了很多相对容易使用的API 接口.本文所涉及的数据规模与计算量在Spark计算框架上能够较好的提升效率，因而搭建了Spark分布式计算平台，并在此基础上设计并实现了基于训练模型的协同过滤推荐系统.2.2 基于Spark的协同过滤推荐算法推荐系统中的协同过滤推荐算法是运用较为广泛的一种.协同过滤推荐的核心是分析用户的兴趣，在用户群体中通过多种数据比对，发现与指定用户兴趣相似的用户，进而研究兴趣相似的用户对某一信息的评价，最终预测指定用户对此信息的喜好程度.本文将基于矩阵分解的ALS协同过滤算法在Spark分布式计算框架下以并行化的方式实现，并应用到推荐系统中.本文为构建推荐模型的计算与迭代过程如下：1)构建矩阵R，R=(Rij)m×n为m个用户对n个图书的评分矩阵，设目标矩阵X 为目标矩阵.本算法的目的就是计算出与矩阵R逼近的低秩矩阵X.2)设矩阵X=UVT，U∈Cm×d，V∈Cn×d，d表示特征值的个数，一般d≪r，r≈min(m，n)，r表示矩阵的秩，则损失函数为L(U,V)=∑ij，对该式添加二阶正则化项后为3)固定V，对Ui求导，Ui=RiViu(ViuVui+λnuiI)-1i∈[1,m]，Ri为用户i对图书的评分向量，Vui为用户i评价过所有图书组成的特征矩阵，nui为用户i评价过图书的数量.4)固定U，对Vj求导，λnmjI)-1，j∈[1,n]，Umj表示对图书j评过分的用户组成的特征矩阵.nmj表示对图书j评过分的用户数量.I为一个d×d的单位矩阵.5)交替迭代计算3)、4)中的U、V，直到结果收敛或达到最大迭代次数，结束计算.6)得到逼近矩阵X，使用X进行图书推荐.3 实验结果及分析本文采集了豆瓣读书论坛的真实图书评论数据.获取了7413334条图书评论相关数据，其中935068条不具有图书评分信息，使用情感分析对其处理，其余数据均为包含图书评分、图书评论、用户与图书之间关系的完整数据.用户对图书的评分统计结果如表3所示：表3 用户评分分布评分值=1评分值=2评分值=3评分值=4评分值=5未评分878642264911257239237811025285629350683.1 情感分析实验结果原始数据源中包含935068条未评分数据，这些数据不能作为协同过滤推荐算法的训练数据集，因此采用基于朴素贝叶斯分类算法对这类数据进行加工，得到推荐算法需要的数据，最终整合到推荐算法的训练集中.在情感分析中，人工干预情感词典步骤是可选的，故而将进行人工干预和不进行人工干预的测试结果进行对比.本文进行的人工干预操作为删除前5个词频最高的中性词语，如“本书”这样的词语.训练朴素贝叶斯分类器前抽取出90%训练语料数据作为分类器的训练数据，共5830439条书评；使用剩余647000条书评作为测试数据.通过实验得到结果，经过人工干预情感词典的文本情感预测准确率为0.85，未经过人工干预情感词典的文本情感预测准确率为0.79，结果表明经过人工干预方式的准确率略高一些，如图4所示.图4 情感分析准确率其中部分测试数据分类结果如表4所示：表4 中文文本情感分析结果用户编号图书编号关键词分类结果21541921063738真强/逻辑思维/作者POSITIVErx78012046897文笔/细腻POSITIVE27920752046897经典POSITIVEdoa1491519辛大/失望/一遍/再说/不会NEGATIVE…………3.2 性能分析本文进行了2种实验对比，首先改变协同过滤推荐算法所占用的节点个数，针对相同的训练数据进行训练，将训练算法耗费的时间进行对比分析，其中单节点运行模拟传统的串行协同过滤推荐算法.分别从训练集中选取不同的10000、100000、1000000条数据信息，按批次节点数分别为1、2、3的集群构建推荐模型，其时间消耗对比如图5所示.由图5可以看出，当数据量小于10000时，传统的串行协同过滤推荐所消耗的时间要比分布式集群运行算法所消耗的时间少，这是因为集群的启动和网络通信消耗了一些时间.随着数据量逐渐增大，分布式集群的优势开始显现，所消耗的时间增加的比较缓慢，而串行方式算法运行时间增加较快速，传统的串行推荐方式将难以满足海量数据的处理需求.图5 推荐模型构建耗时对比3.3 推荐准确率分析将集群规模设定为3节点，从原始数据集中随机抽样1000000条数据，经过筛选得到其中有95391条无评分数据，将904609条有评分数据作为训练数据集DA,将95391条无评分数据经过朴素贝叶斯分类算法进行情感分析后得到的结果集与原数据集进行整合作为训练数据集DB.使用均方根误差法(RMSE)如式(1)所示.(1)对推荐结果的准确度进行评判，其对比如表5所示.表5 推荐结果准确率对比数据集RMSEDA0.306913709DB0.281947642由表5可知，将缺失关键信息的数据集进行情感分析后再整合到训练集中，会降低RMSE值，使推荐结果更加准确.4 结语本文主要研究了协同过滤推荐算法在Spark平台上的实现，并对原始数据集中缺失关键特征的数据使用基于朴素贝叶斯的中文文本情感分析进行处理，最终得到完整的训练数据集以供推荐算法使用.通过本文的实验结果可知，Spark分布式计算框架作为数据并行处理平台，在计算效率和稳定性上都有较好的表现，能够有效地解决大数据集的的复杂计算问题，而且随着数据量的增大，这种优势更容易彰显出来.对于Spark平台来说，本文所采用的数据集并不是很庞大，在接下来的工作中，将会扩充训练语料库，继续研究在更大的数据集下如何提升系统内存的使用率和如何对Spark进行调优，并研究更加合适的应用场景.参考文献【相关文献】[1] J. G. Liu, T. Zhou, B. H. Wang. Research progress of personalized recommendation system[J]. Progress in Natural Science. 2009,19(1):1-15[2] Pan R, Zhou Y, Cao B, et al. One-Class Collaborative Filtering[C]//Eighth IEEE International Conference on Data Mining. IEEE Computer Society, 2008:502-511[3] Karydi E, Margaritis K G. Parallel and Distributed Collaborative Filtering: A Survey[J]. 2014,49(2):37[4] Dean J, Ghemawat S. Simplified data processing on large clusters[J].In Proceedings of Operating Systems Design and Implementation OSDI, 2004,51(1):107-113[5] Su H, Lin X, Wang C, et al. Parallel collaborative filtering recommendation model based on two-phase similarity[J].Advanced Materials Research, 2015,989-994(1):1-6[6] Xie L, Zhou W, Li Y. Application of improved recommendation system based on spark platform in big data analysis[J].Cybernetics & Information Technologies, 2017,16(6) [7] Che J, Xie H. Hierarchical collaborative filtering algorithm based onSpark[J].Application of Electronic Technique, 2015[8] Gates M, Anzt H, Kurzak J, et al. Accelerating collaborative filtering using concepts from high performance computing [C] //IEEE Intermational Conference on Big Data. IEEE Computer Society, 2015:667-676[9] 王成.基于半监督机器学习的文本情感分析技术[D].南京:南京理工大学,2015[10] Liu Y, Bi J W, Fan Z P. Multi-class sentiment classification: The experimental comparisons of feature selection and machine learning algorithms[J]. Expert Systems with Applications, 2017,80:323-339[11] Salton G, Buckley C. Term-weighting approaches in automatic text retrieval[J]. Information Processing & Management, 1988,24(5):513-523[12] Chen Z, Shi G, Wang X. Text classification based on naive bayes algorithm with feature selection[J]. International Journal on Information, 2012,15(10):4255-4260[13] Bermejo P, Gámez J A, Puerta J M. Speeding up incremental wrapper feature subset selection with Naive Bayes classifier[J]. Knowledge-Based Systems, 2014,55:140-147 [14] 《现代汉语常用词表》课题组,编.现代汉语常用词表[M].北京：商务印书馆,2008。

朴素贝叶斯在气象预测中的应用(Ⅰ)

朴素贝叶斯在气象预测中的应用气象预测一直是人们关注的焦点之一。

准确地预测天气对于农业、交通、航空等各个领域都具有重要意义。

而在气象预测中，朴素贝叶斯算法的应用逐渐受到了人们的重视。

朴素贝叶斯算法起源于贝叶斯理论，是一种基于概率的分类方法。

它的基本思想是利用已知的数据对未知的数据进行分类，从而实现对未来事件的预测。

在气象预测中，朴素贝叶斯算法也可以发挥重要作用。

首先，气象数据的特点决定了朴素贝叶斯算法在气象预测中的适用性。

气象数据包括大量的观测数据和历史数据，而且这些数据之间存在一定的相关性。

朴素贝叶斯算法正是基于这种相关性，通过对数据的概率分布进行建模，从而实现对未来天气的预测。

其次，朴素贝叶斯算法还可以很好地处理气象数据中的噪声和不确定性。

气象数据受到多种因素的影响，如大气环流、地理位置、气候变化等。

这些因素造成了气象数据的不确定性，而朴素贝叶斯算法正是通过对数据的概率进行建模，可以较好地处理这种不确定性，从而提高了气象预测的准确性。

另外，朴素贝叶斯算法在处理多维数据上也有一定优势。

气象数据通常是多维的，包括温度、湿度、气压、风速等多种变量。

朴素贝叶斯算法可以很好地处理这些多维数据，通过对各个变量之间的相关性进行建模，从而实现对未来天气的准确预测。

除此之外，朴素贝叶斯算法还可以结合其他气象预测方法进行应用。

例如，可以将朴素贝叶斯算法与数值天气预报模型相结合，利用数值模型得到的预测结果作为朴素贝叶斯算法的输入，从而提高了气象预测的准确性和可靠性。

然而，朴素贝叶斯算法在气象预测中也存在一些挑战和局限性。

首先，气象数据的复杂性和多样性使得朴素贝叶斯算法的建模变得较为困难。

其次，气象数据中存在大量的噪声和异常数据，这也给朴素贝叶斯算法的应用带来了一定的困难。

因此，如何克服这些挑战，进一步提高朴素贝叶斯算法在气象预测中的应用效果，仍需要进行更深入的研究和探讨。

总的来说，朴素贝叶斯算法在气象预测中具有一定的优势和潜力。

朴素贝叶斯模型的类别

朴素贝叶斯模型的类别全文共四篇示例，供读者参考第一篇示例：朴素贝叶斯模型的分类主要分为三类：高斯朴素贝叶斯、多项式朴素贝叶斯和伯努利朴素贝叶斯。

接下来分别介绍这三种不同类型的朴素贝叶斯模型及其应用场景。

一、高斯朴素贝叶斯高斯朴素贝叶斯模型假设特征的分布服从高斯分布，即特征的概率密度函数为高斯分布。

这种模型适用于连续型特征，例如数值型数据。

在实际应用中，高斯朴素贝叶斯模型通常用于处理连续型数据的分类问题，如人脸识别、手写数字识别等。

二、多项式朴素贝叶斯多项式朴素贝叶斯模型假设特征的分布服从多项式分布，即特征是离散型的且取值范围有限。

这种模型适用于文本分类等问题，其中特征通常是单词或短语的出现次数或权重。

在实际应用中，多项式朴素贝叶斯模型常用于文本分类、垃圾邮件过滤等问题。

朴素贝叶斯模型是一种简单且高效的分类算法，具有快速的训练速度和较好的分类性能。

不同类型的朴素贝叶斯模型适用于不同类型的特征分布和问题类型，可以根据具体情况选择合适的模型来解决分类问题。

在实际应用中，朴素贝叶斯模型被广泛应用于文本分类、垃圾邮件过滤、情感分析等领域，并取得了不错的效果。

第二篇示例：朴素贝叶斯是一种被广泛使用的机器学习分类算法，其原理简单但却非常有效。

它的原理基于贝叶斯定理，通过对已知数据集的特征进行概率推断来对未知数据进行分类。

朴素贝叶斯模型最初是由英国数学家托马斯·贝叶斯提出的，它的核心思想是基于特征之间的独立性假设。

朴素贝叶斯模型的类别主要可以分为三种：高斯朴素贝叶斯、多项式朴素贝叶斯和伯努利朴素贝叶斯。

1. 高斯朴素贝叶斯高斯朴素贝叶斯是一种适用于连续型数据的分类算法。

在高斯朴素贝叶斯中，假设特征的概率符合高斯分布，通过计算每个特征在每个类别下的概率密度函数来进行分类。

因为高斯分布在实际数据中很常见，因此高斯朴素贝叶斯在实际应用中有着广泛的应用。

伯努利朴素贝叶斯也适用于离散型数据的分类问题，但与多项式朴素贝叶斯不同的是，伯努利朴素贝叶斯适用于二值型数据，即特征只有两种取值。

朴素贝叶文本分类

朴素贝叶文本分类朴素贝叶斯文本分类是一种常用的机器学习算法，它在文本分类任务中表现出色。

本文将介绍朴素贝叶斯文本分类的原理、应用场景以及优缺点。

一、朴素贝叶斯文本分类的原理朴素贝叶斯是一种基于概率的分类算法，其核心思想是利用贝叶斯定理计算给定特征的条件下目标变量的概率。

在文本分类中，我们将文本看作是一组特征的集合，通过计算每个特征对于目标分类的概率，可以得到最终的分类结果。

朴素贝叶斯分类器假设每个特征之间是相互独立的，这种假设在实际应用中可能并不成立，但在很多情况下，朴素贝叶斯仍然能够取得较好的分类效果。

具体而言，朴素贝叶斯分类器计算每个特征在每个分类下的概率，并将所有特征的概率相乘得到最终的分类概率，然后选择概率最大的分类作为预测结果。

二、朴素贝叶斯文本分类的应用场景朴素贝叶斯文本分类广泛应用于自然语言处理领域，特别是文本分类任务。

具体的应用场景包括但不限于以下几个方面：1. 垃圾邮件过滤：通过训练一个朴素贝叶斯分类器，可以将垃圾邮件和正常邮件进行有效区分，提高用户的邮件过滤体验。

2. 情感分析：朴素贝叶斯分类器可以用于对文本进行情感分类，判断文本是正面情感、负面情感还是中性情感，对于舆情监控等应用具有重要意义。

3. 文本主题分类：通过对文本进行分类，可以将不同主题的文本进行自动化归类，帮助用户快速找到感兴趣的信息。

4. 信息抽取：朴素贝叶斯分类器可以用于从大量文本中抽取特定信息，如从新闻报道中提取关键人物、地点等信息。

三、朴素贝叶斯文本分类的优缺点朴素贝叶斯文本分类具有以下优点：1. 算法简单、易于实现：朴素贝叶斯算法基于概率计算，理论基础清晰，算法实现相对简单，适合处理大规模的文本分类任务。

2. 分类性能稳定：尽管朴素贝叶斯分类器假设特征之间相互独立，但在实际应用中，它仍然能够处理很多实际问题，并且具有较好的分类性能。

3. 对缺失数据不敏感：朴素贝叶斯算法对于缺失数据具有较好的鲁棒性，即使在存在缺失数据的情况下，仍然能够进行有效的分类。

svm 朴素贝叶斯 lda 数值

支持向量机（SVM）、朴素贝叶斯（N本人ve Bayes）、线性判别分析（LDA）和数值计算等是机器学习和数据挖掘领域中常用的方法和技术。

本文将就这些主题展开深入探讨，并对它们的原理、应用和优缺点进行详细阐述。

一、支持向量机（SVM）支持向量机是一种二分类模型，其基本原理是找到一个超平面，使得两类数据点距离超平面的间隔最大化。

SVM通过寻找最优超平面来进行分类，具有较强的泛化能力，对于高维数据和非线性数据有较好的分类效果。

SVM也可以通过核技巧来处理非线性分类问题。

但是，SVM的缺点是在处理大规模数据集时性能较差，且对参数的选择比较敏感。

二、朴素贝叶斯（N本人ve Bayes）朴素贝叶斯是一种基于贝叶斯定理和特征条件独立性假设的分类方法，适用于文本分类、垃圾邮件过滤等领域。

朴素贝叶斯方法简单、高效，对较小规模的数据集有很好的分类效果。

但是，朴素贝叶斯方法忽略了特征之间的相关性，因此对于非独立的特征，分类效果会有所下降。

三、线性判别分析（LDA）线性判别分析是一种经典的监督学习方法，用于减少数据的维度并保留最大类别间差异。

LDA通过最大化类间散布矩阵和最小化类内散布矩阵来寻找最佳投影方向，实现了数据的降维和有效分类。

LDA适用于高维数据的降维和特征提取，但要求数据满足正态分布和各类别具有相同的协方差矩阵。

四、数值计算数值计算是指利用计算机对数学问题进行数值求解和分析的过程，涉及到数值模拟、数值优化、数值插值等多个领域。

在数据处理和模型求解中，常常需要进行数值计算来获得近似解。

数值计算的基础包括数值稳定性和数值精度，计算方法包括二分法、牛顿迭代法、高斯消去法等。

支持向量机、朴素贝叶斯、线性判别分析和数值计算是机器学习和数据挖掘领域中常用的方法和技术，它们在不同领域有着广泛的应用。

深入理解这些方法的原理和特点，对于数据分析和模型建立非常重要。

而在实际应用中，需要根据具体问题的特点来选择适合的方法，并对其进行合理调参和优化，以获得最佳的分类效果和预测结果。

朴素贝叶斯分类算法的改进及应用

类算法。该算法首先根据灰色相关度对缺失数据一个估计，估计值作为执行 EM 算法的初始值，迭代执行 E 步 M 步后完成缺失数据的填补，然后用朴素贝叶斯分类算法对样本进行分类。实验结果表明，改进算法具有较高的分类准确度。并将改进的算法应用于高校教师岗位等级的评定。关键词：贝叶斯分类； EM 算法；缺失数据；预测模型 DOI： 10.3778/j.issn.1002-8331.2011.15.037 文章编号： 1002-8331 （2011） 15-0134-04 文献标识码： A 中图分类号： TP301.6
[2]
（随着变量的增加，指数级增加），网络维护代价昂贵，而且它的估计参数较多，会为系统带来高方差，影响了它的预测精度。波兰人 Pawlak 提出的粗糙集理论，基于粗集理论的填充方法寻找含有缺失值的对象的相容对象集，然后用相容对象集中出现次数最多的一个值来替代缺失值，若相容对象集只有一个对象，则用其对应的值来替换缺失值，粗糙集的方法主要使用在条件属性缺失的处理方面[4]。 EM 算法有坚定的理论基础和简单、稳定的特点，已被广泛地应用于缺损数据，截尾数据，成群数据，带有讨厌参数的数据等所谓的不完全数据的处理。该算法不仅可以对条件属性进行填补，还可以对类别属性进行填补。目前针对 EM 算法存在不足的改进都是集中在加速收敛[5-7]和针对大数据集[8-9]方面进行的。EM 算法初始值的估计，对该算法的效果影响也是不可忽略的，只有选择合适的初值才能获得满意的最大 EM 收敛值和加速收敛。为了解决以上问题提出一种基于改进 EM 算法的朴素贝叶斯分类算法，来提高分类的准确率。根据灰色相关度给缺失属性一个估计值作为 EM 算法的初始值，由 EM 算法给出极

针对朴素贝叶斯文本分类方法的改进

针对朴素贝叶斯文本分类方法的改进
漆原;乔宇
【期刊名称】《电子科学技术》
【年(卷),期】2017(004)005
【摘要】自动文本分类是计算机自然语言处理领域的一个重要应用.本文立足于基本的朴素贝叶斯理论,在应用于自动文本分类领域,提出了一些提高其机器学习模型分类精确度的方法,包括特征权重的互信息计算、零概率的拉普拉斯平滑、加入自然对数提高计算稳定性等.最后采用Python编程语言设计并实现改进前后文本分类模型性能的测试评估结果对比.
【总页数】4页(P114-116,129)
【作者】漆原;乔宇
【作者单位】福建师范大学,福建福州,350117;福建师范大学,福建福州,350117【正文语种】中文
【中图分类】TP181
【相关文献】
1.一种改进的朴素贝叶斯文本分类方法 [J], 梁宏胜;徐建民;成岳鹏
2.一种改进的朴素贝叶斯文本分类方法 [J], 陈叶旺;余金山
3.基于MapReduce的朴素贝叶斯算法文本分类方法 [J], 张晨跃;刘黎志;邓开巍;刘杰
4.基于MapReduce的朴素贝叶斯算法文本分类方法 [J], 张晨跃;刘黎志;邓开巍;
刘杰
5.针对低频词进行改进的中文短文本分类方法 [J], 罗孝波;林佳瑜;梁祖红;王漳因版权原因，仅展示原文概要，查看原文内容请购买。

基于朴素贝叶斯的文本分类

１文本分类
在文本分类系统中，我们使用的文本都是非结构
化的自然文本，因此要对这些文本进行预处理，提取
然后将特征根据权重由大到小排序，根据向量的维数
选择排序后前面的特征。各特征权重的计算具体方法为：
１．２．１特征预处理
朴素贝叶斯分类器是一种最常见且原理简单，实
个向量表示出来，那么文本是一个ｍ个词条组成
际应用很成功的方法。朴素贝叶斯分类器中的“ 朴素” 主要是指假设各属性间相互独立，每个节点只与类节点关联。朴素贝叶斯分类器简单高效，适合属性较多的模型。将朴素贝叶斯方法应用在文本分类中，通过对训练文本的学习，得到了根节点和各属性节点，以及网络中的参数。进而使用该网络对文本进行分类，得到了比较好的结果。
ｓａｔｉｓｆａｃｔｏｒｙｒｅｓｕｌｔｉｓａｃｈｉｅｖｅｄ．Ｋｅｙｗｏｒｄｓ：ｎａｉｖｅｂａｙｅｓｉａｎ，ｃｌａｓｓｉｉｆｅｒ，ｔｅｘｔｃａｔｅｇｏｒｉｚａｔｉｏｎ，ｆｅａｔｕｒｅ
Ａｂｓｔｒａｃｔ：ＮａｉｖｅＢａｙｅｓｉａｎｉｓａｍｅｔｈｏｄｕｓｅｄｉｎｕｎｃｅｒｔａｉｎｔｙｉｎｆｅｒｅｎｃｅ．ｉｔｉｓｓｉｍｐｌｅ，ｂｕｔｖｅｒｙｓｔｒｏｎｇ
・
５８・

副本计算机专业教师报题

是是是是是是是是是是是是是是是是是是是是是是是是是
许峰许峰毛莺池毛莺池毛莺池毛莺池曹敬曹敬曹敬曹敬曹敬王志坚王志坚王志坚王志坚娄渊胜娄渊胜娄渊胜娄渊胜娄渊胜娄渊胜刘文婷刘文婷刘文婷刘文婷
xufeng@ xufeng@ yingchimao@ yingchimao@ yingchimao@ yingchimao@ jcao@ jcao@ jcao@ jcao@ jcao@ w51178@ w51178@ w51178@ w51178@ wise.lou@ wise.lou@ wise.lou@ wise.lou@ wise.lou@ wise.lou@ lwt8807_cn@ lwt8807_cn@ lwt8807_cn@ lwt8807_cn@
19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43
水资源管理系统—用水量评价系统水资源管理系统—地下水水资源评价系统水资源管理系统—来水量评价系统手机资费套餐语义查询系统的设计与实现 RDF流视图查询重写系统的设计与实现——流视图定义器 RDF流视图查询重写系统的设计与实现——连续查询重写器轻量级办公系统（发文管理子系统）设计与开发轻量级办公系统（任务交办子系统）设计与开发轻量级办公系统（请示呈批子系统）设计与开发轻量级办公系统（收文管理子系统）设计与开发轻量级办公系统（宣传工作子系统）设计与开发基于JAVAEE的车辆信息管理系统 Android智能手机平台上的车辆定位与追踪展示系统基于FLEX技术的车辆轨迹回放展示系统基于GPS定位坐标的区域判断算法研究与实现 Linux平台上短信通信网关设备的相关研究与应用基于EGG图文法可视化操作平台的无向图扩充二进前向人工神经网络学习算法的实现—用户界面以及输入和输出功能模块实现二进前向人工神经网络学习算法的实现—网络权参数自适应调节模块实现数字图像中椭圆检测算法的设计与实现基于EGG图文法可视化操作平台的测试及完善 CUDA环境下OPENCL计算实践 CUDA计算负载平衡分析 CUDA图形渲染计算实践 CUDA多GPU计算实践

朴素贝叶斯模型原理

朴素贝叶斯模型原理一、前言贝叶斯定理是概率论中的一个重要定理，朴素贝叶斯模型就是基于贝叶斯定理的一种分类算法。

朴素贝叶斯模型具有简单、快速、高效等优点，在文本分类、垃圾邮件过滤等领域得到广泛应用。

二、贝叶斯定理贝叶斯定理是概率论中的一个重要定理，它描述了在已知先验条件下，通过新的证据来更新概率估计值的过程。

P(A|B) = P(B|A) * P(A) / P(B)其中，P(A|B)表示在已知B发生的情况下A发生的概率；P(B|A)表示在已知A发生的情况下B发生的概率；P(A)表示A发生的先验概率；P(B)表示B发生的先验概率。

三、朴素贝叶斯模型朴素贝叶斯模型是基于贝叶斯定理和条件独立假设而建立起来的一种分类算法。

所谓条件独立假设就是指，在给定类别C的情况下，每个特征xi之间相互独立。

P(C|x1,x2,...,xn) = P(x1,x2,...,xn|C) * P(C) / P(x1,x2,...,xn)其中，P(C|x1,x2,...,xn)表示在已知特征x1,x2,...,xn的情况下类别C发生的概率；P(x1,x2,...,xn|C)表示在已知类别C的情况下特征x1,x2,...,xn同时发生的概率；P(C)表示类别C的先验概率；P(x1,x2,...,xn)表示特征x1,x2,...,xn的先验概率。

四、条件独立假设条件独立假设是朴素贝叶斯模型中的核心假设。

它指出，在给定类别C的情况下，每个特征xi之间相互独立。

这个假设虽然过于简化了实际问题，但是在实际应用中却表现出良好的效果。

五、参数估计朴素贝叶斯模型需要估计三个参数：类别先验概率、各个特征在各个类别下的条件概率和样本空间中所有可能事件发生的先验概率。

（一）类别先验概率类别先验概率指每个类别出现的概率。

可以通过统计训练集中每个类别出现次数并除以总样本数来估计。

例如，在一个二分类问题中，如果训练集中正样本数为3000，负样本数为7000，则正类别的先验概率为0.3，负类别的先验概率为0.7。

一种新型朴素贝叶斯文本分类算法

实验结果表明，分类时不计算先验概率对分类精度影响甚微但可以明显加快分类的速度，在后验概率的计算中
引入放大系数减少了误差传播的影响，提高了分类精度。
关键词：文本分类；朴素贝叶斯；先验概率；后验概率
Ａｂｓｔｒａｃｔ：Ａｃｃｏｒｄｉｎｇｔｏｔｈｅｐｈｅｎｏｍｅｎａｔｈａｔｔｈｅｃａｌｃｕｌａｔｉｏｎｏｆｐｒｉｏｒｐｒｏｂａｂｉｌｉｔｙｉｎｔｅｘｔｃｌａｓｓｉｆｉｃａ — ｔｉｏｎｉＳｔｉｍｅ — ｃｏｎｓｕｍｉｎｇａｎｄｈａｓｌｉｔｔｌｅｅｆｆｅｃｔｏｎｔｈｅｃｌａｓｓｉｆｉｃａｔｉｏｎｒｅｓｕｌｔ。ａｎｄｔｈｅａｃｃｕｒａｃｙｌＯＳＳｏｆｐｏｓｔｅｒｉｏｒｐｒｏｂａｂｉｌｉｔｙａｆｆｅｃｔｓｔｈｅａｃｃｕｒａｃｙｏｆｃｌａｓｓｉｆｉｃａｔｉｏｎ，ｔｈｅｃｌａｓｓｉｃａｌｎａｉｖｅＢａｙｅｓａｌｇｏｒｉｔｈｍｉｓｉｍｐｒｏｖｅｄａｎｄａｎｅｗｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎａｌｇｏｒｉｔｈｍｉｓｐｒｏｐｏｓｅｄｗｈｉｃｈｒｅｓｔｒａｉｎｓｔｈｅｅｆｆｅｃｔｏｆｐｒｉｏｒｐｒｏｂａｂｉｌｉｔｙａｎｄａｍｐｌｉｆｉｅｓｔｈｅｅｆｆｅｃｔｏｆｐｏｓｔｅｒｉｏｒｐｒｏｂａｂｉｌｉｔｙ．Ｉｎｔｈｅｎｅｗａｌｇｏｒｉｔｈｍ，ｔｈｅｃａｌｃｕｌａ — ｔｉｏｎｏｆｐｒｉｏｒｐｒｏｂａｂｉｌｉｔｙｉｓｒｅｍｏｖｅｄａｎｄａｎａｍｐｌｉｆｉｃａｔｉｏｎｆａｃｔｏｒｉｓａｄｄｅｄｔｏｔｈｅｃａｌｃｕｌａｔｉｏｎｏｆｐｏｓｔｅｒｉｏｒｐｒｏｂａｂｉｌｉｔｙ．Ｔｈｅｅｘｐｅｒｉｍｅｎｔｓｐｒｏｖｅｔｈａｔｒｅｍｏｖｉｎｇｔｈｅｃａｌｃｕｌａｔｉｏｎｏｆｐｒｉｏｒｐｒｏｂａｂｉｌｉｔｙｉｎｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎｃａｎａｃｃｅｌｅｒａｔｅｔｈｅｃｌａｓｓｉｆｉｃａｔｉｏｎｓｐｅｅｄａｎｄｈａｓｌｉｔｔｌｅｅｆｆｅｃｔｏｎｔｈｅｃｌａｓｓｉｆｉｃａ — ｔｉｏｎａｃｃｕｒａｃｙ，ａｎｄａｄｄｉｎｇａｎａｍｐｌｉｆｉｃａｔｉｏｎｆａｃｔｏｒｉｎｔｈｅｃａｌｃｕｌａｔｉｏｎｏｆｐｏｓｔｅｒｉｏｒｐｒｏｂａｂｉｌｉｔｙｃａｎ

一种基于朴素贝叶斯分类的性能预测方法

ｍｅｈｄ，ａｔａｎｎｅｓｃｌｅｔｄｕｓｎｈｅｕｆｐｅｏｍａｃｅｔｏｐｐｉａｉｎｓｓｅ．ＮａｖＢａｓｍｅｈｄｉｉｔｏｕｅｏｔａｎｔｔｏｒｉｉｇｓｔｉｏｌｃｅｉｇｔｅｒｓｈｏｒｒｎｅｔｓｆａｌｃｔｙｔｍｆｏｉｅｙｅｔｏｓｎｒｄｃｄｔｒｉｈｅｃａｓｉｅｌｓｆｒ，ａｄｔｅｈｅｔａｎｄｃａｓｆｅｓｐｃａｅｏａｐｅｃｉｎｍｏｌｎｄｍｂｄｄｄｉｔｈｙｔｍｏｒｄｃａｉｕｐｒｏｍａｃｉｎｈｎｔｒｉｅｌｓｉｒｉａｋｇｄｔｒｄｉｔｏｄｕｅａｅｅｅｎｏｔｅｓｓｅｔｐｅｉｔｖｒｏｓｅｆｒｎｅｉ
ｐｏｅｔｓｓｃｓｔｅｒｓｏｓｉ，ｅｃｒｐｒｉｕｈａｈｅｐｎｅｔｅｍｅｔ．Ｃｍｐｒｄｗｔｒｄｔｎｌｍｅｈｄ，ｏｒｍｅｈｄｓｏａｉｔｆｕｅｉｒｉｓｎｌｄｎｉｈａ — ｏａｅｉｔａｉｏａｈｉｔｏｓｕｔｏｈｗｓａｖｒｙｏｐｒｏｉｅ，ｉｃｕｉｇｈｇｃｅｓｔ
贝叶斯分类方法训练分类器，再将该分类器包装成预测模块嵌入应用系统，响应时间等多种性能属性进行预测。与传统方法相对比，该方法具有准确度高、构造简单、效率高、鲁棒性强、松耦合等优势。在针对金融报表系统的对比实验中准确率达到６％以上，５

1. 朴素贝叶斯算法模型介绍

朴素贝叶斯算法是一种基于贝叶斯定理和特征独立性假设的概率分类算法。

它被广泛应用于文本分类、垃圾邮件过滤、情感分析等任务。

朴素贝叶斯算法的基本思想是基于训练数据中的特征和标签之间的概率关系，通过计算后验概率来进行分类预测。

朴素贝叶斯模型有三种基本类型，分别是高斯朴素贝叶斯、多项式朴素贝叶斯和伯努利朴素贝叶斯。

对于这三种模型，都需要对特征进行概率计算，从而得到分类结果。

高斯朴素贝叶斯假设特征服从高斯分布（正态分布），通过计算特征的平均值和方差来计算概率。

多项式朴素贝叶斯假设特征服从多项式分布，通过计算特征的频率来计算概率。

伯努利朴素贝叶斯假设特征服从伯努利分布，通过计算特征的胜率来计算概率。

朴素贝叶斯的优点在于其简单、易于理解和实现。

同时，由于其对数据的稀疏性和噪声具有较强的鲁棒性，因此适用于处理大规模数据集。

然而，朴素贝叶斯的缺点在于其假设特征之间相互独立，这在实际应用中往往难以满足，因此会影响模型的分类性能。

总的来说，朴素贝叶斯算法是一种基于概率论的分类算法，具有简单、易于理解和实现等优点，适用于处理大规模数据集，但需要注意特征的独立性问题。

基于自助平均的朴素贝叶斯文本分类器

基于自助平均的朴素贝叶斯文本分类器
白莉媛;黄晖;刘素华;阎秋玲
【期刊名称】《计算机工程》
【年(卷),期】2007(033)015
【摘要】针对单词簇上训练朴素贝叶斯文本分类器概率估计偏差较大所导致的分类精度较低问题,在概率分布聚类算法得到的单词簇的基础上,根据单词与簇间互信息建立有序单词子序列,采用有放回随机抽样对序列构造规模相当的样本集,并将估计出的参数的平均值作为训练得到的参数对未知文本进行分类.公共文本实验数据集上的实验结果表明,该文提出的训练方法相对于传统的朴素贝叶斯分类器训练方法能够获得更高的分类精度且过程相对简单.
【总页数】3页(P190-192)
【作者】白莉媛;黄晖;刘素华;阎秋玲
【作者单位】河南工业大学信息科学与工程学院,郑州,450052;河南工业大学理学院,郑州,450052;河南工业大学信息科学与工程学院,郑州,450052;河南工业大学信息科学与工程学院,郑州,450052
【正文语种】中文
【中图分类】TP391
【相关文献】
1.基于朴素贝叶斯的渔业文本分类器研究 [J], 邵乐;于红;刘溪婧;綦孝姬;梁晓娜
2.基于单词簇的朴素贝叶斯文本分类器 [J], 闫秋玲;王二暖
3.基于 MapReduce 的平均多项朴素贝叶斯文本分类 [J], 何敏;武德安;吴磊
4.基于朴素贝叶斯分类器的朝鲜语文本分类的研究 [J], 周国强;崔荣一
5.基于n-gram语言模型和链状朴素贝叶斯分类器的中文文本分类系统 [J], 毛伟;徐蔚然;郭军
因版权原因，仅展示原文概要，查看原文内容请购买。

朴素贝叶斯分类算法及其应用研究

２应用实例
在本节我们给出一个使用朴素贝叶斯算法进行数据分类的
ｌａｉｇｄｔａｅｅｒｎａｂｓｓ【ＢＯ１ｈｔ：ｗｗｉ．ｉｄ／ｍｅｒ／ｎａＥ／Ｅ．ｔ／ｗ．ｓｃ．ｕ￣ｌｎｐ／ｃｕｅａ
其中，（和ＰａＩ）以通过如下的公式来估计：Ｐｅ）（，．可ｃ
（＝ｉｃｃ＝的基本原理，在此基础上给出了一个朴素贝叶斯分类算法的应用实例。实际应用的结果表明了朴素贝叶斯分类算法是一种有效的分类方法，因此具有广阔
文献标识码：Ａ
ＮａｖｙｓＣｌｓｉｃｔｏｇｒｔｍｎｄｉｓＡｐｌｃｔｏｓａｃｉｅＢａｅａｓｆａｉｎＡｌｏｉｈｉａｔｐａｉｎＲｅｅｒｈｉ
ＳＨＩＬｅ，ＨＵａ — ｎ，ＸＩｉＸｉｏｈｏｇＬｅｉ
的应用前景。
ｉ— Ｉ）ｌ：ｌｌ
ｍ＋
（）４
∑Ｎ。
其中Ｎ表示类ｃ中的样本数目，为特征项ａ在类ｃ中ｉ．Ｎ．出现的词频总数。对样本ｄ进行分类，．就是按公式（）１计算所有样本类在给定情况下的概率，概率值最大的那个类就是ｄ所在的类，ｊ即：
１朴素贝叶斯分类算法
假设ｄ为一任意样本，的特征为ａａ …，ｒ其中ａ表示．它ｌａ，，，ｒ）。该样本中出现的第ｉ个特征项。预定义的样本类别为Ｃ｛一＝ｃ，Ｃｌｋ。假设在给定的条件下，特征项之间都是相互独立的，不存在

朴素贝叶斯情感分类

朴素贝叶斯情感分类朴素贝叶斯情感分类是一种常用的文本分类算法，其原理基于贝叶斯定理和特征条件独立假设。

在情感分类中，朴素贝叶斯算法可以帮助我们将文本数据分为不同的情感类别，如正面、负面或中性。

下面将介绍朴素贝叶斯情感分类的基本原理及其在文本分类中的应用。

朴素贝叶斯算法的基本原理是基于贝叶斯定理，通过计算文本数据在各个情感类别下的概率来进行分类。

在情感分类中，我们可以将文本数据表示为词袋模型，即将文本中的词语进行提取并转化为特征向量。

然后，我们可以根据训练数据集中各个情感类别下的词语频率来计算文本数据在各个类别下的概率，进而判断文本所属的情感类别。

在朴素贝叶斯算法中，有一个重要的假设是特征之间的条件独立性假设，即假设文本数据中的特征（词语）在类别确定的情况下是相互独立的。

虽然这个假设在现实情况下并不完全成立，但在实际应用中，朴素贝叶斯算法仍然可以取得不错的分类效果。

在文本分类中，朴素贝叶斯算法可以应用于情感分析、垃圾邮件过滤、文档分类等领域。

以情感分析为例，我们可以利用朴素贝叶斯算法对用户评论、社交媒体数据等进行情感分类，从而快速了解用户对产品或事件的态度和情感倾向。

在实际应用中，我们通常会将文本数据进行预处理，包括分词、去停用词、词干提取等操作，以提取文本数据的特征。

然后，我们可以利用朴素贝叶斯算法对预处理后的文本数据进行训练，构建分类模型，并对新的文本数据进行分类预测。

总的来说，朴素贝叶斯情感分类是一种简单而有效的文本分类算法，其基本原理清晰易懂，且在情感分析等领域有着广泛的应用。

通过对文本数据的特征提取和概率计算，朴素贝叶斯算法可以帮助我们实现文本数据的情感分类，从而更好地理解用户的情感倾向和态度。

希望本文能对朴素贝叶斯情感分类算法有所了解，并对其在文本分类中的应用有所启发。

云计算环境下基于朴素贝叶斯的数据分类

云计算环境下基于朴素贝叶斯的数据分类张红蕊;张永;于静雯【期刊名称】《计算机应用与软件》【年(卷),期】2015(000)003【摘要】Aiming at the character of Na ve Bayesian classification algorithm,we propose an improved feature selection method.Modern large-scale data classification consumes too long time on a single computer for training and testing,in view of this,we design and implement on hadoop distributed platform the Na ve Bayesian-based data classification algorithm.Experimental results show that the improved algorithm can effectively improve the classification accuracy;the designed parallel Na ve Bayes data classification algorithm has higher execution efficiency,and is suitable for mass data processing and analysis.%针对朴素贝叶斯分类算法的特点，提出一种改进的特征选择方法。

现代大规模数据分类在单机计算机上训练和测试时间过长，对此，在 hadoop 分布式平台下设计并实现了基于朴素贝叶斯的数据分类算法。

实验结果表明，改进的算法能有效提高分类的正确率，所设计的并行朴素贝叶斯数据分类算法具有较高的执行效率，适用于海量数据的处理与分析。