数据算法 --hadoop/spark数据处理技巧 --(13.朴素贝叶斯 14.情感分析)

十三。朴素贝叶斯

  朴素贝叶斯是一个线性分类器。处理数值数据时,最好使用聚类技术(eg:K均值)和k-近邻方法,不过对于名字、符号、电子邮件和文本的分类,则最好使用概率方法,朴素贝叶斯就可以。在某些情况下,NBC也可以用来对数值数据分类。

  对于数值数据的分类,比如(连续属性,身高,体重,脚长),建议采用采用高斯分布,令x是一个连续属性。首先,按类对数据分段,然后计算各个类中的x的均值(u)和方差()。

  本次主要以文本数据进行。

  数据算法  --hadoop/spark数据处理技巧    --(13.朴素贝叶斯  14.情感分析)

  

  首先先进行Map函数,将数据进行处理。

  数据算法  --hadoop/spark数据处理技巧    --(13.朴素贝叶斯  14.情感分析)

  得到的数据如下:

  数据算法  --hadoop/spark数据处理技巧    --(13.朴素贝叶斯  14.情感分析)

  之后再进行reduce,输入的数据诸如:

    数据算法  --hadoop/spark数据处理技巧    --(13.朴素贝叶斯  14.情感分析)

  reduce的代码处理如下:

    数据算法  --hadoop/spark数据处理技巧    --(13.朴素贝叶斯  14.情感分析)

  reduce的输出是

    

  

上一篇:JVM 中你不得不知的一些参数


下一篇:python-subprocess.call与os.system有何不同