详解使用EM算法的半监督学习方法应用于朴素贝叶斯文本分类

1.前言

  对大量需要分类的文本数据进行标记是一项繁琐、耗时的任务,而真实世界中,如互联网上存在大量的未标注的数据,获取这些是容易和廉价的。在下面的内容中,我们介绍使用半监督学习和EM算法,充分结合大量未标记的样本,以期获得文本分类更高的准确率。本文使用的是多项式朴素贝叶斯作为分类器,通过EM算法进行训练,使用有标记数据以及未标记的数据。研究了多类分类准确率与训练集中未标记数据的比例之间的关系。并探索方法来降低EM过程的计算代价来加速训练。结果显示,半监督EM-NB分类器可以在只给2%标记数据情况下达到大于50%的准确率,在给定33%标记数据情况下达到大于70%的准确率。本文来源于参考中的附录1,详细代码和介绍可以参见链接。

2.数据集介绍

3.模型介绍

4.关键代码实现

5.实验结果

6.总结

7.参考

附录1:Text Classification Using EM and Semi-Supervised Learning

上一篇:洛谷 P4754 True Vegetable 解题报告


下一篇:TouchSlide1.1,手机上的幻灯片