《机器学习实战》4.4使用朴素贝叶斯进行文档分类

时间:2021-08-30 05:41:57

  这一节中关于概率分布的描述,省略了一些语句,所以有点看不明白,经过反复推敲琢磨分析以后,把这些省略的文字补足,这样就能看懂了。【】中为补充的文字。

  文中的“需要”的意思是“需要足够的数据样本来得到好的概率分布”  


 

  假设词汇表中有1000个单词。要得到好的概率分布,就需要足够的数据样本,假定样本数为N,【这样就可以得到好的概率分布】。前面讲到的约会网站示例中有1000个实例,手写识别示例中每个数字有200个样本,而决策树示例中有24个样本。其中,24个样本有点少【,可能得不到好的概率分布,统计学上至少要达到30】,200个样本好一些,而1000个样本就非常好了。约会网站例子中有三个特征。由统计学知,如果每个特征需要N个样本【来达到好的概率分布】,那么对于10个特征将需要N10个样本【来达到好的概率分布】【特征a1需要n个,a2需要n个,所以10个特征是n*n*n...*n】,对于包含1000个特征的词汇表将需要N1000个样本【来达到好的概率分布】。可以看到,所需要的样本数会随着特征数目增大而迅速增长。

 


 本文来自http://www.cnblogs.com/Sabre/p/8460670.html