机器学习总结(一):生成模型与判别模型的区别

时间:2022-03-25 03:30:08

生成模型:由数据学习联合概率分布P(X,Y),然后求出条件概率分布P(Y|X)作为预测的模型,即生成模型:P(Y|X)=P(X,Y)/P(X),表示了给定输入X产生输出Y的生成关系。包括:朴素贝叶斯法、隐马尔科夫模型。特点:收敛速度更快。

判别模型:由数据直接学习决策函数f(X)或者条件概率分布P(Y|X)作为预测的模型,即判别模型,包括:逻辑斯谛回归、k近邻、感知器、决策树、SVM等。特点:准确率高。直接学习,对数据进行各种程度的抽象、定义特征并使用特征。