机器学习(四)逻辑回归Logistic Regression,Softmax Regression

时间:2022-06-03 23:53:05

逻辑回归可以说是最为常用的机器学习算法之一,最经典的场景就是计算广告中用于CTR预估,是很多广告系统的核心算法。

首先要熟悉下最大似然

详细链接:https://blog.csdn.net/zengxiantao1994/article/details/72787849

机器学习(四)逻辑回归Logistic Regression,Softmax Regression

似然函数(linkehood function):联合概率密度函数机器学习(四)逻辑回归Logistic Regression,Softmax Regression称为相对于机器学习(四)逻辑回归Logistic Regression,Softmax Regression的θ的似然函数。

机器学习(四)逻辑回归Logistic Regression,Softmax Regression


逻辑回归Logistic Regression

逻辑回归(LR),虽然叫回归,然是从目标函数来看,它是设计用来做分类的,经典的LR是用于二分类的情况的,也就是说只有0,1两类。

机器学习(四)逻辑回归Logistic Regression,Softmax Regression

机器学习(四)逻辑回归Logistic Regression,Softmax Regression
机器学习(四)逻辑回归Logistic Regression,Softmax Regression
机器学习(四)逻辑回归Logistic Regression,Softmax Regression
重点:一般来说,训练时,希望算法输出值的概率最大,那么因为log是单调递增,最小化损失函数,就等于最大化log P(y|x),所以这就是负号的原因
机器学习(四)逻辑回归Logistic Regression,Softmax Regression
机器学习(四)逻辑回归Logistic Regression,Softmax Regression