sklearn_Logistic Regression

时间：2021-06-14 20:02:04

一、什么是逻辑回归？

一种名为“回归”的线性分类器，其本质是由线性回归变化而来的，一种广泛使用于分类问题中的广义回归算法

  • 面试高危问题：Sigmoid函数的公式和性质

　　Sigmoid函数是一个S型的函数，当自变量z趋近正无穷时，因变量g(z)趋近于1，而当z趋近负无穷时，g(z)趋近 于0，它能够将任何实数映射到(0,1)区间，使其可用于将任意值函数转换为更适合二分类的函数。 因为这个性质，Sigmoid函数也被当作是归一化的一种方法，与我们之前学过的MinMaxSclaer同理，是属于 数据预处理中的“缩放”功能，可以将数据压缩到[0,1]之内。区别在于，MinMaxScaler归一化之后，是可以取 到0和1的（大值归一化后就是1，小值归一化后就是0），但Sigmoid函数只是无限趋近于0和1。

二、为什么需要逻辑回归？

　　线性回归对数据的要求很严格，比如标签必须满足正态分布，特征之间的多重共线性需要消除等等，而现实中很多真实情景的数据无法满足这些要求，因此线性回归在很多现实情境的应用效果有限。逻辑回归是由线性回归变化而来，因此它对数据也有一些要求，而我们之前已经学过了强大的分类模型决策树和随机森林，它们的分类效力很 强，并且不需要对数据做任何预处理。

逻辑回归的优点：

  • 1. 逻辑回归对线性关系的拟合效果好到丧心病狂，特征与标签之间的线性关系极强的数据，比如金融领域中的 信用卡欺诈，评分卡制作，电商中的营销预测等等相关的数据，都是逻辑回归的强项。虽然现在有了梯度提 升树GDBT，比逻辑回归效果更好，也被许多数据咨询公司启用，但逻辑回归在金融领域，尤其是银行业中的 统治地位依然不可动摇（相对的，逻辑回归在非线性数据的效果很多时候比瞎猜还不如，所以如果你已经知 道数据之间的联系是非线性的，千万不要迷信逻辑回归）
  • 2. 逻辑回归计算快：对于线性数据，逻辑回归的拟合和计算都非常快，计算效率优于SVM和随机森林，亲测表 示在大型数据上尤其能够看得出区别
  • 3. 逻辑回归返回的分类结果不是固定的0，1，而是以小数形式呈现的类概率数字：我们因此可以把逻辑回归返 回的结果当成连续型数据来利用。比如在评分卡制作时，我们不仅需要判断客户是否会违约，还需要给出确 定的”信用分“，而这个信用分的计算就需要使用类概率计算出的对数几率，而决策树和随机森林这样的分类 器，可以产出分类结果，却无法帮助我们计算分数（当然，在sklearn中，决策树也可以产生概率，使用接口 predict_proba调用就好，但一般来说，正常的决策树没有这个功能）
  • 4.逻辑回归还有抗噪能力强的优点。福布斯杂志在讨论逻辑回归的优点时，甚至有着“技术上来说，佳模型 的AUC面积低于0.8时，逻辑回归非常明显优于树模型”的说法。并且，逻辑回归在小数据集上表现更好，在大型的 数据集上，树模型有着更好的表现。

由此，我们已经了解了逻辑回归的本质，它是一个返回对数几率的，在线性数据上表现优异的分类器，它主要被应用在金融领域。其数学目的是求解能够让模型最优化的参数 的值，并基于参数 和特征矩阵计算出逻辑回归的结果 y(x)。

注意：虽然我们熟悉的逻辑回归通常被用于处理二分类问题，但逻辑回归也可以做多分类

三、sklearn实现逻辑回归

sklearn_Logistic Regression

class sklearn.linear_model.LogisticRegression (penalty=’l2’, dual=False, tol=0.0001, C=1.0, fit_intercept=True, intercept_scaling=1, class_weight=None, random_state=None, solver=’warn’, max_iter=100, multi_class=’warn’, verbose=0, warm_start=False, n_jobs=None)

1.损失函数

我们使用”损失函数“这个评估指标，来衡量参数 的优劣，即这一组参数能否使模型在训练集上表现优异。 如果用一组参数建模后，模型在训练集上表现良好，那我们就说模型表现的规律与训练集数据的规律一致，拟合过 程中的损失很小，损失函数的值很小，这一组参数就优秀；相反，如果模型在训练集上表现糟糕，损失函数就会很 大，模型就训练不足，效果较差，这一组参数也就比较差。即是说，我们在求解参数 时，追求损失函数小，让模型在训练数据上的拟合效果优，即预测准确率尽量靠近100%。

sklearn_Logistic Regression

逻辑回归的损失函数是由大似然法来推导出来的，具体结果可以写作

sklearn_Logistic Regression

sklearn_Logistic Regression

2.正则化 重要参数penalty & C

正则化是用来防止模型过拟合的过程，常用的有L1正则化和L2正则化两种选项，分别通过在损失函数后加上参数向量theta的L1范式和L2范式的倍数来实现。这个增加的范式，被称为“正则项”，也被称为"惩罚项"。损失函数改变，基 于损失函数的优化来求解的参数取值必然改变，我们以此来调节模型拟合的程度。其中L1范数表现为参数向量中 的每个参数的绝对值之和，L2范数表现为参数向量中的每个参数的平方和的开方值。

sklearn_Logistic Regression

其中J(theta)是我们之前提过的损失函数，C是用来控制正则化程度的超参数，n是方程中特征的总数，也是方程中参 数的总数，j代表每个参数。在这里，J要大于等于1，是因为我们的参数向量theta 中，第一个参数是theta0 ，是我们的截 距，它通常是不参与正则化的。

sklearn_Logistic Regression

　　L1正则化和L2正则化虽然都可以控制过拟合，但它们的效果并不相同。当正则化强度逐渐增大（即C逐渐变小）， 参数 的取值会逐渐变小，但L1正则化会将参数压缩为0，L2正则化只会让参数尽量小，不会取到0。 在L1正则化在逐渐加强的过程中，携带信息量小的、对模型贡献不大的特征的参数，会比携带大量信息的、对模型 有巨大贡献的特征的参数更快地变成0，所以L1正则化本质是一个特征选择的过程，掌管了参数的“稀疏性”。L1正 则化越强，参数向量中就越多的参数为0，参数就越稀疏，选出来的特征就越少，以此来防止过拟合。因此，如果 特征量很大，数据维度很高，我们会倾向于使用L1正则化。由于L1正则化的这个性质，逻辑回归的特征选择可以由 Embedded嵌入法来完成。
　　相对的，L2正则化在加强的过程中，会尽量让每个特征对模型都有一些小的贡献，但携带信息少，对模型贡献不大 的特征的参数会非常接近于0。通常来说，如果我们的主要目的只是为了防止过拟合，选择L2正则化就足够了。但 是如果选择L2正则化后还是过拟合，模型在未知数据集上的效果表现很差，就可以考虑L1正则化。 而两种正则化下C的取值，都可以通过学习曲线来进行调整。
　　建立两个逻辑回归，L1正则化和L2正则化的差别就一目了然了

举例：在乳腺癌数据集上用LR实现二分类，查看L1、L2正则化的效果

from sklearn.linear_model import LogisticRegression as LR

from sklearn.datasets import load_breast_cancer

import numpy as np

import matplotlib.pyplot as plt

from sklearn.model_selection import train_test_split

from sklearn.metrics import accuracy_score

data = load_breast_cancer()

X=data.data

y=data.target
 sklearn_Logistic Regression 
#实例化LR模型

lrl1=LR(penalty='l1',solver='liblinear',C=0.5,max_iter=1000)

lrl2=LR(penalty='l2',solver='liblinear',C=0.5,max_iter=1000)
   
#逻辑回归的重要属性coef_ theta,查看每个特征所对应的参数

lrl1=lrl1.fit(X,y)
   
lrl1.coef_
  sklearn_Logistic Regression 
(lrl1.coef_!=0).sum(axis=1)#不为0的特征的个数
  sklearn_Logistic Regression 
lrl2=lrl2.fit(X,y)
   
lrl2.coef_
  sklearn_Logistic Regression 
l1 = []

l2 = []

l1test = []

l2test = []

Xtrain,Xtest,Ytrain,Ytest = train_test_split(X,y,test_size=0.3,random_state=20)

for i in np.linspace(0.05,1,19):

    lrl1=LR(penalty='l1',solver='liblinear',C=i,max_iter=1000)

    lrl2=LR(penalty='l2',solver='liblinear',C=i,max_iter=1000)

    lrl1=lrl1.fit(Xtrain,Ytrain)

    l1.append(accuracy_score(lrl1.predict(Xtrain),Ytrain))

    l1test.append(accuracy_score(lrl1.predict(Xtest),Ytest))

    lrl2=lrl2.fit(Xtrain,Ytrain)

    l2.append(accuracy_score(lrl2.predict(Xtrain),Ytrain))

    l2test.append(accuracy_score(lrl2.predict(Xtest),Ytest))

graph=[l1,l2,l1test,l2test]

color=['green','black','lightgreen','gray']

label=['L1','L2','L1test','L2test']

plt.figure(figsize=(6,6))

for i in range(len(graph)):

    plt.plot(np.linspace(0.05,1,19),graph[i],color[i],label=label[i])

plt.legend(loc=4)#图例的位置在哪里？4表示，右下角

plt.show()
  sklearn_Logistic Regression

　 可见，至少在我们的乳腺癌数据集下，两种正则化的结果区别不大。但随着C的逐渐变大，正则化的强度越来越小，模型在训练集和测试集上的表现都呈上升趋势，直到C=0.8左右，训练集上的表现依然在走高，但模型在未知 数据集上的表现开始下跌，这时候就是出现了过拟合。我们可以认为，C设定为0.9会比较好。在实际使用时，基本 就默认使用l2正则化，如果感觉到模型的效果不好，那就换L1试试看

相关文章