sklearn中的逻辑回归接口如下：

sklearn.linear_model.LogisticRegression(penalty='l2', *, dual=False, tol=0.0001, C=1.0, fit_intercept=True, intercept_scaling=1, class_weight=None, random_state=None, solver='lbfgs', max_iter=100, multi_class='auto', verbose=0, warm_start=False, n_jobs=None, l1_ratio=None)

模型参数

此处只列举重要的超参数，部分参数大部分情况下直接使用默认值即可。

说明：

（1）参数penalty的三种正则化，分别对应如下的数学原理：

${\ell }_2$正则化：${\min }_{w,c}\frac{1}{2}{w}^{T}w+C{\sum }_{i=1}^n\log (\exp (-y_i(X_i^{T}w+c))+1).$

${\ell }_1$正则化：${\min }_{w，c}|w{|}_1+Csu{m}_{i=1}^n\log （exp（-y_i（X_i^{T}w+c））+1）$

Elastic-Net正则化：${\min }_{w，c}\frac{1-rho}{2}{w}^{T}w+\rho \Vert w{|}_1+C{\sum }_{i=1}^n\log （\exp （-y_i（X_i^{T}w+c））+1）$

（2）class_weight作用：

在诈骗电话与正常电话的分类模型中，将诈骗电话归为正常电话的代价很高，我们宁愿选择将正常电话归为诈骗电话，然后在做处理，这时，我们可以提高诈骗电话的权重。还有一种情况是解决样本极度不平衡问题。

（3）solver的五种取值：

liblinear：坐标轴下降法来迭代优化损失函数。
lbfgs：利用损失函数二阶导数矩阵即海森矩阵来迭代优化损失函数。
newton：利用损失函数二阶导数矩阵即海森矩阵来迭代优化损失函数。
sag：即随机平均梯度下降，是梯度下降法的变种，和普通梯度下降法的区别是每次迭代仅仅用一部分的样本来计算梯度，适合于样本数据多的时候。
saga：线性收敛的随机优化算法的的变重。

如果是L2正则化，那么4种可选的算法{‘newton-cg’, ‘lbfgs’, ‘liblinear’, ‘sag’}都可以选择。但是如果penalty是L1正则化的话，就只能选择‘liblinear’了。这是因为L1正则化的损失函数不是连续可导的，而{‘newton-cg’, ‘lbfgs’,‘sag’}这三种优化算法时都需要损失函数的一阶或者二阶连续导数。而‘liblinear’并没有这个依赖。

模型方法

模型的训练结果

实例

from sklearn.linear_model import LogisticRegression
from sklearn.datasets import load_iris

# 初始化模型，使用默认的超参数
clf = LogisticRegression()
# 输入训练数据
clf.fit(X,y)

clf.predict(X[:2, :])
# 输出：array([0, 0])

clf.predict_proba(X[:2, :])
# 输出：array([[9.81797141e-01, 1.82028445e-02, 1.44269293e-08],
#       [9.71725476e-01, 2.82744937e-02, 3.01659208e-08]])

逻辑回归调参比较重要的参数是solver和penalty。

举例：数据量比较少，特征数比较多的情况下，可以使用以下的参数：

 clf = LogisticRegression(solver='liblinear',penalty='l1',n_jobs=-1)

最后

以上就是高贵画板为你收集整理的sklearn中的LogisticRegression模型参数模型方法模型的训练结果实例的全部内容，希望文章能够帮你解决sklearn中的LogisticRegression模型参数模型方法模型的训练结果实例所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。