1. 首页
  2. 文章中心
  3. 机器学习

3. GBDT XGboost Lightgbm优缺点

62 阅读 0 评论
我是靠谱客的博主 朴素大象，这篇文章主要介绍3. GBDT XGboost Lightgbm优缺点，现在分享给大家，希望可以做个参考。

XGboost VS GBDT

  1. 传统的GBDT是以CART树为基分类器，XGboost还支持线性分类器

  2. GBDT只用到了一阶导的信息，XGboost对代价函数进行了二阶泰勒展开，得到一阶导和二阶导

  3. XGboost在代价函数中加入了正则项来控制模型的复杂度，可以防止过拟合

  4. XGboost工具支持并行

  5. XGboost会在完成一次迭代之后，将叶子节点的权重，乘上缩减系数，来缩减没一颗树的影响，从而使得后面有更多的学习的余地

 

XGBoost  VS Lightgbm

  1. XGBoost在每 一轮迭代时，都需要遍历整个训练集很多 次，如果把整个训练集都放到内存即会限制训练数据的大小，如果不装入内存，则反复读写会消耗大量时间

  2. 对特征预排序的方法对空间消耗大

 

 

最后

以上就是朴素大象最近收集整理的关于3. GBDT XGboost Lightgbm优缺点的全部内容，更多相关3.内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。
点赞(41)

相关文章

数据挖掘与机器学习——数据挖掘概述
数据挖掘与机器学习——数据挖掘概述
GBDT算法的优缺点
GBDT算法的优缺点
机器学习 集成学习各算法-gbdt，xgboost，lightgbm比较及优缺点特征总结处理高维稀疏特征的时候LR效果比GBDT好？
机器学习 集成学习各算法-gbdt，xgboost，lightgbm比较及优缺点特征总结处理高维稀疏特征的时候LR效果比GBDT好？
随机森林，GBDT，XGBoost的对比 随机森林，GBDT，XGBoost的对比
随机森林，GBDT，XGBoost的对比 随机森林，GBDT，XGBoost的对比
3. GBDT XGboost Lightgbm优缺点
3. GBDT XGboost Lightgbm优缺点
浅析xgBoosting的优缺点
浅析xgBoosting的优缺点
机器学习---GBDT、xgboost与Light GBM优缺点比较（1）
机器学习---GBDT、xgboost与Light GBM优缺点比较（1）
GBDT和随机森林的异同点及GBDT的优缺点
GBDT和随机森林的异同点及GBDT的优缺点

评论列表共有 0 条评论

立即
投稿
返回
顶部