随机森林与梯度提升树
提升树模型：提升方法实际采用加法模型（即基函数的线形组合）与前向分步算法。以决策树为基函数的提升方法称为提升树。对分类问题决策树是二叉分类树。提升树模型可以表示为决策树的加法模型：fMx=m=1MT(x;θm)，其中T(x;θm)表示决策树；θm为决策树的参数；M为树的个数。提升树算法采用前向分步算法。首先确定初始提升树f0x=0，第m步的模型是fmx=fm-1x+T(x;θm)，其中fm...
