Untitled

集成学习说的是多个模型进行有效集成。

Bagging 集成学习方法:个体模型不存在强依赖关系,可并行生成,如随机森林。

Boosting 集成学习方法:个体模型间存在强依赖关系,必须串行生成,相当于做一个错题本。

Stacking 集成学习方法:训练meta-model来整合不同的弱分类器,从而得到最终的预测模型。

组合策略

Untitled

绝对多数投票法:如果过半就取,否则没有最优解。

Untitled

Untitled

AdaBoost、GBDT 详见 PPT