XGBoost是boosting算法的其中一种。Boosting算法的思想是将许多弱分类器集成在一起形成一个强分类器。因为XGBoost是一种提升树模型,所以它是将许多树模型集成在一起,形成一个很强的分类器。
该算法思想就是不断地添加树,不断地进行特征分裂来生长一棵树,每次添加一个树,其实是学习一个新函数,去拟合上次预测的残差。当我们训练完成得到k棵树,我们要预测一个样本的分数,其实就是根据这个样本的特征,在每棵树中会落到对应的一个叶子节点,每个叶子节点就对应一个分数,最后只需要将每棵树对应的分数加起来就是该样本的预测值。
相关文章
- 03-23【机器学习算法】XGBoost
- 03-23高级算法梳理——XGBoost
- 03-23机器学习:集成算法 - xgboost
- 03-23算法应用杂谈-xgboost的偏差
- 03-23多测师讲解python _课堂练习题梳理_高级讲师肖sir
- 03-23ML之xgboost:利用xgboost算法(特征筛选和GridSearchCV)对数据集实现回归预测
- 03-23微信小程序(基础到高级)并含有 js视频资源、算法、插件大全、面试题(轻松面对面试)
- 03-23实现一个比较高级的字符匹配算法,即一串很长的字符,要求找到符合要求字符的字符串
- 03-23CF1181B - Split a Number(贪心 + 构造性算法 + 字符串 + 高精度 + 其他编程语言 / 提高级)
- 03-23javascript数据结构与算法--高级排序算法