机器学习 | 总结 CatBoost 的 5 个独特功能

Posted 2022-07-19 叶庭云

---

CSDN 叶庭云：https://yetingyun.blog.csdn.net/

其他梯度提升算法（AdaBoost、、GBDT、XGBoost、LightGBM）不具备这些特点

目前主流的 5 种梯度提升算法：AdaBoost、Gradient Boosting、XGBoost、LightGBM 和 CatBoost。

在这些算法中，CatBoost 之所以如此特别，是因为它具有其他提升算法所不具备的特殊功能。

一般来说，提升算法有两个主要缺点：

• 过度拟合很容易发生在提升算法中，因为它们是基于树的算法。
• 提升算法的训练过程不容易并行化，因为新的树是一个接一个按顺序创建的。

考虑到已有梯度提升算法的缺点，CatBoost 被设计用来以闪电般的速度为大型数据集建立更多的通用模型。它有内置的参数来抑制过拟合和进行并行学习，还有一些其他独特的功能！

CatBoost 同时支持 CPU 和 GPU，开箱即用（非常方便，而要配置 GPU 版本的 LightGBM 则有些麻烦，你如果配置过 LightGBM 的 GPU 版本就会深有体会开箱即用的好）。CatBoost 的 pip 和 conda 安装都为 CatBoost 提供了 GPU 支持。</