树回归
Posted whatyouknow123
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了树回归相关的知识，希望对你有一定的参考价值。
一.背景
传统的线性回归算法用于拟合所有的数据，当数据量非常的大，特征之间的关联非常的复杂的时候，这个方法就不太现实。这个时候就可以采用对数据进行切片的方式，然后在对切片后的局部的数据进行线性回归，如果首次切片之后的数据还是不符合线性的要求，那么就继续执行切片。在这个过程中树结构和回归算法是非常有用的。而cart算法又是一种常用的树回归算法。
二.概念
树回归算法总的来说，就是找到一个最优的特征，然后根据该特征的最优的特征值进行二元划分子树，如果值大于给定特征值就走左子树，否则就走右子树。通过不断的迭代这个过程就能创建一棵回归树或者分类树。二者区别只在于输入的数据是连续型还是离散型，以及采用的选择最优的特征和特征值的准则。
三.python实现
1.获得输入数据
以上是关于树回归的主要内容，如果未能解决你的问题，请参考以下文章
模型树——就是回归树的分段常数预测修改为线性回归 对于非线性回归有较好的预测效果
基于回归分析的广告投入销售额预测——K邻近，决策树，随机森林，线性回归，岭回归