机器学习——分类和回归

Posted tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习——分类和回归相关的知识,希望对你有一定的参考价值。

1.机器学习的主要任务:
一是将实例数据划分到合适的分类中,即分类问题。 而是是回归, 它主要用于预测数值型数据,典型的回归例子:数据拟合曲线。

 

2.监督学习和无监督学习:

分类和回归属于监督学习,之所以称之为监督学习,是因为这类算法必须直到预测什么,即目标变量的分类信息

 

对于无监督学习,此时数据没有类别信息,也不会给定目标值。在无监督学习中,将数据集合分成由类似的对象组成的多个类的过程被成为聚类;将寻找描述数据统计值的过程称之为密度估计。此外,无监督学习还可以减少数据特征的维度,以便我们可以使用二维或者三维图形更加直观地展示数据信息。

 

3.线性回归和非线性回归

  线性回归需要一个线性模型。一个线性的模型意味着模型的每一项要么是一个常数,要么是一个常数和一个预测变量的乘积。一个线性等式等于每一项相加的和。等式:

Response = constant + parameter * predictor + ... + parameter * predictor  <=>  Y = b o + b1X1 + b2X2 + ... + bkXk

在统计学中,如果一个回归方程是线性的,那么它的参数必须是线性的。但是可以转换预测变量加上平方,来使得模型产生曲线,比如 Y = b o + b1X1 + b2X12

这时模型仍然是线性的,虽然预测变量带有平方。当然加上log或者反函数也是可以的。

 另外可以参考的博文:Khan公开课 - 统计学学习笔记:(九)线性回归公式,决定系数和协方差  

线性回归等式有一个基本的形式,而非线性回归提供了许多灵活的曲线拟合方程。以下是几个MATLAB中的典型非线性方程例子。

非线性函数的一个例子就是高阶多项式(即多项式阶数p>1):G = a o + a1X + a2X^2+ ... + akX^k。其他类型的非线性函数可通过泰勒展开用多项式逼近表示。函数G在x0处的线性近似为G(x0)+G\'(x0)(x-x0)。

 

以上是关于机器学习——分类和回归的主要内容,如果未能解决你的问题,请参考以下文章

机器学习系列——分类及回归问题

零基础学Python--机器学习:机器学习算法和开发

机器学习之路:python线性回归分类器 进行良恶性肿瘤分类预测

机器学习

第二篇[机器学习] 学习机器学习,从最简单的线性回归开始

用Python开始机器学习(7:逻辑回归分类) --好!!