机器学习 scikit-learn 图谱

Posted zhchoutai

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习 scikit-learn 图谱相关的知识,希望对你有一定的参考价值。

scikit-learn 是机器学习领域非常热门的一个开源库。基于Python 语言写成。能够免费使用。
网址: http://scikit-learn.org/stable/index.html

上面有非常多的教程,编程实例。

并且还做了非常好的总结,以下这张图基本概括了传统机器学习领域的大多数理论与相关算法。

技术分享

我们能够看到,机器学习分为四大块。各自是 classification (分类), clustering (聚类), regression (回归), dimensionality reduction (降维)。

给定一个样本特征 x, 我们希望预測其相应的属性值 y, 假设 y 是离散的, 那么这就是一个分类问题,反之。假设 y 是连续的实数, 这就是一个回归问题。

假设给定一组样本特征 S={xRD}, 我们没有相应的 y, 而是想发掘这组样本在 D 维空间的分布, 比方分析哪些样本靠的更近。哪些样本之间离得非常远, 这就是属于聚类问题。

假设我们想用维数更低的子空间来表示原来高维的特征空间, 那么这就是降维问题。

classification & regression

不管是分类还是回归,都是想建立一个预測模型 H,给定一个输入 x, 能够得到一个输出 y:

y=H(x)

不同的仅仅是在分类问题中, y 是离散的; 而在回归问题中 y 是连续的。所以总得来说,两种问题的学习算法都非常相似。

所以在这个图谱上,我们看到在分类问题中用到的学习算法。在回归问题中也能使用。

分类问题最经常使用的学习算法包含 SVM (支持向量机) , SGD (随机梯度下降算法), Bayes (贝叶斯预计), Ensemble, KNN 等。而回归问题也能使用 SVR, SGD, Ensemble 等算法,以及其他线性回归算法。

clustering

聚类也是分析样本的属性, 有点相似classification, 不同的就是classification 在预測之前是知道 y 的范围, 或者说知道究竟有几个类别, 而聚类是不知道属性的范围的。所以 classification 也经常被称为 supervised learning, 而clustering就被称为 unsupervised learning。


clustering 事先不知道样本的属性范围,仅仅能凭借样本在特征空间的分布来分析样本的属性。这样的问题一般更复杂。

而经常使用的算法包含 k-means (K-均值), GMM (高斯混合模型) 等。

dimensionality reduction

降维是机器学习还有一个重要的领域, 降维有非常多重要的应用, 特征的维数过高, 会添加训练的负担与存储空间, 降维就是希望去除特征的冗余, 用更加少的维数来表示特征. 降维算法最基础的就是PCA了, 后面的非常多算法都是以PCA为基础演化而来。




以上是关于机器学习 scikit-learn 图谱的主要内容,如果未能解决你的问题,请参考以下文章

人工智能领域常用的开源框架和库(含机器学习/深度学习/强化学习/知识图谱/图神经网络)

[机器学习与scikit-learn-4]:scikit-learn机器学习的一般流程与案例演示

scikit-learn机器学习常用算法原理及编程实战

机器学习神器Scikit-Learn保姆教程!

机器学习-scikit-learn

python数据分析实战-第8章-用scikit-learn库实现机器学习