机器学习初学笔记

Posted wongyi

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习初学笔记相关的知识,希望对你有一定的参考价值。

机器学习是人工智能的一个分支。人工智能的研究是从以“推理”为重点到以“知识”为重点,再到以“学习”为重点,一条自然、清晰的脉络。显然,机器学习是实现人工智能的一个途径,即以机器学习为手段解决人工智能中的问题。机器学习在近30多年已发展为一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多推论问题属于无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法。

机器学习已广泛应用于数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、检测信用卡欺诈、证券市场分析、DNA序列测序、语音和手写识别、战略游戏和机器人等领域。

定义

机器学习有下面几种定义:

  • 机器学习是一门人工智能的科学,该领域的主要研究对象是人工智能,特别是如何在经验学习中改善具体算法的性能。
  • 机器学习是对能通过经验自动改进的计算机算法的研究。
  • 机器学习是用数据或以往的经验,以此优化计算机程序的性能标准。

一种经常引用的英文定义是:A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E.

分类

机器学习可以分成下面几种类别:

  • 监督学习从给定的训练数据集中学习出一个函数,当新的数据到来时,可以根据这个函数预测结果。监督学习的训练集要求是包括输入和输出,也可以说是特征和目标。训练集中的目标是由人标注的。常见的监督学习算法包括回归分析和统计分类。

监督学习和非监督学习的差别就是训练集目标是否人标注。他们都有训练集 且都有输入和输出

  • 无监督学习与监督学习相比,训练集没有人为标注的结果。常见的无监督学习算法有聚类。
  • 半监督学习介于监督学习与无监督学习之间。
  • 增强学习通过观察来学习做成如何的动作。每个动作都会对环境有所影响,学习对象根据观察到的周围环境的反馈来做出判断。

参考文献

  • Bishop, C. M. (1995). 《模式识别神经网络》,牛津大学出版社. ISBN 0-19-853864-2.
  • Bishop, C. M. (2006). 《模式识别与机器学习》,Springer. ISBN 978-0-387-31073-2.
  • Richard O. Duda, Peter E. Hart, David G. Stork (2001). 《模式分类》(第2版), New York: Wiley. ISBN 0-471-05669-3.
  • MacKay, D. J. C. (2003). 《信息理论、推理和学习算法》,剑桥大学出版社. ISBN 0-521-64298-1
  • Mitchel.l, T. (1997). 《机器学习》, McGraw Hill. ISBN 0-07-042807-7
  • Sholom Weiss, Casimir Kulikowski (1991). Computer Systems That Learn, Morgan Kaufmann. ISBN 1-55860-065-5.

 

以上是关于机器学习初学笔记的主要内容,如果未能解决你的问题,请参考以下文章

机器学习初学者手抄本:数学基础机器学习经典算法统计学习方法等

机器学习实战笔记(python3实现)01--概述

机器学习笔记:大话线性回归

SciKit-Learn & TensorFlow与吴恩达机器学习双修笔记——创建工作区

微软面向初学者的机器学习课程:1.1-机器学习介绍

机器学习者的初学路线