机器学习的一点感悟

Posted drfxiaoliuzi

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习的一点感悟相关的知识,希望对你有一定的参考价值。

数学基础

微积分。首先由于连微积分最基础的知识都忘记了,就先回去补高数了,虽然大学上课认真听课了,但是不是学霸那种,毕业后基本没怎么用过,就全还给老师了。
看大学教材,这里我用的是gitchat上李烨老师推荐的《微积分讲义》北师大出版社,书很薄,很适合快速过一遍。
我属于看书没有做题的,因为懒。我觉得大学期间,很多时候都留在做题上了,我整个教育历程都是题海战术。但我忽视掉了,真正的数学定义中的物理和几何意义。这里重点补充了一下。
如果后面想往算法科学家方向发展的话,这部分还要继续强化,做题,多练,多看书和例子。
mit的在163上 的公开课也非常棒。

线性代数。由于第一份工作用到了矩阵求逆并行优化相关的工作,这个在当时认真学了,而且当时包括现在的理解,线性代数,只是进行矩阵变换和运算。

概率论。这个是弱项,从高中开始,抽球,就抽不明白,现在也没太明白。但是我属于对学习资料比较苛刻的那种人,各种强调器,而不去做事。其实如果用心学随便一本,都可以内化成自己的知识。
但我暂时还达不到。这里标记下,学知识不是为了满足自己的我很上进的样子,也不是为了学过这些知识以后,自我满足感。一定要强调自己的内化,就是拍着自己的胸脯问自己,你真的学会了吗?
那么,你学到了什么?都理解了吗?没理解,好,说明没学会,那就重新再看视频,查阅各种相关资料,每天吃饭睡觉都去想,去琢磨。
这里我推荐台湾大学的叶丙成老师的《机率》课,非常棒的概率课程。跟着学就好。教材,请打印ppt。

统计学。网上有国外的公开课,暂时还没有补到。

大家多利用好网上公开课视频。我自己本人是,基本上所有的公开课app都装了(买了这么贵的手机,不能白买)。

待看部分
《数学分析》补充高数基础

《数值分析》如何用计算机来求导,求函数值。(大学cs本科课程)


机器学习

首先推荐吴恩达老师在cousera上的机器学习公开课,这个课程非常浅显易懂,基本你看完微积分,学会求导,求偏导的物理意义,知道矩阵乘法,就可以看了。

这门课非常好,老师讲的非常浅显易懂。我甚至觉得高中生,学完微积分,求导,了解一下矩阵,如果会编程,都可以学了。
建议边看边做笔记,做完笔记,虽然耗时间,但是我属于看十遍不如写一遍,一般的视频,看两遍,某个看3遍就可以理解了。

这里有份整理的很好的笔记:http://52opencourse.com/54/coursera%E5%85%AC%E5%BC%80%E8%AF%BE%E7%AC%94%E8%AE%B0-%E6%96%AF%E5%9D%A6%E7%A6%8F%E5%A4%A7%E5%AD%A6%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E7%AC%AC%E4%B8%80%E8%AF%BE-%E5%BC%95%E8%A8%80-introduction

有网友推荐台大的林轩田的视频,这个我刚看了开头,还没详细看。

至于机器学习相关的书籍,我觉得周志华老师的西瓜书《机器学习》对我来说太难了,大神觉得简单,请无视我。
因为我很多符号都看不懂,这里一位网友说过一句话,我觉得有一定道理:数学符号不统一,导致了门槛较高。
但是,坦白说,我自己太菜了,其实符号大同小异,但的确入门如果一味钻进去抠符号什么意思,是很恼人的。但没啥别的办法,多去搜,多去看。
不要急,不要烦,机器学习就这么多符号,它不是无穷尽的,踏踏实实一个一个搞。肯定能搞尽,这里我主要靠愚公移山的精神。

《统计学习方法》看着更头大,暂时先不看,以后回来补。

特征工程和最优化相关书籍
《凸优化理论》Dimitri Bertsekas

《最优化理论与方法》袁亚湘 孙文瑜


英语

我买了赖世雄的英语语法和音标。
对于买书,我从不吝惜,希望自己也能一直保持着这个习惯。
基本200以内的书,真的需要,或者我知道自己买完了一定会看,我从不犹豫。但仍然有很多书没买,amazon上的购物车,常年有上千的书存着,因为穷。

之前是怕搬家麻烦不买。个人觉得电子书的确方便,但的确适合查阅,不适合阅读。

AndrewNg的课程,建议大家去网易公开课上看,那里的版本是比较好的,建议先中文,然后达到英文听课的程度,因为真的不难,我自己英语很菜。
英语这个技能是必备的,只要你从事计算机这一行并且想往上走,没啥商量的。平时查stackoverflow也要看的。


编程语言

当然首选python啦,amazon上有一本让繁琐工作自动化的python书,非常简单,适合无基础的人,如果你和我一样弱,那就看它吧,上手非常快。

最后说一下:
不要被高大上的符号或者专业术语吓倒。
张量,梯度下降,牛顿法,贝叶斯公式,机器学习,人工智能,神经网络,特征工程,凸优化。
不要慌张和盲从,一点一点看,一点点去学习。踏实下来,抽丝剥茧,如果你真的想知道这些名词是什么意思,一个月就足够了。

老师还推荐了《人工智能基础》是由商汤的汤晓鸥,主导写的,写的非常浅显易懂,适合我这样的菜鸟。

里面有个对机器学习的介绍:机器学习是根据数据,做出预测或者判断。
我觉得写的非常简练。的的确确就是这么一回事。

学完对机器学习的理解,昨天碰巧在网上遇到这张图,就不用自己画了:

技术分享图片

看完cousera上Ng的课,里面如果有不清楚的,可以看下面的,建议手动推导一遍梯度下降算法,再用python实现一遍梯度下降算法。

尽可能所有的公式都通过推导一下,提高自己的运算水平,补充之前没有做题的缺陷。而且自己也能真正明白。
最好也能用代码来实现一遍,如何用计算机求导。


图片来自《机器学习需要的技能》(如侵,联立删):
https://segmentfault.com/a/1190000005356857

梯度下降手动推导:
https://www.jianshu.com/p/fcd220697182

python实现梯度下降:
https://ctmakro.github.io/site/on_learning/gd.html

























以上是关于机器学习的一点感悟的主要内容,如果未能解决你的问题,请参考以下文章

周志华:关于机器学习的一点思考

机器学习实验室的一点年度小结

[转] 周志华:关于机器学习的一点思考

对机器学习的一点理解

机器学习和深度学习入门总结

机器学习--DIY笔记与感悟--①K-临近算法