吐血整理深度学习入门路线及导航教学视频+大神博客+书籍整理+资源页(2019年已经最后一个月了,你还不学深度学习吗???)
Posted 我是管小亮
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了吐血整理深度学习入门路线及导航教学视频+大神博客+书籍整理+资源页(2019年已经最后一个月了,你还不学深度学习吗???)相关的知识,希望对你有一定的参考价值。
声明:
1)该文章整理自网上的大牛和机器学习专家无私奉献的资料,具体引用的资料请看参考文献。
2)本文仅供学术交流,非商用。所以每一部分具体的参考资料并没有详细对应。如果某部分不小心侵犯了大家的利益,还望海涵,并联系博主删除。
3)博主才疏学浅,文中如有不当之处,请各位指出,共同进步,谢谢。
4)此属于第一版本,若有错误,还需继续修正与增删。还望大家多多指点。大家都共享一点点,一起为祖国科研的推进添砖加瓦。
文章目录
〇、写在前面
可以去我的WX公众号,回复【福利】,获取更多资源!
最近没有怎么发博客,趁这个机会总结一下,2019年已经是深度学习大火甚至热度下降的一年了,我们的小伙伴应该抓紧机会赶上最后一波热潮!!!
依照我目前的学习经验和采坑总结,学习深度学习的最佳学习方法莫过于 【视频+博客+书籍】+ 总结,【视频+博客+书籍】这三个,我将把自己【目前学过的】以及【大佬推荐的】都在这篇博客文章中全部展现出来,力求全面实用,至于【总结】部分则是在于个人的发挥,【所谓师父领进门,修行在个人】,虽然我不是师傅,但是也希望能为你的未来方向提供一些力所能及的帮助。
博主将为各位趟河踩坑,保驾护航,咱们一起冲冲冲!!!上帝是公平的,所以世间的一切都是等价交换,只要你不辜负时间,时间也必然不会辜负你!!!
最后说一下,什么叫做【学习】,有好多小伙伴包括博主本人都有点急躁,但是【学习】是【学】然后【习】的过程,即 认真学习,努力实践,乐于分享。
不要忘记计算机科学技术的核心就是【分享】,不要闭门造车!!!那实在是浪费时间!!!
如果你觉得本文有用,还请 点赞,关注,收藏,这样就能让更多的人看到。
如果本文有不足或者不正之处,欢迎指正批评,感激不尽!
如果有疑问欢迎留言,绝对第一时间回复!!!
一、粉丝小福利
推荐一个可以搜索一些pdf版的电子书的网站——鸠摩搜书,https://www.jiumodiary.com/
比如搜索【深度学习】,
下文中提到的一些书都可以去其中搜索,或者也可以直接百度:
不过百度的坑比较多,但是也是可以尝试的,再或者脚本之家,https://www.jb51.net/books/
如果实在找不到,也可以直接去CSDN的下载区下载,https://download.csdn.net/,淘宝找一个商家下载即可,一般也就一两块。
二、令人头疼的数学
其实我也懂,大家也懂,很多人避而不谈或者绕开深度学习的主要原因是听到了数学,数学基础内容过多,基本上把大部人劝退了。。。【立即推 <<==>> 放弃】
其实如果你读过工科本科(因为我是工科,本科【吉大】的小伙伴有吗),就一定学过 高等数学、概率论与数理统计和线性代数 这三门课,这就基本上能够解决绝大多数的问题,甚至说如果你只是想当一个掉包侠的话,这些都不用全部掌握,关于深度学习的境界划分在这里——大话卷积神经网络CNN(干货满满),可以看看自己是哪一个境界的小盆友。
正文开始:
-
微积分:其实个人感觉涉及的微积分知识相对简单,积分很少,微分也不是特别复杂,花一天时间学一学就行。
-
概率论与统计:这个比较高深,是应用在机器学习领域里最重要的数序分支。应用比如:条件概率、相关系数、最大似然、大数定律、马尔可夫链等等,还是得好好搞一下概率。
-
线性代数:数字图像本身就是以矩阵的形式呈现的,多个向量组成的样本也是矩阵这种形式非常常见,大多机器学习算法里每个样本都是以向量的形式存在的,多个矩阵叠加则是以张量(tensor)的形式存在 Google 深度学习库 TensorFlow 的字面意思之一。
-
凸优化:这个需要单独拎出来说一下。因为太多问题(尤其机器学习领域)都是优化问题(求最优),凸优化是里面最简单的形式,所以大家都在想办法怎么把一般的优化问题转化为凸优化问题。至于单纯的凸优化理论,好像已经比较成熟了。在机器学习里,经常会看到什么求对偶问题、KKT条件等,潜下心花两天学一学。
数学知识真的没必要系统学习,效率低又耗时,毕竟大家都有本科或者研究生的基础了,这就足够了。目前感觉用的最多的就是矩阵论!!!因为 TensorFlow 或者其他的框架都需要计算图的大小。再或者用到的时候学,学完之后总结一下,所以一定要活学活用网上的搜索资源,比如 CSDN、知乎等等。
如果想要学习这三门课——【高等数学、概率论与数理统计和线性代数】,推荐宇哥(张宇数学)的课程,直接B站搜就能找到。
宇哥鼓励学生的一段话,送给你,无论你考没考过研,希望你都能坚持一下!!!
再坚持一下,张宇送给2018考生的最后一段话!
资源总结:
- 同济大学的《线性代数》
- 浙江大学的《概率论与数理统计》
- 同济大学的《高等数学》
- 北大的《凸优化》
- 林轩田机器学习基石/技法课件、作业和视频
- 斯坦福大学CS229机器学习课程基础资料英文和中文版本
- 《B站张宇数学》
三、人生苦短,我用python
工欲善其事必先利其器,作为深度学习的基础语言,python这些年可以说是红得发紫,承蒙粉丝们抬爱,写过一个1.6W播放量的 python 的基础博客——用Python解决数据结构与算法问题(一):Python基础,不过没有特别详细,推荐学完了基础知识的时候再看一下,以做位复习的资源,内附几个例子,可以用来练手。
基础部分看廖雪峰的 python教程 就可以了,我个人有看一些,比较良心,如果不喜欢在线学习的同学也可以使用这本书——《Python编程:从入门到实践》,极其的基础,但是对小白来说非常友好,还有几个简单的项目实战。
有的同学会问是学 python2 还是 python3?这么说吧,python 核心团队计划2020年停止支持 python2,也就是说 python2 马上就要说再见了,肯定还是学 python3,遇到之前的 python2 的代码再查找区别即可。python 学起来其实很简单,看别人代码的过程就是学习的过程。对于不熟悉的用法多搜下官方文档,如 python
python 的开发环境值得说一下,因为有太多选择,这里比较建议使用 pycharm 和 jupyter notebook:
- Anaconda是一个用于科学计算的Python发行版,支持 Linux, Mac, Windows系统,提供了包管理与环境管理的功能,可以很方便地解决多版本Python并存、切换以及各种第三方包安装问题。
下载地址:https://www.anaconda.com/download/
- Pycharm,社区版免费
下载地址:https://www.jetbrains.com/
-
安装教程:
-
Anaconda+Jupyter notebook+Pycharm:https://blog.csdn.net/TeFuirnever/article/details/90646020
-
Ubuntu18.04深度学习环境配置(CUDA9+CUDNN7.4+TensorFlow1.8):https://zhuanlan.zhihu.com/p/50302396
-
资源总结:
四、三两个三方库
除了python之外,还有很多常用的第三方库:numpy、pandas、scipy、matplotlib、Seaborn、scikit-learn等等,需要熟练掌握提到的这几个,其他的遇到再学习使用即可。
资源总结:
- 《Numpy练习题100题》
- 《十分钟搞定pandas》
- 《scipy学习笔记》
- 《matplotlib学习之基本使用》
- 《Seaborn简易入门》
- 《scikit-learn学习笔记》
- 《Scikit-Learn 与 TensorFlow 机器学习实用指南》
- 《Scikit-Learn 官方文档》
- 《Scikit-Learn 中文文档(0.19)》
五、深。。。深度。。。深度学习理论
认真的学习深度学习理论是关键!!!
深度学习理论首推这门课——网易云的吴恩达deeplearning.ai。
-
离线视频:https://pan.baidu.com/s/1ciq3qHo0lgoD3MLRwfeqnA 密码:0kim。
还有我个人依据课程写的 深度学习入门笔记系列
《python深度学习》由Keras之父、现任Google人工智能研究员的弗朗索瓦•肖莱(François Chollet)执笔,入门深度学习的同时还可以学习 Keras。
英文版:https://github.com/fchollet/deep-learning-with-python-notebooks
李宏毅的一天搞懂深度学习课件ppt,pdf以及精心整理的目录——https://download.csdn.net/download/tefuirnever/11107293
李宏毅《机器学习》:https://www.bilibili.com/video/av59538266
李飞飞的 CS231n 课程,B站有 中英文字幕版课程,知乎专栏 智能单元 有CS231N课程翻译(非常好)
Fast.ai《程序员深度学习实战》
视频地址:
-
B站地址(英文字幕):https://www.bilibili.com/video/av18904696?from=search&seid=10813837536595120136
-
CSDN地址(2017版中文字幕): https://edu.csdn.net/course/detail/5192
课程笔记:
-
英文笔记原文:https://medium.com/@hiromi_suenaga/deep-learning-2-part-1-lesson-1-602f73869197
-
由ApacheCN组织的中文翻译:https://github.com/apachecn/fastai-ml-dl-notes-zh
CS230 Deep Learning
-
秋季CS230视频列表:https://www.bilibili.com/video/av47055599
-
春季CS230课程大纲:http://cs230.stanford.edu/syllabus/
-
Cheetsheet(斯坦福助教给出):https://stanford.edu/~shervine/teaching/cs-230.html
资源总结:
六、一大波DL论文来袭
如果你是深度学习领域的新手,你可能会遇到的第一个问题是“我应该从哪篇论文开始阅读?”
Papers with Code 这个网站叫做 Browse state-of-the-art。它将 ArXiv 上的最新深度学习论文与 GitHub 上的开源代码联系起来。该项目目前包含了 651 个排行榜,1016 个深度学习任务,795 个数据集,以及重磅的 10257 个含复现代码的优秀论文。简直就是一个寻找论文和代码的利器。它将 1016 个深度学习任务分成了 16 大类,涉及了深度学习的各个方面。
比如目标检测的超全的文献 paper 列表:
资源总结:
- 大博主的正例论文资源——https://blog.csdn.net/zouxy09/article/details/8782018
- Papers with Code;GitHub地址:https://github.com/zziz/pwc
- Deep Learning Papers Reading Roadmap
七、有哪些知名会议呢
- 会议
NeurIPS:https://nips.cc/
ICML:https://icml.cc/
ICLR:https://iclr.cc/
AAAI:https://aaai.org/Conferences/AAAI-19/
IJCAI:https://www.ijcai.org/
UAI:http://www.auai.org/uai2019/index.php
- 计算机视觉:
CVPR:http://cvpr2019.thecvf.com/
ECCV:https://eccv2018.org/program/main-conference/
ICCV:http://iccv2019.thecvf.com/
- 自然语言处理:
EMNLP:https://www.aclweb.org/portal/content/emnlp-2018
NAACL:https://naacl2019.org/
- 知名期刊:
JAIR:https://www.jair.org/index.php/jair
JMLR:http://www.jmlr.org/
- 其它
机器人方面,有 CoRL(学习)、ICAPS(规划,包括但不限于机器人)、ICRA、IROS、RSS;
对于更理论性的研究,有 AISTATS、COLT、KDD。
八、你知道知识图谱吧?!?
知识图谱是什么?
知识图谱是一种结构化数据的处理方法,它涉及知识的提取、表示、存储、检索等一系列技术。从渊源上讲,它是知识表示与推理、数据库、信息检索、自然语言处理等多种技术发展的融合。
资源总结:
九、DL框架哪家强
注:♥ 表示推荐指数,越多越好
9.1、TensorFlow
TensorFlow学习资料大全:含入门指南、在线博客、视频教程、书籍推荐和实战项目等
TensorFlow入门指南
- TensorFlow如何入门
- awesome-tensorflow:TensorFlow - A curated list of dedicated resources
- awesome-tensorflow-2:Tensorflow 2.x resources such as tutorial, blog, code and videos
TensorFlow官网&社区
- (♥♥♥♥♥)TensorFlow官网
- (♥♥♥♥♥)GitHub:TensorFlow
- (♥♥♥♥)Medium:TensorFlow:官方维护,分享最佳干货文章
- (♥♥♥♥)Twitter:TensorFlow:官方维护,分享最快动态
- (♥♥♥♥)Youtube:TensorFlow:官方维护,分享最新视频
- (♥♥♥♥♥)TensorFlow官网(中国域名) 便于不能科学上网的人
- (♥♥♥)TensorFlow中文社区:官方和才云科技(TensorFlow 中国社区合作伙伴)联合发起
TensorFlow在线教程
- (♥♥♥♥♥)tf2_course:第一个TensorFlow2.x系列教程(作者是巨佬)
- (♥♥♥♥♥)TensorFlow-Examples:TensorFlow Tutorial and Examples for Beginners with Latest APIs
- (♥♥♥♥♥)TensorFlow-Course:Simple and ready-to-use tutorials for TensorFlow
- (♥♥♥♥)TensoFlow2中文教程:TensorFlow2中文教程(代码实战为主)
- (♥♥♥♥)TensorFlow2.0-Examples:TensorFlow2 教程(代码实战为主)
- (♥♥♥♥)EffectiveTensorflow:TensorFlow tutorials and best practices
- (♥♥♥)TensorFlow-Tutorials-Chinese:TensorFlow 中文教程 (Chinese Tutorials)
TensorFlow视频教程
- (♥♥♥♥♥)Deep Learning basics with Python, TensorFlow and Keras 网址
- (♥♥♥♥♥)TensorFlow-Tutorials:TensorFlow Tutorials with YouTube Videos
- (♥♥♥♥)Stanford CS 20SI: Tensorflow for Deep Learning Research (斯坦福TensorFlow教程)
- (♥♥♥)Google 机器学习速成课程:该课程虽然为Machine Learning,但代码全使用TensorFlow,有实战意义
TensorFlow书籍资源
- (♥♥♥♥♥)Hands-on Machine Learning with Scikit-Learn, Keras, and TensorFlow, 2nd Edition
- (♥♥♥♥)Hands-On Machine Learning with Scikit-Learn and TensorFlow 中文翻译
- (♥♥♥)TensorFlow Machine Learning Cookbook
TensorFlow实战项目
- TensorFlow/models
- tensorboard
- TensorLayer
- DCGAN-tensorflow
- facenet
- FastMaskRCNN
- SSD-TensorFlow
- CapsNet-Tensorflow
- tensorflow-generative-model-collections
- tensorflow_poems
9.2、PyTorch
PyTorch资料学习大全:含入门指南、在线教程、视频教程和书籍推荐等资源
PyTorch安装教程
PyTorch入门指南
- Awesome-pytorch-list:A comprehensive list of pytorch related content on github,such as different models,implementations,helper libraries,tutorials etc.
- 知乎:新手如何入门PyTorch
- PyTorch:60分钟入门
PyTorch官网&社区
- (♥♥♥♥♥)PyTorch官网
- (♥♥♥♥♥)GitHub:PyTorch
- (♥♥♥♥)Twitter:PyTorch:官方维护,分享最快动态
- (♥♥♥♥)PyTorch官方论坛
- PyTorch中文文档&教程
- 知乎话题:PyTorch
PyTorch在线教程
- (♥♥♥♥♥)PyTorch:Doc
- (♥♥♥♥♥)pytorch-tutorial:PyTorch Tutorial for Deep Learning Researchers
- (♥♥♥♥♥)practicalAI:Implement basic ML algorithms and deep neural networks with PyTorch.
- (♥♥♥♥)practical-pytorch:PyTorch tutorials demonstrating modern techniques with readable code
- (♥♥♥♥)Deep Learning with PyTorch:This series is all about neural network programming and PyTorch!
- (♥♥♥♥♥)pytorch-book:PyTorch tutorials and fun projects including neural talk, neural style, poem writing, anime generation
- (♥♥♥♥♥)莫凡:PyTorch教学:Build your neural network easy and fast
- (♥♥♥♥♥)pytorch-handbook:pytorch handbook是一本开源的书籍
- (♥♥♥♥)Dive-into-DL-PyTorch:本项目将《动手学深度学习》(Dive into Deep Learning)原书中的MXNet实现改为PyTorch实现。
- (♥♥♥♥)PyTorch_Tutorial:《Pytorch模型训练实用教程》中配套代码 PyTorch学习笔记
PyTorch视频教程
- (♥♥♥♥)PyTorch - Deep Learning with Python
- (♥♥♥)Neural Network Programming - Deep Learning with PyTorch
- (♥♥♥)Intro to Deep Learning with PyTorch:优达免费课程
- (♥♥♥♥♥)莫凡:PyTorch教学
PyTorch书籍资源
- (♥♥♥♥♥)Deep Learning with PyTorch:LeCun力荐,PyTorch官方权威教程书 github代码
- (♥♥♥)Introduction to Artificial Neural Networks and Deep Learning: A Practical Guide with Applications in Python
- (♥♥♥♥♥)《深度学习框架PyTorch:入门与实践》github
PyTorch实战项目
- pytorch-examples:官网示例
- pretrained-models.pytorch:Pretrained ConvNets for pytorch: NASNet, ResNeXt, ResNet, InceptionV4, InceptionResnetV2, Xception, DPN, etc.
- maskrcnn-benchmark:Fast, modular reference implementation of Instance Segmentation and Object Detection algorithms in PyTorch.
- mmdetection:Open MMLab Detection Toolbox with PyTorch 1.0
- pytorch-semseg:Semantic Segmentation Architectures Implemented in PyTorch
- faster-rcnn.pytorch
- ssd.pytorch
- semantic-segmentation-pytorch
- pytorch-pretrained-BERT
- torchcv:A PyTorch-Based Framework for Deep Learning in Computer Vision
- https://github.com/devnag/pytorch-generative-adversarial-networks
PyTorch搭档工具
- PyTorch Lightning:Lightning is a very lightweight wrapper on PyTorch.
十、欢迎来到神经网络游乐场
可以调整:
- 数据分布,训练集和测试集的比例,有无噪声,批大小;
- 特征,神经元个数和层数;
- 学习率,激活函数,正则化与否以及大小,分类还是回归。
你可以尝试去改变相应的参数,从而感受一下网络输出的变化,进而体会到卷积神经网络的乐趣,加油!!!
十一、毛遂自荐可还行
推荐两个自己写的高质量博客:
十二、总结一下下
该博客会持续更新相关资源,敬请期待。
持续更新…
如果你觉得本文有用,还请 点赞,关注,收藏,这样就能让更多的人看到。
如果本文有不足或者不正之处,欢迎指正批评,感激不尽!
如果有疑问欢迎留言,绝对第一时间回复!!!
如果有幸帮到你,请帮我点个【赞】,给个【关注】!如果能顺带【评论】给个鼓励,我将不胜感激。
如果想要更多的资源,欢迎关注 @我是管小亮,文字强迫症MAX~
回复【福利】即可获取我为你准备的大礼,包括C++,编程四大件,NLP,深度学习等等的资料。
想看更多文(段)章(子),欢迎关注微信公众号「程序员管小亮」~
学习AI的同学可以看一下这个课程!
参考文章
- 首发:适合初学者入门人工智能的路线及资料下载
- 完备的 AI 学习路线,最详细的中英文资源整理
- TensorFlow-From-Zero-To-One
- PyTorch-From-Zero-To-One
- 大学四年自学走来,这些私藏的实用工具/学习网站我贡献出来了
- 【记录】一个深度学习算法工程师的成长之路(思考和方法以及计划)
- 大话卷积神经网络CNN(干货满满)
以上是关于吐血整理深度学习入门路线及导航教学视频+大神博客+书籍整理+资源页(2019年已经最后一个月了,你还不学深度学习吗???)的主要内容,如果未能解决你的问题,请参考以下文章
python入门python数据分析(numpymatplotlibsklearn等)tensflow爬虫机器学习深度学习自然语言处理数据挖掘机器学习项目实战python全栈PH