深度学习资料汇总

Posted 2020-10-15

和一位学长交谈之后，认识到深度学习是一个快速发展的领域，仅仅靠着几本书是远远不行的，应该关注前沿。但新入门的小伙伴往往根本不知道怎么上手，结合学长的推荐和我自己的经验，在这里将一些好的学习资料推荐给大家。这里我重点关注视觉方面的深度学习。

机器学习

作为深度学习的基础，机器学习是必须掌握的。这方面我认为比较好的书籍是李航老师的《统计学习方法》，周志华老师的《机器学习》。《统计学习方法》偏重于数学，会给出定理的证明。《机器学习》介绍全面，涵盖的方法远远多于《统计学习方法》，举例也很形象，但是有些方法只是泛泛而谈，需要深入的话要看作者给出的文章。

神经网络

之前的两本书对神经网络谈的都比较浅，但作为深度学习的基础，还是必须好好掌握的。这里推荐一个网站UFLDL教程，这里面对神经网络的讲解还是挺不错的。推荐大家学习，最好能编码实现以下。

深度学习

做完了以上的准备工作之后，我们才有基础进入深度学习领域。这里推荐大家学习Bengio的《深度学习》。我自己也还在看，就不做评价了。这里有一网站推荐给大家，ConvNetJS MNIST demo。这是一个教学网页，实例展示了手写数字识别的深度学习网络每一层都是在做什么。可以加深你的理解。

如果以上都学习完成，只能说我们明白了什么是深度学习，但距离实战还是有一段距离的。必须结合实际的应用，亲自去锻炼。查找论文，编写代码是必须的。这里主要是针对视觉方向的，其他方向可以自己寻找相关论文。
首先推荐三篇论文

Rich feature hierarchies for accurate object detection and semantic segmentation
Fast R-CNN
Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks

这三篇都是介绍RCNN的，之外推荐大家也了解一下SSD，YOLO，MSCNN，Mask RCNN。如果论文下载有困难，推荐一个下载网页arXiv.org e-Print archive，这里有许多关于深度学习的论文，可以免费下载。
最后推荐一些期刊会议，方便大家跟踪前沿：

PAMI...IEEE模式分析与机器智能汇刊
T PAMI...IEEE Transactions on Pattern Analysis and Machine Intelligence
IJCV...International Journal of Computer Vision(计算机视觉国际期刊)
CVPR...IEEE Conference on Computer Vision and Pattern Recognition(IEEE国际计算机视觉与模式识别会议)
ICCV... IEEE International Conference on Computer Vision(国际计算机视觉大会)
ECCV...European Conference on Computer Vision(欧洲计算机视觉国际会议)
NIPS...神经信息处理系统大会(Conference and Workshop on Neural Information Processing Systems)
ICLR...International Conference on Learning Representations
ICML... International Conference on Machine Learning(国际机器学习大会)
ICRA...IEEE International Conference on Robotics and Automation ( IEEE机器人和自动化国际会议,简称ICRA )
IROS...IEEE\RSJ International Conference on Intelligent Robots and Systems，即IEEE\RSJ智能机器人与系统国际会议
siggraph...计算机图像学
Siggraph Asia