深度学习最全资料合集

Posted 2022-07-15 GoAI

✨写在前面：强烈推荐给大家一个优秀的人工智能学习网站，内容包括人工智能基础、机器学习、深度学习神经网络等，详细介绍各部分概念及实战教程，通俗易懂，非常适合人工智能领域初学者及研究者学习。➡️点击跳转到网站。

注：本资料集合包含机器学习、深度学习等各系列教程，深度学习方向主要计算机视觉资料为主，内容参考Github及网络资源，后续会补充，仅供个人学习，侵权联系删除！

1️⃣ 深度学习知识点全面总结: link

2️⃣ 机器学习知识点全面总结: link

3️⃣ Pytorch学习笔记总结:link

---

机器学习算法相关

0. 算法竞赛笔记 github

1. 人工智能竞赛Top解决方案 github

2. 算法岗工作总结 github

3. 人工智能实战面试学习路线图 Ai-Learn

4. 手写机器学习笔记 github

5. 机器学习算法公式推导以及numpy实现 github

6. 发布研究论文代码小技巧 github

7. 人工智能相关术语 link

8. 算法模型调优指南 link

9. 周志华《机器学习》手推笔记 github

10. 机器学习算法 基于西瓜书以及《统计学习方法》，当然包括DL github

11. 计算机视觉知识点总结 link

深度学习基础

基础教程

0. 深度度量学习中的损失函数介绍 link

1. 深度学习 论文解读 CV_PaperDaily github

2. 论文代码合集 github

3. Image-Level 弱监督图像语义分割汇总简析 link

4. 模型加速概述与模型裁剪算法技术解析 link

5. 卷积神经网络的感受野 link

6. 百面机器学习之模型评估 link

7. 周志华：「深」为什么重要，以及还有什么深的网络 link

8. 深度学习入门之激活层及其选择的建议 link

9. combo:「Python机器学习模型合并工具库」 github

10. STN-空间变换网络 link

11. Learning Data Augmentation Strategies 数据增强、link github

12. numpy-ml github

13. 深度学习算法地图 link

14. conv_arithmetic 卷积的动态描述 github

15. netron 查看网络工具 github

16. 开源机器人学学习指南 github

17. Model Zoo link

18. 神经网络模型图示 github

19. AI算法工程师手册 link

20. 深度学习如何优化神经网络结构|架构 link

21. pytorch图卷积库 github

22. AI实战-practicalAI 中文版 github

23. TensorFlow 2.0 Tutorials github

24. PaddlePaddle V2教程 github

25. 深度学习课程(第四梯)所设计的课程实作 github

26. CAM和Grad-CAM 模型解释 link github

27. TensorFlow 内核剖析 github

28. 手机端高性能卷积神经网络推理引擎概览 github

29. 为什么MobileNet及其变体如此之快 link

30. 深度学习无限问 github

31. 面向机器学习的特征工程 github

32. 轻量级卷积神经网络的设计技巧 link

33. AI模型序列化总结 github

34. AiLearning 传统机器学习的讲解、分析和代码github

35. CNN真的需要下采样（上采样）吗? link

36. 构建深度神经网络，我有20条「不成熟」的小建议 link

37. feature map 相加和拼接的不同 link

38. 别再喊我调参侠！深度学习“科学炼丹”手册了解一下 link

39. 深度学习推理时融合BN，轻松获得约5%的提速 link

40. 你有哪些deep learning（rnn、cnn）调参的经验？ link

41. 类别不平衡学习：论文/代码/框架/库 github

42. 用于机器学习，深度学习和数学的交互式工具 github

43. 深度学习模型在各大公司实际生产环境的应用讲解文章 github

44. 深入探讨深度学习模型性能与神经网络宽度之间关系 link

45. 卷积正则化方法之DropBlock link github

46. 卷积神经网络优化算法

47. 浮点峰值那些事 link

48. 深度学习中学习率和batchsize对模型准确率的影响 link

49. 深度学习CV领域最瞩目的成果 link

50. 怎样写一个深度学习框架 link

51. 目标检测之Neck选择 link

52. 根据标签分布来选择损失函数 link

53. 深度学习多目标优化的多个loss应该如何权衡 link

54. 归一化方法总结 link

综述类文章

0. 这两年的目标检测的综述 link
1. NAS论文小结 link
2. 深度学习500问 github
3. 常见的模型算法评估指标 link
4. MobileFace：移动端人脸算法全栈项目 link github
5. GAN万字长文综述 link
6. 神经网络压缩综述 link
7. 细粒度图像分析综述 link
8. 人脸识别损失函数综述 link
9. AI技术三大应用领域：智能医疗、自动驾驶、智慧营销产业发展现状分析 link
10. 图像内容鉴黄算法综述 link
11. CDCS 中国数据竞赛优胜解集锦 github
12. Awesome-Mobile-Machine-Learning github
13. OCR papernote github
14. 图像分割综述 link
15. 人脸识别手册 github
16. 各类算法综述 github
17. 深度学习AI产品全栈 github 点评
18. 千变万化的卷积操作 link
19. 目标跟踪之Siamese网络 link
20. 特征工程小锦囊 github

深度学习模型介绍

• 项目地址：https://github.com/SnailTyan/deep-learning-papers-translation

图像分类 Image Classification

经典网络模型

• AlexNet
  ImageNet Classification with Deep Convolutional Neural Networks
  中文版
  中英文对照

• VGG
  Very Deep Convolutional Networks for Large-Scale Image Recognition
  中文版
  中英文对照

• ResNet
  Deep Residual Learning for Image Recognition
  中文版
  中英文对照

• GoogLeNet
  Going Deeper With Convolutions
  中文版
  中英文对照

• BN-GoogLeNet
  Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift
  中文版
  中英文对照

• Inception-v3
  Rethinking the Inception Architecture for Computer Vision
  中文版
  中英文对照

• SENet
  Squeeze-and-Excitation Networks
  中文版
  中英文对照

轻量网络

0. PyTorch_BlazeFace github
1. MixNet-Pytorch github
2. MobileNetV3 pytorch 2019 github linklinkgithub
3. ThunderNet
4. mobilenet
5. ShuffleNet 官方开源github
6. nas
7. PeleeNet
8. 为什么MobileNet及其变体如此之快 github
9. dabnn 二值网络 github
10. 神经网络量化简介 github

蒸馏 剪枝 量化

0. Tensorflow模型量化(Quantization)原理及其实现方法 link
1. 基于Pytorch的卷积神经网络剪枝 link
2. 用FPGA加速卷积神经网络CNN运算 github
3. 模型压缩 link
4. 神经网络量化简介 link
5. 模型转换、模型压缩工具汇总 link
6. 模型压缩总览 link
7. PyTorch实现的深度模型压缩 基于pytorch实现模型压缩（1、量化：8/4/2 bits(dorefa)、三值/二值(twn/bnn/xnor-net)；2、剪枝：正常、规整、针对分组卷积结构的通道剪枝；3、分组卷积结构；4、针对特征A二值的BN融合） github
8. AIMET是一个为经过训练的神经网络模型提供高级量化和压缩技术的库 github
9. EasyQuant 后量化算法 link github
10. Pytorch实现卷积神经网络训练量 link
11. NCNN量化详解（二） link
12. 深入了解NNIE量化技术 link
13. 基于tensorRT方案的INT8量化实现原理 link
14. Knowledge Distillation知识蒸馏简单实现 link
15. nni
16. 神经网络量化入门–量化感知训练 github
17. EagleEye：一种用模型剪枝的快速衡量子网络性能的方法 link

CV方向

图像处理

0. 颜色迁移 知乎 csdn C++ 版 csdn系列

1. facechanging 变脸 github

2. AI美颜系列 CSDN

3. 图像处理算法 博客园

4. Official PyTorch implementation of U-GAT-IT github

5. 图像的模糊检测方法 link

6. SpixelFCN: 完全卷积网络的超像素分割 github

7. 图像保边滤波算法集锦系列 github

8. 只(挚)爱图像处理 link

9. Photoshop 算法原理 link

10. 图像处理初学者设计的 100 个问题 github

11. 用Canvas给人脸化妆(画妆) github

12. CainCamera是一个集美颜相机、图片编辑、短视频编辑等功能的综合性开源APP github

物体检测Object Detection

• YOLO
  You Only Look Once: Unified, Real-Time Object Detection
  中文版
  中英文对照

• SSD
  SSD: Single Shot MultiBox Detector
  中文版
  中英文对照

• YOLO9000
  YOLO9000: Better, Faster, Stronger
  中文版
  中英文对照

• Deformable-ConvNets
  Deformable Convolutional Networks
  中文版
  中英文对照

• Faster R-CNN
  Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks
  中文版
  中英文对照

• R-FCN
  R-FCN: Object Detection via Region-based Fully Convolutional Networks
  中文版
  中英文对照

• FPN
  Feature Pyramid Networks for Object Detection
  中文版
  中英文对照

OCR

• CRNN
  An End-to-End Trainable Neural Network for Image-based Sequence Recognition and Its Application to Scene Text Recognition
  中文版
  中英文对照

• CTPN
  Detecting Text in Natural Image with Connectionist Text Proposal Network
  中文版
  中英文对照

Mobile

• MobileNetV2
  MobileNetV2: Inverted Residuals and Linear Bottlenecks
  中文版
  中英文对照

Image Segmentation

• U-Net
  U-Net: Convolutional Networks for Biomedical Image Segmentation
  中文版
  中英文对照

GAN

• SRGAN
  Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network
  中文版
  中英文对照

• ESRGAN
  ESRGAN: Enhanced Super-Resolution Generative Adversarial Networks
  中文版
  中英文对照

文本分类(TC, text-classification)

• FastText: Bag of Tricks for Efficient Text Classification
• TextCNN： Convolutional Neural Networks for Sentence Classification
• charCNN-kim： Character-Aware Neural Language Models
• charCNN-zhang: Character-level Convolutional Networks for Text Classification
• TextRNN： Recurrent Neural Network for Text Classification with Multi-Task Learning
• RCNN： Recurrent Convolutional Neural Networks for Text Classification
• DCNN: A Convolutional Neural Network for Modelling Sentences
• DPCNN: Deep Pyramid Convolutional Neural Networks for Text Categorization
• VDCNN: Very Deep Convolutional Networks
• CRNN: A C-LSTM Neural Network for Text Classification
• DeepMoji: Using millions of emojio ccurrences to learn any-domain represent ations for detecting sentiment, emotion and sarcasm
• SelfAttention: Attention Is All You Need
• HAN: Hierarchical Attention Networks for Document Classification
• CapsuleNet: Dynamic Routing Between Capsules
• Transformer(encode or decode): Attention Is All You Need
• Bert: BERT: Pre-trainingofDeepBidirectionalTransformersfor LanguageUnderstanding
• Xlnet: XLNet: Generalized Autoregressive Pretraining for Language Understanding
• Albert: ALBERT: A LITE BERT FOR SELF-SUPERVISED LEARNING OF LANGUAGE REPRESENTATIONS
• RoBERTa: RoBERTa: A Robustly Optimized BERT Pretraining Approach
• ELECTRA: ELECTRA: Pre-training Text Encoders as Discriminators Rather Than Generators
• TextGCN: [Graph Convolutional Networks for Text Classification](

度量学习

参考百度

0. arcmargin loss
1. triplet loss
2. quadruplet loss
3. eml loss
4. npairs loss
5. 度量学习中关于排序损失函数的综述 link

数据增强

0. 【SSD算法】史上最全代码解析-数据篇 对比度等调整 pytorch link

Auto ML NAS

0. AutoML pdf linkgithub
1. FairNAS 2019 github
2. 四小时搜索NN结构，厦大提出快速NAS检索方法 2019 link github
3. NAS-Projects github
4. NAS发展史和code link
5. ZazuML：面向实例检测的开源AutoML项目 github
6. NeurIPS AutoDL Challenge 冠军方案 githu
7. CodeSnippetSearch：Keras实现的神经网络代码搜索 github
8. Vega是诺亚方舟实验室自研的AutoML算法工具 github
9. 自动搜索损失函数 link
10. NAS综述

激活函数

0. Mish: 一个新的activation function link github

分类

0. 21秒看尽ImageNet屠榜模型，60+模型架构同台献艺 link link

1. 让CNN有了平移不变性 link

2. lottery-ticket-hypothesis github

3. pytorch_image_classification github

4. deeplearning-modelsgithub

5. CNN模型合集 link

6. EfficientNets-PyTorch 2019 github

7. ML_GCN PyTorch implementation of Multi-Label Image Recognition with Graph Convolutional Networks, CVPR 2019 github

8. Inception

9. Network in Network

10. pytorch_highway_networks github

11. 推崇的CNN架构 link

12. OctaveConv_pytorch 2019 github

13. Res2Net

14. 分类实现合集 pytorch github

15. Auto-Keras link

16. 图卷积网络Numpy实现 link

17. PeleeNet-基于手机系统的实时网络 link

18. SKNet 2019 link

19. TResNet: High Performance GPU-Dedicated Architecture github

20. ResNeSt 李沐团队提出最强ResNet改进版，多项任务达到SOTA github

21. SCNet - PyTorch官方实现CVPR 2020论文“使用自校准卷积改进卷积网络” github

22. SimCLR 对比学习得到一个好的视觉预训练模型 link

23. SimCLR框架的理解和代码实现以及代码讲解 link

24. 使用元学习来进行少样本图像分类 link

25. RepVGG 2021 link

26. xmu-xiaoma666/MLP-Mixer-pytorch: Unofficial implementation of MLP-Mixer: An all-MLP Architecture for Vision (github.com)

目标检测

0. 详解目标检测中边界框的回归策略 link
1. 目标检测中的特征冲突与不对齐问题 link
2. 小目标检测学习汇总 link
3. groupsoftmax-simpledet
4. 在物体检测中搞定小目标 link
5. vedadet检测框架
6. 在目标检测中如何解决小目标的问题？ link

视频目标检测

1. 基于视频的目标检测算法研究github

基于坐标点做目标检测

0. Centernet相关—尤其有关heatmap相关解释 link
1. FreeAnchor: Learning to Match Anchors for Visual Object Detection (NeurIPS 2019) github
2. 用于实时物体检测并且训练时间友好的网络 - TTFNet github
3. CenterNet——Objects as Points论文解读 2019 link
4. ExtremeNet pytorch 2019 link github
5. morph-net 2019 keras github
6. CenterNet 2019 pytorch github
7. FCOS 2019 github FCOS_GluonCVgithub
8. CenterNet 2019 github
9. PaperReadingGroup-10-CenterNet之理解 link
10. FoveaBox 2019 link
11. RepPoints V2 github link
12. AdelaiDet github link
13. pytorch_simple_CenterNet_45
14. When Anchor-free Beyond the Object Detection
15. PPDet：减少Anchor-free目标检测中的标签噪声，小目标检测提升明显 2020 github
16. 轻量级Anchor-Free目标检测模型NanoDet github
17. centerX github
18. NanoDet-PyTorch github
19. LFD-A-Light-and-Fast-Detector github
20. Centernet link

基于分割

0. DenseBox pytorch github link
1. 写给小白的YOLO介绍 link
2. OneNet：一阶段的端到端物体检测器，无需NMS link
3. Object Detection Made Simpler by Eliminating Heuristic NMS github

基于候选框做目标检测

0. 目标检测新突破！来了解Res2Net深度多尺度目标检测架构 link github
1. 目标检测中Anchor的本质分析 github
2. 利用YOLOv3结合行人重识别模型，实现行人的检测识别，查找特定行人 github
3. CBNet:一种用于目标检测的复合骨干网络体系结构 2019 github
4. 单级目标检测：YOLO与SSD，我选SSD！！！ link
5. 【SSD算法】史上最全代码解析-核心篇 github
6. MXNet的一个开源项目gluoncv里的yolov3代码，写了一份中文注解 github
7. faster-rcnn pytorch github
8. 十分钟训好SSD416进行钢筋检测 link github
9. Why anchor link
10. Double-Head RCNN 通过增加多个head提升准确率github
11. 对YOLOv3做模型剪枝 pytorch 2019 github
12. simpledet NAS-FPN 2019 mxnetgithub
13. SSD-PyTorch源码解析 link github
14. PoolNet pytorch 2019 github
15. SSD pytorch github link
16. 2018云从人头技术 冠军方案分享 github
17. 目标检测进化史 link
18. ThunderNet: 轻量级实时检测网络
19. mmdetection github
20. Rapid satellite imagery object detection 2018 github
21. Yolo系列检测器的pytorch实现 github
22. awesome-object-detection github
23. deep_learning_object_detection github
24. RFCN_CoupleNet pytorch github
25. Yolo-v2 pytorch github
26. RFBNet pytorch github
27. CFENet pytorch github
28. BiSeNet pytorch github
29. kaggle 大白鲸目标检测 github
30. R-FCN+ResNet-50用自己的数据集训练模型 link
    
31. trident net + refinedet 目标检测 github
32. 基于SSD框架在建筑工地上检测安全帽的佩戴并识别安全帽的相应颜色 link
33. 基于 Mask R-CNN 的街景广告检测与模糊 tensorflow github
34. yolov3通道和图层修剪 github
35. YOLOv3+ASFF(自适应空间特征融合)组合，性能优于CornerNet和CenterNet等 github
36. 使用通道修剪的Stronger-Yolo的Pytorch实现 github
37. Gaussian YOLOv3的PyTorch实现 github
38. PyTorch实现的EfficientDet(可扩展且高效的对象检测) github
39. Kaggle RSNA肺炎检测挑战赛中第一名解决方案的代码 github
40. Yolo-v3 and Yolo-v2 for Windows and Linux github link
41. 目标检测算法之YOLO系列算法的Anchor聚类代码实战 link github
42. 天池大赛项目：天池新品实验室 - 淘宝直播商品识别 github
43. 只用一页jupyter notebook完成Faster RCNN github
44. Pytorch版本中的Faster RCNN模型，已在ResGen 101的Visual Genome上进行了预训练 github
45. Yolo -v4 github YOLOv4的最小PyTorch实现 github 讲解
46. Faster-Rcnn：Two-Stage目标检测模型在Pytorch当中的实现 github
47. Scale-equalizing Pyramid Convolution for object detection github link
48. End-to-End Object Detection with Transformers 2020 github
49. yolov5 github
50. PP-YOLO link github
51. YOLOv3使用笔记——Kmeans聚类计算anchor boxes link
52. YOLO v4训练自己的数据集 link
53. 深入浅出Yolo系列之Yolov3&Yolov4&Yolov5核心基础知识完整讲解 link
54. 深入浅出Yolo系列之Yolov5核心基础知识完整讲解 link
55. You Only Look Twice: Rapid Multi-Scale Object Detection In Satellite Imagery 卫星图片多尺寸物体检测 link github
56. 目标检测和感受野的总结和想法 link
57. 目标检测算法anchor聚类实现(coco+voc)
58. 小目标检测学习 link
59. BBAVectors：一种Anchor Free的旋转物体检测方法 link
60. Repulsion Loss 遮挡场景下的目标检测 link
61. mmdetection-mini github
62. 1.8M超轻量目标检测模型NanoDet link
63. 旋转目标新网络 link github
64. 令人“细思极恐”的Faster-R-CNN link github
65. 基于密度图的航空物体检测 link

语义分割

交互式语义分割

0. Interactive_Segmentation_Models github
1. DeepGrabCut-PyTorch github
2. Deep Extreme Cut tensorflow github pytorch github
3. U-Net-Interactive-Object-Selection github
4. Interactive Image Segmentation with Latent Diversity github
5. 深度学习在交互式图像分割中的应用 link
6. Curve-GCN:图卷积网络用于活动轮廓演变 github

像素分类分割

0. ICNet 搞笑分割模型 link
1. 移动设备高性能实时网络/语义分割论文资源列表 github
2. FSS-1000, A 1000-class Dataset For Few-shot Segmentation github
3. 12篇文章带你逛遍主流分割网络 link
4. Fast-SCNN的PyTorch实现：快速语义分割网络 github
5. Code awesome-semantic-segmentation github
6. 常用的语义分割架构结构综述以及代码复现 github
7. 实时语义分割模型集合 [github](https://github.com/xiaoyufenfei/Real-Time-Semantic-Segmentation）
8. 无监督和超像素语义分割 linkgithub github
9. ReDO 通过对抗网络 2019 github
10. 12篇文章带你逛遍主流分割网络 link
11. DeepLab 语义分割模型 v1、v2、v3、v3+ 概要（附 Pytorch 实现） 机器学习和深度学习资料合集

    吐血整理 | 史上最全推荐系统资料合集

    最全的中文 Python 资料合集来了

    深度学习系列资料总结

    深度学习系列资料总结

    深度学习系列资料总结