GitHub | 机器学习&深度学习&nlp&cv从入门到深入全套资源分享

Posted 2021-03-31 深度学习冲鸭

关注“深度学习冲鸭”，一起学习一起冲鸭！

设为星标，第一时间获取更多干货

作者：Mikoto10032（GitHub）

来源：GitHub

链接：https://github.com/Mikoto10032/DeepLearning

编辑：王萌(深度学习冲鸭公众号)

本文仅作学术分享，若侵权，请联 系后台删文处理

！！文末附每日小知识点哦！！

后台回复西瓜手推获得西瓜书手推笔记

    深度学习、机器学习从入门到深入，全套资源分享。涉及深度学习、机器学习数学、算法基础理论、nlp、cv实战和工程开发相关最佳资源。深度学习常用模型相关教程，深度学习模型优化、调参相关技巧；深度学习常用的框架，公开数据集、国际顶级会议等相关资源。

一. 入门资料

完备的 AI 学习路线，最详细的中英文资源整理 ⭐️

AiLearning: 机器学习 - MachineLearning - ML、深度学习 - DeepLearning - DL、自然语言处理 NLP

  数学基础

• 矩阵微积分

• 机器学习的数学基础

• CS229线性代数与概率论基础

  机器学习基础

快速入门

• 机器学习算法地图

• 机器学习 吴恩达 Coursera个人笔记  && 视频（含官方笔记）  

• CS229 课程讲义中文翻译 && 机器学习 吴恩达 cs229个人笔记 && 官网（笔记）  && 视频（中文字幕）  

• 百页机器学习

深入理解

• 《统计学习方法》李航 && 《统计学习方法》各章节笔记 && 《统计学习方法》各章节笔记 && 推荐答案：statistical-learning-method-solutions-manual 《统计学习方法》各章节笔记 && 《统计学习方法》各章节代码实现与课后习题参考解答

• 《模式识别与机器学习》 Christopher Bishop

• 《机器学习》 周志华 && 南瓜书：pumpkin-book

• 《机器学习实战》 PelerHarrington

• 机器学习与深度学习书单

  深度学习基础

快速入门

• 深度学习思维导图 && 深度学习算法地图

• 《斯坦福大学深度学习基础教程》 Andrew Ng（吴恩达）

• 深度学习 吴恩达 个人笔记  && 视频

• MIT深度学习基础-2019视频课程

• 台湾大学（NTU）李宏毅教授课程 && [leeml-notes

• 图解深度学习_Grokking-Deep-Learning

• 《神经网络与深度学习》 Michael Nielsen    

• CS321-Hinton

• CS230: Deep Learning

• CS294-112

计算机视觉

• CS231 李飞飞 已授权个人翻译笔记 && 视频

• 计算机视觉研究方向

自然语言处理

• CS224n: Natural Language Processing with Deep Learning

• NLP上手教程

• NLP入门推荐书目（2019版）

深度强化学习

• CS234: Reinforcement Learning

深入理解

• 《深度学习》 Yoshua Bengio.Ian GoodFellow⭐  

• 《自然语言处理》Jacob Eisenstein

• 《强化学习》 && 第二版

• hangdong的深度学习博客,论文推荐

• Practical Deep Learning for Coders, v3

• 《Tensorflow实战Google深度学习框架》 郑泽宇 顾思宇

一些书单

• 2019年最新-深度学习、生成对抗、Pytorch优秀教材推荐

  工程能力

• 如何系统地学习算法？&& LeetCode && leetcode题解 && 《算法导论》中算法的C++实现

• 机器学习算法实战

• 深度学习框架

• 如何成为一名算法工程师 && 从小白到入门算法，我的经验分享给你～ && 我的研究生这三年 ⭐

• 编程面试的题目分类

• 《AI算法工程师手册》

• 如何准备算法工程师面试，斩获一线互联网公司机器学习岗offer？

• 【完结】深度学习CV算法工程师从入门到初级面试有多远，大概是25篇文章的距离

• 计算机相关技术面试必备 && 面试算法笔记-中文

• 算法工程师面试

• 深度学习面试题目

• 深度学习500问

• AI算法岗求职攻略

• Kaggle实战

• 常用算法：

• Feature Engineering：continue variable && categorical variable

• Classic machine learning algorithm：LR, KNN, SVM, Random Forest, GBDT(XGBoost&&LightGBM), Factorization Machine, Field-aware Factorization Machine, Neural Network

• Cross validation, model selection：grid search, random search, hyper-opt

• Ensemble learning

• Kaggle 项目实战（教程） = 文档 + 代码 + 视频

• Kaggle入门系列：（一）机器学习环境搭建 && Kaggle入门系列：（二）Kaggle简介 && Kaggle入门系列（三）Titanic初试身手

• 从 0 到 1 走进 Kaggle

• Kaggle 入门指南

• 一个框架解决几乎所有机器学习问题 && Approaching (Almost) Any Machine Learning Problem | Abhishek Thakur

• 分分钟带你杀入Kaggle Top 1%

• 如何达到Kaggle竞赛top 2%？这里有一篇特征探索经验帖

• 如何在 Kaggle 首战中进入前 10%？

• Kaggle 首战 Top 2%, APTOS 2019 复盘总结 + 机器学习竞赛通用流程归纳

• 大数据&机器学习相关竞赛推荐

二. 神经网络模型概览

• 1. 一文看懂25个神经网络模型

• 2. DNN概述论文：详解前馈、卷积和循环神经网络技术

• 3. colah's blog

• 4. Model Zoom

• 5. DNN概述

• GitHub上的机器学习/深度学习综述项目合集

• AlphaTree-graphic-deep-neural-network

  CNN

发展史

• 94页论文综述卷积神经网络：从基础技术到研究前景

图像分类

• 从LeNet-5到DenseNet

• 深度学习笔记（十一）网络 Inception, Xception, MobileNet, ShuffeNet, ResNeXt, SqueezeNet, EfficientNet, MixConv

• CNN网络结构的发展

• Awesome - Image Classification：论文&&代码大全

• pytorch-image-models

目标检测

• 深度学习之目标检测的前世今生（Mask R-CNN）

• 深度学习目标检测模型全面综述：Faster R-CNN、R-FCN和SSD

• 从RCNN到SSD，这应该是最全的一份目标检测算法盘点

• 目标检测算法综述三部曲

• 基于深度学习的目标检测算法综述（一）

• 基于深度学习的目标检测算法综述（二）

• 基于深度学习的目标检测算法综述（三）

• From RCNN to YOLOv3：上，下

• 后 R-CNN时代， Faster R-CNN、SSD、YOLO 各类变体统治下的目标检测综述：Faster R-CNN系列胜了吗？

• 目标检测进化史

• CVPR2019目标检测方法进展综述

• 一文看尽21篇目标检测最新论文（腾讯/Google/商汤/旷视/清华/浙大/CMU/华科/中科院等

• 我这两年的目标检测

• Anchor-Free目标检测算法: 第一篇：arxiv2015_baidu_DenseBox， 如何评价最新的anchor-free目标检测模型FoveaBox？, FCOS: 最新的one-stage逐像素目标检测算法 && 最新的Anchor-Free目标检测模型FCOS，现已开源！&& 中科院牛津华为诺亚提出CenterNet，one-stage detector可达47AP，已开源！&& AnchorFreeDetection

• Anchor free深度学习的目标检测方法

• 聊聊Anchor的"前世今生"（上）&&聊聊Anchor的"前世今生"（下）

• 目标检测算法综述之FPN优化篇 && 一文看尽物体检测中的各种FPN

• awesome-object-detection：论文&&代码

• deep_learning_object_detection

• ObjectDetectionImbalance

图像分割（语义分割、实力分割、全景分割）

• 图像语义分割(Semantic segmentation) Survey

• 干货 | 一文概览主要语义分割网络

• 语义分割 发展综述

• 9102年了，语义分割的入坑指南和最新进展都是什么样的

• 实例分割最新最全面综述：从Mask R-CNN到BlendMask

• 语义分割综述：深度学习背景下的语义分割的发展状况【推荐】

• Awesome Semantic Segmentation：论文&&代码

• 一篇看完就懂的最新语义分割综述

• 基于深度学习的语义分割综述

轻量化卷积神经网络

• 纵览轻量化卷积神经网络：SqueezeNet、MobileNet、ShuffleNet、Xception

人脸相关

• 如何走近深度学习人脸识别？你需要这篇超长综述 | 附开源代码

• 人脸检测和识别算法综述      

• 人脸检测算法综述          

• 人脸检测背景介绍和发展现状

• 人脸识别算法演化史

• CascadeCNN  

• MTCNN

• awesome-Face_Recognition

• 异质人脸识别研究综述

• 老板来了：人脸识别+手机推送，老板来了你立刻知道。&& 手把手教你用Python实现人脸识别 && 人脸识别项目，网络模型，损失函数，数据集相关总结

• 基于深度学习的人脸识别技术综述 && 如何走近深度学习人脸识别？你需要这篇超长综述 && 人脸识别损失函数综述（附开源实现） && Face Recognition Loss on Mnist with Pytorch && 人脸识别的LOSS（上） && 人脸识别的LOSS（下）

• 人脸关键点检测

• 【每周CV论文推荐】 初学深度学习人脸关键点检测必读文章

• 从传统方法到深度学习，人脸关键点检测方法综述

• 人脸关键点检测综述

• 人脸专集4 | 遮挡、光照等因素的人脸关键点检测

• 【Face key point detection】人脸关键点检测实现

• OpenCV实战：人脸关键点检测（FaceMark）

• CenterFace+TensorRT部署人脸和关键点检测400fps

图像超分辨率

• 深度学习图像超分辨率综述

• 从SRCNN到EDSR，总结深度学习端到端超分辨率方法发展历程

行人重识别

• 【CVPR2019正式公布】行人重识别论文

• 【CVPR2019正式公布】行人重识别论文，2019 行人再识别年度进展回顾

图像着色

• Awesome-Image-Colorization
  

边检测

• Awesome-Edge-Detection-Papers

OCE&&文本检测

• 2019CVPR文本检测综述

• OCR文字处理

• 自然场景文本检测识别技术综述

点云

• awesome-point-cloud-analysis

细粒度图像分类

• 超全深度学习细粒度图像分析：项目、综述、教程一网打尽

图像检索

• 图像检索的十年上、下

人群计数

• 人群计数, 1, 2, 3
  

  教程

前馈神经网络

• 从基本原理到梯度下降，小白都能看懂的神经网络教程

激活函数

• 激活函数一览 && 深度学习中几种常见的激活函数理解与总结

反向传播算法

• 反向传播算法（过程及公式推导）

• 通俗理解神经网络BP传播算法

优化问题

• 神经网络训练中的梯度消失与梯度爆炸

• 梯度消失和梯度爆炸问题详解

• 详解深度学习中的梯度消失、爆炸原因及其解决方法 && 神经网络梯度消失和梯度爆炸及解决办法

卷积层

• A Comprehensive Introduction to Different Types of Convolutions in Deep Learning && 翻译：上、下

• 卷积有多少种？一文读懂深度学习中的各种卷积

• 各种卷积

• Convolution Network及其变种（反卷积、扩展卷积、因果卷积、图卷积）

• 深度学习基础--卷积类型

• 变形卷积核、可分离卷积

• 对深度可分离卷积、分组卷积、扩张卷积、转置卷积（反卷积）的理解

• 反卷积

• Dilated/Atrous conv 空洞卷积/多孔卷积

• 卷积层输出大小尺寸计算及 “SAME” 和 “VALID” && 卷积的三种模式full, same, valid以及padding的same, valid

• 正常卷积与空洞卷积输出特征图与感受野大小的计算

• 【Tensorflow】tf.nn.depthwise_conv2d如何实现深度卷积?

• 【Tensorflow】tf.nn.atrous_conv2d如何实现空洞卷积？

• 【Tensorflow】tf.nn.separable_conv2d如何实现深度可分卷积?

• 【TensorFlow】tf.nn.conv2d_transpose是怎样实现反卷积的？

池化层

• 卷积神经网络中的各种池化操作

卷积神经网络

• 卷积神经网络工作原理

• 「七夕的礼物」: 一日搞懂卷积神经网络

• 一文读懂卷积神经网络中的1x1卷积核

• 如何理解神经网络中通过add和concate的方式融合特征？&& 神经网络中对需要concat的特征进行线性变换然后相加是否好于直接concat?

• CNN 模型所需的计算力（flops）和参数（parameters）数量是怎么计算的？&& 深度学习中卷积的参数量和计算量

图像分类网络详解

• 经典CNN模型LeNet解读

• 机器学习进阶笔记之三 | 深入理解Alexnet

• 一文读懂VGG网络

• Inception V1,V2,V3,V4 模型总结

• ResNet解析

• 一文简述ResNet及其多种变体

• CapsNet入门系列

• CapsNet入门系列之一：胶囊网络背后的直觉

• CapsNet入门系列之二：胶囊如何工作

• CapsNet入门系列之三：囊间动态路由算法

• CapsNet入门系列之四：胶囊网络架构

• 深入剖析MobileNet和它的变种（例如：ShuffleNet）为什么会变快？

• CNN模型之ShuffleNet

• ShuffleNet V2和四个网络架构设计准则

• ResNeXt 深入解读与模型实现

• 如何评价Momenta ImageNet 2017夺冠架构SENet?

• CBAM：卷积块注意力模块 && CBAM: Convolutional Block Attention Module

• SKNet——SENet孪生兄弟篇

• GCNet：当Non-local遇见SENet

• 深度学习笔记（十一）网络 Inception, Xception, MobileNet, ShuffeNet, ResNeXt, SqueezeNet, EfficientNet, MixConv

• 如何评价最新的Octave Convolution？

• ResNeSt 之语义分割 && 关于ResNeSt的点滴疑惑 && ResNeSt在刷榜之后被ECCV2020 strong reject

目标检测网络详解

• 目标检测的性能评价指标 && NMS和计算mAP时的置信度阈值和IoU阈值 && 白话mAP && 目标检测模型的评估指标mAP详解(附代码）

• 深度学习中IU、IoU(Intersection over Union)

• Selective Search for Object Detection （译文）

• Region Proposal Network(RPN)

• 边框回归(Bounding Box Regression)详解

• NMS——非极大值抑制 && 非极大值抑制NMS的python实现

• 一文打尽目标检测NMS——精度提升篇 && 一文打尽目标检测NMS——效率提升篇

• 目标检测回归损失函数简介：SmoothL1/IoU/GIoU/DIoU/CIoU Loss

• 将CNN引入目标检测的开山之作：R-CNN

• R-CNN论文详解

• 深度学习（十八）基于R-CNN的物体检测

• Fast R-CNN

• 深度学习（六十四）Faster R-CNN物体检测 && 你真的学会RoI Pooling了吗?

• 目标检测论文阅读：Feature Pyramid Networks for Object Detection

• SSD

• 实例分割--Mask RCNN详解(ROI Align / Loss Function) && 令人拍案称奇的Mask RCNN

• 何恺明大神的「Focal Loss」，如何更好地理解？&& FocalLoss 对样本不平衡的权重调节和减低损失值 && focal_loss 多类别和二分类 Pytorch代码实现 && 多分类focal loss及其tensorflow实现

• 堪比Focal Loss！解决目标检测中样本不平衡的无采样方法

• 目标检测正负样本区分策略和平衡策略总结(一) && 目标检测正负样本区分策略和平衡策略总结(二) && 目标检测正负样本区分策略和平衡策略总结(三）

• YOLO && 目标检测|YOLO原理与实现 && 图解YOLO && 【论文解读】Yolo三部曲解读——Yolov1

• 目标检测|YOLOv2原理与实现(附YOLOv3) && YOLO2 && 【论文解读】Yolo三部曲解读——Yolov2

• <机器爱学习>YOLO v3深入理解 && 【论文解读】Yolo三部曲解读——Yolov3

• YOLOv4

• 目标检测之CornerNet, 1, 2, 3

• 目标检测小tricks--样本不均衡处理

图像分割网络详解

• 超像素、语义分割、实例分割、全景分割 傻傻分不清 && 语义分割、实例分割和全景分割的区别

• 语义分割卷积神经网络快速入门

• 图像语义分割入门+FCN/U-Net网络解析 && 深入理解深度学习分割网络Ｕnet

• Unet神经网络为什么会在医学图像分割表现好？

• 图像语义分割的工作原理和CNN架构变迁

• 语义分割中的Attention和低秩重建

• 打通多个视觉任务的全能Backbone:HRNet

注意力机制

• 深度学习中的注意力模型（2017版）

• Attention Model（mechanism） 的 套路

• 计算机视觉中的注意力机制（推荐）

• More About Attention（推荐）

• NLP中的Attention Mechanism

• Transformer中的Attention

• 综述：图像处理中的注意力机制

Action

• PyTorch官方实现ResNet && pytorch_resnet_cifar10

• 先读懂CapsNet架构然后用TensorFlow实现

• 目标检测-20种模型的原味代码汇总

• TensorFlow Object Detection API 教程

• TensorFlow 对象检测 API 教程1

• TensorFlow 对象检测 API 教程2

• TensorFlow 对象检测 API 教程3

• TensorFlow 对象检测 API 教程 4

• TensorFlow 对象检测 API 教程5

• 在TensorFlow+Keras环境下使用RoI池化一步步实现注意力机制

• mxnet如何查看参数数量 && mxnet查看FLOPS

• Pytorch-UNet

• segmentation_models.pytorch

  GAN

发展史

• 千奇百怪的GAN变体

• 苏剑林博客，讲解得淋漓尽致

• The GAN Landscape：Losses, Architectures, Regularization, and Normalization

• 深度学习新星：GAN的基本原理、应用和走向

• GAN生成图像综述

• 2017年GAN 计算机视觉相关paper汇总

• 必读的10篇关于GAN的论文

教程

• GAN原理学习笔记

• GAN万字长文综述

• 极端图像压缩的对抗生成网络

• 台湾大学李宏毅GAN教程Basic

• Improving

• CycleGAN：图片风格，想换就换 | ICCV 2017论文解读

• Wasserstein GAN

• 用变分推断统一理解生成模型（VAE、GAN、AAE、ALI）

Action

• GAN学习指南：从原理入门到制作生成Demo

• 机器之心GitHub项目：GAN完整理论推导与实现

• 在Keras上实现GAN：构建消除图片模糊的应用

  RNN

发展史

• 从90年代的SRNN开始，纵览循环神经网络27年的研究进展
  

教程

• Awesome-Chinese-NLP

• nlp-pytorch-zh

• 完全图解RNN、RNN变体、Seq2Seq、Attention机制

• 循环神经网络(RNN, Recurrent Neural Networks)介绍

• RNN以及LSTM的介绍和公式梳理

• （译）理解长短期记忆(LSTM) 神经网络

• 一文读懂LSTM和RNN

• 探索LSTM：基本概念到内部结构

• 翻译：深入理解LSTM系列            

• 深入理解 LSTM 网络 (一)

• 深入理解 LSTM 网络 (二)

• LSTM

• 深度学习其五 循环神经网络                      

• 用循环神经网络进行文件无损压缩：斯坦福大学提出DeepZip

• 吴恩达序列建模课程

• Coursera吴恩达《序列模型》课程笔记（1）-- 循环神经网络（RNN）

• Coursera吴恩达《序列模型》课程笔记（2）-- NLP & Word Embeddings

• Coursera吴恩达《序列模型》课程笔记（3）-- Sequence models & Attention mechanism

• word2vec

• 原理

• NLP 秒懂词向量Word2vec的本质

• 一篇通俗易懂的word2vec

• YJango的Word Embedding--介绍

• nlp中的词向量对比：word2vec/glove/fastText/elmo/GPT/bert

• 词嵌入（word2vec）

• 谈谈谷歌word2vec的原理

• Word2Vec中为什么使用负采样？

• 训练词向量

• 练习-word2vec

• word2vec方法的实现和应用

• 自然语言处理入门 word2vec 使用tensorflow自己训练词向量

• 使用tensorflow实现word2vec中文词向量的训练

• 如何用TensorFlow训练词向量

• 聊聊 Transformer

• 基于Transform的机器翻译系统

• 基于word2vec训练词向量(一)

• 基于word2vec训练词向量(二)

• 自然语言处理中的自注意力机制（Self-Attention Mechanism）    

• 自然语言处理中注意力机制综述

• YJango的Word Embedding--介绍

Action

• 推荐：nlp-tutorial

• nlp-tutorial

• tensorflow中RNNcell源码分析以及自定义RNNCell的方法

• TensorFlow中RNN实现的正确打开方式

• TensorFlow RNN 代码

• Tensorflow实现的深度NLP模型集锦

• 用tensorflow LSTM如何预测股票价格

• TensorFlow的多层LSTM实践

• 《安娜卡列尼娜》文本生成——利用TensorFlow构建LSTM模型

  GNN

发展史

• Graph Neural Network（GNN）综述

• 深度学习时代的图模型，清华发文综述图网络

• 清华大学图神经网络综述：模型与应用

• 图神经网络概述第三弹：来自IEEE Fellow的GNN综述

• GNN最全文献资料整理 && Awesome-Graph-Neural-Networks

教程

• 如何理解 Graph Convolutional Network（GCN）

• 图卷积网络(GCN)新手村完全指南

• 何时能懂你的心——图卷积神经网络（GCN）

• 图卷积网络GCN的理解与介绍

• 一文读懂图卷积GCN

• 2020 年 GNN 开卷有益与再谈图卷积

• 【GCN】万字长文带你入门 GCN

• 如何解决图神经网络（GNN）训练中过度平滑的问题？

• 全连接的图卷积网络(GCN)和self-attention这些机制有什么区别联系 && CNN与GCN的区别、联系及融合

Action

• 图卷积网络到底怎么做，这是一份极简的Numpy实现

• DGL

三.深度模型的优化与正则化

• 1. 优化算法纵览

• 2. 从梯度下降到Adam

• 3. 从梯度下降到拟牛顿法：盘点训练神经网络的五大学习算法

• 4. 正则化技术总结

• 史上最全面的正则化技术总结与分析--part1

• 史上最全面的正则化技术总结与分析--part2

• 权重衰减（weight decay）与学习率衰减（learning rate decay） && pytorch必须掌握的的4种学习率衰减策略

• 5. 最优化算法系列（math）

• 6. 神经网络训练中的梯度消失与梯度爆炸        

• 7. 神经网络的优化及训练

• 8. 通俗讲解查全率和查准率 && 全面梳理：准确率,精确率,召回率,查准率,查全率,假阳性,真阳性,PRC,ROC,AUC,F1 && 机器学习之类别不平衡问题 (1) —— 各种评估指标 && 机器学习之类别不平衡问题 (2) —— ROC和PR曲线 && AUC详解与python实现 && 微平均和宏平均 && 机器学习中的性能度量

• 激活函数一览 && 深度学习中几种常见的激活函数理解与总结

• 深度学习笔记(三)：激活函数和损失函数

• 激活函数/损失函数汇总

• 机器学习中常见的损失函数及其应用场景 && PyTorch的十八个损失函数

• 深度度量学习中的损失函数

• 反向传播算法（过程及公式推导）

• 通俗理解神经网络BP传播算法

• 10. Coursera吴恩达《优化深度神经网络》课程笔记（3）-- 超参数调试、Batch正则化和编程框架

• 11. 机器学习各种熵

• 12. 距离和相似性度量

• 13. 机器学习里的黑色艺术：normalization, standardization, regularization && 数据标准化/归一化normalization && 特征工程中的「归一化」有什么作用？

• 14. LSTM系列的梯度问题

• 15. 损失函数整理

• 16. 详解残差块为何有助于解决梯度弥散问题

• 17. FAIR何恺明等人提出组归一化：替代批归一化，不受批量大小限制

• 18. Batch Normalization（BN）:1 ,2 ,3 ,4 , 5, 6, 7

• 19. 详解深度学习中的Normalization，不只是BN && 如何区分并记住常见的几种 Normalization 算法

• 20. BFGS

• 21. 详解深度学习中的梯度消失、爆炸原因及其解决方法 && 神经网络梯度消失和梯度爆炸及解决办法

• 22. Dropout, 1, 2, 3，系列解读Dropout

• 23.谱归一化（Spectral Normalization）的理解，常见向量范数和矩阵范数，谱范数正则（Spectral Norm Regularization）的理解

• 24.L1正则化与L2正则化 && 深入理解L1、L2正则化 && L2正则=Weight Decay？并不是这样 && 都9102年了，别再用Adam + L2 regularization

• 25.为什么选用交叉熵而不是MSE &&为什么使用交叉熵作为损失函数 &&二元分类为什么不能用MSE做为损失函数？

• 浅谈神经网络中的梯度爆炸问题

• 为什么weight decay能够防止过拟合

• 交叉熵代价函数（作用及公式推导） && 交叉熵损失的来源、说明、求导与pytorch实现 && Softmax函数与交叉熵 && 极大似然估计与最小化交叉熵损失或者KL散度为什么等价

• 梯度下降优化算法纵览, 1, 2, 几种优化算法的比较（BGD、SGD、Adam、RMSPROP）

• Softmax：详解softmax函数以及相关求导过程 && softmax的log似然代价函数（公式求导） && 从最优化的角度看待Softmax损失函数 && 【技术综述】一文道尽softmax loss及其变种

• 权重初始化

• 神经网络中的权重初始化一览：从基础到Kaiming

• 深度学习中常见的权重初始化方法

• 深度学习中神经网络的几种权重初始化方法

• 谈谈神经网络权重为什么不能初始化为0

• 神经网络中的偏置（bias）究竟有这么用？

• 深度学习里面的偏置为什么不加正则？

• 为什么说bagging是减少variance，而boosting是减少bias?

四.炼丹术士那些事

调参经验

• 训练的神经网络不工作？一文带你跨过这37个坑

• Deep Learning 之 训练过程中出现NaN问题

• 神经网络训练trick

• 你有哪些deep learning（rnn、cnn）调参的经验？

• GAN的一些小trick

• 深度学习与计算机视觉系列(8)_神经网络训练与注意点

• 神经网络训练loss不下降原因集合 && loss不下降的解决方法

• 深度学习：欠拟合问题的几种解决方案 &&过拟合和欠拟合问题

• 机器学习：如何找到最优学习率及实现

• 神经网络中 warmup 策略为什么有效

• 不平衡数据集处理方法: 其一, 其二, 其三 && Awesome Imbalanced Learning && Class-balanced-loss-pytorch

• 同一个神经网络使用不同激活函数的表达能力是否一致

• 论文笔记之数据增广：mixup

• 避坑指南：数据科学家新手常犯的13个错误

• 凭什么相信CNN的结果?--可视化

• 凭什么相信你，我的CNN模型？（篇一：CAM和Grad-CAM) && pytorch-grad-cam && Grad-CAM-tensorflow && grad-cam.tensorflow && cnn_visualization

• 凭什么相信你，我的CNN模型？（篇二：万金油LIME)

• 论文笔记:Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization

• CV：基于Keras利用训练好的hdf5模型进行目标检测实现输出模型中的表情或性别的gradcam(可视化)

• 大卷积核还是小卷积核? 1, 2

• 模型可解释性差？你考虑了各种不确定性了吗？

• 炼丹笔记系列

• 炼丹笔记一：样本不平衡问题

• 炼丹笔记二：数据清洗

• 炼丹笔记三：数据增强

• 炼丹笔记四：小样本问题

• 炼丹笔记五：数据标注

• 炼丹笔记六 : 调参技巧

• 炼丹笔记七：卷积神经网络模型设计

刷排行榜的小技巧

• Kaggle 六大比赛最全面解析（上）

• Kaggle 六大比赛最全面解析（下）

图像分类

• 炼丹笔记三：数据增强 && 数据增强(Data Augmentation)

• 【技术综述】 深度学习中的数据增强（上） && 【技术综述】深度学习中的数据增强（下）

• 深度学习数据增广技术一览

• 《Bag of Tricks for Image Classification with CNN》&& pdf

• 深度神经网络模型训练中的最新tricks总结【原理与代码汇总】 && 神经网络训练trick

• Kaggle解决方案分享

• 从0上手Kaggle图像分类挑战：冠军解决方案详解

• Kaggle 冰山图像分类大赛近日落幕，看冠军团队方案有何亮点

• 【Kaggle冠军分享】图像识别和分类竞赛，数据增强及优化算法

• 识别座头鲸，Kaggle竞赛第一名解决方案解读

• kaggle 首战拿金牌总结

• 16岁高中生夺冠Kaggle地标检索挑战赛！而且竟然是Kaggle老兵

• 6次Kaggle计算机视觉类比赛赛后感

• Kaggle首战斩获第三-卫星图像识别

目标检测

• ensemble

• deformable

• sync bn

• ms train/test

• 目标检测任务的优化策略tricks

• 目标检测小tricks--样本不均衡处理

• 汇总|目标检测中的数据增强、backbone、head、neck、损失函数

• 目标检测算法中的常见trick

• Bag of Freebies —— 提升目标检测模型性能的免费tricks

• 目标检测比赛中的tricks（已更新更多代码解析）

• Kaggle：肺癌自动诊断系统3D Deep Leaky Noisy-or Network 论文阅读

• 干货|大神教你如何参加kaggle比赛——根据CT扫描图预测肺癌

五.年度总结

• 新年大礼包：机器之心2018高分教程合集

• 收藏、退出一气呵成，2019年机器之心干货教程都在这里了

六.科研相关

  深度学习框架

Python3.x（先修）

• The Python Tutorial

• 廖雪峰Python教程

• 菜鸟教程    

• 给深度学习入门者的Python快速教程 - 基础篇

• Python - 100天从新手到大师

• Python中读取,显示,保存图片的方法 && Python的图像打开保存显示的几种方式

Numpy（先修）

• Quickstart tutorial

• Numpy快速入门(Numpy 1.14 官方文档中文翻译)

• Numpy中文文档

• 给深度学习入门者的Python快速教程 - numpy和Matplotlib篇

Opencv-python

• OpenCV-Python Tutorials

• OpenCV官方教程中文版（For Python）

• 数字图像处理系列

• python+OpenCV图像处理

• 给深度学习入门者的Python快速教程 - 番外篇之Python-OpenCV

Pandas

• Python 数据科学入门教程：Pandas

Tensorflow

• 如何高效地学习 TensorFlow 代码

• 中文教程

• TensorFlow官方文档

• CS20:Tensorflow for DeepLearning Research

• 吴恩达TensorFlow专项课程

• 【干货】史上最全的Tensorflow学习资源汇总

• 《21个项目玩转深度学习———基于TensorFlow的实践详解》  

• 最全Tensorflow2.0 入门教程持续更新

• Github优秀开源教程

MXNet

• Gluon

• GluonCV

• GluonNLP

PyTorch

• Pytorch版动手学深度学习

• PyTorch中文文档

• WELCOME TO PYTORCH TUTORIALS

• 史上最全的PyTorch学习资源汇总

• 【干货】史上最全的PyTorch学习资源汇总

• Hands-on tour to deep learning with PyTorch

• pytorch学习(五)—图像的加载/读取方式 && PyTorch—ImageFolder/自定义类 读取图片数据

  深度学习常用命令

• command_for_deeplearning
  

  Python可视化

• Top 50 matplotlib Visualizations – The Master Plots (with full python code)

• Python之MatPlotLib使用教程

• 十分钟上手matplotlib，开启你的python可视化

• 给深度学习入门者的Python快速教程 - numpy和Matplotlib篇

  标注工具

• 目标检测标注工具

• labelImg

• 语义分割标注工具

• labelme

  数据集

• 1. 25个深度学习相关公开数据集

• 2. 自然语言处理（NLP）数据集

• 3.全唐诗(43030首)

• 4. 伯克利大学公开数据集

• 5. ACL 2018资源：100+ 预训练的中文词向量

• 6. 预训练中文词向量

• 7. 公开数据集种子库

• 8. 计算机视觉，深度学习，数据挖掘数据集整理

• 9. 计算机视觉著名数据集CV Datasets

• 10. 计算机视觉相关数据集和比赛

• 11. 这是一份非常全面的开源数据集，你，真的不想要吗？

• 12. 人群密度估计现有主要数据集特点及其比较

• 13. DANBOORU2017: A LARGE-SCALE CROWDSOURCED AND TAGGED ANIME ILLUSTRATION DATASET

• 14. 行人重识别数据集

• 15. 自然语言处理常见数据集、论文最全整理分享

• 16. paper, code, sota

• 17. 旷视RPC大型商品数据集发布！

• 18. CVPR 2019「准满分」论文：英伟达推出首个跨摄像头汽车跟踪数据集(汽车Re-ID)

• 19.【OCR技术】大批量生成文字训练集

• 20. 语义分析数据集-MSRA

• IEEE DataPort

• 数据集市

• 医疗/医学图像数据集：Medical Data for Machine Learning && 医疗领域图像挑战赛数据集 && 【医学影像系列：一】数据集合集 最新最全 && medical-imaging-datasets && 【数据集】一文道尽医学图像数据集与竞赛 && 医学图像数据集汇总

  记笔记工具

• Markdown编辑器：Typora介绍

• Markdown语法介绍（常用）

• Markdown 语法手册 （完整整理版）

• Markdown中Latex 数学公式基本语法

  会议期刊列表

• 国际会议日期表

• ai-deadlines

• Keep Up With New Trends

• 计算机会议排名等级

• 中国计算机学会(CCF)推荐国际学术刊物和会议

  论文写作工具

• Windows: Texlive+Texstudio

• Ubuntu: Texlive+Texmaker

• Latex：基本用法、表格、公式、算法

• LaTeX 各种命令，符号

  论文画图工具

• Visio2016

• Matplotlib

  论文写作教程

• 刘知远_如何写一篇合格的NLP论文

• 刘洋_如何写论文_V7

• 如何端到端地写科研论文-邱锡鹏

• 论文Introduction写作其一, 论文Introduction写作其二, 论文Introduction写作其三

• 毕业论文怎么写

• 浅谈学术论文rebuttal

• 研之成理写作实验室

• 智源论坛·论文写作专题报告会：《论文写作小白的成长之路》 && 《谈如何写一篇合格的国际学术论文》 && 《计算机视觉会议论文从投稿到接收》

  ResearchGos

• ResearchGo:研究生活第一帖——文献检索与管理

• ResearchGo:研究生活第二贴——文献阅读

• ResearchGo:研究生活第三帖——阅读辅助

• ResearchGo:研究生活第四帖——文献调研

• ResearchGo:研究生活第五帖——文献综述

• ResearchGo:研究生活第六帖——如何讲论文

• ResearchGo:研究生活第七帖——专利检索与申请

• ResearchGo:研究生活第八帖——写论文、做PPT、写文档必备工具集锦

  毕业论文排版

• 吐血推荐收藏的学位论文排版教程（完整版）

• 论文怎么写——如何修改毕业论文格式

  信号处理

傅里叶变换

• 傅里叶分析之掐死教程（完整版）更新于2014.06.06

• 如何简明的总结傅里叶变换？

• 从连续时间傅里叶级数到快速傅里叶变换

• 十分简明易懂的FFT（快速傅里叶变换）

• 傅里叶级数推导过程

小波变换

• 形象易懂讲解算法I——小波变换

• 小波变换完美通俗讲解系列之 （一） && 小波变换完美通俗讲解系列之 （二）

实战

• MWCNN中使用的haar小波变换 pytorch

• 【小波变换】小波变换入门----haar小波

• （3）小波变换原理及应用

• 图像处理-小波变换

  机器学习理论与实战

• 机器学习原理⭐

• ID3、C4.5、CART、随机森林、bagging、boosting、Adaboost、GBDT、xgboost算法总结

• 数据挖掘十大算法简要说明，机器学习十大经典算法入门 && 【算法模型】轻松看懂机器学习十大常用算法

• AdaBoost到GBDT系列

• 当我们在谈论GBDT：从 AdaBoost 到 Gradient Boosting

• 当我们在谈论GBDT：Gradient Boosting 用于分类与回归

• 当我们在谈论GBDT：其他 Ensemble Learning 算法

  机器学习理论篇之经典算法

信息论

• 1. 机器学习中的各种熵    

• 2. 从香农熵到手推KL散度：纵览机器学习中的信息论

多层感知机(MLP)

• 多层感知机（MLP）学习与总结博客

• 多层感知机：Multi-Layer Perceptron

• 神经网络基础-多层感知器(MLP)

k近邻(KNN)

• 机器学习之KNN（k近邻）算法详解

k均值(K-means)

• Kmeans聚类算法详解

朴素贝叶斯(Naive Bayesian)

• 一个例子搞清楚（先验分布/后验分布/似然估计）

• 朴素贝叶斯分类器（Naive Bayesian Classifier）

• 朴素贝叶斯分类器 详细解析

决策树(Decision Tree)

• Python3《机器学习实战》学习笔记（二）：决策树基础篇之让我们从相亲说起

• Python3《机器学习实战》学习笔记（三）：决策树实战篇之为自己配个隐形眼镜

• 机器学习实战教程（十三）：树回归基础篇之CART算法与树剪枝

• 《机器学习实战》基于信息论的三种决策树算法(ID3,C4.5,CART)

• 说说决策树剪枝算法

• 机器学习实战 第九章 树回归

• 决策树值ID3、C4.5实现

• 决策树之CART实现

随机森林(Random Forest)

• 随机森林（Random Forest）入门与实战

线性回归（Linear Regression）

• 线性回归最小二乘法和最大似然估计

• 【从入门到放弃】线性回归

• 线性回归(频率学派-最大似然估计)与岭回归(贝叶斯角度-最大后验估计)的概率解释

• 机器学习笔记四：线性回归回顾与logistic回归

逻辑回归(Logistic Regression)

• 【机器学习面试总结】—— LR（逻辑回归）

• 【机器学习面试题】逻辑回归篇

• 极大似然概率和最小损失函数，以及正则化简介

• GLM(广义线性模型) 与 LR(逻辑回归) 详解

支持向量机(SVM)

• 【机器学习面试总结】—— SVM

• SVM系列-从基础到掌握

• SVM通俗导论 July 

• 核函数 : 机器学习有很多关于核函数的说法，核函数的定义和作用是什么？&& SVM中，高斯核为什么会把原始维度映射到无穷多维？&& svm核函数的理解和选择 && 核函数和径向基核函数 (Radial Basis Function)--RBF && SVM核函数

提升方法(Adaboost)

• 当我们在谈论GBDT：从 AdaBoost 到 Gradient Boosting

梯度提升决策树(GBDT)

• LightGBM大战XGBoost

• 概述XGBoost、Light GBM和CatBoost的同与不同   && XGBoost、LightGBM、Catboost总结 && XGBoost、Light GBM和CatBoost的参数及性能比较

• 梯度提升决策树

• GBDT原理及应用

• XGBOOST原理篇

• xgboost入门与实战（原理篇） && xgboost入门与实战（实战调参篇）

• 【干货合集】通俗理解kaggle比赛大杀器xgboost

• GBDT分类的原理及Python实现

• GBDT原理及利用GBDT构造新的特征-Python实现

• Python+GBDT算法实战——预测实现100%准确率

EM(期望最大化)

• 人人都懂的EM算法

• EM算法入门文章                      

高斯混合模型(GMM)

• 高斯混合模型与EM算法的数学原理及应用实例

• 高斯混合模型（GMM）

马尔科夫决策过程(MDP)

• 马尔科夫决策过程之Markov Processes（马尔科夫过程）

• 马尔科夫决策过程之Markov Reward Process（马尔科夫奖励过程）

• 马尔科夫决策过程之Bellman Equation（贝尔曼方程）

• 马尔科夫决策过程之Markov Decision Process(马尔科夫决策过程)

• 马尔科夫决策过程之最优价值函数与最优策略

条件随机场(CRF, 判别式模型)

• 如何轻松愉快地理解条件随机场

• 如何用简单易懂的例子解释条件随机场（CRF）模型？它和HMM有什么区别？

• HMM ,MHMM,CRF 优缺点与区别

降维算法

• 数据降维算法-从PCA到LargeVis

• 12种降维方法终极指南（含Python代码）

主成分分析(PCA)

• 主成分分析（PCA）原理详解

• 图文并茂的PCA教程

• PCA数学原理

奇异值分解(SVD)

• 强大的矩阵奇异值分解(SVD)及其应用

• 奇异值分解（SVD）

• 奇异值分解(SVD)原理详解及推导    

• SVD在推荐系统中的应用详解以及算法推导

线性判别分析(LDA)

• 教科书上的LDA为什么长这个样子？

标签传播算法(Label Propagation Algorithm)    

• 标签传播算法（Label Propagation）及Python实现

• 参考资料

蒙塔卡罗树搜索(MCTS)

• 蒙特卡洛树搜索入门指南

集成(Ensemble)

• 集成学习之bagging,stacking,boosting概念理解

• 集成学习法之bagging方法和boosting方法

• Bagging,Boosting,Stacking && 常用的模型集成方法介绍：bagging、boosting 、stacking

t分布随机邻居嵌入(TSNE)

• 流形学习-高维数据的降维与可视化

• tSNE

• 使用t-SNE可视化图像embedding

谱聚类(Spectral Clustering)

• 谱聚类（Spectral Clustering）算法介绍

• 聚类5--谱和谱聚类

异常点检测

• 数据挖掘中常见的「异常检测」算法有哪些？

• 异常点检测算法综述

• 异常检测的N种方法，其中有一个你一定想不到

• 异常检测资源汇总：anomaly-detection-resources

机器学习实战篇

• 15分钟带你入门sklearn与机器学习——分类算法篇 && 如何为你的回归问题选择最合适的机器学习方法？

• 十分钟上手sklearn：安装，获取数据，数据预处理 && 十分钟上手sklearn：特征提取，常用模型，交叉验证

• MachineLearning_Python

• Machine Learning Course with Python

• Statistical-Learning-Method_Code

• Python3机器学习

• 含大牛总结的分类模型一般需要调节的参数

  机器学习、深度学习的一些研究方向

多任务学习(Multi-Task Learning)

• 模型汇总-14 多任务学习-Multitask Learning概述

• (译)深度神经网络的多任务学习概览(An Overview of Multi-task Learning in Deep Neural Networks)

• Multi-task Learning and Beyond: 过去，现在与未来；

零次学习(Zero Shot Learning)

• 零次学习（Zero-Shot Learning）入门

小样本学习(Few-Shot Learning)

• few-shot learning是什么

• 零次学习（Zero-Shot Learning）入门

• 小样本学习（Few-shot Learning）综述

• Few-Shot Learning in CVPR 2019

• 当小样本遇上机器学习 fewshot learning

多视觉学习(Multi-View Learning)

• Multi-view Learning 多视角学习入门

• 多视角学习 (Multi-View Learning)

嵌入(Embedding)

• 万物皆Embedding，从经典的word2vec到深度学习基本操作item2vec

• YJango的Word Embedding--介绍

迁移学习(Transfer Learning)

• 1. 迁移学习：经典算法解析

• 2. 什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？

• 3. 迁移学习个人笔记  

• 迁移学习总结(One Shot Learning, Zero Shot Learning)

域自适应(Domain Adaptation)

• Domain Adaptation视频教程（附PPT）及经典论文分享

• 模型汇总15 领域适应性Domain Adaptation、One-shot/zero-shot Learning概述

• 【深度学习】论文导读：无监督域适应（Deep Transfer Network: Unsupervised Domain Adaptation）

• 【论文阅读笔记】基于反向传播的无监督域自适应研究

• 【Valse大会首发】领域自适应及其在人脸识别中的应用

• CVPR 2018：基于域适应弱监督学习的目标检测

元学习(Meta Learning)

• OpenAI提出新型元学习方法EPG，调整损失函数实现新任务上的快速训练 

  

强化学习(Reinforcement Learning)

• 强化学习（Reinforcement Learning）知识整理

• 强化学习从入门到放弃的资料

• 强化学习入门强化学习入门 第一讲 MDP

• 强化学习——从Q-Learning到DQN到底发生了什么？

• 从强化学习到深度强化学习（上）                  

• 从强化学习到深度强化学习（下）

• 一文带你理解Q-Learning的搜索策略

推荐系统(Recommendation System)

论文列表

• Embedding从入门到专家必读的十篇论文

• Reco-papers

• Ad-papers

• deep-recommender-system

• CTR预估系列入门手册

教程

• 推荐系统从入门到接着入门

• 深度学习推荐系统笔记

• 推荐系统干货总结

• 入门推荐系统，你不应该错过的知识清单

• 推荐系统技术演进趋势：从召回到排序再到重排

• 深入理解推荐系统：召回 && 深入理解推荐系统：排序

• 《深度学习推荐系统》总结系列一 && 《深度学习推荐系统》总结系列二

• 推荐系统--完整的架构设计和算法(协同过滤、隐语义) && 从0到1打造推荐系统-架构篇

• 协同过滤和基于内容推荐有什么区别？

实战

• RecommendSystemPractice

• Surprise

每天进步一丢丢

K均值算法缺点

（1)需要人工预先确定初始K值，且该值和真实的数据分布未必
吻合。
（2)K均值只能收敛到局部最优，效果受到初始值很大。
（3)易受到噪点的影响。
（4)样本点只能被划分到单一的类中。

预告：K均值算法改进模型简述

！重磅！【深度学习冲鸭技术交流一群】微信交流群已成立

额外赠送福利资源！南京大学《模式识别》PPT，2020最新版《神经网络与深度学习》中文版pdf，李航老师《统计学习方法》（第2版）课件分享，周志华《机器学习》西瓜书手推笔记（V2.8）

获取方式：进入群后点开群公告即可领取下载链接

推荐阅读：

今天因为你的点赞，让我元气满满