AIoT(人工智能+物联网)知识总结+实战项目

Posted 辰chen

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了AIoT(人工智能+物联网)知识总结+实战项目相关的知识，希望对你有一定的参考价值。

文章目录

前言

本文算是本人AIoT(人工智能+物联网) 学习的过程总结，相关笔记均会在此博客给出相关链接；
适合学习人群：0基础小白，以及有一定编程基础的同学~

💡在这里我把AIoT(人工智能+物联网) 的学习主要分为两个大阶段：
🚩1.知识内容的学习
🚩2.项目实战

😋😋😋强烈建议收藏哦~😋😋😋
大家有任何疑问都可在评论区提出，本人会尽己所能为大家答疑解惑，如有错误还希望大家海涵并指正！！！

这是一个长时间的鏖战学习历程，将会持续更新 约2022.01开始正式更新，预计于2023.04结束更新 ，本文为本人在马士兵中学到的知识总结，博主的目的为做出2 ~ 3个项目作为研究生复试中的项目经历，本文中所涉及的项目实战也可以作为各位找工作时面试时的项目经历

📖本篇涉及知识的讲解会尽量的详细，写这个系列的博客也是对我本人的知识强化，送一句话与君共勉
最困难的时候，就是距离成功不远了
希望你我均能沉下心去认真学习AIoT的相关内容，共同进步！❤️❤️❤️

一、什么是AIoT

下文来自 百度百科：

AIoT（人工智能物联网）=AI（人工智能）+IoT（物联网）。AIoT融合AI技术和IoT技术，通过物联网产生、收集来自不同维度的、海量的数据存储于云端、边缘端，再通过大数据分析，以及更高形式的人工智能，实现万物数据化、万物智联化。物联网技术与人工智能相融合，最终追求的是形成一个智能化生态体系，在该体系内，实现了不同智能终端设备之间、不同系统平台之间、不同应用场景之间的互融互通，万物互融。除了在技术上需要不断革新外，与AIoT相关的技术标准、测试标准的研发、相关技术的落地与典型案例的推广和规模应用也是现阶段物联网与人工智能领域亟待突破的重要问题。

二、学习路线 && 学习目标 && AIoT职业方向

1.学习路线图


由于图片较大，可能会模糊，看不清的同学可以评论出来，我会私发给大家

2.目标

🚩 熟练掌握 C/C++编程语言，掌握面向对象程序设计方法。
🚩 熟练掌握常用数据结构和算法。
🚩 熟练掌握 mysql、sqlite3 基础语法及 C/C++编程接口。
🚩 熟练掌握 Linux 应用软件编程方法，熟练使用多线程、多进程编程、socket 编程 等进行应用软件开发。
🚩 熟练掌握嵌入式 Linux 高级编程技术，如传感器编程、串口编程、V4L2 编程、音 视频处理、opencv、科大讯飞语音识别等。
🚩 熟练掌握 QT 编程方法。
🚩 熟练掌握 ARM 体系结构。
🚩 掌握 STM32 开发工具及设计流程。
🚩 掌握 STM32 的外围接口使用，如：GPIO、中断、定时器、ADC、UART、看门狗等。
🚩 掌握现场总线设计与应用，如：I2C 总线、SPI 总线、CAN 总线、RS485 总线等。
🚩 掌握 ZigBee 应用软件开发。
🚩 掌握蓝牙 Mesh 组网及应用软件开发。
🚩 掌握 NB-IoT 应用软件开发方法，掌握 CoAP、MQTT 协议。
🚩 熟悉嵌入式 Linux 内核移植、uboot 移植及 rootfs 制作。
🚩 深刻理解嵌入式 Linux 设备驱动开发。
🚩 对嵌入式 Linux 系统在视频监控、网络通信、多媒体处理及智能控制领域有深入 理解。
🚩 熟悉嵌入式人工智能项目的部署与移植开发应用

3.AIoT职业方向

🉑 C/C++软件开发工程师
🉑 Qt 开发工程师
🉑 桌面应用软件开发工程师
🉑 Linux 后台开发工程师
🉑 网游后端开发工程师
🉑 嵌入式 Linux 应用开发工程师
🉑 音视频开发工程师
🉑 物联网应用开发工程师
🉑 嵌入式 Linux 驱动开发工程师
🉑 嵌入式 Linux 系统移植与裁剪工程师
🉑 嵌入式 Linux 多媒体研发工程师
🉑 ARM 开发工程师
🉑 STM32 应用软件开发工程师
🉑 嵌入式 FreeRTOS 开发工程师
🉑 嵌入式 ucOS 开发工程师
🉑 现场总线控制、现场总线通信应用开发工程师
🉑 Python 开发工程师
🉑 人工智能开发工程师

三、AIoT知识内容

未超链接部分为未学习(总结)部分，后续会慢慢补上🎯

💘由于内容较多，建议大家收藏本博客，以后可通过此博客访问以下任何知识点💘

阶段名称主题
阶段一Python 基础与科学计算掌握 Python 基础语法, 具备基础的编程能力；完成 小游戏开发；数据科学常用库开发：NumPy、 Pandas、Matplotlib 常用 Python 数据分析库的使用
阶段二算法数学基础掌握高等数学，概率，离散数学；以及常见面试题解析
阶段三线性回归算法掌握线性回归，各种优化等算法，Ridge、Lasso 回归，掌握正则化算法。
阶段四线性回归分类算法掌握逻辑回归、Softmax、SVM 支持向量机算法， 掌握 SMO 优化算法。
阶段五无监督学习算法掌握聚类算法、掌握 PCA 降维原理与推到，掌握 EM 算法，掌握 GMM 算法应用与原理。
阶段六决策树系列算法掌握决策树算法原理，掌握随机森林、Adaboost 提升算法、GBDT 提升树算法，XGBoost 算法。
阶段七Kaggle 实战通过实战，提升对基础算法的理解和应用。
阶段八概率图模型算法掌握贝叶斯算法、HMM 算法、最大熵模型、CRF 算法
阶段九深度学习课程大纲OpenCV 机器视觉开发； TensorFlow 深度学习框架； PyTorch 深度学习框架； 目标检测经典模型算法； 目标检测 YOLO 算法
阶段十C 语言高级编程数据类型、运算符和表达式、输入和输出、流程控制、数组、函数、预处理、指针、结构体、C 语言编程高阶
阶段十一数据结构和算法链表、栈和队列、二叉树、图、排序算法、查找算法
阶段十二Linux 高级程序设计shell 编程、Linux 文件 IO、Linux 并发编程
阶段十三Linux 网络编程网络编程预备知识、TCP 编程、UDP 编程、多播
阶段十四Linux 数据库编程Mysql、Sqlite、Mysql C 语言编程接口、Sqlite3 C 语言编程接口
阶段十五C++应用软件开发类和对象、封装、继承、多态、泛型编程、STL、算法、QT 应用软件开发
阶段十六嵌入式传感器编程RS232、RS485、Linux 串口编程、GPIO 编程、烟雾传感器、温湿度传感器、继电器等
阶段十七音视频编程音视频编程原理、H264、FMpeg、音视频网络传输、 RTMP 直播、科大讯飞语音识别
阶段十八5G 物联网应用开发ARM 体系结构、STM32 应用开发、UCOS、 FreeRTOS、蓝牙、zigbee、NB-IoT
阶段十九嵌入式 Linux 系 统移植及驱动开发Uboot、Linux 内核、Linux 文件系统、MMU、内存管理、字符设备驱动、块设备驱动、平台驱动

四、AIoT项目实战

未超链接部分为未学习(总结)部分，后续会慢慢补上🎯

阶段名称涉及知识点
项目一从OCR到STR 文本检测与识别掌握文本识别项目的特点和整体流程， 模型部署，传统CV的文本检测 算法， 端到端的文本检测识别模型介绍
项目二智能聊天机器人掌握智能聊天机器人概述和业界进展， 文本类匹配，句子相似度匹配， 异质文本相似度匹配，多轮对话技术进展
项目三计算机视觉医疗系统掌握数字图像处理，图像认知、表示 ，计算机视觉经典任务，深度学习框架分析，经典网络设计，图像分割技术应用等
项目四计算机视觉与电商掌握图像预处理，图像特征，神经网络与深度学习，图像分类，目标检测
项目五智能交通地理信息系统掌握城市街道车辆多目标追踪项目实战，大规模地标图像检索，特征模型， 搜索与排序方法，城市街道车辆多目标追踪项目实战
项目六乳腺癌医学影像检测掌握迁移学习，图像几何学基础知识， Densnet201在医学检测上的应用
项目七交通标志识别掌握，YOLO网络框架，掌握卷积神经网络
项目八车道线检测掌握，OpenCV机器视觉框架，了解图片处理方法
项目九汽车车牌识别掌握，YOLO目标检测项目，掌握 TensoFlow文字识别原理。
项目十手势识别掌握OpenCV图片采集技术，掌握 TesorFlow图片识别卷积神经网络
项目十一驾驶员表情识别掌握，OpenCV机器视觉框架，了解图片处理方法。TesorFlow图片识别卷积神经网络
项目十二智能停车场管理系统掌握面向对象程序设计、opencv图像处理、传感器编程、TCP编程、udp编程、 STL容器、MySQL数据库、Sqlite3数据库、文件IO
项目十三基于STM32的智能小车掌握STM32编程、FreeRTOS、红外传感器编程、超声波测距编程、直流电机编程、蓝牙编程、红外遥控、LC1602A显示编程
项目十四智能温室大棚控制系统掌握STM32编程、FreeRTOS操作系统 、ZigBee编程、传感器编程、RFID编程、 NB-IoT
项目十五基于ZigBee的智能物流仓储系统掌握STM32、FreeRTOS、ZigBee组网技术、RFID、传感器编程、NB-IoT
项目十六人工智能工业分拣系统掌握嵌入式LinuxPython编程、Qt编程、 STM32开发、机械臂开发、TensorFlow 开发、AI语音识别技术、AR开发
项目十七智能家居控制系统掌握嵌入式Linux开发、QT编程、传感器开发、数据库开发、音视频开发、语音识别、蓝牙Mesh组网
项目十八智慧教室终端掌握嵌入式Linux开发、并发编程、 socket编程、QT开发、传感器编程、 Sqlite3数据库、语音识别、人脸识别
项目十九智能无人小车掌握嵌入式Linux、Python编程、PyQt 编程、ROS操作系统、Opencv、Slam、 TensorFlow开发、AI语音识别技术
项目二十基于NB-IoT的共享单车掌握STM32开发、传感器编程、NB-IoT模块编程、NB-IoT通信

五、AIoT具体学习内容一览

1.Python 基础与科学计算

1.1 Python 基础语法

  1. 循环控制
  2. 切片操作
  3. 数据类型
  4. 集合操作
  5. 常用内建函数
  6. 函数式编程
  7. 类与对象
  8. 继承
  9. 装饰器
  10. 生成器

1.2 科学计算模块 Numpy

  1. Numpy ndarray 对象
  2. Numpy 数据类型
  3. Numpy 数组属性
  4. Numpy 创建数组
  5. Numpy 切片和索引
  6. Numpy 高级索引
  7. Numpy 广播
  8. Numpy 数组操作
  9. Numpy 数学和统计函数
  10. Numpy 排序、条件过滤函数
  11. Numpy 线性代数

1.3 数据处理分析模块 Pandas

  1. Pandas IO 文件操作
  2. Pandas 索引和数据选择器
  3. Pandas 合并、连接
  4. Pandas 缺失值数据处理
  5. Pandas 数据离散化
  6. Pandas 统计计算

1.4 数据可视化模块

  1. Matplotlib 散点图、线图、核密度图
  2. Matplotlib 饼图、直方图、盒图
  3. Matplotlib 等高线图
  4. Matplotlib 可视化剖析逻辑回归损失函数
  5. Seaborn 单变量、多变量的图形绘制
  6. Seaborn Style 和 Color
  7. Seaborn facetgrid

2.算法数学基础

2.1 微积分基础

  1. 导数的定义
  2. 左导数、右导数、可导函数
  3. 导数几何意义、物理意义
  4. 基本函数求导公式
  5. 四则运算法则
  6. 复合函数求导法则
  7. 神经网络激活函数的导函数求解
  8. 高阶导数
  9. 导数与函数单调性
  10. 极值定理
  11. 导数与函数凹凸性
  12. 一元函数泰勒展开

2.2 线性代数基础

  1. 向量与其运算
  2. 行向量和列向量
  3. 向量加减、数乘、内积、转置
  4. 向量范数
  5. 特殊向量
  6. 矩阵与其运算
  7. 方阵、对称阵、单位阵、对角阵
  8. 矩阵加减、数乘、矩阵乘法、转置
  9. 逆矩阵
  10. 行列式

2.3 多元函数微分学

  1. 偏导数
  2. 高阶偏导数
  3. 梯度
  4. 雅可比矩阵
  5. Hessian 矩阵
  6. 极值判别法则

2.4 线性代数高级

  1. 二次型
  2. 特征值和特征向量
  3. 特征值分解
  4. 多元函数的泰勒展开
  5. 矩阵和向量的求导公式
  6. 奇异值分解
  7. 奇异值分解计算方式
  8. 奇异值分解性质
  9. SVD 用于数据压缩
  10. SVD 用于 PCA 降维
  11. SVD 用于协同过滤
  12. SVD 用于矩阵求逆

2.5 概率论

  1. 随机事件和随机事件概率
  2. 条件概率和贝叶斯公式
  3. 随机事件的独立性
  4. 随机变量
  5. 数学期望和方差
  6. 常用随机变量服从的分布
  7. 随机向量
  8. 随机变量独立性
  9. 协方差与协方差矩阵
  10. 随机向量的常见分布
  11. 最大似然估计

2.6 最优化

  1. 局部最小和全局最小
  2. 迭代法求解
  3. 梯度下降法推导
  4. 牛顿法推导
  5. 坐标下降法
  6. 数值优化算法的问题
  7. 凸集
  8. 凸函数
  9. 凸优化问题
  10. 拉格朗日乘数法
  11. 拉格朗日对偶
  12. KKT 条件

3.线性回归算法

3.1 多元线性回归

  1. 简单线性回归
  2. 最优解与最小二乘法
  3. 多元线性回归判别式
  4. 多元线性回归的数学假设
  5. 利用 MLE 推导出目标函数
  6. 对数似然推导出 MSE 损失函数
  7. MSE 求偏导得到参数解析解
  8. 多元线性回归的 python 代码实现
  9. 多元线性回归的 sklearn 代码实战

3.2 梯度下降法

  1. 梯度下降法原理与公式
  2. 学习率设置的学问
  3. GD 应用于多元线性回归的流程
  4. 全量梯度下降的原理与代码实现
  5. 随机梯度下降的原理与代码实现
  6. Mini-Batch 梯度下降的原理与代码实现
  7. 代码实现增加 MBGD 数据的随机性
  8. 代码实现动态调整学习率

3.3 归一化

  1. 归一化目的与量纲
  2. 归一化提高模型精度
  3. 最大值最小值归一化与缺点
  4. 方差归一化与好处
  5. 均值归一化与好处
  6. 标准归一化的代码实战与技巧

3.4 正则化

  1. 提高泛化能力与防止过拟合
  2. 正则化用于损失函数
  3. L1 与 L2 正则项与范数的关系
  4. 结合 GD 讲解 L1L2 的几何意义
  5. 透过导函数讲解 L1 的稀疏性
  6. 透过导函数讲解 L2 的平滑性

3.5 Lasso 回归、Ridge 回归、多项式回归

  1. Lasso 回归原理与代码实战
  2. Ridge 回归原理与代码实战
  3. ElasticNet 回归原理与代码实战
  4. 升维的意义
  5. 多项式回归进行升维原理
  6. 多项式升维代码实战

4.线性分类算法

4.1 逻辑回归

  1. Sigmoid 函数特点
  2. 广义线性回归与逻辑回归的数学假设
  3. 证明伯努利二项分布属于指数族分布
  4. 推导出逻辑回归判别式
  5. 推导出逻辑回归损失函数 log loss
  6. 推导出损失函数导函数用于最优化
  7. 逻辑回归解决多分类问题 OVR
  8. 逻辑回归代码实战–鸢尾花数据集分类

4.2 Softmax 回归

  1. Softmax 函数特点
  2. 广义线性回归与 Softmax 回归的数学假设
  3. 证明多项式分布属于指数族分布
  4. 推导出 Softmax 回归判别式
  5. 推导出 Softmax 回归损失函数 cross-entropy
  6. 证明逻辑回归是 Softmax 的特例
  7. 剖析逻辑回归多分类和 Softmax 多分类的本质区别
  8. Softmax 回归代码实战–音乐曲风分类

4.3 SVM 支持向量机

  1. SVM 与感知机关系
  2. 几何距离和函数距离
  3. SVM 支持向量机算法原理
  4. SVM 的损失函数
  5. 硬间隔 SVM 的优化步骤
  6. 软间隔 SVM
  7. 非线性 SVM 与核函数
  8. SVM 在 sklearn 模块中参数详解
  9. SVM 人脸识别案例
  10. SVM 的概率化输出
  11. SVM 的 OVO 多分类
  12. SVM 的 hinge loss

4.4 SMO 优化算法

  1. SMO 优化算法的子二次规划问题思路
  2. SMO 把目标函数从二元函数变一元函数
  3. SMO 推导出新的α和旧的α关系
  4. SMO 对α进行剪裁
  5. SMO 优化 SVM 算法代码实现

5.无监督学习算法

5.1 聚类系列算法

  1. 相似度测量方法
  2. K-means 算法原理
  3. K-means 图像应用案例
  4. K-medoids 算法
  5. K-means++算法
  6. Mini-batch K-means 算法
  7. Canopy 聚类算法
  8. Agnes 层次聚类算法
  9. Diana 层次聚类算法
  10. DBSCAN 密度聚类算法
  11. Spectral 谱聚类
  12. 微博用户聚类分析案例

5.2 PCA 降维算法

  1. 特征选择与特征映射
  2. 最大投影方差原理与推导
  3. 最小投影距离原理与推导
  4. PCA 过程的中心化
  5. Kernelized PCA
  6. SVD 奇异值分解用于 PCA

5.3 EM 算法

  1. Jensen 不等式
  2. EM 算法的 E-step
  3. EM 算法的 M-step
  4. EM 在 GMM 公式推导中应用

5.4 GMM 算法

  1. 单一高斯分布的参数估计
  2. 混合高斯分布的似然函数
  3. GMM 的计算流程
  4. GMM 之图片前景背景分离代码实战
  5. GMM 之根据声音判别性别代码实战
  6. GMM 之根据声音判别用户代码实战

6.决策树系列算法

6.1 决策树算法

  1. 决策树的算法原理与数学表达
  2. 分裂指标 Gini 系数、信息增益、信息增益率
  3. 前剪枝与后剪枝
  4. 决策树 ID3、C4.5 和 CART
  5. 决策树算法优略比较
  6. 决策树之鸢尾花数据集分类案例
  7. 通过 graphvis 绘制决策树模型

6.2 随机森林算法

  1. 集成学习算法思想 Bagging、Boosting、Stacking
  2. 用户画像集成学习方法案例
  3. OOB 数据集验证随机森林算法
  4. 随机森林副产品之特征选择

6.3 Adaboost 算法

  1. Adaboost 算法原理
  2. 数据的权重与权重错误率
  3. 权重错误率调整到 0.5 训练下一个弱分类器
  4. 计算每个样本的权重 Un
  5. 应用 Adaboost 算法做人脸识别

6.4 GBDT 算法

  1. 函数空间的梯度下降与负梯度
  2. 推导 GBDT 回归是拟合残差
  3. Shrinkage 衰减系数的作用
  4. 推导 GBDT 分类亦是拟合残差
  5. GBDT 二分类模型训练和使用
  6. GBDT 多分类模型训练和使用
  7. GBDT 副产品之特征组合用于降维
  8. 实现 GBDT+LR 架构代码实战

6.5 XGBoost 算法

  1. XGBoost 算法与决策树集成学习关系
  2. XGBoost 目标函数与正则项
  3. XGBoost 目标函数用二阶泰勒展开
  4. 推导简化 XGBoost 目标函数引入 g h
  5. XGBoost 目标函数加入树的复杂度
  6. 推导出 XGBoost 目标函数最终形式和叶子节 点表达式
  7. 详解 XGBoost 算法参数与交叉验证
  8. XGBoost 算法调用 GPU 显卡资源加速

7.Kaggle 实战

7.1 CTR 广告预估项目

7.2 药店销量预测案例

7.3 活动推荐预测案例

7.4 银行贷款风控案例

8.概率图模型算法

8.1 贝叶斯分类

  1. 朴素贝叶斯分类器
  2. 拉普拉斯估计
  3. 代码实战垃圾邮件分类

8.2 HMM 算法

  1. 马尔可夫过程
  2. 初始概率、转移概率、发射概率
  3. 隐含马尔可夫模型原理
  4. 维特比算法

8.3 最大熵模型

  1. 熵、条件熵、相对熵、互信息
  2. 最大熵模型算法原理
  3. 有约束条件的函数最优化问题
  4. 最大熵和最大似然估计关系
  5. IIS 算法

8.4 CRF 算法

  1. 条件随机场的性质
  2. 条件随机场的判别函数
  3. 条件随机场的学习
  4. 条件随机场的推断
  5. CRF 与 HMM 关系

9.深度学习课程大纲

9.1 机器视觉

9.1.1 基本操作

  1. 图像读写
  2. 像素操作
  3. 图像缩放
  4. 图像旋转
  5. 图像融合
  6. 图像灰度化
  7. 图像颜色翻转
  8. 图像仿射变换
  9. RGB 与 HSV 空间变换

9.1.2 人脸检测

  1. 图像阈值
  2. 人脸检测
  3. 人脸马赛克
  4. 人脸毛玻璃效果
  5. 图像的浮雕
  6. 直方图均衡化
  7. 亮度增强
  8. 视频处理
  9. 读取摄像头
  10. 人脸追踪

9.1.3 高级应用

  1. 图像滤波与卷积
  2. 霍夫圆
  3. 边缘轮廓
  4. 腐蚀膨胀
  5. 开闭操作
  6. 背景消除
  7. 识别雪糕筒
  8. 物体追踪
  9. 车道线检测
  10. 车牌识别

9.2 TensorFlow 深度学习框架

9.2.1 TensorFlow 简介与环境搭建

  1. TensorFlow 简介
  2. TensorFlow 版本变迁与 TensorFlow1.0 框架
  3. TensorFlow2.0 框架
  4. TensorFlow 与 PyTorch 比较
  5. TensorFlow 环境配置
  6. CPU-TensorFlow 版安装
  7. GPU-TensorFlow 版安装

9.2.2 TensorFlow 入门

  1. tf 基础 API 引入
  2. tf.constant 常量使用方式
  3. tf.strings 与 ragged tensor
  4. 稀松 tensor 与变量 tf.Variable
  5. 自定损失函数
  6. DenseLayer 层
  7. 张量
  8. 随机数
  9. 科学计算
  10. 统计方法
  11. 自动求导机制
  12. tf.function 函数转换
  13. 函数签名与图结构
  14. tf.GradientTape 基本使用方法
  15. 案例：数据加载
  16. 案例：梯度下贱算法的实现

9.2.3 TensorFlow dataset 与 estimator 使用

  1. data_API 导入
  2. tf.data 基础 API 使用
  3. 生成 csv 文件
  4. tf.io.decode_csv 使用
  5. tf.data 读取 csv 文件并
  6. tf.data 与 tf.keras 结合使用
  7. tfrecord 基础 API 使用
  8. 生成 tfrecords 文件
  9. tf.data 读取 tfrecord 文件
  10. 泰坦尼克数据介绍
  11. feature_column 使用
  12. keras_to_estimator
  13. 预定义 estimator 使用
  14. 交叉特征实战

9.2.4 全连接神经网络

  1. 从生物神经元到人工神经元
  2. 全连接神经网络介绍
  3. 输入层
  4. 隐含层
  5. 输出层
  6. 激活函数
  7. 搭建网络模型
  8. 模型训练和测试
  9. 模型存储和加载
  10. 准确度 acc 和损失 loss 的可视化
  11. 案例：MNIST 手写数字识别

9.2.5 模型优化

  1. 模型优化概述
  2. 改变模型复杂度
  3. 优化损失函数和学习率
      a) Optimizer 优化器
      b) SGD 和 SGDM 优化器
      c) AdaGrad 优化器
      d) RMSProp 优化器
  4. Adam 优化器
  5. 优化 MNIST 手写数字识别
  6. 图片数据发生器
  7. 图片数据增强功能实现
  8. Dropout 解决过拟合问题
  9. 正则化实现模型优化
  10. 梯度消失与梯度爆炸介绍
  11. Relu 激活函数优化
  12. Xavier Glorot 初始化
  13. Data Augmentation 数据增强
  14. Batch Normalization 归一化

9.2.6 CNN 卷积神经网络

  1. CNN 概述
  2. 卷积操作
  3. 感受野
  4. 权值共享
  5. 填充（Padding）
  6. 步长（Stride）
  7. 池化（Pooling）
  8. 卷积和池化输出尺寸计算
  9. CNN 总结
  10. LeNet5 卷积神经网络
  11. 案例：LeNet5 实现 MNIST 手写数字类
  12. Alex 卷积神经网络
  13. VGGNet 卷积神经网络
  14. InceptionNet 卷积神经网络
  15. ResNet 卷积神经网络
  16. DenseNet 神经网络
  17. MobileNet 神经网络
  18. 案例：不同网络实现 Cifar-10 图像分类

9.2.7 RNN 循环神经网络

  1. RNN 循环神经网络原理
  2. RNN 实现股票预测
      a) 数据集处理
      b) RNN 模型定义
      c) 预测和绘图
      d) RNN 评价指标
  3. LSTM 长短期记忆神经网络概述
  4. LSTM 门结构
  5. LSTM 实现股票预测
  6. GRU 门控制循环单元
  7. GRU 实现股票预测

9.2.8 TensorFlow 分布式

  1. 分布式介绍与 GPU 设置
  2. GPU 默认设置
  3. 内存增长和虚拟设备实战
  4. GPU 手动设置
  5. 分布式策略
  6. Keras 分布式实现
  7. Estimator 分布式实现
  8. 自定义流程实现
  9. 分布式自定义流程实现

9.2.9 TensorFlow 模型保存与部署

  1. tflite 介绍
  2. 保存模型结构加参数与保存参数实战
  3. Keras 模型转化为 SavedModel
  4. 签名函数转化为 SavedModel
  5. 签名函数，SavedModel 和 Keras 模型 到 具体函数转换
  6. tflite 保存与解释与量化
  7. tensorflowjs 转换模型
  8. tensorflowjs 搭建服务器载入模型实战
  9. android 部署模型实战
  10. 模型保存与部署总结

9.2.10 BP 反向传播算法

  1. BP 反向传播目的
  2. 链式求导法则
  3. 反向传播推导
  4. 反向传播-权值更新
  5. 反向传播-阈值更新
  6. 隐层到隐层参数更新
  7. 不同激活函数在反向传播应用
  8. 不同损失函数在反向传播应用
  9. Python 实现反向传播神经网络案例

9.3 PyTorch 深度学习框架

9.3.1 PyTorch 简介与环境搭建

  1. 选择 PyTorch 理由
  2. PyTorch 简介
      a) 发展历史
      b) 框架优点
      c) 框架企业应用
  3. PyTorch-CPU 环境搭建
  4. PyTorch-GPU 搭建

9.3.2 PyTorch 框架基本使用

  1. Tensor 基本定义
  2. Tensor 与机器学习关系
  3. Tensor 创建编程实例
  4. Tensor 属性
  5. 稀松张量
  6. Tensor 算术运算
  7. Tensor 算术运算编程实例
  8. in-place 的概念和广播机制
  9. 取模-取整运算
  10. 比较运算、排序、数据合法性比较
  11. 三角函数
  12. 其他数学运算
  13. PyTorch 统计方法应用
  14. PyTorch 的分布函数
  15. PyTorch 随机抽样
  16. PyTorch 线性代数运算
  17. PyTorch 矩阵分解-PCA
  18. PyTorch 矩阵分解-SVD-LDA
  19. PyTorch 张量裁剪应用
  20. PyTorch 张量索引与数据筛选
  21. PyTorch 张量数据合并
  22. PyTorch 张量切片
  23. PyTorch 张量变形
  24. PyTorch 张量填充与傅里叶变换
  25. PyTorch 编程技巧实战
  26. PyTorch 自动求导 autograd-导数-方向导数-偏导数-梯度
  27. PyTorch 自动求导 autograd-梯度下降与机器学习最优解
  28. PyTorch 自动求导 autograd-Variable 与 tensor 应用
  29. PyTorch 自动求导 autograd-梯度计算
  30. PyTorch 自动求导 autograd 重要概念 variable-grad-grad_fn
  31. PyTorch 神经网络库 nn
  32. PyTorch 与 visdom
  33. PyTorch 与 tensorboardX
  34. PyTorch 与 torchvision

9.3.3 PyTorch 搭建神经网络

  1. 机器学习基本概念
  2. 神经网络的基本概念
  3. 神经网络回归问题
  4. 神经网络梯度下降
  5. 神经网络损失函数最小二乘法
  6. PyTorch 优化算法
  7. PyTorch 实现线性回归实战
  8. 神经网络分类问题
  9. 神经网络损失函数交叉熵介绍
  10. PyTorch 实现数字分类实战

9.3.4 PyTorch 计算机视觉与卷积神经网络

  1. 计算机视觉基本概念
  2. 图像处理常见概念
  3. 特征工程
  4. 卷积神经网络
  5. 填充（Padding）
  6. 步长（Stride）
  7. 池化（Pooling）
  8. 卷积和池化输出尺寸计算
  9. 卷积构造
  10. 激活层-BN 层-FC 层-损失层
  11. 经典卷积神经网络结构
  12. 轻量型网络结构
  13. 多分支网络结构
  14. Attention 网络结构
  15. 学习率
  16. 优化器
  17. 卷积神经网络正则化

9.3.5 PyTorch 实战计算机视觉任务-Cifar-10 图像分类

  1. 图像分类网络模型框架介绍
  2. Cifar10 数据读取与处理
  3. PyTorch 自定义数据加载-加载 Cifar10 数据
  4. PyTorch 搭建 VGG 模型实现图像分类
  5. PyTorch 搭建 Cifar10 图像训练脚本配合 tensorboard 记录日志
  6. PyTorch 搭建 Cifar10 训练脚本-ResNet 模型
  7. PyTorch 搭建 Cifar10 训练脚本-Mobilenet 模型
  8. PyTorch 搭建 Cifar10 训练脚本-Inception 结构
  9. PyTorch 搭建 cifar10 训练脚本搭建-调用 Pytorch 标准网络 ResNet18 等
  10. PyTorch 搭建 cifar10 推理测试脚本搭建
  11. 分类问题优化思路
  12. 分类问题最新研究进展和方向

9.3.6 Pytorch 实战计算机视觉任务-Pascal VOC 目标

  1. 目标检测概念介绍
  2. Passcal VOC 数据集介绍
  3. MMdetection 框架介绍-安装说明
  4. MMdetection 框架使用说明
  5. MMdetection 框架原理剖析
  6. MMdetection 训练 Passcal VOC 目标检测任务
  7. MMdetection 模型脚本测试
  8. MMdetection LOG 日志分析
  9. MMdetection 调优

9.3.7 PyTorch 实战计算机视觉任务-COCO 目标分割问题

  1. 图像分割基本概念
  2. 图像分割方法介绍
  3. 图像分割评价指标以及面临的挑战
  4. COCO 数据集介绍
  5. detectron 框架介绍和使用说明
  6. COCO 数据集标注文件解析
  7. detectron 框架源码解析
  8. detectron 模型训练
  9. detectron 测试脚本

9.3.8 PyTorch 搭建 GAN 网络实战图像风格迁移

  1. GAN 的基础概念
  2. GAN 典型模型介绍
  3. 图像风格转换数据下载
  4. 自定义 dataset 数据集
  5. CycleGAN 模型搭建
  6. CycleGAN 模型训练
  7. CycleGAN 模型测试

9.4 深度学习-目标检测经典模型实战

9.4.1 目标检测 RCNN 模型

  1. RCNN 模型介绍
  2. 模型网络结构 AlexNet 介绍
  3. 模型训练步骤
  4. 准备 region proposal
  5. 准备正负样本
  6. 预训练
  7. 目标分类
  8. 回归训练器
  9. RCNN 优缺点

9.4.2 目标检测 Fast R-CNN 模型

  1. Fast R-CNN 模型介绍
  2. 模型网络结构 VGG16 介绍
  3. ROI 池化
  4. 特征提取方式
  5. 联合候选框回归与目标分类的全连接层
  6. Fast R-CNN 创新点
  7. Fast R-CNN 训练
  8. Fast R-CNN 目标检测测试

9.4.3 目标检测 Faster R-CNN 模型

  1. Faster R-CNN 模型介绍
  2. 网络模型介绍
  3. RPN 生成建议窗口
  4. 产生建议窗口的 CNN 和目标检测的 CNN 共享
  5. Softmax-loss
  6. Faster R-CNN 创新点
  7. Faster R-CNN 训练
  8. Faster R-CNN 目标检测测试

9.4.4 目标检测 mask R-CNN 模型

  1. mask R-CNN 模型介绍
  2. 网络模型介绍
  3. RoIAlign
  4. Mask R-CNN 与 Faster R-CNN 对比
  5. 损失函数
  6. mask R-CNN 创新点
  7. mask R-CNN 训练
  8. mask R-CNN 目标检测测试

9.4.5 目标检测 RFCN 模型

  1. RFCN 模型介绍
  2. 特征提取模型介绍
  3. RFCN 目标检测计算流程
  4. RFCN 创新点
  5. RFCN 训练
  6. RFCN 目标检测测试

9.4.6 目标检测 Cascade R-CNN 模型

  1. Cascade R-CNN 模型介绍
  2. 特征提取模型介绍
  3. IOU 阈值设置
  4. 级联结构
  5. Cascade 结构介绍
  6. 损失函数
  7. Cascade R-CNN 创新点
  8. Cascade R-CNN 训练
  9. Cascade R-CNN 目标检测测试

9.5 深度学习-目标检测 YOLO 实战

9.5.1 深度学习经典检测方法概述

  1. 目标检测简介
  2. 目标检测原理
  3. 图像金字塔
  4. 古典目标检测架构
  5. ROI、IOU、FPS、NMS、mAP
  6. IOU 代码实现
  7. NMS 代码实现
  8. 特征金字塔
  9. SPP net 10) ROI 池化

9.5.2 YOLO-V1 整体思想与网络架构

  1. YOLO 算法整体思路解读
  2. 检测算法对应结果
  3. 整体网络架构解读
  4. 位置损失计算
  5. 置信度误差与优缺点剖析

9.5.3 YOLO-V2 进化详解

  1. 版本升级概述
  2. 网络结构特点
  3. 网络结构细节解读
  4. 基于聚类来选择先验框尺寸
  5. 偏移量计算方法
  6. 坐标映射与还原
  7. 感受野作用
  8. 特征融合改进

9.5.4 YOLO-V3 网络模型介绍

  1. 版本升级概述
  2. 多 scale 方法改进与特征融合
  3. 经典变换方法对比分析
  4. 残差连接方法解读
  5. 整体网络模型结构分析
  6. 先验框设计优化
  7. Softmax 层优化

9.5.5 项目实战-基于 YOLO-V3 并进行源码解读

  1. 数据与环境配置
  2. 训练参数设置
  3. 数据读取与处理
  4. Debug 模式介绍
  5. 构建网络模型
  6. 路由层与 shortcut 层说明
  7. YOLO 层定义剖析
  8. 预测结果计算
  9. 网络偏移计算
  10. 模型损失函数概述
  11. 标签样式设计
  12. 坐标相对位置计算
  13. 损失函数整合
  14. 模型训练与总结
  15. 目标检测效果展示

9.5.6 基于 YOLO-V3 的自定义目标检测

  1. 标注工具 Labelme 工具介绍与安装
  2. 数据标注
  3. 完成标签制作
  4. 生成模型所需配置文件
  5. 数据格式转换
  6. 数据输入数据预处理
  7. 训练代码与参数校验
  8. 训练模型并预测效果

9.5.7 YOLO-V4 网络模型介绍

  1. 版本升级概述
  2. 数据增强策略分析
  3. DropBlock 与标签平滑处理
  4. 损失函数局限性
  5. CIOU 损失函数定义
  6. NMS 细节优化
  7. SPP 与 CSP 网络结构
  8. SAM 注意力机制模块
  9. PAN 模块解读
  10. 激活函数与整体框架

9.5.8 YOLO-V5 网络模型介绍

  1. 版本升级概述
  2. 数据源 Debug 流程解读
  3. 图像数据源配置
  4. 加载标签数据
  5. 数据增强方法：Mosaic
  6. 数据合并
  7. Getltem 构建 batch
  8. 网络框架图可视化介绍
  9. YOLO5 配置文件解读
  10. Focus 模块流程讲解
  11. 配置文件解析
  12. 前向传播计算
  13. BottleneckCSP 层计算
  14. Head 层流程解析
  15. SPP 层计算解析
  16. 上采样与拼接
  17. 结果输出解析
  18. 超参数解析
  19. 命令行参数解析
  20. 训练流程总结
  21. 训练策略概述
  22. 模型迭代过程介绍

9.5.9 Resnet 网络框架结合迁移学习

  1. 迁移学习目标
  2. 迁移学习策略
  3. Resnet 原理
  4. Resnet 网络介绍
  5. Resnet 处理操作
  6. shortcut 模块
  7. 加载训练好的权重
  8. 模型训练
  9. 迁移学习结果对比

9.5.10 目标检测算法 SSD

  1. SSD 概述
  2. SSD 骨干网络
  3. default box 生成与规则
  4. 损失函数定义
  5. 网络细节介绍
  6. 与 YOLO 对比

9.5.11 目标检测算法 RetinaNet

  1. RetinaNet 概述
  2. 类不均衡问题
  3. 平衡交叉熵
  4. Focal Loss 定义
  5. 特征金字塔主干网络
  6. Anchors
  7. 分类自网络
  8. 边框回归自网络
  9. 模型训练
  10. 模型优化过程
  11. 模型对比与总结

10.图像识别综合案例

10.1 交通标志识别

  1. OpenCV 图片加载
  2. OpenCV 图片预处理
  3. 交通标志数据集处理
  4. TensorFlow
  5. 卷积神经网络构建
  6. TensorFlow 模型优化
  7. Keras 应用
  8. YOLO 使用
  9. 模型保存与加载
  10. Darknet 介绍与安装

10.2 车道线检测

  1. OpenCV 图片读写操作
  2. OpenCV 视频读写操作
  3. OpenCV 图片融合
  4. OpenCV 像素操作
  5. 图片灰度化处理
  6. 边缘轮廓
  7. 腐蚀膨胀
  8. 开闭操作
  9. 背景消除
  10. 物体追踪

10.3 汽车车牌识别

  1. 批量数据处理
  2. TensorFlow
  3. YOLO
  4. 卷积神经网络
  5. 图片裁剪
  6. TensorFlow 模型优化
  7. Keras 应用
  8. 模型保存与加载
  9. 数据增强

10.4 手势识别系统

  1. OpenCV 批量数据采集
  2. 图像灰度化
  3. 图像缩放
  4. 图像亮度改变
  5. 图像旋转
  6. 图像裁剪
  7. TensorFlow 构建 CNN 网络
  8. CNN 网络调优训练
  9. 模型保存
  10. 模型加载

10.5 驾驶员表情识别

  1. OpenCV 摄像头视频操作
  2. 图像灰度化
  3. 图像缩放
  4. 图像亮度改变
  5. 图像旋转
  6. 图像裁剪
  7. YOLO 框架加载
  8. YOLO 框架调参
  9. YOLO 框架训练
  10. TensorFlow 构建 CNN 网络用于识别表情
  11. CNN 网络调优训练
  12. 模型保存
  13. 模型加载

11.Linux 基础

  1. Linux 的介绍，Linux 的安装
      a) VMware Workstation 虚拟软件安装过程、Ubuntu 虚拟机安装过程
  2. Linux 系统启动过程介绍
      a) 内核引导
      b) init 进程
      c) 系统初始化
      d) 建立终端
      e) 用户登录系统
  3. Linux 系统目录结构
      a) Linux 文件系统的层次结构
      b) Linux 文件系统的作用
      c) Linux 绝对路径和相对路径
      d) Linux 文件/目录的命名规则
      e) Linux 命令如何识别文件类型
  4. Linux 常用 shell 命令
      a) 文件管理命令
      b) 文档编辑命令
      c) 文件传输命令
      d) 磁盘管理命令
      e) 网络通讯命令
      f) 系统管理命令
      g) 系统设置命令
      h) 备份压缩命令
      i) 设备管理命令
  5. Linux 系统密码管理
      a) Linux 系统密码配置文件
      b) Linux 系统修改密码方式
  6. Vim 文本编辑器
  7. Linux 远程登录
      a) telnet 登录
      b) ssh 登录
      c) xshell 软件的使用
  8. Linux 用户和组管理
      a) Linux 系统用户账号的管理
      b) Linux 系统用户组的管理
      c) 用户账号相关的配置文件
  9. Linux 权限管理
      a) Linux 权限管理的重要性
      b) Linux 权限位
      c) Linux umask 详解
  10. Linux 文件系统管理
      a) 磁盘结构
      b) Linux 常用文件系统介绍
      c) 硬盘设备和磁盘分区的识别
      d) df 命令
      e) du 命令
      f) mount 命令
      g) fdisk 命令
      h) mkfs 命令
      i) mke2fs 命令
      j) Linux 交换分区的作用
  11. Linux 常用服务搭建
      a) ftp 服务搭建
      b) samba 服务搭建
      c) ssh 搭建
      d) telnet 搭建
      e) nginx 服务搭建
  12. Linux 系统服务管理
      a) Linux 系统服务及其分类
      b) Linux 端口及查询方法详解
      c) Linux 基于 xinetd 服务的管理方法详解
      d) 影响 Linux 系统性能因素分析
      e) 系统性能分析：sar 命令
      f) cpu 运行状态查看
      g) 内存使用状态查看
  13. Linux 系统日志管理
      a) Linux rsyslogd 服务及启动方法（详解版）
      b) Linux 日志文件（常见）及其功能
      c) Linux 日志文件格式分析
      d) rsyslogd 配置文件格式及其内容详解
      e) Linux 日志服务器设置过程
      f) Linux 日志轮替（日志转储）及 logrotate 配置文件分析
      g) Linux logrotate 命令用法详解：进行日志转储（轮替）
      h) Linux 日志分析工具（logwatch）安装及使用
  14. Linux 软件包管理
  15. Linux 备份与恢复
      a) Linux 备份的重要性
      b) Linux 中的哪些数据需要备份？
      c) Linux 数据备份介质的选择
      d) Linux 备份策略（完全备份、增量备份和差异备份）详解
      e) Linux tar 命令备份数据
      f) Linux dump 命令用法详解：备份分区、文件或目录
      g) Linux restore 命令：还原 dump 操作备份下的文件、目录或分区
      h) Linux dd 命令详解：数据备份，并在备份过程中进行格式转换
      i) Linux rsync 命令用法详解
  16. SELinux 管理
      a) SELinux 是什么
      b) SELinux 的主要作用
      c) SELinux 的工作模式（Disabled、Permissive 和 Enforcing）
      d) SELinux 配置文件（/etc/selinux/config）
      e) SELinux 工作模式设置（getenforce、setenforce 和 sestatus 命令）
      f) SELinux 安全上下文查看方法（超详细）
      g) SELinux 安全上下文的修改和设置（chcon 和 restorecon 命令）
      h) SELinux 默认安全上下文的查询和修改(semanage 命令)
      i) SELinux auditd 日志系统的安装与启动
      j) SELinux auditd 日志使用方法详解
      k) SELinux Targeted、MLS 和 Minimum 策略
      l) SELinux 策略规则查看方法（seinfo 和 sesearch）详解
      m) SELinux 策略规则的开启和关闭（详解版）

12.C 语言高级编程

12.1 C 语言开篇

  1. C 语言发展历史及特点
  2. C 语言应用及就业场景
  3. 手把手教你搭建 C 语言开发环境
  4. 第一个 C 语言程序
  5. 程序的编译及运行
  6. 单行注释和多行注释
  7. 文档注释

12.2 数据类型

  1. 标识符
  2. 关键字
  3. 变量的定义、声明、赋值和使用
  4. 整型及整型数据的表示（进制问题）
  5. 浮点型
  6. 字符型常量
  7. 数据在内存中的存储
  8. 由 printf(“%d\\n”,10/3);所引发的思考
  9. 那些年我们遇到的变态笔试题
  10. 局部变量和全局变量
  11. 揭开 sizeof 的神秘面纱
  12. ASCII 表

12.3 C 语言输入输出

  1. printf 的高级用法
  2. scanf 读取冲键盘输入的数据
  3. 走进缓冲区的世界（理解且掌握）
  4. 输入输出疑难杂症

12.4 运算符和表达式

  1. 赋值运算符
  2. 算术运算符
  3. 关系运算符
  4. 逻辑运算符
  5. 位运算符
  6. 你会用位运算控制灯光的开和关吗
  7. 常见笔试题分析
  8. 逗号运算符
  9. 条件运算符
  10. 其他运算符
  11. 预算符的优先级关系

12.5 流程控制

  1. 分支结构
      a) if 分支
      b) if 分支的嵌套
      c) switch 分支
      d) if 分支和 switch 分支综合应用
      e) 作业：员工奖金计算
  2. 循环结构
      a) while 循环
      b) do~while 循环
      c) for 循环

12.6 数组

  1. 数组的基本概念
  2. 一维数组
      a) 一维数组的使用
      b) 一维数组的内存空间布局
      c) 一维数组元素的逆置
      d) 如何删除数组中重复的元素
  3. 二维数组
      a) 二维数组的使用
      b) 二维数组

    以上是关于AIoT(人工智能+物联网)知识总结+实战项目的主要内容，如果未能解决你的问题，请参考以下文章

    两万字解析AIoT智能物联网工程师学习路线，C站最全路线谁赞成谁反对？

    这几年爆火的智能物联网（AIoT），到底前景如何？

    AIoT系列：AI赋能物联网，探索AIoT发展新趋势

    这几年爆火的智能物联网（AIoT），到底前景如何？

    一文解读AIoT (转)

    百度智能云以端边云全面智能化的天工AIoT平台2.0打造智能物联网解决方案