2023.5.6 《动手学深度学习》第34章

Posted 2023-05-07 MoiSheldon

今天继续学习《动手学习深度学习》第5章：深度学习计算、第6章：卷积神经网络，今天学到的内容主要有这两章的概念。以及实现LeNet对FashionMNIST进行分类。

一、理论部分：

1、概念解释：

• 1×1卷积的作用：卷积通常用于识别相邻元素间相互作用的能力，但1×1卷积不具备该能力，其主要用于调整输出的通道数量，以控制模型的复杂性。
• pooling层的作用：降低卷积层对位置的敏感性，同时降低对空间降采样的敏感性。常用 max pooling 和 average pooling。

二、模块和函数

1、pytorch 模块

• torch.tensor() 和 torch.Tensor()
torch.tensor()根据输入数据的类型生成 tensor，例如输入是 int，那么生成的 tensor 也是 int 类型，而torch.Tensor()默认生成 float32 类型的 tensor。此外，torch.tensor()生成的 tensor 有可能与输入共享内存（may return a view of the input data if possible），而torch.Tensor()永远生成新的 tensor。

三、涨知识

• model.eval() 和 model.train()
model.eval()将模型设置为测试状态，model.train()将模型设置为训练状态。因为模型在训练阶段的某些操作，如dropout、batch normalization等，在测试阶段都是不需要的。并且，测试状态还可以ensure that the model performs consistently during inference, and that the results are reliable and repeatable. 注意，在训练阶段要把模型置为训练状态。

跟李沐导师：动手学深度学习！

 Datawhale学习 

预告：三月学习计划，内容：深度学习入门

二月学习需求收集

李沐动手学深度学习热度排名第二。根据读者的学习建议，Datawhale团队联系了李沐老师，将组织动手学深度学习课程的学习。

关于动手学深度学习

《动手学深度学习》这本书由李沐等人主导编写，介绍了深度学习从模型构造到模型训练的方方面面，以及在计算机视觉和自然语言处理中的应用。

它最大的特色在于，不仅阐述了算法原理，还提供了实际可运行的代码。

更令人暖心的是，这本书不要求读者有任何深度学习或者机器学习的背景知识，书中会从头开始解释每一个概念。读者只需了解基础的数学和编程，如基础的线性代数、微分和概率，以及基础的Python编程，就可以愉快地开始啃这本书了。

目前已经上线了最新PyTorch版本。

提前进群学习

关注公众号，回复 “三月” 进学习群