线性回归 + 基础优化算法 动手学深度学习v2 pytorch

Posted 2022-03-24 AI架构师易筋

计算梯度是机器学习里面最贵的一部分，所以不能太小

2. 线性回归的从0开始实现

yield 表示随机的返回

学习率很小从0.003 改为0.001的情况下，loss变化很小

学习率很大从0.003 改为10的情况下，loss变化求不出来，有可能y变化是0，做除法就出现异常了。

3. 线性回归的简介实现

nn.Sequential: list of layer

参考

https://www.bilibili.com/video/BV1PX4y1g7KC/