pytorch学习笔记:反向传播

Posted Z|Star

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了pytorch学习笔记:反向传播相关的知识,希望对你有一定的参考价值。

关于前馈和反相传播的原理,下面这张实例非常清楚:
在这里插入图片描述

import torch
import matplotlib.pyplot as plt

x_data = [1.0,2.0,3.0]
y_data = [2.0,4.0,6.0]

w = torch.Tensor([1.0])
w.requires_grad = True # 需要计算梯度

def forward(x):
    return x * w

def loss(x, y):
    y_pred = forward(x)
    return (y_pred - y) ** 2

print("predict (before training)", 4, forward(4).item())


for epoch in range(100):
    for x, y in zip(x_data, y_data):
        l = loss(x, y)
        l.backward()
        print('\\tgrad:', x, y, w.grad.item())
        w.data = w.data - 0.01 * w.grad.data

        w.grad.data.zero_()  #每一步传完,梯度清零很重要

    print("progress:", epoch, l.item())

print("predict (after training)", 4, forward(4).item())

细节提要:
Tensor张量可以视作数据结构:数据data + 梯度grad(grad也是张量)
核心代码:l.backward()反向传播,程序自动求出所有需要的梯度
w.grad.data.zero_()每步做完清零很重要,否则影响下一次求的梯度

以上是关于pytorch学习笔记:反向传播的主要内容,如果未能解决你的问题,请参考以下文章

pytorch学习笔记第三篇———自动梯度(torch.autograd)

Pytorch Note13 反向传播算法

PyTorch学习3《PyTorch深度学习实践》——反向传播(Back Propagation)

深度学习6. 多层感知机及PyTorch实现

4.2 PyTorch自动反向传播

Pytorch学习笔记3.深度学习基础