pytorch学习-2:变量(Variable)和激励函数
Posted Paul-Huang
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了pytorch学习-2:变量(Variable)和激励函数相关的知识,希望对你有一定的参考价值。
1. 变量 (Variable)
1.1 什么是 Variable
在 Torch 中的 Variable 就是一个存放会变化的值的地理位置. 里面的值会不停的变化. 就像一个裝鸡蛋的篮子, 鸡蛋数会不停变动. 那谁是里面的鸡蛋呢, 自然就是 Torch 的 Tensor 咯. 如果用一个 Variable 进行计算, 那返回的也是一个同类型的 Variable.
1.1.1 定义变量
import torch
from torch.autograd import Variable # torch 中 Variable 模块
# 先生鸡蛋
tensor = torch.FloatTensor([[1, 2], [3, 4]])
# 把鸡蛋放到篮子里, requires_grad是参不参与误差反向传播, 要不要计算梯度
variable = Variable(tensor, requires_grad=True)
print('\\ntensor\\n',tensor)
"""
tensor
tensor([[1., 2.],
[3., 4.]])
[torch.FloatTensor of size 2x2]
"""
print('\\nvariable\\n', variable)
"""
variable
tensor([[1., 2.],
[3., 4.]], requires_grad=True)
[torch.FloatTensor of size 2x2]
"""
1.1.2 Variable计算
计算梯度
t_out = torch.mean(tensor.pow(2)) # x^2
v_out = torch.mean(variable.pow(2)) # x^2
print('\\nt_out', t_out)
print('\\nv_out', v_out)
"""
t_out tensor(7.5000)
v_out tensor(7.5000, grad_fn=<MeanBackward0>)
"""
1.1.3 Variable的特点
Variable 计算时, 它在背景幕布后面一步步默默地搭建着一个庞大的系统, 叫做 计 算 图 \\color{red}计算图 计算图, computational graph. 这个图是用来干嘛的? 原来是将所有的计算步骤 (节点) 都连接起来, 最后进行 误 差 反 向 传 递 \\color{red}误差反向传递 误差反向传递的时候, 一次性将所有 variable 里面的修改幅度 (梯度) 都计算出来, 而 tensor 就没有这个能力啦.
v_out.backward() # 模拟 v_out 的误差反向传递
# 下面两步看不懂没关系, 只要知道 Variable 是计算图的一部分, 可以用来传递误差就好.
# v_out = 1/4 * sum(variable*variable) 这是计算图中的 v_out 计算步骤
# 针对于 v_out 的梯度就是, d(v_out)/d(variable) = 1/4*2*variable = variable/2
print('\\nvar_grad\\n', variable.grad) # 初始 Variable 的梯度
'''
var_grad
tensor([[0.5000, 1.0000],
[1.5000, 2.0000]])
'''
## 获取 Variable 里面的数据
print('\\nvariable\\n', variable) # Variable 形式
"""
variable
tensor([[1., 2.],
[3., 4.]], requires_grad=True)
"""
print('\\nvar_data\\n', variable.data) # tensor 形式
"""
var_data
tensor([[1., 2.],
[3., 4.]])
"""
print('\\nvariable.data,numpy\\n', variable.data.numpy()) # numpy 形式
"""
variable.data,numpy
[[1. 2.]
[3. 4.]]
"""
2. 激励函数
2.1 应用
- 在卷积神经网络 Convolutional neural networks 的卷积层中, 推荐的激励函数是
relu
. - 在循环神经网络中 recurrent neural networks, 推荐的是
tanh
或者是relu
2.2 代码
- 注意画图需要由
tensor
转换成numpy
(data.numpy()
).
import torch
import torch.nn.functional as F # 激励函数都在这
from torch.autograd import Variable
# 做一些假数据来观看图像
x = torch.linspace(-5, 5, 200) # x data (tensor), shape=(100, 1)
x = Variable(x)
x_np = x.data.numpy() # 换成 numpy array, 出图时用
# 几种常用的 激励函数
y_relu = F.relu(x).data.numpy()
y_sigmoid = F.sigmoid(x).data.numpy()
y_tanh = F.tanh(x).data.numpy()
y_softplus = F.softplus(x).data.numpy()
# y_softmax = F.softmax(x) softmax 比较特殊, 不能直接显示, 不过他是关于概率的, 用于分类
- 画图
import matplotlib.pyplot as plt # python 的可视化模块, 我有教程 (https://mofanpy.com/tutorials/data-manipulation/plt/)
plt.figure(1, figsize=(8, 6))
plt.subplot(221)
plt.plot(x_np, y_relu, c='red', label='relu')
plt.ylim((-1, 5))
plt.legend(loc='best')
plt.subplot(222)
plt.plot(x_np, y_sigmoid, c='red', label='sigmoid')
plt.ylim((-0.2, 1.2))
plt.legend(loc='best')
plt.subplot(223)
plt.plot(x_np, y_tanh, c='red', label='tanh')
plt.ylim((-1.2, 1.2))
plt.legend(loc='best')
plt.subplot(224)
plt.plot(x_np, y_softplus, c='red', label='softplus')
plt.ylim((-0.2, 6))
plt.legend(loc='best')
plt.show()
参考
以上是关于pytorch学习-2:变量(Variable)和激励函数的主要内容,如果未能解决你的问题,请参考以下文章
[Pytorch系列-19]:Pytorch基础 - Variable变量的使用方法与 Tensor变量的比较