《深度学习笔记》——Pytorch调整学习率

Posted songyuc

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了《深度学习笔记》——Pytorch调整学习率相关的知识,希望对你有一定的参考价值。

1 定义调整学习率函数

def adjust_learning_rate(optimizer, epoch, lr):
    """Sets the learning rate to the initial LR decayed by 10 every 2 epochs"""
    # optimizer表示优化器对象
    lr *= (0.1 ** (epoch // 2))
    for param_group in optimizer.param_groups:
        param_group['lr'] = lr

以上是关于《深度学习笔记》——Pytorch调整学习率的主要内容,如果未能解决你的问题,请参考以下文章

pytorch笔记:调整学习率(torch.optim.lr_scheduler)

从零实现深度学习框架——学习率调整策略介绍

Pytorch Note34 学习率衰减

PyTorch学习之六个学习率调整策略

第十七篇 PyTorch学习率调整策略

DL:深度学习模型优化之模型训练技巧总结之适时自动调整学习率实现代码