人工智能 AI机器学习教程:如何降低模型损失?迭代方法与梯度下降方法

Posted 禅与计算机程序设计艺术

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了人工智能 AI机器学习教程:如何降低模型损失?迭代方法与梯度下降方法相关的知识,希望对你有一定的参考价值。

目录

迭代方法

如何减少损失?

梯度下降法

 降低损失:梯度下降法


迭代方法

为了训练模型,我们需要一种降低模型损失的好方法。迭代方法是一种广泛使用的损失损失方法,就像向下山一样简单有效。

预计用时:5 分钟

学习目标

  • 了解如何使用迭代方法训练模型。
  • 了解完整的梯度下降法和一些变体,包括:
    • 小批量梯度下降法
    • 随机梯度下降法
  • 尝试不同的学习速率。

如何减少损失?

  • 超参数是用于调整模型训练方式的配置设置。
  • (y - y')2 相对于权重和偏差的导数可让我们了解指定样本的损失如何变化
    • 计算和转化简单
  • 因此,我们反复朝着尽可能减少损失的方向迈出小步
    • 我们将这些小步称为梯度步长(但它们实际上是负梯度步长)
    • 这种策略称为梯度下降法

梯度下降法

 

 

 

 

 降低损失:梯度下降法

 

 

 

 

以上是关于人工智能 AI机器学习教程:如何降低模型损失?迭代方法与梯度下降方法的主要内容,如果未能解决你的问题,请参考以下文章

机器学习入门四------降低损失

谷歌机器学习速成课程---3降低损失:迭代方法

人工智能 AI机器学习快速入门教程(Google)

机器学习概念_2

谷歌机器学习速成课程---降低损失 (Reducing Loss):随机梯度下降法

谷歌机器学习速成课程---3降低损失 (Reducing Loss):梯度下降法