人工智能 AI机器学习教程:如何降低模型损失?迭代方法与梯度下降方法
Posted 禅与计算机程序设计艺术
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了人工智能 AI机器学习教程:如何降低模型损失?迭代方法与梯度下降方法相关的知识,希望对你有一定的参考价值。
目录
迭代方法
为了训练模型,我们需要一种降低模型损失的好方法。迭代方法是一种广泛使用的损失损失方法,就像向下山一样简单有效。
预计用时:5 分钟
学习目标
- 了解如何使用迭代方法训练模型。
- 了解完整的梯度下降法和一些变体,包括:
- 小批量梯度下降法
- 随机梯度下降法
- 尝试不同的学习速率。
如何减少损失?
- 超参数是用于调整模型训练方式的配置设置。
- (y - y')2 相对于权重和偏差的导数可让我们了解指定样本的损失如何变化
- 计算和转化简单
- 因此,我们反复朝着尽可能减少损失的方向迈出小步
- 我们将这些小步称为梯度步长(但它们实际上是负梯度步长)
- 这种策略称为梯度下降法
梯度下降法
降低损失:梯度下降法
以上是关于人工智能 AI机器学习教程:如何降低模型损失?迭代方法与梯度下降方法的主要内容,如果未能解决你的问题,请参考以下文章