Adam梯度下降算法分析
Posted abella
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Adam梯度下降算法分析相关的知识，希望对你有一定的参考价值。
(一)、什么是Adam算法?
Adam（Adaptive momentum）是一种自适应动量的随机优化方法（A method for stochastic optimization），经常作为深度学习中的优化器算法。
(二)、Adam算法如何实现？
? 
以上是关于Adam梯度下降算法分析的主要内容，如果未能解决你的问题，请参考以下文章
优化算法梯度下降SGDMomentumAdagradAdam
面试时如何完整精确的回答动量下降法(Momentum)和Adam下降法的原理
梯度下降优化算(Momentum, AdaGrad, RMSprop, Adam)学习率退火
梯度下降：SGD vs Momentum vs NAG vs Adagrad vs Adadelta vs RMSprop vs Adam