tf.train.GradientDescentOptimizer()、tf.train.MomentumOptimizer()、f.train.AdamOptimizer()区别

Posted 2023-03-21

参考技术A ①tf.train.GradientDescentOptimizer()使用随机梯度下降算法，使参数沿着 梯度的反方向，即总损失减小的方向移动，实现更新参数

其中，𝐽(𝜃)为损失函数，𝜃为参数，𝛼为学习率。

②tf.train.MomentumOptimizer()在更新参数时，利用了超参数，参数更新公式是

其中，𝛼为学习率，超参数为𝛽，𝜃为参数，𝑔(𝜃𝑖−1 )为损失函数的梯度。

③tf.train.AdamOptimizer()是利用自适应学习率的优化算法，Adam 算法和随 机梯度下降算法不同。随机梯度下降算法保持单一的学习率更新所有的参数，学 习率在训练过程中并不会改变。而 Adam 算法通过计算梯度的一阶矩估计和二 阶矩估计而为不同的参数设计独立的自适应性学习率。

学习率：决定每次参数更新的幅度。

优化器中都需要一个叫做学习率的参数，使用时，如果学习率选择过大会出现震 荡不收敛的情况，如果学习率选择过小，会出现收敛速度慢的情况。我们可以选 个比较小的值填入，比如 0.01、0.001

Crossove

什么意思

参考技术A Crossover由codewaver公司开发的类虚拟机软件，目的是使linux和Mac OS X操作系统和window系统兼容。兼容 Mojave 的 CrossOver Mac 19 让您可以在 Mac 上运行 Microsoft Windows 应用，而不必购买 Windows 授权，不必重启系统，不必使用虚拟机。通过 CrossOver Mac，您可以从 dock 直接启动 Windows 应用，与您的 macOS 系统功能无缝集成，实现跨平台的复制粘贴和文件互通。
CrossOver Mac ： http://wm.makeding.com/iclk/?zoneid=13969
CrossOver Mac 支持 Windows 办公软件，工具程序和各种游戏，同时避免了运行虚拟机所需的系统开销，程序和游戏的性能可以达到甚至超过它们在 Windows 下的表现。CrossOver不像Parallels或VMware的模拟器，而是实实在在Mac OS X系统上运行的一个软件。CrossOvers能够直接在Mac上运行Windows软件与游戏，而不需虚拟机。它为Windows软件提供所需的资源，以达到在Mac OS X系统上运行Windows程序的目的。 参考技术B 篮球上crossover的本义是交叉步/交叉步突破

crossover 是篮球术语,跨下运球之意.

在nba里是指包括跨下运球、变相、插花在内的过人的技巧本回答被提问者采纳 参考技术C 是crossover，简单的说，就是突破。 参考技术D 过人吧