线性编程优化和梯度下降优化之间有什么区别?

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了线性编程优化和梯度下降优化之间有什么区别?相关的知识,希望对你有一定的参考价值。

在线性规划问题中,我们制定了两个线性函数和一个优化函数。在这里我们找到两个线性函数相交的点,并在优化函数中替换这些值以获得最大值或最小值。

这与梯度体面优化有何不同?任何人都可以用数学方法详细说明。这两种方法都达到了全球最大值还是最小值?哪个更好?

答案
  • 线性规划找到优化该线性组合的权重。它保证可以工作,但仅适用于线性组合的功能
  • 梯度下降可以对任何函数起作用,只要你知道它的衍生物。但是,如果函数是凸的,它只能保证工作。否则会陷入局部最佳状态

所以,别无选择。如果您有线性组合,线性编程会更好。在所有其他情况下,梯度下降是您唯一的选择。

以上是关于线性编程优化和梯度下降优化之间有什么区别?的主要内容,如果未能解决你的问题,请参考以下文章

梯度下降算法有哪些?有什么区别?背景原理公式代码

机器学习线性回归的损失和优化

梯度下降法和粒子群优化算法的区别

机器学习算法(优化)之一:梯度下降算法随机梯度下降(应用于线性回归Logistic回归等等)

机器学习梯度下降法(超详解)

梯度下降