机器学习实战应用案例100篇（二十）-模拟退火法从原理到实战应用案例

Posted 2023-01-25 普通网友

模拟退火算法(原理)

1 算法简介

模拟退火算法(Simulated Annealing )是一种 随机全局搜索 优化算法。

这意味着它将 随机性 作为搜索过程的一部分。这使得该算法适用于 非线性目标函数。

与随机爬坡局部搜索算法一样，它 修改单个解，搜索搜索空间中相对局部的区域，直到找到局部最优解。与爬坡算法不同，它可以 接受较差的解 作为当前的解。

接受较差解的 可能性 在搜索开始时就很高，并且随着搜索的进展而降低，这使得算法有机会首先定位全局最优解的区域，避开局部最优解，然后爬到最优解本身。

该算法的灵感来自于冶金领域的 退火技术，即将金属快速加热到高温，然后缓慢冷却，从而增加其强度，使其更容易使用。

退火过程首先在高温下激发材料中的原子，让原子四处移动，然后 慢慢降低 它们的兴奋度，让原子进入一种新的、更稳定的结构。

当热的时候，材料中的原子更自由地四处移动，并且通过随机运动，倾向于进入更好的位置。缓慢的冷却使材料变成有序的晶体状态。

算法的理论：将热力学的理论套用到统计学上，将搜寻空间内每一点想像成空气内的分子；分子的能量，就是它本身的动能；而搜寻空间内的每一点，也像空气分子一样带有“能量”ÿ