模拟退火是蒙特卡罗方法的一种吗？

Question

我最近正在研究一些关于优化的算法。我发现了一种非常有趣的算法，叫做模拟退火。根据我的理解，我们的初始点变成了一个分布，而不是一个实际的点。它也与初始“温度”有关，但其主要思想是“降温”。这是当你到达局部最优时，尝试某些情况下的“偏移”。从而克服局部最优的陷阱。我想知道的是模拟退火法也是蒙特卡罗方法的一种。不同之处在于蒙特卡洛算法是全局的，而模拟退火算法是局部的。我的想法正确吗？

Answer 1

不，annealing不是蒙特卡罗方法的一种，但您的比较并不愚蠢。退火是概率的，但在某种程度上不太符合蒙特卡洛的特征。

主要的区别是在这个过程中对分布的定义。蒙特卡洛通过经验模拟分布来确定解决方案。退火在搜索时改变了分布定义，逐渐对每个状态转换的“邻居”的概率定义施加了更严格的限制。

您可能会被退火的常见插图分散一些注意力，因为该概念经常并行应用于图像的每个像素的局部分辨率方法。这是一个本地应用程序，蒙特卡洛并不适用--同样，您的想法很可能对您的想法是准确的，即使它在形式上并不是纯粹正确的。

Answer 2

我不同意这里的其他答案。模拟退火(Metropolis-Hastings algorithm 1953)在很大程度上是一种蒙特卡洛方法。见鬼，Metropolis将这类方法命名为“蒙特卡洛方法”。

Answer 3

除了这两种方法都使用(伪)随机数(因此是随机算法)之外，它们是非常不同的：

space.

• Simulated
• 从一个点开始，通过改变最新的点在解空间中创建一条路径。根据当前的“温度”，改变产生的差异和随机数新点被接受或旧的点被保留。这种方法适用于解决方案空间，其中好的解决方案往往被其他好的解决方案所包围。通过逐渐降低“温度”，人们希望迫使算法将当前点带入解空间中越来越好的区域。