模拟退火算法

模拟退火算法来源于固体退火原理,将固体加温至充分高,再让其徐徐冷却,加温时,固体内部粒子随温升变为无序状,内能增大,而徐徐冷却时粒子渐趋有序,在每个温度都达到平衡态,最后在常温时达到基态,内能减为最小。
- 中文名 模拟退火算法
- 装帧 平装
- 开本 16
- 页数 542
内容简介
模拟退火算法来源于固体退火原理,将固体加温至充分高,再让其徐徐冷却,加温时,固体内部粒子随温升变为无序状,内能增大,而徐徐冷却时粒子渐趋有序,在每个温度都达到平衡态,最后在常温时达到基态,内能减为最小。
简介
模拟退火算法(Simulated Annealing,SA)最早的思想是由N. Metropolis[1]等人于1953年提出。1983 年,S. Kirkpatrick 等成功地将退火思想引入到组合优化领域。它是基于Monte-Carlo迭代求解策略的一种随机寻优算法,其出发点是基于物理中固体物质的退火过程与一般组合优化问题之间的相似性。模拟退火算法从某一较高初温出发,伴随温度参数的不断下降,结合概率突跳特性在解空间中随机寻找目标函数的全局最优解,即在局部最优解能概率性地跳出并最终趋于全局最优。模拟退火算法是一种通用的优化算法,理论上算法具有概率的全局优化性能,目前已在工程中得到了广泛应用,诸如VLSI、生产调度、控制工程、机器学习、神经网络、信号处理等领域。
模拟退火算法是通过赋予搜索过程一种时变且最终趋于零的概率突跳性,从而可有效避免陷入局部极小并最终趋于全局最优的串行结构的优化算法。
原理
模拟退火算法来源于固体退火原理,将固体加温至充分高,再让其徐徐冷却,加温时,固体内部粒子随温升变为无序状,内能增大,而徐徐冷却时粒子渐趋有序,在每个温度都达到平衡态,最后在常温时达到基态,内能减为最小。根据Metropolis准则,粒子在温度T时趋于平衡的概率为exp(-ΔE/(kT)),其中E为温度T时的内能,ΔE为其改变量,k为Boltzmann常数。用固体退火模拟组合优化问题,将内能E模拟为目标函数值f,温度T演化成控制参数t,即得到解组合优化问题的模拟退火算法:由初始解i和控制参数初值t开始,对当前解重复“产生新解→计算目标函数差→接受或舍弃”的迭代,并逐步衰减t值,算法终止时的当前解即为所得近似最优解,这是基于蒙特卡罗迭代求解法的一种启发式随机搜索过程。退火过程由冷却进度表(Cooling Schedule)控制,包括控制参数的初值t及其衰减因子Δt、每个t值时的迭代次数L和停止条件S。

步骤
1)随机给定初始状态,设定合理的退火策略。(选择各参数值、初始温度T0、降温规律等)
2)令x‘=x+△x(△x为小的均匀分布的随机扰动),计算 △E=E(x')-E(x)。
3)若△E<0,则接受x'为新的状态,否则以概率P=exp(-△E/(kT))接受x',其中k为波尔兹曼常数。具体做法是产生0到1之间的随机数a,若P>a则接受x',否则拒绝x',系统仍停留在状态x。
4)重复步骤2)、3)直到系统达到平衡状态。
5)按第1)步中给定的规律降温,在新的温度下重新执行2)~4)步,直到T=0或者达到某一预定低温。
由以上步骤可以看出,△E>0时任然有一定的概率(T越大概率越大)接受x',因而可以跳出局部极小点。理论上说,温度T的下降应该不快于:
T(t)=T0/(1+lnt),t=1,2,3,...
其中T0为起始高温,t为时间变量。常用的公式是T(t)=aT0(t-1),其中0.85≦a≦0.98。