文章 "种群优化算法:Nelder-Mead(NM),或单纯形搜索方法"

 

新文章 种群优化算法:Nelder-Mead(NM),或单纯形搜索方法已发布:

本文表述针对 Nelder-Mead 方法进行的彻底探索,解释了如何在每次迭代中修改和重新排列单纯形(函数参数空间),从而达成最优解,并讲述了如何改进该方法。

Nelder-Mead 方法由 John Nelder 和 Roger Mead 于 1965 年开发。他们那时正在寻找一种优化方法,能配合没有导数、或没有导数解析方程的函数工作。他们还打算开发一种易于实现且高效的方法,从而在当时的计算机上使用。这项研究激发了他们使用单纯形的灵感 — 函数参数空间中的多面体。 

该方法的创建历史始于约翰·内尔德(John Nelder)、及其同事在牛津计算实验室的工作。他们面对的问题是优化没有解析导数、或太复杂而无法计算的函数。传统的优化方法(如梯度方法)不适用于这种情况。代之,Nelder 和 Mead 提出了一种基于函数参数空间中迭代搜索最优解的新方法。 

Nelder-Mead 方法被称为“单纯形法”,并于 1965 年发表在《计算机杂志》上的《函数最小化的单纯形方法》一文中。该方法已被科学界所接受,并已广泛应用于需要函数优化的各个领域。

单纯形是形成多面体的一组顶点,其中每个顶点都是需被优化的一组函数参数值。这个思路是在参数空间中改变和移动单纯形,从而找到函数的最优值。

作者:Andrey Dik