一维搜索法 一维搜索法 坐标轮换法 单纯形法 鲍威尔法（Powell） 梯度法 牛顿法 变尺度法 网格法 复合形法 罚函数法
是优化方法中最基本、最常用的方法。所谓搜索，就是一步一步的查寻，直至函数的近似极值点处。其基本原理是区间消去法原则，即把搜索区间[a, b]分成3段或2段，通过判断弃除非极小段，从而使区间逐步缩小，直至达到要求精度为止，取最后区间中的某点作为近似极小点。对于已知极小点搜索区间的实际问题，可直接调用0.618法、分数法或二次插值法求解。其中，0.618法步骤简单，不用导数，适用于低维优化或函数不可求导数或求导数有困难的情况，对连续或非连续函数均能获得较好效果，实际应用范围较广，但效率偏低。二次插值法易于计算极小点，搜索效率较高，适用于高维优化或函数连续可求导数的情况，但程序复杂，有时，可靠性比0.618法略差。 返回
又称降维法。其基本思想是将一个多维的无约束问题转化为一系列一维优化问题来解决。基本步骤是，从一个初始点出发，选择其中一个变量沿相应的坐标轴方向进行一维搜索，而将其它变量固定。当沿该方向找到极小点之后，再从这个新的点出发，对第二个变量采用相同的办法进行一维搜索。如此轮换，直到满足精度要求为止。若首次迭代即出现目标函数值不下降，则应取相反方向搜索。该方法不用求导数，编程简单，适用于维数小于10或目标函数无导数、不易求导数的情况。但搜索效率低，可靠性较差。 返回
其基本思想是，在n维设计空间中，取n+1个点，构成初始单纯形，求出各顶点所对应的函数值，并按大小顺序排列。去除函数值最大点Xmax，求出其余各点的中心Xcen，并在Xmax与Xcen的联线上求出反射点及其对应的函数值，再利用“压缩”或“扩张”等方式寻求函数值较小的新点，用以取代函数值最大的点而构成新单纯形。如此反复，直到满足精度要求为止。由于单纯形法考虑到设计变量的交互作用，故是求解非线性多维无约束优化问题的有效方法之一。但所得结果为相对优化解。 返回
是直接利用函数值来构造共轭方向的一种共轭方向法。其基本思想是不对目标函数作求导数计算，仅利用迭代点的目标函数值构造共轭方向。该法收敛速度快，是直接搜索法中比坐标轮换法使用效果更好的一种算法。适用于维数较高的目标函数。但编程较复杂。 返回
又称一阶导数法。其基本思想是以目标函数值下降最快的负梯度方向作为寻优方向求极小值。虽然算法比较古老，但可靠性好，能稳定地使函数值不断下降。适用于目标函数存在一阶偏导数、精度要求不很高的情况。该法的缺点是收敛速度缓慢。 返回
