牛顿法一维搜索法 坐标轮换法 单纯形法 鲍威尔法（Powell） 梯度法 牛顿法 变尺度法 网格法 复合形法 罚函数法
其基本思想是，首先把目标函数近似表示为泰勒展开式，并只取到二次项。然后，不断地用二次函数的极值点近似逼近原函数的极值点，直到满足精度要求为止。该法在一定条件下收敛速度快，尤其适用于目标函数为二次函数的情况。但计算量大，可靠性较差。 返回
又称拟牛顿法。其基本思想是，设法构造一个对称矩阵〔A〕(k)来代替目标函数的二阶偏导数矩阵的逆矩阵（〔H〕（k））-1，并在迭代过程中使〔A〕(k)逐渐逼近（〔H〕（k））-1，从而减少了计算量，又仍保持牛顿法收敛快的优点，是求解高维数（10~50）无约束问题的最有效算法。 返回
其基本思想是，在设计变量的界限区内作网格，逐一计算网格点上的约束函数和目标函数值，舍去不满足约束条件的网格点，而对满足约束条件的网格点比较目标函数值的大小，从中求出目标函数值为最小的网格点，这个点就是所要求最优解的近似解。该法算法简单，对目标函数无特殊要求，但对于多维问题计算量较大，通常适用于具有离散变量（变量个数≤8个）的小型的约束优化问题。 返回
是一种直接在约束优化问题的可行域内寻求约束最优解的直接解法。其基本思想是，先在可行域内产生一个具有大于n+1个顶点的初始复合形，然后对其各顶点函数值进行比较，判断目标函数值的下降方向，不断地舍弃最差点而代之以满足约束条件且使目标函数下降的新点。如此重复，使复合形不断向最优点移动和收缩，直到满足精度要求为止。该法不需计算目标函数的梯度及二阶导数矩阵，计算量少，简明易行，工程设计中较为实用。但不适用于变量个数较多（大于15个）和有等式约束的问题。 返回
又称序列无约束极小化方法。是一种将约束优化问题转化为一系列无约束优化问题的间接解法。其基本思想是，将约束优化问题中的目标函数加上反映全部约束函数的对应项（惩罚项），构成一个无约束的新目标函数，即罚函数。根据新函数构造方法不同，又可分为： 1.外点罚函数法 罚函数可以定义在可行域的外部，逐渐逼近原约束优化问题最优解。该法允许初始点不在可行域内，也可用于等式约束。但迭代过程中的点是不可行的，只有迭代过程完成才收敛于最优解。 2.内点罚函数法 罚函数定义在可行域内，逐渐逼近原问题最优解。该法要求初始点在可行域内，且迭代过程中任一解总是可行解。但不适用于等式约束。 3.混合罚函数法 是一种综合外点、内点罚函数法优点的方法。其基本思想是，不等式约束中满足约束条件的部分用内点罚函数；不满足约束条件的部分用外点罚函数，从而构造出混合函数。该法可任选初始点，并可处理多个变量及多个函数，适用于具有等式和不等式约束的优化问题。但在一维搜索上耗时较多。 返回
