说明：拟牛顿法和最速下降法(Steepest Descent Methods)一样只要求每一步迭代时知道目标函数的梯度。通过测量梯度的变化，构造一个目标函数的模型使之足以产生超线性收敛性。这类方法大大优于最速下降法，尤其对于困难的问题。另外，因为拟牛顿法不需要二阶导数的信息，所以有时比牛顿法(Newton...

拟牛顿迭代法 无约束优化 拟牛顿法 导数约束 优化 s函数

说明：一个例子，使用的是BP神经网络代码，采用的基本下降梯度算法

子-梯度-算法-MATLAB BP 梯度下降matlab 梯度下降

说明：matlab最优化程序包括 无约束一维极值问题 进退法 黄金分割法 斐波那契法 牛顿法基本牛顿法 全局牛顿法 割线法 抛物线法 三次插值法 可接受搜索法 Goidstein法 Wolfe.Powell法 单纯形搜索法 Powell法 最速下降法 共轭梯度法 牛顿法 修正牛顿法 拟牛顿法 信赖域法 ...

极值优化 梯度下降 约束-粒子群 最优乘子法 最优化算法

说明：matlab最优化程序包括 无约束一维极值问题 进退法 黄金分割法 斐波那契法 牛顿法基本牛顿法 全局牛顿法 割线法 抛物线法 三次插值法 可接受搜索法 Goidstein法 Wolfe.Powell法 单纯形搜索法 Powell法 最速下降法 共轭梯度法 牛顿法 修正牛顿法 拟牛顿法 信赖域法 ...

极值优化 梯度下降 约束-粒子群 最优乘子法 最优化算法

说明：压缩感知：3维压缩感知重构算法，采用最速下降法和梯度投影原理,逐步逼近最优解。是本人精心编写调试好的，请放心使用。

压缩感知 3维压缩感知 重构算法 下降法 梯度投影

说明：BP 算法原理和详细推导流程, BP神经网络梯度下降法的推导验证。

BP算法 BP神经网络 梯度下降法

说明：采用动量梯度下降算法训练 BP 网络。 采用贝叶斯正则化算法提高 BP 网络的推广能力。在本例中，我们采用两种训练方法，即 L-M 优化算法（trainlm）和贝叶斯正则化算法（trainbr），用以训练 BP 网络，使其能够拟合某一附加有白噪声的正弦样本数据。

BP 网络 贝叶斯正则化算法 L-M 优化算法 trainlm 贝叶斯正则化算法 trainbr 白噪声

说明：采用动量梯度下降算法训练BP网络，采用两种训练方法，即 L-M 优化算法（trainlm）和贝叶斯正则化算法（trainbr），用以训练 BP 网络。

动量梯度 L-M 贝叶斯正则

说明：最速下降梯度法matlab程序.转载自科研中国.

Steepest steepest-descent 梯度 梯度法 descent-matlab

说明：用matlab编的共轭梯度法源程序以及一个国外教材里的最速下降法matlab程序。

daima-共轭梯度 共轭梯度 梯度法 共轭梯度法-matlab-程序 梯度