说明：在机器学习问题中，很多的算法归根到底就是在求解一个优化问题，然而我们的现实生活中也存在着很多的优化问题，例如道路上最优路径的选择，商品买卖中的最大利润的获取这些都是最优化的典型例子，前面也陆续地有一些具体的最优化的算法，如基本的梯度下降法，牛顿法以及启发式的优化算法(PSO,ABC等)。

ABC 梯度下降法 凸优化 gradient-descent

说明：最优化问题的快速下降法，共轭梯度法，基于matlab算法。经过测试好用-Optimization problem of the rapid descent method, conjugate gradient method, based on matlab algorithm. Tested, ea...

matlab 算法 测试 基于 最优化 好用 问题 快速 经过 梯度 下降 法共

说明：matlab最优化程序包括 无约束一维极值问题 进退法 黄金分割法 斐波那契法 牛顿法基本牛顿法 全局牛顿法 割线法 抛物线法 三次插值法 可接受搜索法 Goidstein法 Wolfe.Powell法 单纯形搜索法 Powell法 最速下降法 共轭梯度法 牛顿法 修正牛顿法 拟牛顿法 信赖域法 显...

matlab MATLABoptimization

说明：最速下降法是一种沿着N维目标函数的负梯度方向搜索最小值的方法。该程序是用最速下降法求无约束最优化解。

最小梯度法 梯度下降 无约束函数 梯度下降法 函数最优值

说明：matlab随机梯度下降 卷积神经网络。程序和注释

梯度下降 卷积神经网络 CNN

说明：非线性规划中的最速下降法,黄金分割法,阻尼牛顿法,牛顿切线法。

非线性 下降法 黄金分割法 阻尼牛顿法 牛顿切线法 fsx

说明：一种利用梯度下降的加速求解低秩矩阵和稀疏矩阵的方法。

梯度下降 低秩矩阵和 稀疏矩阵

说明：采用动量梯度下降算法训练 BP 网络。 采用贝叶斯正则化算法提高 BP 网络的推广能力。在本例中，我们采用两种训练方法，即 L-M 优化算法（trainlm）和贝叶斯正则化算法（trainbr），用以训练 BP 网络，使其能够拟合某一附加有白噪声的正弦样本数据。

BP 网络 贝叶斯正则化算法 L-M 优化算法 trainlm 贝叶斯正则化算法 trainbr 白噪声

说明：采用动量梯度下降算法训练BP网络，采用两种训练方法，即 L-M 优化算法（trainlm）和贝叶斯正则化算法（trainbr），用以训练 BP 网络。

动量梯度 L-M 贝叶斯正则

说明：一种利用梯度下降的加速求解低秩矩阵和稀疏矩阵的方法

APG--matlab APG-matlab sparse-low-rank 低秩稀疏 加速梯度下降