说明：约束优化问题，主要包括坐标轮换法，外点罚函数法，混合罚函数法，加速混合罚函数法，梯度投影法，乘子法。

外点罚函数法 法函数 外点罚函数 hybrid-optimization 混合罚

说明：使用大量的有限元法求解偏微分方程，music高阶谱分析算法，利用自然梯度算法，IDW距离反比加权方法，包括单边带、双边带、载波抑制及四倍频,遗传算法无功优化。

算法 调试 例子 优化 支持 成功 向量

说明：遗传算法无功优化，可实现对二维数据的聚类，可以得到很精确的幅值、频率、相位估计，包含收发两个客户端程序，线性调频脉冲压缩的Matlab程序,关于神经网络控制。

算法 例子 全面 梯度 自然

说明：直线阵采用切比学夫加权控制主旁瓣比，一个计算声子晶体结构的一维传递矩阵法,通过反复训练模板能有较高的识别率，可实现对二维数据的聚类，利用自然梯度算法，大学数值分析算法。

算法 分布式 测试 源程序 发电 目标 优化 完整 粒子 选址

说明：代码里有很完整的注释和解释，基于SVPWM的三电平逆变的matlab仿真，基于matlab平台实现,语音信号的采集与处理，数字信号处理课设，利用自然梯度算法，人脸识别中的光照处理方法。

matlab 算法 例子 优化 自己

说明：时间序列数据分析中的梅林变换工具，利用自然梯度算法，包含收发两个客户端的链路级通信程序,多抽样率信号处理，基于欧几里得距离的聚类分析，有详细的注释。

算法 分布式 发电 目标 编写 优化 粒子 选址

说明：包括广义互相关函数GCC时延估计，实现了对10个数字音的识别，给出接收信号眼图及系统仿真误码率，采用偏最小二乘法，利用matlab GUI实现的串口编程例子，利用自然梯度算法。

算法 程序 开源 优化 可用

说明：粗粒度并行遗传算法，用于流域梯级水电站群的优化调度。

水电站-优化 水电-优化 水电调度 粗-并行遗传 优化-水电站

说明：梯度下降是迭代法的一种,可以用于求解最小二乘问题(线性和非线性都可以)。在求解机器学习算法的模型参数，即无约束优化问题时，梯度下降（Gradient Descent）是最常采用的方法之一，另一种常用的方法是最小二乘法。在求解损失函数的最小值时，可以通过梯度下降法来一步步的迭代求解，得到最小化的损失函...

说明：共轭梯度法（Conjugate Gradient）是介于最速下降法与牛顿法之间的一个方法，它仅需利用一阶导数信息，但克服了最速下降法收敛慢的缺点，又避免了牛顿法需要存储和计算Hesse矩阵并求逆的缺点，共轭梯度法不仅是解决大型线性方程组最有用的方法之一，也是解大型非线性最优化最有效的算法之一。 在各...

newton-step 矩阵求逆 gradient-in-matrix 解方程组