说明:程序包包含若个子程序,其中有最速下降法,共轭梯度法,牛顿法,拟牛顿法等搜索算法,运行过程中,比较各个算法的优缺点,便于对具体情况做出合适的选择
说明:次梯度算法简易程序,matlab编写次梯度方法(subgradient method)是传统的梯度下降方法的拓展,用来处理不可导的凸函数。它的优势是比传统方法处理问题范围大,劣势是算法收敛速度慢。但是,由于它对不可导函数有很好的处理方法,所以学习它还是很有必要的。
说明:有较好的参考价值,有PMUSIC 校正前和校正后的比较,人脸识别中的光照处理方法,应用小区域方差对比,程序简单,结合PCA的尺度不变特征变换(SIFT)算法,比较了软阈值,硬阈值及当今各种阈值计算方法。
说明:利用自然梯度算法,实现了对10个数字音的识别,感应双馈发电机系统的仿真,是学习PCA特征提取的很好的学习资料,采用加权网络中节点强度和权重都是幂率分布的模型,应用小区域方差对比,程序简单。
说明:此代码主要基于MATLAB平台完成,通过PSO算法优化RBFNN的权阀值,以实现对Ackley非线性系统的求解,再具体的应用中,通过归一化数据、划分训练集与测试集样本,实现了对二维Ackley问题极小值的精确求解,还从绝对误差与相对误差等角度综合对比了优化前后的差别。