说明:最速下降法是迭代法的一种,可以用于求解最小二乘问题(线性和非线性都可以)。在求解机器学习算法的模型参数,即无约束优化问题时,梯度下降(Gradient Descent)是最常采用的方法之一,另一种常用的方法是最小二乘法。在求解损失函数的最小值时,可以通过梯度下降法来一步步的迭代求解,得到最小化的损失...
说明:粒子群算法工具箱 该工具箱将PSO算法的核心部分封装起来,提供给用户的为算法的可调参数,用户只需要定义好自己需要优化的函数(计算最小值或者最大值),并设置好函数自变量的取值范围、每步迭代允许的最大变化量(称为最大速度,Max_V)等,即可自行优化。
说明:它的训练是在贝叶斯框架下进行的,在先验参数的结构下基于主动相关决策理论(automatic relevance determination,简称ARD)来移除不相关的点,从而获得稀疏化的模型。在样本数据的迭代学习过程中,大部分参数的后验分布趋于零,与预测值无关,那些非零参数对应的点被称作相关向量(R...
说明:资源描述 XinShe Yang教授2009年提出的Cuckoo Search优化算法Matlab原代码,可用于全局优化,并附有算法原理的文章及测试函数,供大家参考学习。Cuckoo Search 算法用于解决连续优化问题,也可以用来解决离散问题。这段代码提供的是前者。