迭代机器学习算法

Question

我需要一个机器学习算法，它采用(x，y)形式的一些训练样本，并计算近似函数f:X->Y，以便误差最小。误差被定义为b/n，y和f(x)的差值。

但是这种学习算法必须是迭代算法，并且随着no.of迭代次数的增加，误差必须减小。

任何示例都会有所帮助。

Answer 1

神经网络是一种具有两个特点的算法: 1.它可以在新的数据上迭代训练2.它可以在相同的数据上迭代训练，因此每次迭代都能减少误差。(反向传播学习)

Answer 2

1. (随机) gradient boosting，
2. AdaBoost，

...and任何boosting算法一般，因为boosting过程迭代地改进分类器。