我们是否可以只使用一个分类器就使用Adaboost和梯度增强之类的增强算法？

Question

我一直致力于集成学习，我遇到了这样的疑问:不同于其他集成学习算法，比如投票分类器a，我们只能使用一个分类器进行增强。

Answer 1

almost通常只使用一种算法，因为它是基本的学习者(几乎完全是决策树)。然而，您可以使用一组混合算法作为您的基础学习者。

就像这样：

Boosting round 0: Add decision tree
Boosting round 1: Add neural network
Boosting round 2: Add KNN
Boosting round 3: Add decision tree
...

你只看到使用同样的算法的原因可能是因为它工作得更好。我推测，使用几种算法的多样性，当它们被并行和组合地训练时，会更有光泽。在提高基础上，学习者是按顺序训练的。