弱分类器

Question

我正在尝试实现一个使用AdaBoost算法的应用程序。我知道AdaBoost使用一组弱分类器，但我不知道这些弱分类器是什么。你能用一个例子给我解释一下吗?如果我必须创建自己的弱分类器，或者我需要使用某种算法，你能告诉我吗？

Answer 1

当我使用AdaBoost时，我的弱分类器基本上是每个数据属性的阈值。这些阈值需要具有超过50%的性能，否则将是完全随机的。

这里有一个关于Adaboost和如何计算这些弱分类器的很好的演示文稿：https://user.ceng.metu.edu.tr/~tcan/ceng734_f1112/Schedule/adaboost.pdf

Answer 2

Weak classifiers (或称弱学习者)是分类器，其性能仅略好于随机分类器。因此，这些分类器具有一些关于如何预测正确标签的线索，但没有像朴素贝叶斯、Neurel网络或SVM这样的强分类器那么多。

Decision Stump是最简单的弱分类器之一，它是一种单层决策树。它为一个特征选择一个阈值，并在该阈值上拆分数据。然后，AdaBoost将训练这些决策树桩的大军，每个决策树桩都专注于数据的一部分特征。