在其他机器学习模型中辍学

Question

辍学是一种广泛应用于深度学习的技术。辍学是为神经网络而建的，但我不知道其他预测模型是否也能像正则化一样使用这个思想。你知道在线性回归、支持向量机或基于树的方法中有类似的技术吗？

Answer 1

随机森林可以被认为是使用了一种丢包技术，因为每个分割节点只考虑特征的随机子集，从而有效地“删除”了其他特征。此外，有时在大型树组中，每棵树开始时只会得到一个随机的特征子集，类似于神经网络输入层的丢失。