如何在LightGBM中包装

Question

在lightGBM模型中，有两个与套袋相关的参数。

bagging_fraction
bagging_freq (frequency for bagging
              0 means disable bagging; k means perform bagging at every k 
              iteration
              Note: to enable bagging, bagging_fraction should be set to 
              value smaller than 1.0 as well)

我可以在gdbt中找到关于这个打包功能的更详细的解释。有没有人给我一个更详细的解释？

Answer 1

该代码执行文档所述的内容--它对训练示例的子集进行了样本化，这些示例的大小为bagging_fraction * N_train_examples。并在此子集上进行第一棵树的训练。可以对每一棵树(即每一次迭代)或在对每一棵bagging_freq树进行训练之后进行此抽样。

例如，bagging_fraction=0.5, bagging_freq=10意味着新的0.5*N_train_examples条目的采样将每10次迭代一次。