具有不平衡类的Tensorflow Resnet

Question

我使用Resnet和Tensorflow来训练一个有20个类的模型。

我的问题是，我有6-7个班级，有很多样本，大约有相同数量的班级，有中等数量的样本，其余的班级有很少的样本。有了这个给定的分布，我的模型有太强的趋势来预测具有较大样本的类别而不是较小的样本。我试图通过减少大班级的样本数量来平衡我的班级，这有助于在预测期间给小班级留出一席之地，但现在我已经到了一个点，我无法提高我的模型超过90%的准确率，我觉得在大班级中削减样本会丢失很多有价值的信息。

所以，在我去买更多的样本之前，我想知道是否有一种方法来处理不平衡的类，该模型的逻辑变得非常好，可以识别较大的类是否存在(因为它有太多的样本，所以它非常有能力识别它们的存在)，然后，如果它们不存在，就去检查其他哪些类存在。这个想法是使用我拥有的所有样本，而不是减少它们。

我已经在Keras/Tensorflow中尝试了加权类选项，但没有帮助。

Answer 1

除了您到目前为止使用的欠采样技术之外，还有两种处理不平衡数据的方法：

1. 类weighting
2. oversampling

过采样与你所做的是相反的。你将多次训练under类的每个样本。类权重是指当您告诉模型在训练过程中应该对每个类样本进行多少权重时(在神经网络训练的情况下，权重更新)。这两种情况都由tensorflow支持，您可以在official tutorials中找到它们。