测试装置精度低

Question

我有一个具有16个特性和32个类标签的数据集，它显示了以下行为：

1. 神经网络分类:对列车的分类准确率为100%，而在测试集上的准确率为3% (近似于随机分类)。如果我让网络变得不那么灵活(减少神经元或隐藏层的数量)，那么训练和测试的准确率就会达到10%左右。
2. 梯度提升树分类:完全相同的行为。柔性模型在列车上的精度达到100%，但在试验中随机精度。如果我减少灵活性，训练和测试的准确度将很低，约为10%。

可能是什么原因？我怎么才能解决这个问题？还有其他算法我可以试试吗？

以下是目标数据的分布：

Answer 1

这似乎是训练数据过度拟合的完美人选。您需要使用更简单的模型或降低现有模型的复杂性。

此外，为了更好地理解和问题，请分享每个班级的观察数量。我想你没有足够的数据来建立一个好的模型。