帮助解释主动学习曲线

Question

我正在应用一个主动学习的SGDClassifier (日志丢失函数)作为基础学习者的一些数据，我有以下的图表，表示查询与错误率的学习曲线。绿色是验证错误，蓝色是训练错误。

我的模型是否过拟合，还是在两个图中都有很大的差异？

Answer 1

过度贴合的可能性更大，因为：

• 经过一些查询，您的验证错误系统地高于培训错误，这可能不是您想要的。
• 经过一些查询后，您的培训错误会慢慢下降，而验证错误将保持不变。这就像你的分类器正在缓慢地记忆你的数据集。

当查询数量很小时，您的分类器看起来做得更好，因为它是一个更简单的数据集。同样，过度适应也可能是一个问题。