如何在NLP中实现增量学习

Question

我们正在建立一个系统，在这个系统中，我们首先将有一小部分经过训练的数据。我们的工作是将输入的数据(文档)分为2类:A& B类数据是文档，因此用户需要将文档分类为A或B类。因此，在有限的数据量下，我们创建了经过训练的数据集，并开始使用经过训练的数据集来预测下一个文档的类别。

现在，如果预测是正确的，用户移动到下一个文档。但是，如果预测不正确，则用户输入正确的类别(假设A类是由系统预测的，其中对数据的正确分配应该是B类)。因此，现在系统应该使用这种学习(B类，而不是A类)来丰富(学习)自己在几乎实时。

它只应培训已添加的数据，而不应培训已培训的完整数据集。所以它应该是渐进的学习。对于分类，我们将采用朴素贝叶斯分类。

现在的问题是：

• 如何实现增量式培训，而不每次都对整个数据集进行培训？
• 我知道有一些增量式的学习库，比如Vowpal Wabbit & creme。对于我的情况，使用这些库会是一个很好的解决方案吗？

Answer 1

免责声明:我是乳酪的主要开发者之一。

乳酪似乎是解决你问题的正确方法。creme的目标之一就是通过观察来训练观测，而不是每次都对整个数据集进行训练。

如果您想要一个使用creme的示例，其中数据集最初很小，并且随着时间的推移而增长，那么您可以找到一个这里。