分配移位与转移学习

Question

转移学习(TL)是机器学习(ML)中的一个研究问题，它侧重于在解决一个问题的同时存储所获得的知识，并将其应用于另一个但相关的问题[1]。

系统开发的条件将与我们使用该系统的条件不同。[2]

我认为分布移位和数据集移位没有区别。但是在转移学习和分配转移之间呢？有什么不同吗？

我们是否可以说转移学习是一种有意的分配转变？

Answer 1

是的-一个区别是转移学习和分配转移是意图和知识的不同的数据集。

迁移学习有多种类型。有时，在一个数据集上对模型进行培训，并将其应用于另一个数据集，而无需进行额外的培训。当第二个数据集上没有标签时，必须是这种情况。其他时候，模型在一个数据集上进行训练，然后在另一个数据集上进行微调。当第二个数据有标签时，情况可能是这样的。

Answer 2

事实上，转移学习有一个更广泛的定义。它包括分布偏移(协变量偏移、样本偏差等)。也是。您可以使用一个模型应用TL方法，该模型已经在与测试集分布不同的数据集上进行了培训。转移学习还包括标签分布的变化或在不同任务中训练的模型的微调。

请查看以下调查https://ieeexplore.ieee.org/document/5288526