预计算特征的含义是什么？

Question

当我学习深度学习时，我发现了带有预先计算的特征形式的数据集。链接(http://cs.stanford.edu/people/karpathy/deepimagesent/coco.zip)。与通常的数据集有什么不同？

Answer 1

预培训-你保存你的训练网络与它的所有重量在一个大的和可靠的数据集。然后再次使用类似的要求，并对一些额外的数据进行进一步的培训。这是一种典型的迁移学习。

预计算-预计算是在最后一次重用之前将所有层的输出存储在同一数据集中用于其他目的的过程。

它使后续(超过第一次)训练更快。上一层以外的层不会随着新数据的变化而改变。

由于只有最后一层(分类器)层在训练过程中变化，而不是前一层，所以我们只需将图像转换为特征向量一次，然后在这些特征向量上训练分类器，而不是对图像进行训练。

参考资料-1 参考资料-2

Answer 2

所以一般来说，你会计算图像上的ResNet特征，这是一个耗时的过程，所以他们预先计算了这些特征，并将它们直接放置在那里。

这是可行的，因为在大多数应用程序中，您都希望冻结这些ResNet层，并将模型训练通过该部分。