预先训练的模型还是从零开始进行的目标检测训练？

Question

我有一个由10k-15k图片组成的数据集，用于监督目标检测，这与Imagenet或Coco有很大的不同(图片更暗，代表完全不同的事物，与工业有关)。

目前使用的模型是一个FasterRCNN，它以Resnet作为主干提取特性。能否从一个阶段从零开始训练模型的骨干，然后在另一个阶段对整个网络进行训练，而不是将预先训练好的网络加载到Coco上，然后在一个阶段对整个网络的所有层进行再培训？

Answer 1

根据我的经验，以下是一些重要的要点：

• 您的火车集不够大，无法从头开始训练检测器(尽管取决于网络配置，fasterrcnn+resnet18可以工作)。更好的做法是在imagenet上使用预先培训过的网络；

，

• ，网络预先培训过的域并不是那么重要。网络，特别是大型网络，需要学习所有这些拱门、圆圈和其他原始图形，以便使用知识来检测更复杂的物体；network;
• training
• --您的火车图像的亮度可能很重要--但并不是要阻止您从头开始使用经过预先训练的

，而是需要更多的时间和更多的数据。训练时间越长，你的LR控制算法就越复杂。至少，它不应该是常数，并根据累积损失改变LR。初始设置取决于多个因素，如网络大小、增强和历代数；

• I经常使用fasterrcnn+resnet (各种层数)和其他网络。我建议你用护肤霜而不是快餐店。只需命令它不要使用掩码，也不要进行分段。我不知道为什么，但它提供了更好的results.
• don't花你的时间在移动网络，你的火车设置的大小，你将无法训练它与一些合理的AP和AR。从maskrcnn+resnet18主干开始。