首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >降低三重态损失嵌入的验证损失

问降低三重态损失嵌入的验证损失
EN

Data Science用户
提问于 2021-09-07 12:22:18
回答 1查看 208关注 0票数 0

我正在尝试创建一个面部识别检测器,使用三重态损失,然后是kNN算法。

我有大约10000输入图像与3个不同的类,输入大小为80x80。模型结构使用具有imagenet权重的resnet,然后是几个密集的嵌入层:

代码语言:javascript
复制
base_cnn = resnet.ResNet50(
    weights="imagenet", input_shape=image_input_shape, include_top=False
)
trainable = False
for layer in base_cnn.layers:
    layer.trainable = trainable
x = Flatten()(base_cnn.output)
x = Dense(128, activation="relu", kernel_regularizer=tf.keras.regularizers.l2(0.0001))(x)
x = BatchNormalization()(x)
x = Dropout(0.5)(x)
output = Dense(embedding_size)(x)
embedding = Model(base_cnn.input, output, name="Embedding")

问题是培训损失很小,但验证损失几乎没有减少(如果有的话):

我认为这是由于过度适应,但我已经添加了我能想到的一切,以防止这种情况(辍学,规范和我发挥了学习率)。我猜想数据集的大小是问题所在,但希望通过使用传输学习,我能够在这个数据集中获得良好的结果。

对于如何解释这一点,以及如何改善验证损失,有什么建议吗?

提前谢谢。

EN

回答 1

Data Science用户

发布于 2021-09-07 20:31:19

我可能不了解整个背景,但我发现可能会有几个问题:

  1. 您希望在ImageNet上使用经过预先训练的分类模型来完成人脸识别任务。这是非常不同的任务,从预先训练的ResNet表示将不会是非常有用的人脸识别。
  2. 你只有3节课。你是说只有三个人吗?对于学习一般表示提取器来说,这还不够。你怎么把它分给火车和瓦尔?

我看你有几个选择:

  • 不要训练你的面部识别系统,而是使用像这一个这样的架子。
  • 即使是从base_cnn训练一些层
  • 下载一些人脸识别数据集(如在荒野中贴上标签或更大的),对其进行预处理模型,并在您的数据集上进行验证。
票数 0
EN
页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://datascience.stackexchange.com/questions/101868

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档