是否有一种简单的方法来获取谷歌的ViT模型的预先训练的权重？

Question

我正在做一个使用ViT的项目。我听说他们需要大量的预训练来击败CNN，所以我想使用Google预先训练的权重，并将它们加载到Keras模型中。然而，它似乎没有一个简单的方法来做到这一点，我无法在谷歌的github上找到模型权重。如果我不能做到这一点，我可能会尝试使用拥抱脸模型。

Answer 1

所以我找到了这个github回购，它允许你加载预先训练过的模型的权重。在文档中还有一个用于微调的片段。就像这样：

image_size = 224
model = vit.vit_l32(
    image_size=image_size,
    activation='sigmoid',
    pretrained=True,
    include_top=True,
    pretrained_top=False,
    classes=200
)
# Train this model on your data as desired.