AutoModelForSequenceClassification和AutoModel的区别是什么？

Question

我们可以通过AutoModel(TFAutoModel)函数创建一个模型：

from transformers import AutoModel 
model = AutoModel.from_pretrained('distilbert-base-uncase')

另一方面，AutoModelForSequenceClassification(TFAutoModelForSequenceClassification)：创建了一个模型

from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification('distilbert-base-uncase')

据我所知，两种模型都使用蒸馏塔基-uncase库来创建模型。根据方法的名称，为序列分类创建了第二个类( AutoModelForSequenceClassification )。

但是，在两个类中，真正的区别是什么？以及如何正确地使用它们？

(我在拥抱的脸上搜寻，但还不清楚)

Answer 1

AutoModel模型和AutoModelForSequenceClassification模型的不同之处在于，AutoModelForSequenceClassification在模型输出上有一个分类头，可以很容易地用基本模型进行训练。