对于NLP来说，GPT-3比RoBERTa好吗？

Question

我正在学习深度学习，我想进入NLP。我做过LSTM，现在我正在学习矢量化和变压器。请您告诉我，哪一种算法更有效和准确？

Answer 1

它们是为了不同的目的而设计的，它们几乎没有可比性。

RoBERTa用于文本分类和标记任务。这样做的想法是，您采用预先训练过的RoBERTa模型，并在(可能较小的)分类或标记数据集上对其进行细化。一些RoBERTa有用的任务包括情感分类、词性标注和命名实体识别(NER)。

GPT-3是用于文本生成任务的.它的范式是非常不同的，通常被称为“启动”。基本上以GPT-3为例，给它一些文本作为上下文，让它生成更多的文本。上下文应该为GPT-3提供它必须生成的“模式”。您不需要对其进行细化，只需给出一些可接受的文本生成模式的示例，然后让它生成更多相似的内容。