回答情况：
提问时间：
问题标签：
1回答
我已经使用pytorch为分类任务训练了大约一百万个文本数据的BERT模型。在用新数据测试这个模型后，我得到了假阳性和假阴性。现在我只想用FN和FP重新训练现有的模型。我不想将FN和FP附加到现有的数据集，然后再次训练整个模型。如何仅使用这些FN和Fp重新训练此bert模型，而不是先前训练的模型。
浏览 31提问于2021-11-23得票数 0
2回答
AutoModelForSeq2SeqLM.from_pretrained("Helsinki-NLP/opus-mt-de-en")
list(data_bert
浏览 11修改于2021-08-17得票数 1
回答已采纳
1回答
def __init__(self, freeze_bert=False): @param bert: a BertModel objectto fine-tune the BERT model super(BertClassifier, self).D_in, H, D_out = 768, 50, 2
浏览 10修改于2021-03-11得票数 0
1回答
我正在尝试使用BERT进行情感分析，但我怀疑我做错了什么。在我的代码中，我使用bert-for-tf2对bert进行了微调，但在1个时期之后，我获得了42%的准确率，而一个简单的GRU模型获得了大约73%的准确率。我应该做些什么才能有效地使用BERT。import bert-for-tf2 #gets imported as bert but relabeled for clarity
model_name = "uncased_L-12_H-768_A-12
浏览 0修改于2020-03-21得票数 1
我正在尝试保存一个调得很好的bert模型。我已经正确地运行了代码-它工作得很好，并且在ipython控制台中，我能够调用getPrediction并让它得到结果。我保存了我的权重文件(最高为model.ckpt-33.data-00000-of-00001 我不知道我将如何保存模型以供重用。 我正在使用bert-tensorflow。__version__)
import bert
from bert import r
浏览 281提问于2019-12-15得票数 2
bert模型给了我们两个输出，一个是batch，maxlen，hiddenstates，另一个是batch，hidden State of cls token。但是我不知道什么时候使用特定的输出。
浏览 104提问于2020-08-31得票数 0
我有这个代码的语义搜索引擎建立使用预先训练的bert模型。我想将此模型转换为tflite，以便将其部署到google mlkit。我想知道如何转换它。我想知道是否有可能将其转换为tflite。但我不知道从何说起 代码： from sentence_transformers import SentenceTransformer
# Load the BERT model.sentence-transformers/blob/master/docs/pretrained-models&
浏览 59修改于2020-04-25得票数 3
你好，我想打印我的BERT模型的模型摘要，用于文本分类。我使用命令打印(摘要(模型，inputsize=(通道，高度，宽度))。我想知道在文本分类的情况下，input_size的维度是什么？下面是我的模型总结。BertClassifier( (embeddings): BertEmbeddings(
(word_embeddings): Embedding
浏览 2提问于2022-02-24得票数 0
回答已采纳
我正在尝试使用内部语料库更新预训练的BERT模型。我看过Huggingface的transformer文档，你会发现我有点困惑，below.My的目标是使用余弦距离计算句子之间的简单相似度，但我需要为我的特定用例更新预先训练的模型。我试图“重新训练”或更新模型，我假设special_token_1和special_token_2表示来自我的“内部”数据或语料库的“新句子”。这是正确的吗？总而言之，我喜欢已经预训练的BERT模型，但我想使用另一个内部数据集来更新或重新训练它。任何线索都将不
浏览 53修改于2020-01-16得票数 9
我已经设法让伯特模型工作在约翰斯诺实验室-火花-nlp库。我能够将“经过训练的模型”保存在磁盘上，如下所示。拟合模型保存模型
df_bert_trained.write().overwrite().save("/home/XX&
浏览 2提问于2020-01-23得票数 1
我有一个使用BERT的情感分析模型，我想通过FastAPI预测文本得到结果，但总是给出否定的答案(我认为这是因为预测没有给出预测结果)。我正在使用这个模型 from simpletransformers.classification import ClassificationModel
model = ClassificationModel('bert', 'bert-base-multilingual-uncased', num_labels=3, use_cu
浏览 15修改于2021-01-26得票数 0
嗨，我从这里下载了伯特预培训模型(https://storage.googleapis.com/bert_模型/2018年_10_18/外壳_L-12_H-768_A-12.zip)，并保存到gogole当我试图在colab中加载模型时，得到“我们假设”/content/驱动器/My Drive/bert_training/uncased_L-12_H-768_A-12/config.json“。
浏览 0提问于2019-12-06得票数 5
回答已采纳
我正试着微调一个伯特模型来分析情绪。我的输入不是一句，而是文件(包括几个句子)，我不会删除点。我想知道在这种情况下只使用第一个令牌的嵌入是否可以。如果没有，我该怎么办？
浏览 0提问于2023-04-24得票数 0
回答已采纳
我一直在阅读BERT，并使用BERT嵌入进行分类任务。我读过很多文章，但我对它的理解仍然不是100% (我自学了NLP，所以我对资源的访问可能会受到一些限制)。首先，我将描述我的任务。我计划使用BERT嵌入进行分类，因为它是如何封装含义和语言的。不幸的是，在我的语言(爱尔兰语)中没有伯特模型，所以我研究了自己的训练。我知道伯特基本上是变压器编码器的“延伸”。以下是我的问题：
我认为这是相当明显的，但是要检查的是，预先训练过的BERT嵌入不能应用于不同的语言(标准的嵌入模型是在wiki
浏览 17提问于2020-08-18得票数 2
我正在训练BertForSequenceClassification完成一项分类任务。我的数据集由“包含不利影响”(1)和“不包含不利影响”(0)组成。数据集包含所有的1，然后是0(数据不会被打乱)。为了训练，我对我的数据进行了混洗，并获得了日志。据我所知，logits是softmax之前的概率分布。例如logit是-4.673831，4.7095485。第一个值是否对应于标签1(包含AE)，因为它首先出现在数据集中或标签0中。任何帮助都将不胜感激。
浏览 89修改于2021-04-21得票数 1
回答已采纳
您好，我希望使用BERT模型为一个单词生成相似的单词，这与我们在gensim中使用的生成most_similar单词的方法相同，我发现该方法如下： from transformers import BertTokenizer, BertModel
model = BertModel.from_pretrained('bert-base-u
浏览 66提问于2021-10-31得票数 1
我已经针对分类任务对BERT模型(使用huggingface库)进行了微调，以预测两种类型的帖子类别(例如，1和0 )。但是，我需要检索被预测为类别1的文档的“相关令牌”(例如)。我知道，一旦我用BERT模型将所有帖子标记为1(例如)，我就可以使用传统的TF-IDF方法。但我有以下问题:有没有可能用经过微调的BERT模型的架构来完成同样的任务？
浏览 19提问于2021-03-30得票数 0
我正在使用Huggingface进一步训练BERT模型。我使用两种方法保存模型:步骤(1)使用以下代码保存整个模型：model.save_pretrained(save_location)，以及步骤(2)使用以下代码保存模型的state_dict：torch.save(model.state_dict(),'model.pth')然而，当我尝试使用步骤(1)的代码bert_mask_lm = BertForMaskedLM.from_pretrained('
浏览 23修改于2021-03-03得票数 3
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号