回答情况：
提问时间：
问题标签：
我想对一个预先训练好的BERT模型进行微调。但是，我的任务使用特定领域内的数据(比如生物医学数据)。此外，我的数据也是一种不同于英语的语言(比如荷兰语)。现在，我可以微调荷兰bert-base-荷兰案例预训练模型。然而，我该如何对生物医学BERT模型进行微调，比如BioBERT，它属于正确的领域，但语言错误？如果我在没有对模型进行任何更改的情况下进行微调，我担心模型不会很好地学习任务，因为它是在完全不同的语言上预先训练的。
浏览 4提问于2021-01-28得票数 2
我想在与特定领域(在我的例子中与工程相关)相关的文本上对BERT进行微调。训练应该是无人监督的，因为我没有任何标签或任何东西。这个是可能的吗？
浏览 27修改于2020-11-06得票数 5
回答已采纳
2回答
有没有人试图微调手套嵌入在特定领域的语料库？在各种NLP任务中，微调word2vec嵌入已经被证明是非常有效的，但是我想知道是否在我的特定领域的语料库上生成一个共生矩阵，以及在该语料库上训练手套嵌入(用经过预先训练的嵌入初始化)是否会产生类似的改进
浏览 0提问于2018-06-18得票数 3
回答已采纳
当我们要微调一个GPT-3模型在特定领域的问答，我们如何避免它来回答来自其他领域的问题？假设聊天机器人是为了回答来自交易领域的问题，所以，如果有人从政治领域问他一个问题，它应该避免回答用户。
浏览 0提问于2023-03-15得票数 1
我想在未标记的数据上对特定领域的BERT进行微调，并让输出层检查它们之间的相似性。我该怎么做呢？我是否需要首先微调分类器任务(或问题答案等)。然后拿到嵌入物？或者我可以只使用预训练的Bert模型，而不使用任务，并使用我自己的数据进行微调？
浏览 2修改于2020-08-03得票数 3
然而，预先训练过的模型是针对与我不同的领域而训练的，我有一个大的未注释的数据集，可以用来微调它。如果我只使用标记的示例并在特定任务(BertForSequenceClassification)的培训中微调它，那么数据集太小，无法适应特定领域的语言模型。这样做最好的方法是什么？谢谢!
浏览 5提问于2021-04-27得票数 1
回答已采纳
首先对来自多个领域的图像进行模型训练，然后对一个特定领域进行“微调”以提高其性能，这是否有意义？
例如，人们可以根据在纽约、巴黎和北京拍摄的汽车摄像机来训练一个物体探测器，然后只在巴黎继续训练。
浏览 0提问于2020-02-25得票数 1
我有大约200,000个需要标记的文档，我有大约2,000个注释集，用作训练/测试/微调的基础事实。我还有更多与领域相关的文档可用于预培训。我很可能需要从头开始进行预训练，因为这是在临床领域。我也对预先训练过的模型持开放态度，如果他们可能有机会进行微调，比如拥抱脸部等。
人们会建议以哪些兼容PyTorch或Keras的模型及其实现作为起点？
浏览 45提问于2020-05-15得票数 1
回答已采纳
我有一个应用程序，有表单，有一些领域的用户应该填写它，我想把按钮“下一步”禁用，直到用户填写这些字段。我想要的:如何检查用户是否填充了图像和微调器？
浏览 4提问于2012-03-15得票数 6
领域对象的数量相当多，对象之间的一些关系也很迫切。我正在努力微调这个应用程序。我在对象之间创建了急切的提取图，但是，现在我需要知道哪些对象是由hibernate创建的。
浏览 4提问于2014-07-14得票数 0
回答已采纳
我想用一些自己的数据集来训练/微调BERT模型，这些数据集只包含来自特定领域的原始数据，类似于BioBERT。在第一步中，我只想用这些原始数据训练BERT，而不是使用任何特定的NLP任务进行微调。所以，我想要构建一个库，我可以使用它来对特定任务的带注释的训练数据进行微调，例如NER等。这是否可能以我计划的方式实现？
浏览 2提问于2021-03-28得票数 0
1回答
你好，我在android.i上写了一个GRE应用，我是这个领域的新手。
我想要显示微调器控件中的所有字母表。做这件事最好的方法是什么，我怎么做？可以共享一些代码吗。
浏览 0修改于2011-03-27得票数 0
回答已采纳
首先，你可以在下面看到任何幼稚的说法，我是这个领域的新手。
集成大型机器学习/深度学习模型微调的web应用程序如何处理这些模型的存储和检索以进行推理？我试图实现一个网络应用程序，让用户微调一个稳定的扩散模型，使用他们自己的图像与梦想间。由于微调模型相当大，达到了几千兆字节。
浏览 0提问于2023-02-03得票数 0
回答已采纳
在我看来，大多数深度学习都可以被微调，就像我们微调一个预先训练过的bert模型，这意味着一个深度学习模型可以被精细调整，这相当于深度学习模式是一个在线学习模式，只要我尽快收到数据流。这个领域已经不热了吗？或者我输入了错误的关键字，请告诉我。谢谢。
浏览 0提问于2022-02-22得票数 0
由于领域是如此的具体，我想我们可以通过微调一个已经经过预先训练的伯特来获得更好的表现，而不是仅仅使用预先训练的伯特，但是当我们没有句子的时候，我们该怎么做呢？也就是说，如何创建“猜下一句”部分？
浏览 5提问于2022-04-22得票数 0
2回答
因为我有很多特定于领域的单词，所以我想在一个包含我的领域特定词汇表的小数据集上微调我的向量。
我的想法是用我的数据重新训练空间模型。但是，由于spacy中的单词向量是内置的，我不知道如何做到这一点。
浏览 3提问于2020-08-06得票数 0
回答已采纳
如何用我的领域专用语料库微调一个预先训练过的word2vec模型(例如GoogleNews训练的模型)？
浏览 0修改于2021-07-08得票数 2
如何用我的领域专用语料库微调一个预先训练过的word2vec模型(例如GoogleNews训练的模型)？
浏览 10修改于2021-07-08得票数 0
回答已采纳
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号