回答情况：
提问时间：
问题标签：
现在，我想使用GPT-2嵌入(没有微调)。所以我有两个问题
在生成任务以外的分类任务中是否有使用GPT-2的示例？如果我可以使用GPT-2嵌入，我应该如何做呢？
浏览 1修改于2020-11-29得票数 2
试着在谷歌科拉布培训GPT-2。我运行的细胞看起来是这样的：..。/train.py", line 17, in <module> File "/content/gpt-2/src/
浏览 7提问于2021-03-14得票数 0
我正在尝试使用gpt-2来生成文本。即使在运行Tensorflow 2.0 之后，也会出现兼容性错误。我遵循的步骤：
输入python3 src/generate_unconditional_samples.p
浏览 40修改于2020-11-29得票数 2
我正在尝试让Gpt-2在Win10英特尔i7 950上工作，并在Anaconda (python3.5，Tensorflow 1.12)中设置了一个env，但我甚至还没有完成张量流的导入。import tensorflow as tf
File "D:\anaconda3\envs\gpt-2\lib\site-packagesin <module>
from tensorflow.python.pywrap_tensorflow_internal im
浏览 39修改于2020-07-24得票数 0
scoop, slice'))我只能通过Huggingface Transformer访问GPT我如何在Huggingface上启动GPT-2 large来复制上述示例？问题是，使用时，不能分别使用输入和相应的输出(正如上面的GPT-3演示的作者所做的那样)。所需的输出:使用GPT-2返回类似的内容，对于输入“土豆”，输出"peel，slice，cook，mash，ba
浏览 9提问于2021-02-03得票数 1
说：
预培训的spaCy管道，XLNet和GPT-2
import spacy
nlp = spacy.load("en_core_web_trf我已经搜索了，还没有看到类似的包，以访问GPT-2。是否有一个特定的spacy.load()包，为了使用GPT-2模型而加载？
浏览 13提问于2021-08-27得票数 0
回答已采纳
嗨，我正在尝试生成一个20令牌文本使用GPT-2简单。我花了大约15秒的时间来生成这个句子。艾城需要大约4秒的时间才能生成相同大小的句子。有办法加快GPT-2文本的生成吗？
浏览 18提问于2022-02-08得票数 1
我读了很多关于转换器和自我注意的文章，看到BERT和GPT-2都是一个较新的版本，只使用了编码器变压器(BERT)和解码器变压器(GPT-2)。所以我的问题是，如果你没有编码器，你怎么把像GPT-2这样的解码器模型传递给内存呢？
浏览 19提问于2020-12-17得票数 1
我正在微调预训练的gpt-2文字摘要。数据集包含“文本”和“参考摘要”。因此，我的问题是，如何添加特殊的令牌，以获得正确的输入格式。如果是这样的话，接下来的问题是最大标记长度(即gpt-2的1024 )是否也意味着连接的文本长度和参考摘要？
任何评论都将是非常感谢的！
浏览 0提问于2020-12-11得票数 4
我希望对一些文本数据上的GPT-2实现进行微调。然后，我想使用这个模型来完成一个文本提示。使用Max Woolf的gpt-2-simple实现，我可以很容易地完成第一部分。OpenAI的Neil Shepherd's fork允许在新数据上训练GPT-2并完成文本。 然而，我的语料库太小了，不能训练，也不能得到胡言乱语的回复。有没有办法把这两个函数结合起来呢？
浏览 31修改于2020-11-29得票数 2
回答已采纳
最近，我阅读了Jay关于GPT-2 (http://jalammar.github.io/illustrated-gpt2/)的博文，其中我发现有一点非常清晰:他解释说，GPT-2的译码器一次只处理一个输入令牌这是GPT-2解码器之间的区别，还是“经典”转换器的译码器也是这样工作的？
浏览 0修改于2020-03-25得票数 3
回答已采纳
假设GPT-2或GPT-3试图生成下一个令牌，并且它对不同可能的下一个令牌具有一个概率分布(在将softmax应用于某些输出逻辑之后)。它如何在文本输出中选择要使用的令牌？GPT-2纸提到顶部k个随机抽样(引用"递阶神经层生成")，而从不提到波束搜索。GPT-3纸提到核采样(引用"神经文本退化的奇例")和束搜索(引用"用统一文本到文本转换器探讨迁移学习的局限性")。
浏览 0提问于2023-03-20得票数 1
回答已采纳
可以使用TensorFlowJS从OpenAI GPT-2生成文本吗？ 如果不是，限制是什么，比如模型格式或...？
浏览 73修改于2020-11-29得票数 7
occurred: ModuleNotFoundError File "F:\PythonFiles\Post Generator\gpt那么，有没有其他方法可以做到这一点，或者gpt-2不能用于python？
浏览 1修改于2020-11-29得票数 2
我正在努力理解如何使用BERT/GPT-2来生成意译。我不明白我该怎么做。你能给我提供任何资源吗?我可以建立一个释义生成模型吗？“输入是句子，输出是句子的释义”。
浏览 18提问于2021-03-07得票数 3
我正在尝试训练GPT-2使用我在文本文件napoleon.txt中提供的内容。当我运行编码器时，它似乎是从命令提示符运行的。更大的问题是，我为了训练GPT-2而实际需要的train.py，每次都会输出一个错误。
浏览 3提问于2021-04-08得票数 0
嘿，我正在开发一个包，它生成了一个用于训练GPT-2的TFX Pipeline(参见https://github.com/steven-mi/tfx-gpt2)。
浏览 20修改于2020-08-21得票数 2
根据我的理解，gpt或gpt-2正在使用语言模型丢失来训练和生成不包含GAN的文本。我对这个问题很困惑。
浏览 0提问于2019-03-26得票数 1
回答已采纳
我正在尝试导入aitexten包来处理GPT-2解决方案。
浏览 24提问于2022-11-04得票数 0
1回答
我已经提出了一个架构-它将基于GPT-2。但是现在我很难理解它的输出的一般格式。我检查了GPT-2的这 PyTorch实现，下面是我所理解的：区块只是一个具有注意层和卷积层的解码器块。如果我想要我的输出是固定的形状，我需要使用什么占位符，以防输入句子小于最大输入大小的GPT-2模型？
拜托，你能帮我理解一下吗？我很感谢你的帮助。提前谢谢你！
浏览 0提问于2023-03-17得票数 0
回答已采纳
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号