- 综合排序
- 最热优先
- 最新优先
- 来自专栏人工智能极简应用
【人工智能】Transformers之Pipeline（十八）：文本生成（text-generation）
共计覆盖32万个模型 今天介绍NLP自然语言处理的第六篇：文本生成（text-generation），在huggingface库内有13.4万个文本生成（text-generation））模型，当仁不让为最重要的 二、文本生成（text-generation） 2.1 概述 生成文本是根据一段文本生成新文本的任务。例如，这些模型可以填充不完整的文本或释义。 ) output=generator( "我不敢相信你做了这样的事 " , do_sample= False ) print(output) generator = pipeline(task="text-generation 三、总结 本文对transformers之pipeline的文本生成（text-generation）从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍，读者可以基于pipeline 使用文中的2行代码极简的使用NLP中的文本生成（text-generation）模型。
1.2K10编辑于 2024-09-17 - 来自专栏OpenVINO
OpenVINO与LangChain
: "1", "CACHE_DIR": ""} ov_llm = HuggingFacePipeline.from_model_id( model_id="gpt2", task="text-generation OVModelForCausalLM.from_pretrained( model_id, export=True, device=device, ov_config=ov_config ) ov_pipe = pipeline( "text-generation bit quantization ov_llm = HuggingFacePipeline.from_model_id( model_id="ov_model_dir", task="text-generation
38500编辑于 2024-05-17 - 来自专栏muller的测试分享
Mistral 大语言模型
pipeline as a high-level helperfrom transformers import pipelinedef test_mistral(): pipe = pipeline("text-generation pipeline as a high-level helperfrom transformers import pipelinedef test_mixtral(): pipe = pipeline("text-generation
36310编辑于 2024-09-03 - 来自专栏DeepHub IMBA
大语言模型量化方法对比：GPTQ、GGUF、AWQ
transformers import pipeline # Load in your LLM without any compression tricks pipe = pipeline( "text-generation device_map='auto', ) # Create a pipeline pipe = pipeline(model=model, tokenizer=tokenizer, task='text-generation revision="main" ) # Create a pipeline pipe = pipeline(model=model, tokenizer=tokenizer, task='text-generation ", use_fast=True ) # Create a pipeline pipe = pipeline(model=model, tokenizer=tokenizer, task='text-generation
12.5K71编辑于 2023-11-20 - 来自专栏Y-StarryDreamer
[自然语言处理|NLP]教育NLP中的应用：从原理到实践
个性化课程推荐from transformers import pipeline# 使用Hugging Face的GPT进行课程推荐course_recommendation_nlp = pipeline("text-generation transformers import pipeline# 使用Hugging Face的BERT进行多媒体资源推荐multimedia_recommendation_nlp = pipeline("text-generation 学习进度监测与建议from transformers import pipeline# 使用Hugging Face的GPT进行学习建议生成learning_advice_nlp = pipeline("text-generation
1.5K40编辑于 2023-11-19 - 来自专栏leehao
DB-GPT安装部署使用初体验
EMBEDDING_MODEL=text2vec #通义千问 PROXY_SERVER_URL=https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation tongyi_proxyllm model_path: tongyi_proxyllm proxy_server_url: https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation
2K12编辑于 2025-02-11 - 来自专栏SimpleAI
Huggingface🤗NLP笔记1：直接使用pipeline，是个人就能玩NLP
"text-generation": will return a TextGenerationPipeline. text generation默认使用gpt2，但我们也可以指定Huggingface Hub上其他的text generation模型，这里我找到一个中文的： generator = pipeline('text-generation
5.1K40发布于 2021-10-08 - 来自专栏信息技术智库
100天精通Python丨黑科技篇 —— 05、ChatGPT
以下是一些示例代码： from transformers import pipeline generator = pipeline('text-generation', model='EleutherAI 我们指定了模型名称（在此示例中为 EleutherAI/gpt-neo-1.3B）和管道类型（在此示例中为 text-generation）。
1.3K70编辑于 2023-03-30 [deepspeed]deepspeed安装和测试代码
(os.getenv('LOCAL_RANK', '0')) world_size = int(os.getenv('WORLD_SIZE', '1')) generator = pipeline('text-generation
36110编辑于 2025-07-20- 来自专栏muller的测试分享
mixtral大模型
pipeline as a high-level helperfrom transformers import pipelinedef test_mixtral(): pipe = pipeline("text-generation
21010编辑于 2024-10-16 - 来自专栏数据分析与挖掘
LLM（大语言模型）解码时是怎么生成文本的？
(outputs, skip_special_tokens=True)) Part3生成结果 使用transformers库的生成模型生成结果有三种方式，暂时不要在意参数： 3pipeline 指定为text-generation from transformers import pipeline generator = pipeline( 'text-generation', model="uer/gpt2 TextGenerationPipeline在_forward里面调用了model.generate()，pipeline实际上是对TextGenerationPipeline的进一步封装： "text-generation pad_token_id=0, penalty_alpha=0.6, top_k=4 )) generator = pipeline("text-generation False, pad_token_id=0, num_beam_groups=4, )) generator = pipeline("text-generation
6.3K30编辑于 2023-04-27 - 来自专栏技术人说
AI的成长日记，项目实操带你读懂什么是预训练，什么是后训练
pad_tokeniftokenizer.pad_tokenisNone:tokenizer.pad_token=tokenizer.eos_token#用transformers的pipelinegenerator=hf_pipeline("text-generation /my_chat_gpt2")generator=hf_pipeline("text-generation",model=model,tokenizer=tokenizer,device=0)print print(f"数据处理完成，共{len(tokenized_ds)}条")#3.微调前生成（看看它有多离谱）print("\n微调前（只会背Linux命令）：")gen_before=pipeline("text-generation print("\n微调后（学会打招呼了）：")gen_after=pipeline("text-generation",model=save_dir,tokenizer=tokenizer,device /my-gpt2-chat-final"#如果你改过名字，改成你的路径gen=pipeline("text-generation",model=model_path,tokenizer=tokenizer
47420编辑于 2025-11-24 - 来自专栏Y-StarryDreamer
[自然语言处理|NLP]社交媒体分析中的应用：从原理到实践
示例代码：用户趋势分析from transformers import pipeline# 使用Hugging Face的BERT进行用户趋势分析user_trend_nlp = pipeline("text-generation 示例代码：洞察用户需求from transformers import pipeline# 使用Hugging Face的BERT进行用户需求分析user_needs_nlp = pipeline("text-generation
1.5K20编辑于 2023-11-18 Apache Doris 4.0 的 AI 功能：操作指南和脚本（LLM 函数 + 向量索引）与 CMP 7.3（ Cloudera CDP 7.3 华为鲲鹏)
llm","llm.provider_type"="qwen","llm.endpoint"="https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation Content-Type':'application/json'}resp=requests.post('https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation
25110编辑于 2025-11-13- 来自专栏AI工程落地
MInference：通过动态稀疏Attention加速长文本推理
MInference支持的模型）：from transformers import pipeline+from minference import MInferencepipe = pipeline("text-generation
1.7K20编辑于 2024-07-11 - 来自专栏机器之心
Meta教你5步学会用Llama2：我见过最简单的大模型教学
pipeline 模块能指定 pipeline 任务运行所需的任务类型（text-generation）、推理所需的模型（model）、定义使用该模型的精度（torch.float16）、pipeline 在脚本中添加以下内容，以实例化用于运行示例的流水线任务： pipeline = transformers.pipeline ( "text-generation", model=model, tokenizer
8.8K11编辑于 2023-12-05 - 来自专栏量子位
推理1760亿参数的BLOOMZ，性能时延仅3.7秒 | 最“in”大模型
. && cd examples/text-generation pip install git+https://github.com/HabanaAI/DeepSpeed.git@1.8.0△若代码显示不全 https://github.com/huggingface/optimum-habana.git cd optimum-habana && pip install . && cd examples/text-generation /how-to-generate#greedy-search [23]https://github.com/huggingface/optimum-habana/tree/main/examples/text-generation
74110编辑于 2023-09-08 [大模型]Gemma-2B langchain 接入
self.tokenizer = AutoTokenizer.from_pretrained(model_name_or_path) self.pipeline = pipeline("text-generation
33810编辑于 2025-07-21- 来自专栏人工智能极简应用
【人工智能】Transformers之Pipeline（概述）：30w+大模型极简应用
"text-generation"：将返回一个TextGenerationPipeline：。 t5-base", "686f1db"), "tf": ("google-t5/t5-base", "686f1db")}}, "type": "text", }, "text-generation
1.5K10编辑于 2024-08-13 - 来自专栏大数据文摘
用GPT-2做个“姥爷”！57行代码给《瑞克和莫蒂》写新剧集
st.cache(allow_output_mutation=True, suppress_st_warning=True) def load_model(): return pipeline("text-generation st.cache(allow_output_mutation=True, suppress_st_warning=True) def load_model(): return pipeline("text-generation 以下这个案例也说明该模型可能生成具有偏见性的结果： >>> from transformers import pipeline, set_seed >>> generator = pipeline('text-generation
1.4K31发布于 2020-11-16
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号