- 综合排序
- 最热优先
- 最新优先
- 来自专栏微言码道
高效的ChatGPT Prompt (三) 持续优化Prompt
当然, 参考下这些好的Prompt是非常有价值的. 但写出好的Prompt的一个关键的方式不在于去抄那些好的Prompts, 而是自己持续去改进微调你的Prompts. 根据你的期望,提出一个Prompt, 向ChatGPT提问 获得ChatGPT的响应,比对结果与你的期望的差距, 调整Prompt,弥补ChatGPT忽略的地方 再次获得ChatGPT的响应,检查是否满足你的需求 这才是好的Prompt的生成的最佳方式. 不存在一个放之四海皆标准的好Prompt, 你需要持续的与ChatGPT互动,去微调你的Prompt,才有可能让它更满足你的需求. 这篇文章是我从我过往的文章中随便选出来的 -- JMeter与LoadRunner的简要对比 第一版Prompt 我希望ChatGPT帮助我总结这篇文章说了什么, 所以我的第一版的Prompt是这样的 所以意识到这一点后,我改进了我的Prompt 第二版Prompt 我提供了一段文章,以---开始并结束. --- .... 文章内容过长,忽略.
1K10编辑于 2023-08-31 - 来自专栏GLM 技术文章
BPO：灵活的 Prompt 对齐优化技术
于是有了 「Prompt工程师」这一岗位，专门撰写适配 LLM 的 Prompt，从而让模型能够更好地生成内容。而另一种更为有效的方案则是，让模型向人对齐。 因此，我们提出另外的一种方案，即黑盒提示对齐优化技术（Black-box Prompt Optimization），通过优化用户指令，从输入角度对模型进行对齐。 接着，基于这些特征，我们再利用模型优化原始的用户输入，以期得到更符合用户喜好的模型输出。3、训练提示优化器：经过步骤一和步骤二，我们得到了大量隐含人类偏好的提示对。 三、研究者说问：BPO 和反馈学习方法（PPO、DPO）以及 Prompt Engineering方法（如OPRO）的区别是什么？ 与 OPRO 对比，BPO 最大的特点在于更加通用，OPRO 等现有的 Prompt Engineering 技术大多需要针对特定的数据进行搜索，并且会搜索得到一个针对特定任务的提示。
66810编辑于 2023-12-22 - 来自专栏自然语言处理(NLP)论文速递
Auto-Prompt | 大模型提示(Prompt)优化新方法IPC：可根据用户意图进行定向优化
今天给大家分享的这篇文章，提出了一种名为Intent-based Prompt Calibration (IPC) 的系统，旨在通过使用合成案例样本来优化大型语言模型（LLMs）的提示（prompt）工程 为了解决大模型的提示敏感性问题，有人提出使用软提示（soft-prompt）的方法，但此类方法需要对LLM本身做相应的改变才可进行优化。然而最近的研究表明，可以通过大模型本身来优化提示。 优化过程中，首先通过提供一个元提示（meta-prompt）来迭代执行，这个元提示结合最近几次的提示分数，最后引导模型选出分数更高的提示。 然后，在校准优化过程中，系统会迭代执行以下步骤： 1.为任务和当前提示提出一些具有挑战性和多样性的样本（对应上图步骤2）。 2.在生成的数据集上评估当前提示，并进行分析（对应上图3）。 3.根据最近几次的提示，生成一个分数更高的提示。当最近几步没有改进，或者达到最大迭代次数时，优化过程就会结束（对应上图4）。
1.6K10编辑于 2024-03-02 - 来自专栏小七的各种胡思乱想
解密Prompt系列3. 冻结LM微调Prompt: Prefix-tuning & Prompt-tuning & P-tuning
T5 1.1（在原T5上进行了细节优化） 图片 Prompt-tuning是以上prefix-tuning的简化版本，面向NLU任务，进行了更全面的效果对比，并且在大模型上成功打平了LM微调的效果~ Design（GPT3 few-shot） 图片 作者也做了全面的消融实验，包括以下4个方面，最核心的感受就是只要模型足够够大一切都好说 prompt长度(a)：固定其他参数，作者尝试了{1，5，20 因此还是选择把p-tuning也放到这一章，毕竟个人认为LM+Prompt的微调范式属实有一点不是太必要。。。 论文同样是连续prompt的设计。不过针对上面提到的Prompt的整体性问题进行了优化。 针对知识抽取，作者构建的prompt模板如下，以下3是虚拟prompt词的数量，对应prompt encoder输出的embedding数 BERT：(3, sub,3,obj,3) GPT（3，sub ,3,obj） 在知识探测任务中，默认是固定LM只微调prompt。
6.7K50编辑于 2023-03-10 - 来自专栏做数据的二号姬
学习笔记 | ChatGPT Prompt Engineering for Developers 3
31 2023-05 学习笔记|ChatGPT Prompt Engineering for Developers 3 吴恩达chatGPT课程学习笔记&简单翻译，有兴趣的同学还是去看原版的课程比较好~ 这一讲中，会做一个框架，让你思考如何去开发prompt。 如果你跟着学过机器学习的课程，那么你应该见过这么一张图： prompt迭代的原理和机器学习类似，对于prompt来说，只不过是把机器学习的这个图里的code/data改成了prompt而已：当你有一个想法 网传的那些什么30个最佳prompt词汇之类的文章，可以不用care，因为在实战中，其实是不存在最佳prompt一说的。比提示词是什么更重要的迭代的过程。 prompt话术可以用作参考： prompt = f""" Your task is to help a marketing team create a description for a retail
32330编辑于 2023-09-06 - 来自专栏EdisonTalk
ChatGPT学习之旅 (3) Prompt进阶用法
复习Prompt用法 还记得上一篇学到的黄金公式吗？ 第一轮：初步回答 Prompt： 假如你是一名资深导游，我想要去四川省西昌市旅游，预算四千元，旅行人数4大1小，行程3天，乘坐高铁从成都出发，请帮我生成一份3天的旅游攻略。 请注意：1.我不太喜欢行程太紧凑，我喜欢休闲游；2.我喜欢品尝当地的美食，也请推荐一些美食；3.推荐景点时请附上各个景点的价格以及链接； AI回答： 第二轮：指出错误的地方 第三轮：给予肯定，但要求重新生成第二天计划 Prompt2: 请在上面的SQL查询基础上，按照顾客的Id进行升序排序。 此外，我们还了解了使用Prompt来获取SQL查询 和 C#示例代码的案例，以及情景式混用中英双语Prompt达到更好的效果，相信会对你有所帮助。
57310编辑于 2024-06-01 - 来自专栏小七的各种胡思乱想
解密Prompt系列36. Prompt结构化编写和最优化算法UNIPROMPT
上一章我们聊了标准化的Prompt生成方案DSPy，但DSPy还是更多依赖few-shot的Prompt编写范式，在纯任务描述型指令上的优化效果有限。这一章我们就重点关注描述性指令优化。 我们先简单介绍下结构化Prompt编写，再聊聊从结构化多角度进行Prompt最优化迭代的算法方案UniPrompt1. Then, xxx3. 相比上一章DSPy里面提到的大模型反思直接优化，以及随机搜索的方案要更加有系统针对性~Prompt Optimization？论文前面很有意思，作者先尝试论证定向Prompt最优化这个事它靠不靠谱。 这里两阶段的设计和梯度累计的思路相似，其实还是想要降低个别样本，甚至个别mini-batch在prompt迭代时陷入个性而非共性优化的问题(其实你只要试试用大模型去做过prompt优化就会发现模型非常容易被带偏
1.3K22编辑于 2024-08-14 - 来自专栏CSDNToQQCode
【千帆大模型4】——Prompt优化——游戏对话语句优化
优化目标： 用于一个学习对话类的游戏。可以让大学生，特别是男孩子学会如何与女孩子对话。 此对话应用于对话小游戏： 【寻找游戏大模王】利用千帆大模型4制作小游戏 优化操作指引 优化指引在新手引导里面，右上角，直接点就行，描述的很直接，有动作指引。 ； 5、信息5是渣女对信息3普通男的回复并告知回答错误给与错误惩罚。 优化效果还是不错的，这里有一些参数我们来看着调整。 这样又生成了个模板： 总结 这只是一个简单的游戏对话的优化，虽然可以在结果中看到想要解析出来我们需要的接口还是比较麻烦的，如果要能根据结果再做反推就好了，期待这个功能。
44310编辑于 2023-11-22 - 来自专栏小七的各种胡思乱想
解密Prompt系列1. Tunning-Free Prompt：GPT2 & GPT3 & LAMA & AutoPrompt
范式，并以其中的冻结参数Tunning-Free Prompt为线索串联GPT2，GPT3，LAMA和AutoPrompt这四种冻结参数的基础模型 what is prompt 综述1.Pre-train 第一章介绍Tunning-Free Prompt，在下游任务使用中LM和Prompt都是冻结的，不需要针对下游任务进行微调，可以用于Zero-shot和few-shot场景，主要介绍下GPT2，GPT3 另一方面GPT3在few-shot场景做了很多尝试，提出了自带神秘光环的in-context learning，可以被归类为multi-prompt中的prompt augmentation方案~ 175Billon Augmentation，任务描述+多个带答案的样本 图片 GPT3对其他NLP任务的prompt构建方案详见论文附录G~ 对于Prompt Augmentation带来的效果提升，个人感觉in-context ，在prompt中只保留标签或者只保留输入，模型效果都会有显著下降 GPT3正式推开了in-context learning的大门，模型参数也断层式的增长进入了Billon级别，后面的Flan，PaLM
7K31编辑于 2023-02-23 AI提示词（Prompt）设计优化方案 _ 高效使用AI工具
AI 提示词（Prompt）设计优化方案 | 高效使用 AI 工具嘿，各位技术探索家们！在这个 AI 横行的时代，你是不是常常感觉自己和 AI 之间隔着一层 “神秘面纱”？ 迭代优化机制建立设计提示词不是一蹴而就的，需要不断打磨、优化 。建立提示词优化闭环，包含测试、评估、改进三个阶段。 每个测试用例包含输入参数和预期输出 3. 自动化优化系统# 提示词自动优化算法框架def auto_optimize(prompt): while True: response = call_llm(prompt) """3.
3.5K10编辑于 2025-03-29- 来自专栏小七的各种胡思乱想
解密Prompt系列1. Tunning-Free Prompt：GPT2 & GPT3 & LAMA & AutoPrompt
范式，并以其中的冻结参数Tunning-Free Prompt为线索串联GPT2，GPT3，LAMA和AutoPrompt这四种冻结参数的基础模型 what is prompt 综述1.Pre-train 第一章介绍Tunning-Free Prompt，在下游任务使用中LM和Prompt都是冻结的，不需要针对下游任务进行微调，可以用于Zero-shot和few-shot场景，主要介绍下GPT2，GPT3 另一方面GPT3在few-shot场景做了很多尝试，提出了自带神秘光环的in-context learning，可以被归类为multi-prompt中的prompt augmentation方案~ 175Billon ，任务描述+多个带答案的样本 GPT3对其他NLP任务的prompt构建方案详见论文附录G~ 对于Prompt Augmentation带来的效果提升，个人感觉in-context这个词的使用恰如其分 ，在prompt中只保留标签或者只保留输入，模型效果都会有显著下降 GPT3正式推开了in-context learning的大门，模型参数也断层式的增长进入了Billon级别，后面的Flan，PaLM
1.3K31编辑于 2023-03-06 - 来自专栏YoungGy
【优化3】非线性优化
凸集和凸函数 SOCP Guideline
87360发布于 2018-01-02 - 来自专栏NLP/KG
Prompt工程师指南应用篇：Prompt应用、ChatGPT|Midjouney Prompt Engineering
Prompt工程师指南应用篇：Prompt应用、ChatGPT|Midjouney Prompt Engineering 1.ChatGPT Prompt Engineering 主题： 与 ChatGPT 在那里，科学家生成了抗体的早期版本，称为OKT3。最初从小鼠中获得，这种分子能够结合到T细胞的表面并限制它们的细胞杀伤潜力。 Question: What was OKT3 originally sourced from? 3.Prompt 应用 在这个指南中，将介绍一些高级和有趣的方式，通过 prompt engineering 来执行有用的更高级别的任务。 请注意，本节正在积极开发中。 # If Jane thought today is 3/11/2002, but today is in fact Mar 12, then today is 3/1/2002. today = datetime
2K30编辑于 2023-05-15 - 来自专栏AI
Prompt工程
这个程序用于总结书籍的效果已经被OpenAI以GPT-3的变体进行了研究。 评估程序（或“评估”）对于优化系统设计很有用。 易于自动化或重复待检测的差异95% 置信水平所需的样本量30% 约 10 10% 约 100 3%
66310编辑于 2024-05-09 - 来自专栏数据社
Prompt Engineering
3.描述任务和一般情境 通常在任务描述中包含额外的组成部分会很有用，自然而然地，这些组成部分往往会在我们要处理的输入文本之后。 为模型提供足够的上下文。例如，在文章之前更详细地描述摘要任务。 mathematician of his time[2] and said to be "the last representative of the great mathematicians".[3] that is not completely backward-compatible and much Python 2 code does not run unmodified on Python 3. My favourite walks in Toronto 这将给我们带来类似以下的生成结果： 3. An overview of Toronto 4. Toronto events 5.
38120编辑于 2023-10-22 - 来自专栏python3
mysql优化3
（3）配置示例 mysql> show variables like '%query_cache%' ; +------------------------------+---------+ | Variable_name
73410发布于 2020-01-09 - 来自专栏数据社
Prompt Engineering
3.描述任务和一般情境 通常在任务描述中包含额外的组成部分会很有用，自然而然地，这些组成部分往往会在我们要处理的输入文本之后。 为模型提供足够的上下文。例如，在文章之前更详细地描述摘要任务。 mathematician of his time[2] and said to be "the last representative of the great mathematicians".[3] that is not completely backward-compatible and much Python 2 code does not run unmodified on Python 3. My favourite walks in Toronto 这将给我们带来类似以下的生成结果： 3. An overview of Toronto 4. Toronto events 5.
41610编辑于 2023-10-22 - 来自专栏圆圆的算法笔记
NLP Prompt系列——Prompt Engineering方法详细梳理
这篇文章详细汇总了近2年10篇论文中3种Prompt Engineering方法，主要包括人工构造prompt、自动生成prompt、隐空间prompt3种类型，看看顶会论文中都是如何构造prompt模板并以此提升 1 人工构造prompt 最基础的方法就是基于人工知识来定义prompt模板。Prompt模板可以分为prefix prompt和cloze prompt两类。 prompt模板的效果选择最优的prompt模板，或对多个prompt模板结果进行融合。 3 隐空间中的prompt 上面介绍prompt模板都是具体文本的prompt，另一种类型的prompt是在隐空间的prompt。 GPT Understands, Too（2021）采用的思路是将人工定义的prompt的token对应的embedding从预训练模型输出的改为一个可学习的hidden向量，让模型去优化。
4.7K31编辑于 2022-09-22 - 来自专栏林德熙的博客
Fixing Missing Windows App Runtime Environment Prompt for Unpackaged WinUI 3 Applications
This article will tell you how to fix the prompt for a missing Windows App Runtime environment when running non-packaged WinUI 3 applications on a customer’s machine. The prompt for a missing Windows App Runtime environment on the user’s machine looks something like this This article will tell you how to make WinUI 3 applications work like traditional Win32 applications, To avoid the prompt mentioned above, it is best to have the WindowsAppSdkUndockedRegFreeWinRTInitialize
52010编辑于 2024-03-25 - 来自专栏【腾讯云开发者】
一文掌握Prompt：万能框架+优化技巧+常用指标
阶段4：之后的故事大家都非常熟悉了，OpenAI 在 GPT-3 的基础上针对不同场景进行了优化，在“多轮对话”的优化中诞生了“ChatGPT”，随后成为了世界上最火热的话题，也被认为是 AI 市场化的起点 我们利用一套统一的模版，解决最困难的初始 Prompt 书写的问题，并结合实际应用一步步的进行优化，从而体系化的完成 “Prompt 工程” 的工作。 02、Prompt 万能框架 在编写 Prompt 时，从0到1的编写出第一版 Prompt 往往是最难的，而基于已有 Prompt 利用各种技巧进行优化则相对简单。 6.2 让大模型帮你优化 Prompt 我们可以使用各种技巧优化我们的 Prompt，那大模型可不可以帮我们自动优化我们的 Prompt 呢？ 利用更多技巧不断优化。 我们认为在一个大模型工程中，“Prompt”应该起到基石般的作用，有效稳定可扩展。
12.3K109编辑于 2024-07-30
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号