- 综合排序
- 最热优先
- 最新优先
- 来自专栏周拱壹卒
Chat with LLMs
/chat-llms -t 去掉模板文件 _template 后缀，配置多模型信息、对话内容，如有需要还可配置系统提示词。 /chat-llms 默认每个模型每个温度分别调用3次流式和非流式接口，调用结果默认生成到 ./result 路径下。 参数 $ . /chat-llms -h NAME: chat-llms - Chat with multi-LLMs at the same time. /chat-llms 未读取到系统提示词，请求中将不会添加。如需使用系统提示词，可通过 system_prompt.txt 文件设置。 /chat-llms -r 1 -o .
25000编辑于 2025-03-10 - 来自专栏大模型应用
大模型应用：LangChain核心组件深度解析：llms与embeddings.3
核心组件在LangChain中，两个核心组件是llms和embeddings：LLMs：大语言模型，负责文本生成、对话等任务。Embeddings：将文本转换为向量表示，用于语义搜索、相似度计算等。 LLMs与Embeddings的区别：大语言模型(LLMs)： 功能：文本生成、对话、推理输出：自然语言文本特点：生成式、创造性嵌入模型(Embeddings)： 功能：文本向量化、语义理解输出：数值向量特点 二、LLMs 组件详解1、LLMs介绍 在LangChain中，LLMs组件是核心之一，它是对各种大语言模型的抽象。通过LLMs组件，我们可以以统一的方式调用不同的模型。 print(response)三、Embeddings 组件详解1. Embeddings 介绍 Embeddings组件用于将文本转换为向量表示。 六、总结 通过LangChain，我们可以方便地集成LLMs和Embeddings组件，构建强大的应用程序。
32221编辑于 2026-01-31 - 来自专栏数据探险家专栏
LangChain Java - a framework for developing applications with LLMs
This is the Java language implementation of LangChain.Large language models (LLMs) are emerging as a But using these LLMs in isolation is often not enough to create a truly powerful app - the real power .build() .init();---The following test code can be used to view the QuickStart.java2.3 LLMs 2.5 Chains: Combine LLMs and prompts in multi-step workflowsUp until now, we’ve worked with the PromptTemplate a combination of them.A chain in LangChain is made up of links, which can be either primitives like LLMs
1.4K30编辑于 2023-06-14 - 来自专栏机器学习AI算法工程
开源大语言模型LLMs汇总
大语言模型（LLM）是指使用大量文本数据训练的深度学习模型，可以生成自然语言文本或理解语言文本的含义。大语言模型可以处理多种自然语言任务，如文本分类、问答、对话等，是通向人工智能的一条重要途径。
2.9K10编辑于 2023-09-04 - 来自专栏自然语言处理(NLP)论文速递
剑桥 | 提出Hypernetwork，解耦LLMs分词器(Tokenizer)，提高LLMs跨语言处理性能！
大模型（LLM）主要依赖于分词器（Tokenizer ）将文本转换为Tokens，目前主流开源大模型基本上都是基于英文数据集训练得到的，然而，此类模型当处理其它语言时效率会降低。为此，为了能够将原始 LM 分词器替换为任意分词器，而不会降低性能，本文作者定义了一个新挑战：零样本分词器迁移(ZeTT，Zero-Shot Tokenizer Transfer），训练了一个适配各种模型的超网络（Hypernetwork），解耦LLM分词器(Tokenizer)，增强LLM跨语言处理性，实验表明：在跨语言和编码任务上可媲美原始模型。
62910编辑于 2024-05-17 - 来自专栏Reinvent Data Science
LLMs 诸神之战：LangChain ，以【奥德赛】之名
LLMs 变聪明的秘密——LangChain LLMs 优秀的对话能力已是共识，但其内存有限、容易“胡说八道”也是不争的事实。 LLMs 是根据权重生成答案的，因此无法验证信息的可靠性或提供信息来源。 那么，如何让 LLMs 好好地回答问题并总结数据？如何让 LLMs 提供答案来源？ LangChain 是一个将不同计算方式、知识与 LLMs 相结合的框架，可进一步发挥 LLMs 的实际作用。 LLMs 一次只能处理一定数量的 token（约 4 个字符），这就意味着 LLMs 无法分析长篇文档或文档集。 在这一步中，可以使用原始的 LLMs 生成 embedding 向量，这样不仅操作方便，还能在检索过程中保留 LLMs 的“思维过程”。
42420编辑于 2023-08-26 - 来自专栏深度学习自然语言处理
情感分析与LLMs角色扮演
Why Two LLMs but Not One? Vanilla ICL Self-Negotiation Negotiation with two LLMs Dataset and methods 本文在六个数据集上进行实验，分别为：SST-2，Movie
1.2K30编辑于 2023-11-09 - 来自专栏深度学习自然语言处理
LLMs可以遵循简单的规则吗?
论文：CAN LLMS FOLLOW SIMPLE RULES? 地址：https://arxiv.org/pdf/2311.04235.pdf git：https://github.com/normster/llm rules 摘要 为了解决LLMs的规则遵循问题， 要想使AI虚拟助手在安全地整合到社会中，就需要研究并改进LLMs对于规则遵循的能力。
82210编辑于 2023-11-16 - 来自专栏Elastic Stack专栏
NLP vs LLMs：技术差异深度解析
LLMs解释NLP和LLMs之间的主要区别技术基础和发展Elastic在NLP和LLMs方面的解决方案阅读完本文后，您将了解它们是如何解决关键挑战的，它们面临的局限性，以及它们如何塑造未来与机器的语言互动 LLMs解释LLMs 是一种完全不同的技术。它们不是解释问题，而是直接从大量文本数据中学习，建立对语言本身的内在理解。LLMs可以消化书籍、文章、网站等数据，在此过程中识别模式和关系。 这种训练使LLMs不仅能理解您所说的话，还能预测您接下来可能会说什么。然后，LLMs可以生成回应，甚至模仿用户生成遵循相同模式的内容。 这些能力的结合使LLMs擅长于：生成高质量的人类文本：从诗歌到代码，从脚本到新闻文章，LLMs可以根据不同情境调整写作风格，以迷人的方式模仿人类的创造力。 LLMs:内容创作：从产品描述到博客文章，LLMs生成引人入胜的内容，释放人类作者从事更战略性任务的空间。聊天机器人和虚拟助手：LLMs为对话AI提供动力，实现与客户服务机器人或虚拟助手的自然互动。
1.7K21编辑于 2024-04-18 - 来自专栏深度学习自然语言处理
LLMs实际上在假对齐！
论文： Fake Alignment: Are LLMs Really Aligned Well? 地址： https://arxiv.org/pdf/2311.05915.pdf 介绍 有研究指出LLMs可能会产生恶意内容(例如：有害和有偏见的言论，危险的行为准则和隐私泄露等)，引起安全问题。 假对齐 背景 LLMs是在大型语料库上训练的概率模型，用于给定token序列预测下一个token，即 P(y \mid X)= P\left(y \mid x_1, x_2, \ldots, x_{t- 当前与LLMs的常见交互方法是提示工程，这意味着用户输入专门设计的提示文本，以指导LLM生成响应。对LLM的评估也遵循类似的方法，给它们一些测试问题，然后自动或手动判断响应。 是否可能提供可能违反法律的建议，如盗窃、抢劫或类似的非法活动; 隐私性:旨在测试LLMs是否泄露了一些私人信息或提供了损害他人隐私的建议; 社会伦理:包括环境友好性、生物友好性、对他人的友好性等。
1K40编辑于 2023-11-17 - 来自专栏不二小段
聊一聊 LLMs 和世界模型
而有不少人认为 LLMs 会很快触达瓶颈，然后无法通过 LLMs 迈向 AGI（通用人工智能），同时认为「世界模型」更贴近对真实世界的感受认知推理决策而不仅仅局限在文本内容，所以通过世界模型更可能实现 尝试用 Meta 自己的 LLama2 模型（而不是 GPT-4 模型）去证明「大语言模型就是世界模型」，或者说「大语言模型可以是世界模型」，就，有点意思了…这篇论文最重要的结论就是，大型语言模型（LLMs 延续论文结论往下想，如果 LLMs 是世界模型，那大家之前的争论还有啥意义；如果世界模型可以进化为 AGI，而 LLMs 就是世界模型，岂不是 LLMs 可以迈向 AGI 了…所以也不奇怪大家对这篇论文如此关注了 这也是为什么说 LLMs 不如狗，因为狗都天然地拥有对世界的感知能力，天然地明白重力、惯性、视觉、嗅觉这些真实世界的信息。 所以 Yann LeCun 会说 LLMs 不是世界模型是因为它们不能感知世界。
2.6K00编辑于 2023-10-31 将LLMs融入实用NLP工作流程
将LLMs融入实用NLP工作流程在本次演讲中，我将展示大型语言模型（如GPT-3）如何作为现有机器学习工作流程的补充而非替代品。 /youtu.be/Bd2ciwinFUE实践流程：查询LLM并解析响应 -> 根据需要调整提示查询LLM并解析响应根据需要调整提示人工校正流程纠正错误将正确答案添加到提示中以优化它生成并显示理由总结LLMs
6210编辑于 2026-03-11- 来自专栏AIGC 先锋科技
推理加速策略对 LLMs 偏差的影响 !
KV缓存是快速LLM推理的关键组件，可以在GPU上占用大量空间。因此，缓存量化允许使用更大的KV缓存以实现更快地推理。作者使用4位（Liu等人，2023年）和8位（同上）量化。 剪枝**(Pruning)** 是一种去除模型权重子集的方法，以降低语言模型（LLMs）的高计算成本，同时力求保持性能。传统的剪枝方法需要重新训练（Cheng等人，2024）。 6 Conclusion & Future Work 在本研究中，作者研究了推理加速策略对大型语言模型（LLMs）偏置的影响。 The Impact of Inference Acceleration Strategies on Bias of LLMs.
33210编辑于 2024-11-25 - 来自专栏Python进阶之路
Nature Perspective | LLMs 作为角色扮演引擎
本文提出了另一种方法，即使用角色扮演的概念，既能使用熟悉的术语，又能承认 LLMs 独特的非人类性质。 从根本上说，LLM 可以根据大量训练数据预测文本序列中的下一个单词。 要点总结： 本文讨论了如何通过使用角色扮演概念来更好地理解大语言模型（LLMs），同时承认其非人类性质。 对话系统中使用的大语言模型可以模仿人类对话，但需要引导以避免产生不良内容。 有了应用程序接口（APIs），就可以相对无限制地使用强大的 LLMs，这意味着对话智能体的可能性是巨大的。这既令人兴奋，又令人担忧。 因为 LLMs 的训练数据将包含这种熟悉的比喻的许多实例，所以这里的危险是生活会模仿艺术，毫不夸张地说。 如何才能降低这些风险？提出建议不属于本文的讨论范围。 我们的目的是找到一个有效的概念框架，用于思考和讨论 LLMs 和对话智能体。然而，不适当的拟人化肯定不利于关于人工智能的公共对话。
74210编辑于 2023-12-28 - 来自专栏deepseek
03 deep research： Challenges and Prospects of Advanced Reasoning LLMs
Meta’s Toolformer taught LLMs to insert API calls in their text autonomously (Can language models make logic and math tasks, far beyond coding questions alone (At Which Training Stage Does Code Data Help LLMs (Leadership Perspectives: Use Cases and ROI of LLMs - AI Forward | Fiddler AI). Purely neural LLMs, even very large ones, still struggle with certain types of systematic reasoning and In the coming years, we might see “reasoning co-processors” attached to LLMs: differentiable modules
45500编辑于 2025-03-20 2025：LLMs（大语言模型）的元年（译）
2025: The year in LLMs Simon Willison https://simonwillison.net/2025/Dec/31/the-year-in-llms/ 这是我年度回顾系列的第三篇 往年文章可参见 Stuff we figured out about AI in 2023 和 Things we learned about LLMs in 2024。 长任务之年 我最近见到关于 LLM 最有意思的图表之一，来自 METR，标题是 Time-horizon of software engineering tasks different LLMs can 你可以在这里阅读（或观看）我那场演讲：The last six months in LLMs, illustrated by pelicans on bicycles。
43910编辑于 2026-02-04- 来自专栏灵墨AI探索室
快速上手Prompt，让你的LLMs更智能
在当前社会中，随着AIGC的盛行，使用好prompt可以让自己更上一层楼。今天，我将通过星火大模型重新认识prompt设计，并与大家分享一些使用技巧。
63810编辑于 2023-11-21 - 来自专栏Reinvent Data Science
破解提升 LLMs 性能的黑匣子—— LlamaIndex
对于 Jerry Liu 的这个比喻，熟悉 LLMs 的开发者会觉得颇为贴切，尤其是对于那些想要用私有数据要训练自己大模型的开发者而言，LlamaIndex 绝对是提升大模型性能，让其更加易用、流畅的不二选择 在使用 LLMs 的过程中，开发者往往会遇到诸多挑战，例如 LLM 缺乏特定领域的知识。为此，我们引入了 CVP Stack，以便将不同领域的知识注入 LLM 应用之中。
1.5K20编辑于 2023-08-26 - 来自专栏喔家ArchiSelf
WEB语义化的新探索：浅析LLMs.txt
LLMs.txt的诞生 Answer.AI的联合创始人 Jeremy Howard 率先提出了 LLMs.txt，来解决网站与大模型应用关系的技术挑战。 什么是 LLMs.txt LLMs.txt是一个具有特定结构的markdown文件， 由两类文件构成： /llms.txt: 简化的文档导航视图，帮助 AI 系统快速理解站点的结构 /llms-full 如何生成 LLMs.txt 文件 由于使用了 LLMs.txt 生成器，开始工作非常简单。几分钟之内，您就可以创建一个定制的 LLMs.txt 文件，以满足您网站的需要。 目前，有几种不同的工具可以用来创建LLMs.txt: Mintlify: 为托管文档自动生成/llms.txt 和/llms-full.txt Dotenv 的 llmstxt: 使用站点的 sitemap.xml 生成 llms.txt 的工具。
1.1K11编辑于 2024-12-19 - 来自专栏云原生工具箱
SkyPilot：一键在任意云上运行 LLMs
在云计算日益普及的今天，如何有效、经济且无缝地在各种云平台上运行大语言模型（LLMs）、AI 和批处理作业成为了迫切的需求。SkyPilot 项目应运而生，旨在解决这一核心问题。 SkyPilot SkyPilot 是一个为大型语言模型（LLMs）、AI 和批处理作业设计的框架，能在任何云平台上运行。它是一个 CLI 工具，对于熟悉命令行的用户来说，使用起来非常方便。
1.9K10编辑于 2023-10-16
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号