- 综合排序
- 最热优先
- 最新优先
- 来自专栏架构师成长之路
大模型llm：Ollama部署llama3学习入门llm
Llama3大型模型则达到400B，仍在训练中，目标是实现多模态、多语言的功能，预计效果将与GPT 4/GPT 4V相当。 二、Ollama安装 1、Ollama简介 Ollama 是一个开源的大型语言模型（LLM）服务工具，它允许用户在本地机器上运行和部署大型语言模型。 三、llama3 模型下载安装 1、llama3 下载 默认下载的是llama3:8b。 这里冒号前面代表模型名称，冒号后面代表tag，可以从这里查看llama3的所有tag ollama pull llama3:70b 2、运行llama3模型 ollama run llama3 上述命令将自动拉取模型 3》：현재 가장 강력한 공개 사용 가능한 LLM\n\n**Japanese:**\n\n《Meta Llama 3》：現在最強の公開使用可能なLLM\n\n\n\nNote: (Meta Llama
7.1K00编辑于 2024-05-24 - 来自专栏产品笔记
大语言模型(LLM)
最近，作为代表性的大语言模型应用ChatGPT展现出了超强的人机对话能力和任务求解能力，对于整个AI研究社区带来了重大影响。01 — 什么是大语言模型？ 通常来说，大语言模型指的是那些在大规模文本语料上训练、包含百亿级别（或更多）参数的语言模型，例如GPT-3，PaLM，LLaMA等。 （3）文档总结：大型语言模型可以自动提取文本中的主要信息，以生成文档摘要或摘录。例如，可以使用大型语言模型来生成新闻文章的概要，或从长篇小说中提取关键情节和事件。 03 — 大语言模型的特征 大型通用语言模型可以进行预训练，然后针对特定目标进行微调。 Large（大）：在"大语言模型"的上下文中，"大"主要有两层含义。一方面，它指的是模型的参数数量。 在这些模型中，参数的数量通常会非常大，达到数十亿甚至数百亿。这使得模型能够学习和表示非常复杂的模式。另一方面，"大"也指的是训练数据的规模。
1.8K50编辑于 2023-09-09 - 来自专栏机器学习
介绍大语言模型（LLM）
介绍大语言模型（LLM）近年来，人工智能（AI）和自然语言处理（NLP）领域取得了显著的进展，其中大语言模型（Large Language Models，简称LLM）成为了引人注目的焦点。 大语言模型是基于深度学习技术训练的，可以理解和生成自然语言文本的AI模型。本文将介绍大语言模型的基本概念、发展历程、应用领域以及未来的潜力。什么是大语言模型？ 自Transformer架构提出以来，多个大规模语言模型相继问世，如：GPT（生成预训练变换器）系列：由OpenAI推出的GPT系列模型是最具代表性的LLM之一。 GPT-3（Generative Pre-trained Transformer 3）拥有1750亿个参数，能够生成高质量的自然语言文本，并在多个任务中表现出色。 大语言模型的应用领域大语言模型在多个领域展现了巨大的应用潜力：文本生成：大语言模型可以生成高质量的文本，用于写作辅助、新闻生成、小说创作等。例如，GPT-3可以根据提示生成连贯的故事情节和文章。
1.3K00编辑于 2024-07-30 - 来自专栏机器学习入门
【AI大模型】LLM主流开源大模型介绍
学习目标 了解LLM主流开源大模型. 掌握ChatGLM、LLaMA、Bloom等基础大模型的原理 LLM主流大模型类别 随着ChatGPT迅速火爆，引发了大模型的时代变革，国内外各大公司也快速跟进生成式AI市场，近百款大模型发布及应用 目前，市面上已经开源了各种类型的大语言模型，本章节我们主要介绍其中的三大类： ChatGLM-6B：衍生的大模型（wenda、ChatSQL等） LLaMA：衍生的大模型（Alpaca、Vicuna 相比原始Decoder模块，模型结构有如下改动点： embedding 层梯度缩减：为了提升训练稳定性，减小了 embedding 层的梯度。 小结 本小节主要介绍了LLM主流的开源大模型，对不同模型架构、训练目标、优缺点进行了分析和总结。
1.3K10编辑于 2024-09-24 什么是大语言模型（LLM）
大语言模型（LargeLanguageModel，简称LLM）是一种旨在理解和生成人类语言的人工智能模型。 1.定义与基本原理大语言模型是一种基于深度学习的自然语言处理模型。其“大”主要体现在两个方面：参数规模大：模型包含数十亿至数千亿的可调节参数，用以学习语言数据中的细微模式和复杂关系。 3.流行原因大语言模型之所以成为人工智能领域的焦点，主要源于其以下几个突出优势：关键原因具体说明卓越的性能庞大的参数量使其能捕捉极其复杂的语言模式，在多种自然语言处理任务（如生成、翻译）的准确性和流畅度上超越了许多之前的专用模型 4.常见的大语言模型例子以下是一些具有代表性和影响力的大语言模型：模型名称开发机构主要特点GPT系列OpenAI最具代表性的自回归语言模型系列。 5.面临的挑战与局限尽管能力强大，大语言模型的发展仍面临若干显著挑战：巨大的资源消耗：训练顶级LLM需要庞大的计算集群和巨额电力，导致极高的经济成本和环境足迹，这使得其研发主要集中于少数大型科技机构。
98910编辑于 2026-03-03- 来自专栏喔家ArchiSelf
解读大模型（LLM）的token
这些模型的一个经常被忽视的关键点是“token”的作用，即模型处理的各个信息单元。 3. token 对LLM 的影响 关于token的数量如何影响模型的响应，常常感到困惑的是，更多的token是否使模型更加详细而具体呢？ 中 token 的长度限制与应对 像 GPT-3/4，LLaMA等这样的大模型有一个最大token 数量限制，超过这个限制，它们就不能接受输入或生成输出。 如何构建基于大模型的App Qcon2023: 大模型时代的技术人成长（简） 论文学习笔记：增强学习应用于OS调度 《深入浅出Embedding》随笔 LLM的工程实践思考 解读大模型的微调 解读ChatGPT 中的RLHF 解读Toolformer 解读TaskMatrix.AI 解读LangChain 浅析多模态机器学习 Agent 与对象的辨析 深度学习架构的对比分析 老码农眼中的大模型（LLM） 系统学习大模型的
20.8K52编辑于 2023-10-08 - 来自专栏xiaosen
LLM-AI大模型介绍
大语言模型 (LLM) 背景 大语言模型 (Large Language Model) 是一种人工智能模型, 它们通常包含数千亿甚至更多的参数，并在大规模数据集上进行训练。 这些能力的涌现使得LLM在多项任务中取得了显著的效果提升。 LLM的训练过程通常包括预训练和微调两个阶段。 大模型走向对话式、生成式、多模态时代，更加注重与人类交互进行对齐，实现可靠、安全、无毒的模型。 大语言模型：大规模语言模型（Large Language Model, LLM）通常拥有数十亿到数万亿个参数，能够处理各种自然语言处理任务，如自然语言生成、文本分类、文本摘要、机器翻译、语音识别等。 2020年，OpenAI发布了参数量高达1750亿的GPT-3，首次展示了大语言模型的性能。
67510编辑于 2024-04-20 - 来自专栏产品笔记
大语言模型（LLM）LangChain介绍
LangChain是一个利用大语言模型的能力开发各种下游应用的开源框架，它的核心理念是为各种大语言模型应用实现通用的接口，简化大语言模型应用的开发难度，主要的模块示意图为： Index：提供了各类文档导入 通过 Index 模块，非常容易处理各类型的外部数据，来提供给大模型进行推理。 Prompts：将用户输入和其他外部数据转化为适合大语言模型的提示词，包括提示词管理、提示词优化和提示词序列化等功能。 ，通过提示词不断探索大语言模型的能力边界，LangChain 提供了一个易用的提示词管理工具。 Models：提供了对各类大语言模型的管理和集成，除闭源的大语言模型 API 接口外，还提供对多个开源模型仓库中开源大语言模型的集成接口，以及在云上部署的大语言模型接口。 Agents 通过 SQL chain 查询账号余额，通过调用网页查询接口的 LLM 查找实时黄金价格，通过调用 LLM Math 计算能买到的黄金数量完成最终的任务，这一系列的逻辑操作均可以在 Agents
1.2K30编辑于 2023-09-09 - 来自专栏人工智能
(LLM系列)什么是大语言模型？
(LLM系列)什么是大语言模型？人工智能正在改变我们与技术互动的方式。 大语言模型（Large Language Model，简称 LLM）作为 AI 领域最具突破性的技术之一，已经从研究实验室走向了日常应用。 无论是 ChatGPT、Claude 还是 Gemini，这些工具都基于同一核心技术——大语言模型。本文将深入探讨 LLM 的工作原理，并帮助您了解如何选择最适合您需求的模型。一、什么是大语言模型？ 这包括 RLHF（基于人类反馈的强化学习）等技术3. 生成文本的过程当您向 LLM 提问时，模型会将您的输入转换为数字表示（tokens），然后基于其学到的模式，逐个预测下一个最可能出现的词。 市场上有多款优秀的大语言模型，每款都有其独特优势。
78210编辑于 2026-01-30 - 来自专栏时空探索之旅
AAAI 2024 | 大模型（LLM）论文总结
大语言模型作为近期最火热的研究点，热度至今居高不下。特别是近期，arxiv上每个月都发表很多关于大语言模型的文章。对此，我只想吐槽一句，根本读不完。 言归正传，大语言模型总结将分为两篇文章介绍，本次先介绍前20篇（如有疏漏，欢迎大家补充）。 （如果对您有用，还请您点赞。感谢您的支持！） 1. （LLM）耗时耗力，因此医学领域出现了各种医学大语言模型（LLM），这凸显了对统一评估标准的需求。 我们的贡献在于：(1) 在启发式规划的背景下对 LLM 规划问题进行了新颖的构架；(2) 将基础和成本效益元素整合到生成的规划中；(3) 对行动使用启发式搜索。 如果觉得有帮助还请分享，在看，点赞
1.9K10编辑于 2024-11-19 - 来自专栏Java技术
AI技术和大模型技术LLM
-CoderOilStation(程序员编程助手科技股份有限责任公司)AI技术和大模型技术LLM人工智能技术AI是美国高等院校哈佛大学的一种原型框架技术。AI技术西方和全球的部署研发和运用。 美国麻省理工学院MIT会同步不同的领域模型驱动技术DDD(DomainDrivenDesign)。领域模型驱动技术西方发达社会更注重不同想法和设计的美学应用。 私有用户和公众的开放平台用户一小一大意味着平台的设计开始运行正常。大模型LLM(LargeLanguageModel)模型开放基础框架的模型搭建方式。很多的应用逻辑都是有编程范式和编程方法学。
22610编辑于 2026-03-08 - 来自专栏素质云笔记
大模型幻觉（LLM Hallucination）若干记录
主要参考：大模型的幻觉问题调研: LLM Hallucination Survey 1 幻觉定义 当模型生成的文本不遵循原文（Faithfulness）或者不符合事实（Factualness），我们就可以认为模型出现了幻觉的问题 Reference-Free 基于IE：将知识限定于可以用三元组形式表示的关系和事件，基于额外的IE模型进行抽取，接着使用额外模型进行验证。 人工评估：目前为止最靠谱的，此外还可以依靠LLM打分（比如利用GPT4，但是GPT4也存在着严重的幻觉问题，即使经过retrival-augment，检索回来的信息也有可能是错误的） 3 如何解决 构建高质量数据集 后处理：设计一个小模型专门用于fix幻觉错误。 Augment Generation（Retrieval Augment Generation - 让幻觉不再继续（一））： Retrieval Augment Generation有两个重要的组成部分，预训练大模型和领域知识库
1.3K40编辑于 2023-07-25 - 来自专栏数字孪生元宇宙
MLC LLM - 手机上的大模型
MLC LLM 是一种通用解决方案，它允许将任何语言模型本地部署在各种硬件后端和本地应用程序上，此外还提供了一个高效的框架，供每个人根据自己的用例进一步优化模型性能。 我们的使命是让每个人都能在每个人的设备上本地开发、优化和部署 AI 模型。图片推荐：用NSDT设计器快速搭建可编程3D场景。 图片1、什么是 MLC LLM？近年来，生成式人工智能 (AI) 和大型语言模型 (LLM) 取得了显着进步，并变得越来越普遍。 由于开源计划，现在可以使用开源模型开发个人AI助手。 此外，部署 LLM 还面临一些挑战，例如不断发展的模型创新、内存限制以及对潜在优化技术的需求。 ----原文链接：MLC LLM - 手机大模型 - BimAnt
1.5K30编辑于 2023-05-07 - 来自专栏一乐来了
使用大模型LLM实现销售AI
那么在AI2.0时代，大型语言模型LLM的时代，这个问题怎么样了呢？ 销售AI的核心挑战 客服到销售角色的转变 将客服职能转变为销售功能一直是个大挑战。 典型的智能应用（ChatAI）架构方案 一个典型的智能应用架构，是以大模型LLM驱动，聊天为入口，使用Agent智能插件能力驱动API服务： 智能应用（ChatAI）架构 以大模型LLM为核心 大型语言模型 由于LLM/AI的优势在于自然语言理解，那么它擅长的自然是直接从与人类的交互中获取内在需求，并加以处理。这部分智力的消耗，才是大部分系统的薄弱点，是产品的价值点。 提示词技巧一：解释目的 在收集数据方面，实测时AI显得并不积极，甚至是有一点刻意回避。 我们猜测，除了变懒的因素外，并不能排除跟底层Prompt设置有关。 我们会持续分享关于智能聊天ChatAI、大模型技术进展、AI Agent设计等方面的内容，
61510编辑于 2025-05-23 - 来自专栏CSDNToQQCode
大语言模型LLM中的幻觉
LLM是什么? 大型语言模型（LLM）是一种基于自然语言处理和机器学习技术的大型语言处理模型。它能够理解和生成自然语言文本，并能够处理各种语言和文本类型，如对话、问答、文本生成等。 同时，LLM也面临着一些挑战，如模型的可解释性、安全性和隐私问题等。 幻觉 由ChatGPT带来的大模型时代，国内外各大厂家都在陆续推出自己的大模型，然而目前大模型都存在一个普遍的现象就是：幻觉。 事实幻觉 事实不一致，当问AI：如何解决大模型的幻觉问题，话题是：幻觉可以说早就已经是LLM老生常谈的问题了，那为什么会产生这个现象该如何解决这个问题呢？ 附： 解决大模型对话中的幻觉问题，可以考虑以下几个方面： 数据增强：通过在输入数据中添加噪声或随机性，增加模型的泛化能力，减少幻觉问题。 例如，在文本生成过程中，可以通过随机插入停用词、改变词序、使用伪词等技术，使模型在训练过程中更加鲁棒。 模型微调：针对特定任务，对预训练大模型进行微调，使其更好地适应特定领域。
49710编辑于 2024-01-02 - 来自专栏机器学习AI算法工程
ChatIE（LLM大模型用于信息抽取）
利用ChatGPT实现零样本信息抽取（Information Extraction，IE），看到零样本就能大概明白这篇文章将以ChatGPT作为一个基座然后补全前后端，来实现抽取任务。主要针对抽取中的三个重要任务：
1.6K10编辑于 2023-10-28 - 来自专栏NewBeeNLP
大模型的涌现能力 (Emergent Abilities of LLM)
今天一起来研究下LLM中的emergent abilities现象。 Emergent Abilities Definition 本文中对LLM的emergent abilities的定义为： 在较小的模型中不出现，而在较大的模型中出现的能力，则可以称之为emergent ，得到的表现较为随机，在突破规模的临界点后，表现大幅度提升。 如下图所示，在BIG-Bench上，GPT-3和LaMDA在未达到临界点时，模型的表现都是接近于零。 ) 下表给出了大模型出现emergent ablities的规模统计 4.
1.5K31编辑于 2023-08-29 - 来自专栏代码编写世界
连接语言大模型（LLM）服务进行对话
引言 最近开始接触AI大模型方向的工作，第一个实例就尝试一下连接大模型进行对话的实现。 2. 这也是为啥现在大模型平台都可以选择接入不同的大模型来实现AI应用。 就是大模型的提示词，通过更改提示词，可以与大模型对话来得到自己想要的结果。 2.2 LangChain 除了使用openai模块，使用LangChain是个更好的选择。 # 输出结果 print(response.content) 为什么说LangChain更好用一点呢，比如说你要执行批量任务，对一些文本进行多标签分类，那么可能需要进行批量提问以提升效率。 “多轮对话”就是需要让大模型记住之前的对话内容，也就是上下文，以便得到更好的输出；“流式输出”则是让大模型的回答逐步渐进的输出，一个字一个字的呈现，以便让AI Chat应用的交互性更好。
40310编辑于 2025-07-21 - 来自专栏喔家ArchiSelf
基于大模型（LLM）的Agent 应用开发
目前，业界一般认为基于大模型的应用集中在两个方向上：RAG 和 Agent，无论哪一种应用，设计、实现和优化能够充分利用大模型(LLM)潜力的应用都需要大量的努力和专业知识。 这种流程的潜在设计空间可能是巨大而复杂的，《如何构建基于大模型的App》一文给出了一种探索中的大模型应用开发基础框架，基本可以适用于RAG 和Agent。 agent program 是 agent function 的真子集 1.2 大模型领域中的Agent 在大模型领域，大模型替代了传统agent 中的规则引擎以及知识库，Agent提供了并寻求推理 2.2 大模型领域中的Multi-Agent 具体而言， 在基于大模型的应用领域中，当复杂任务被分解成更简单的子任务时，LLM已经被证明了拥有解决复杂任务的能力。 可对话的Agent设计利用了LLM通过聊天获取反馈并取得进展的强大能力，还允许以模块化的方式组合LLM的功能。 3.
7.9K33编辑于 2023-10-23 - 来自专栏自然语言处理(NLP)论文速递
港大 | 发布 “点云” 大模型：PointLLM，旨在实现大模型在3D对象上的应用！
引言 大型语言模型 (LLM) 的进步对自然语言处理产生了深远的影响，但尚未完全拥抱3D理解领域。为此本文提出了PointLLM，让LLMs学会理解点云信息并提供超越2D视觉数据的新途径。 然而，构建能够理解物体点云的多模态大模型，存在三个特别关键的问题：1)缺乏模型训练数据；2)构建合适的模型架构；3)缺乏全面的评估标准和方法。 「然后，模型和训练」 作者引入了PointLLM，它采用预训练的点云编码器将点云编码为Token，从输入点云中提取特征并，并将其映射到LLM模型的潜在空间中。 LLM模型处理点云Token和文本Token序列，并生成预测的令牌作为输出。该模型使用交叉熵损失进行训练，该交叉熵损失仅在与模型响应对应的令牌上计算。 模型架构如下图所示： 对于PointLLM模型训练采用两阶段策略：点云编码器和大语言模型之间的潜在空间进行初始对齐，然后对统一模型进行指令调整。
3.1K20编辑于 2023-09-14
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号