- 综合排序
- 最热优先
- 最新优先
- 来自专栏后台技术汇
大模型应用之（4）：Langchain架构与大模型接入
Langchain架构 LangChain工具 组件：大模型包装器、聊天模型包装器、数据增强工具和接口链： 提供了标准接口，和数据平台和实际应用工具紧密集成 LangChain六大模块 模块 核心作用 • 原子操作组合• 条件分支控制• 循环执行 记忆 维护上下文状态 • 短期会话记忆• 长期知识存储• 实体记忆管理 Agent 动态决策与工具调度 • 工具自动选择• 多步推理• 自我修正 回调处理器 这个也是 OpenAI API 能实现构建自己知识库的关键所在。 Agent作为高级模块，可调用其他所有模块功能 大模型接入 接入示例 云服务和私有化大模型优劣对比 维度 开发成本 算力成本 运维成本 数据安全 云厂商大模型 较低，开箱即用 算力资源充足，大模型性能好 &吞吐量较高 较低，提供云平台监控 安全性低 私有化大模型 较高，自建大模型网关、服务鉴权、可用性等 算力硬件投入成本高，大模型性能较差低&吞吐量较低 较高，需要专业运维团队介入 安全性高，保密性强
95110编辑于 2025-08-04 AI大模型知识库
而基于AI大模型构建的知识库系统，通过自然语言处理技术和深度学习算法，能够自动完成文本解析、语义关联与智能检索，使分散的知识资源形成有机网络，为企业知识管理带来革命性变革。 相较于传统方案，AI大模型知识库在技术特性上展现出显著优势：语义理解深度方面，传统方案依赖关键词匹配，误差率高，而AI方案具备上下文感知能力，准确率超92%；更新维护成本上，传统方案人工录入月均耗时120h 二、典型应用场景落地AI大模型知识库在多场景落地应用，创造显著价值：智能问答机器人可7×24小时解答员工关于政策制度、操作流程的咨询，某金融机构部署后人力咨询量下降47%，提升咨询响应效率；辅助决策沙盘整合市场动态 三、实施路径规划建议成功部署AI大模型知识库需经历三个阶段：首先是领域定制化训练，使用企业专属语料对基座模型进行调优，确保模型适配企业业务场景；其次是人机协同校验机制建立，通过人工复核保障输出内容的合规性与准确性 五、未来演进方向展望随着多模态融合技术的发展，下一代AI大模型知识库将突破文本局限，实现图纸三维模型与操作视频的联动检索，拓展知识呈现与应用形式。
64610编辑于 2025-10-16- 来自专栏机器学习与统计学
基于大模型、SKills 的知识管理
整个系统的架构可以拆成五个模块： Karpathy 知识库系统：五大模块 1. 数据导入（Data Import） 把各种原始素材——论文、文章、代码库、数据集、图片——统统丢进 raw/ 目录。 这点我必须插一嘴——40 万字对现在的长上下文模型来说真不算什么。 Gemini 的百万 token 窗口，Claude 的 200K 上下文，处理这个量级的知识库绑绑有余。 Karpathy 说不需要 RAG，在这个规模下我同意 4. 40 万字知识库微调一个专属的小模型，让它从骨子里"理解"你的领域知识和思考方式。 参考资料： Andrej Karpathy — X/Twitter 长推文，2026 年 4 月，关于 LLM 驱动的个人知识库系统 Lex Fridman — 对 Karpathy 推文的回复，关于混合前端和语音模式知识消费
64121编辑于 2026-04-13 - 来自专栏大模型成长之路
【大模型学习 | MINIGPT-4原理】
MINIGPT-4: ENHANCING VISION-LANGUAGE UNDERSTANDING WITH ADVANCED LARGE LANGUAGE MODELS在GPT4未开源的情况下，作者认为其表现优越是因为采用了最为先进的 LLM模型，因此，作者在BLIP2的基础上，将LLM模型替换为了Vicuna，同样也是通过一个线性映射层将图像表征映射为LLM的输入。 开源代码：https://minigpt-4.github.io/一、预训练方法预训练方法几乎和BLIP2模型一致，可以参考：【大模型学习 | BLIP2原理】-腾讯云开发者社区-腾讯云1.1 Q-Former ； MINI-GPT4表现比BLIP2要强上许多？ ① MiniGPT-4 使用的是 Vicuna（基于 LLaMA 的开源 ChatGPT 对话模型），具有更强的自然语言表达和指令理解能力；而BLIP-2 使用的 LLM 主要是 Flan-T5 或 OPT
81210编辑于 2025-07-02 - 来自专栏深度学习自然语言处理
FuseLLM：大语言模型的知识融合！
虽然模型集成需要并行部署多个模型，但权重合并通常仅限于具有相同架构的模型。相反，本文提出的方法通过将多个LLM的知识和能力明确地转移到目标LLM，支持将多个具有不同架构的LLM融合。 Knowledge Distillation：知识蒸馏最初被提出用于模型压缩，包括在一个或多个教师模型的指导下训练学生模型。在NLP中已有较为广泛的应用。本文的方法与传统的知识蒸馏有显著的区别。 首先，在传统的知识蒸馏中，学生模型通常被限制为比教师更小的尺寸。然而，在本文的场景中，目标模型的大小没有限制。其次，传统的知识蒸馏通常会导致学生模型在蒸馏后落后于教师的表现。 相比之下，本文预计在融合之后，目标模型将超过任何源模型的性能。 方法 模型架构 上图展示了传统模型融合技术和本文的LLM知识融合方法(FUSELLM)的对比。不同的动物图标代表不同的LLM。 这表明FuseLLM 通过通过连续训练集成三个具有不同架构的7B模型来实现的卓越性能超过了简单地从单个13B模型中提取知识的好处。
1.3K11编辑于 2024-01-31 AI 大模型知识管理平台：让企业知识“活”起来
基于 AI 大模型的知识管理平台正彻底改变这一现状，让知识真正流动起来，成为驱动企业创新的活水源头。图片什么是 AI 大模型知识管理平台？ 核心技术：RAG 如何让大模型更“懂”企业？AI 知识管理平台的核心技术是检索增强生成（RAG）。这一技术巧妙结合了信息检索和大语言模型生成的优势。 当用户提问时，平台会先在知识库中检索相关信息，然后将这些信息作为上下文提供给大模型，最终生成精准可靠的答案。 这种方法既利用了大模型的强大理解能力，又确保了回答内容基于企业权威知识，有效避免了常见的大模型“幻觉”问题。例如，潍柴集团通过此类平台，在客服场景中实现了94% 的问答准确率，大幅提升了工作效率。 结语AI 大模型知识管理平台不仅是技术工具，更是企业智能化转型的核心基础设施。它让知识从静态存储变为动态资源，从成本中心转化为价值引擎。对于技术社区而言，这一领域充满创新机遇。
59510编辑于 2025-10-11- 来自专栏创作是最好的自我投资
知识蒸馏：让大模型“瘦身”的魔法
AI界的“知识浓缩术”核心定义蒸馏模型（Distillation Model）是一种通过“师生教学”的方式，将庞大复杂的大模型（教师模型）中的核心知识，“浓缩”到轻量级小模型（学生模型）中的技术。 传统训练 vs 知识蒸馏传统训练：学生模型就是直接从数据中学习（如同自学），需要大模型自己从海量数据中提取自己需要的信息，就像你想上学，但是没有资金支持，只能自己通过书籍来学习，那么在没有人指导的情况下 量化压缩：将32位浮点数转为8位整数，模型体积直接缩小4倍。 未来展望：蒸馏模型将如何改变AI？边缘计算革命：智能音箱、摄像头等设备将具备本地大模型能力。就像把大模型拆解成无数"小模型"，从而在手机、摄像头、工厂机器人甚至红绿灯里就地处理数据。 通过在智能终端增加大模型能力，从而使得智能家居不联网也能听懂指令。这也就意味着让数据不再拥堵在"云端高速公路"，从而既保护隐私又省电，像给大模型装上会思考的"神经末梢"。
1.3K30编辑于 2025-04-09 腾讯云大模型知识引擎产品概要
一、 产品定位与核心亮点 腾讯云大模型知识引擎是一个基于大语言模型的知识应用开发平台。 其核心技术属性是提供大模型企业知识服务应用模版及文档解析、向量检索等原子能力，旨在推动大语言模型在政企服务场景的应用落地。 支持文档解析、向量检索、知识库管理、对话测试与发布等功能。 技术内核：依托OCR大模型解析引擎、多模态大模型、业内首个语义切分大模型与基于混元大模型技术的行业大模型。 工具链完善，支持自定义模型选择、角色设定、提示词自动优化、知识库管理及维护。 提供对话测试-修正-发布-反馈增强的一站式处理流程。 荣誉背书 技术方案中提及包含业内首个语义切分大模型。 解决方案：一阶段打造了全球首个大熊猫智能行为识别模型及智慧系统。未来计划借助腾讯云大模型知识引擎打造大熊猫“AI大模型奶爸”。
23210编辑于 2026-05-31- 来自专栏技术丛林大冒险
基于大语言模型构建知识问答系统
本文探索使用大语言模型（Large Language Model, LLM），通过其对自然语言理解和生成的能力，揣摩用户意图，并对原始知识点进行汇总、整合，生成更贴切的答案。 从大语言模型（Large Language Model, LLM）角度而言，上面的需求是在两阶段训练模式下，面向下游场景进行适配的问题。 与普通搜索结合，使用基础模型对搜索结果加工。Fine-Tuning使用下游特定领域的知识对基础模型进行微调，改变神经网络中参数的权重。 消耗的资源量虽然相对大模型预训练减少，但还是不容小觑的。比如Alpaca 的微调，据作者介绍他们使用8 个 显存80GB A100 ，花费了 3 个小时。 面相 OpenAI 的gpt-4, gpt-3.5-turbo和text-embedding-ada-002模型通常使用cl100k_base编码方法。 分片。
7.2K85编辑于 2023-05-08 - 来自专栏老张的求知思考世界
性能测试知识科普(六)：三大模型
今天的这篇文章是性能测试知识科普的第六篇，我会聊聊在实际工作中开展性能测试，前期最核心的工作。即业务模型、流量模型和数据模型这三大模型，该如何评估和建立。 为了便于大家理解三大模型，我会以电商业务下单的场景来举例说明，如下图： 业务模型 大家可以将业务模型看作功能测试中的业务场景。 生产环境全链路压测场景 针对生产集群的全链路压测，常见的案例就是双11电商大促。 ； 构建流量模型 下面是之前我实际工作中一次双11大促时的流量模型构建案例，仅供参考。 预估大促时的支付转化率为60%，则可得：大促峰值订单支付QPS为（200/40%）*60%*（200W/50W）=1200QPS。
1.6K20编辑于 2023-03-01 大模型+知识库rag项目架构
在AI领域，“大模型”通常指的是具有大量参数的深度学习模型，它们能够处理复杂的任务，如自然语言处理（NLP）、图像识别等。 而“知识库”则是指存储大量结构化或半结构化数据的系统，这些数据可以用于支持决策、提供信息查询等服务。 将大模型与知识库结合的项目架构（RAG项目架构）可能指的是一种结合了检索（Retrieval）和生成（Generation）的架构，即RAG（Retrieval-Augmented Generation RAG架构的一般流程如下：检索阶段（Retrieval）：首先，系统会从知识库中检索出与输入查询相关的信息。这可以通过关键词匹配、语义搜索或其他相关性度量来实现。 例如，检索系统可以使用不同的搜索引擎或推荐系统，而生成模型可以是传统的语言模型，也可以是专门为特定任务训练的模型。
1.1K10编辑于 2024-04-19- 来自专栏《活动征集》
DeepSeek大模型的基础知识解析!
作为一款国产大模型，DeepSeek不仅在技术上做出了突破，还承载着国产AI的雄心壮志。很多人对大模型可能还抱有一丝困惑，尤其是像 DeepSeek 这样的模型。那么，DeepSeek究竟是什么？ 前言：DeepSeek，国产大模型的代表 近年来，随着深度学习的迅猛发展，大模型成为人工智能领域的主流。 DeepSeek 作为国产大模型的佼佼者，不仅仅代表了技术上的创新，也象征着中国在 AI 领域日益崛起的竞争力。 预训练与微调：模型的“养成”之路 DeepSeek 采用了 预训练 + 微调 的训练方式。首先，模型在大规模的无标签数据上进行 预训练，学习通用的知识和规律。 4. 智能推荐系统 DeepSeek 在推荐系统中的应用也非常广泛，通过分析用户行为数据，DeepSeek 能够为用户推荐个性化的内容。
90721编辑于 2025-02-08 - 来自专栏算法一只狗
LLama4 原生多模态大模型
Meta最新发布了原生多模态大模型 Llama 4，一经亮相即登上LMSYS大模型排行榜第二名，仅次于Google的Gemini-2.5-pro，分差仅为22分，实力可见一斑。 在模型规模方面，Llama 4系列的确非常庞大，尤其是Behemoth模型，远超业内主流，例如DeepSeek R1参数量仅为6710亿，只有Behemoth的约三分之一。 当前行业趋势多偏向小而高效的模型，Llama 4如此庞大的规模实属少见。 总结与展望Llama 4的发布，意味着Meta正式进入原生多模态大模型竞争核心领域。 相比Gemini系列、GPT-4o、Claude 3、DeepSeek等主流模型，Llama 4以务实高效的技术路线，突出计算成本、推理效率与多模态能力的平衡。
97100编辑于 2025-05-01 - 来自专栏NLP/KG
LLM 大模型学习必知必会系列(一)：大模型基础知识篇
结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。 2023 年 8 月，阿里巴巴开源了通义千问 7B 模型，后续相继开源了 1.8B，14B，72B 的 base 和 chat 模型，并提供了对应的 int4 和 int8 的量化版本，在多模态场景，千问也开源了 然而，针对大语言模型，我们希望更好的使用 LLM，让 LLM 更好的遵循我们的指令，按照我们可控的方式和特定行业的知识输出答案。 检索增强生成 (RAG) 通过整合来自外部数据库的知识成为一个有前途的解决方案，这增强了模型的准确性和可信度，特别是对于知识密集型任务，并且允许知识的不断更新和整合特定领域的信息。 **3. vLLM 推理加速：**魔搭社区和 vLLM 合作，支持更快更高效的 LLM 推理服务，基于 vLLM，开发者可以通过一行代码实现针对魔搭社区的大语言模型部署。 **4.
4.6K512编辑于 2024-05-11 腾讯云大模型知识引擎产品概要
一、 产品定位与核心亮点 腾讯云大模型知识引擎是一个基于大语言模型的企业级知识应用开发平台。 其核心技术属性是提供大模型企业知识服务应用模板及文档解析、向量检索等原子能力，旨在推动大语言模型在政企服务场景的应用落地。 依托OCR大模型解析引擎、多模态大模型、业内首个语义切分大模型与基于混元大模型技术的行业大模型，端到端问答效果业内领先。 多模态交互模式丰富，应用端支持多种输入、输出格式。 解决方案： 利用知识引擎准确解析复杂表格文档，通过大模型理解推理生成答案。 应用大模型的数学计算、范围判断及方案框架生成能力。 成效： 创建行业知识库“榕博士”，促进知识共享。 解决方案： 基于通用大模型，为不同城市业务知识配置标签，实现一问多答。 大模型可基于业务文档回复未配置的通用业务问题，或自行应答非业务问题。 成效： 极大节省知识配置工作量。
23110编辑于 2026-05-31- 来自专栏从流域到海域
大模型基础知识 - 语言模型及其演进 公开版
接下来我们来从0到1了解一下大语言模型背后的基础知识。 导语 通过本节课程，希望大家能够了解： 语言模型的数学基础：概率语言模型 （25分钟） 神经网络语言模型的发展历史：即大语言模型是如何发展而来的 （10分钟） GPT训练流程：大语言模型是如何训练的 （ Large Language Model (LLM PaLM、LLaMA、GPT 3.5、GPT 4 大规模语言模型（Large Language Model, LLM），即参数规模非常大的神经网络语言模型 ，大语言模型的雏形出现。 随着神经网络语言模型的参数量继续增大到一个千亿级别，开始表现出强大的涌现能力，辅以instruction fituning和RLHF的（大语言模型）训练流程改进，突破性的大语言模型ChatGPT出现，大模型时代来临
88430编辑于 2023-10-12 - 来自专栏数智转型架构师
一文秒懂大模型硬件知识
自从一头扎进AI大模型的奇妙世界，你是不是也曾有过这样的经历： 刚刚弄明白“提示词”（Prompt）怎么写，一扭头就撞上了一堵“硬件墙”。 训练一个大模型 = 建造一艘航空母舰 所有的硬件术语，我们都可以在这个“造航母”的过程中找到它们的位置。 模型参数、计算数据这些“零件”，必须先搬到工作台上才能开始组装。 为什么总说“显存不够”？ 因为大模型的“零件”（参数）实在太多了！ 训练真正的大模型，需要几百上千台服务器（几千上万块GPU）一起工作。这就好比一个巨大的造船工业园，里面有无数个车间。InfiniBand就是连接这些不同车间的“高铁物流系统”。 怎么工作？ 你不需要记住每一个细节，只需要理解这个“造航母”的大框架。下次当再有人讨论AI硬件时，你的脑海里浮现的不再是冰冷的代码和缩写，而是一个热火朝天的、宏伟的工业图景。
54910编辑于 2025-12-30 AI 大语言模型知识图谱：让模型“更懂知识、更聪明、更可信”
在传统的大模型训练方式中，知识依赖海量语料“读出来”，但容易出现知识碎片化、逻辑断层、更新不及时的问题；模型回答看似流畅，却可能犯事实性错误或在复杂推理上“卡住”。 而 AI 大语言模型知识图谱，就是用结构化、逻辑化、可计算的技术体系，为大模型安装一套“知识骨架”，让模型不仅会说，还真正“懂知识、会推理、能更新”。 知识不再是散乱的语句，而是能够被计算机理解和逻辑推演的网络。二是知识图谱 + 大模型协同推理，让模型“更准、更稳、更懂逻辑”。 ，大模型在聊天、问答、检索、写作等场景都能调用同一套知识图谱，实现一致的知识标准。 AI 大语言模型知识图谱，用知识抽取、结构建模、图谱推理和动态更新，让模型从“会说话”走向“会理解”。它不仅提升模型的准确性与稳定性，也为专业场景提供真正可用的 AI 智能。
85910编辑于 2025-11-18- 来自专栏啄木鸟软件测试
多模态大模型技术原理与实战(4)
多模态大模型核心技术 1多模态的困难 困难 数据集标志困难 人工标注生成 COCO Visual Genome ... OpenAl的DALL-E2和GPT4 谷歌大脑的 lmaen和Stable Diffusion 百度的文心一言 文本生成图像 基于GAN的文本生成图像方法 AlignDRAW:第一个现代文本生成图像模型 基于扩散模型的文本生成图像方法 介绍：2015 年被提出，定义一个马尔可夫链向数中添加随机噪声，并学习如何从噪声中构建所需的数据样本，学习知识和掌握的两个过程：顺扩散过程(X0一XT)，逐步加噪声的过程且是一个生成马尔可夫链的过程即第 声学模型模块 基于深度学习的文本生成语音技术 基于GAN 的Parallel Wave GAN(PWG) 利用 GAN，无须知识蒸留、快速、小型的波形生成方法 基于GAN 的GAN-TTS Transformer：编码器-解码器框架 编码器：衍生出了自编码大模型，如BERT、RoBERT和ALBERT 解码器：衍生出了自回归大模型,如GPT-1和GPT-2 整体衍生出：T5和GLM
56010编辑于 2024-09-10 知识本体-构建基于LLM-Wiki的大模型知识库
今天还是接着聊AI大模型知识库，在前面我也专门讲过一篇文章对我已有的Wiki知识库进行了二次升级，构建了场景-》概念-》实体的完整三层结构，形成了基于场景和问题驱动的认知闭环知识体系。 但是我在重构AI知识库的时候，引入了第二个关键核心就是场景问题层模型的构建。 因此我基于知识库历史文章抽取后，归类了5大类47个场景，对于每个场景都详细定义了阶段，每个阶段需要引用的概念或实体，包括具体的知识点组装的步骤和流程。 有了这个知识本体模型定义后，我们接着AI编程将整个本体模型可视化显示和浏览，可以明显的看到场景-》概念-》实体简单的组装关系。 在点击分层网络进入后，选择某一个分类。 给出建议归属的 entity yaml 和条目骨架 4. **关系补全**：发现的新 `is_a / uses / related_to` 关系，建议补到现有条目 5.
37510编辑于 2026-06-09
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号