- 综合排序
- 最热优先
- 最新优先
- 来自专栏开发运维工程师
应用实战｜大模型驱动的智能知识引擎
引言大模型（LLM）时代的知识引擎革命、技术的突破性进展，正在重塑知识管理与应用的范式。从海量非结构化数据中提炼结构化知识，实现精准检索、推理与决策支持，已成为企业智能化转型的核心竞争力。 本文将通过技术解析、代码示例与实战案例，深入探讨如何构建基于大模型的智能知识引擎。 ，知识图谱是知识引擎的骨架，大模型可显著提升实体识别与关系抽取效率。 垂直领域的知识适配通用大模型有很多种类和单一用途，独特的大模型需结合领域数据微调，才能满足专业场景需求，例如行业数据需求、特种数据需求。 ，随着MoE架构、世界模型等技术的发展，知识引擎将呈现三大趋势：动态演化：自主更新知识库，减少人工干预因果推理：突破相关性局限，实现深度决策人机协同：自然语言交互 + 可视化分析所以作为一个软件开发者，
1K31编辑于 2025-03-05 - 来自专栏AI大模型应用开发炼丹房
破解大语言模型三大死穴：RAG如何成为AI的实时知识引擎
RAG的检索增强生成（Retrieval-Augmented Generation, RAG）技术，一直是不少人研究和优化的方向，RAG通过整合外部知识库来增强模型能力，特别适用于实时性、准确性和专业深度要求高的企业场景 一、RAG的背景：解决大语言模型的三大核心缺陷大语言模型（如GPT系列）本质上是基于固定训练数据的概率生成器，这导致其在实际应用中存在三个关键矛盾：1、知识的静态性与需求的实时性矛盾：LLM的训练数据有明确截止点 重新训练模型以更新知识成本高昂（数百万至数亿美元），且可能引发灾难性遗忘问题。RAG通过外接动态知识库（如公司文档系统或新闻API）来解决这一矛盾。 3、通用知识与专业深度矛盾：通用LLM缺乏企业或行业的内部知识（如公司SOP或工业设备故障手册）。 未来，随着向量数据库和嵌入模型的优化，RAG将继续成为企业级AI的核心支柱，其核心逻辑——以检索事实约束生成——将确保AI从演示工具进化为生产力引擎。
66810编辑于 2025-09-05 - 来自专栏腾讯云智能·AI公有云
大模型知识引擎全面升级为「腾讯云智能体开发平台」
2025年以来，随着 DeepSeek 等大模型技术的持续突破，AI 智能体热度持续攀升。全球科技巨头与初创企业纷纷入局，智能体正加速向落地演进，成为企业实现降本增效、重塑业务流程的关键驱动力。 5月21日，在“2025腾讯云AI产业应用峰会”上，腾讯云副总裁、腾讯云智能负责人、腾讯优图实验室负责人吴运声宣布大模型知识引擎全面升级为“腾讯云智能体开发平台（TCADP）”。 行业领先的RAG能力： 高效激活企业知识资产 面对企业海量非结构化知识的管理难题，腾讯云智能体开发平台基于领先的 RAG 技术，实现企业知识的高效激活和利用，能够精准适配复杂业务场景： • 复杂结构解析 支持平台级、应用级、知识库级的多层权限体系配置，不管是按组织架构、岗位角色，还是黑白名单控制，都可以灵活支持。比如，腾讯学堂是服务于腾讯内部的培训平台，知识规模庞大，权限体系复杂。 欢迎试用：大模型知识引擎 | 300万DeepSeek模型资源包免费领！
1.8K10编辑于 2025-05-22 - 来自专栏机器学习与统计学
纯离线安装大模型推理引擎，部署量化大模型
大家好，我是 Ai 学习的老章 继续介绍大模型推理引擎+Llama.cpp，前文我写了# 内网部署 llama.cpp，运行量化大模型，详细介绍了 llama.cpp 这个推理引擎，内网离线 cmake 本文我们用个更省事儿的内网离线部署方式——Docker，然后用其部署量化大模型，其中踩坑若干，才有如此精炼、极简教程 1、联网环境拉取 llama.cpp 镜像并保存 选择镜像最好是官方，比如 llama.cpp server-cuda https://github.com/ggml-org/llama.cpp/blob/master/docs/docker.md 市面上有很多个人打包的镜像，大多都是阉割版 费老大劲搞进去，发现大模型无法加载 /dir 再传入内网： llama.cpp 服务需要模型文件才能运行，在你的 Linux 服务器上创建一个目录，用来存放 GGUF 格式的模型文件。 5、启动大模型 docker run --rm --runtime nvidia -e TZAsia/Shanghai --gpus "device=2" -v /opt/data/ai/GGUF:/models
1.2K10编辑于 2025-10-11 DeepSeek + 流程引擎：大模型如何提升流程引擎的能力
生成式AI，特别是基于大语言模型（LLM）的技术，如DeepSeek、ChatGPT，能够以自然语言生成、理解、优化和执行任务，在流程引擎中发挥越来越重要的作用。 本文将详细探讨生成式AI如何提升流程引擎的能力，分析其在不同业务场景中的应用，并为企业创造价值。一、流程引擎的基础概念流程引擎是用于自动化和优化企业内部流程的技术平台。 流程引擎通常包括流程建模、任务分配、进度监控、数据流动等功能，能够处理简单的任务自动化到复杂的端到端业务流程。传统的流程引擎依赖于预设规则和工作流模型，通过规则引擎来执行任务。 然而，随着业务复杂性的增加，传统流程引擎面临许多挑战，如处理动态变化、应对不确定性、灵活调整等问题。生成式AI的引入，可以帮助流程引擎超越这些限制，提升其智能化水平。二、AI如何提升流程引擎的能力？ 4.灵活应对动态变化传统流程引擎对于不确定性和动态变化的应对能力有限，而生成式AI通过其强大的推理和学习能力，可以帮助流程引擎快速适应不断变化的环境和需求。
53610编辑于 2025-03-18AI大模型知识库
而基于AI大模型构建的知识库系统，通过自然语言处理技术和深度学习算法，能够自动完成文本解析、语义关联与智能检索，使分散的知识资源形成有机网络，为企业知识管理带来革命性变革。 系统具备三大核心模块：知识抽取引擎可从多模态素材中识别关键实体；关系图谱构建器自动生成概念间的拓扑连接；推理计算单元支持复杂查询的逻辑演绎。 相较于传统方案，AI大模型知识库在技术特性上展现出显著优势：语义理解深度方面，传统方案依赖关键词匹配，误差率高，而AI方案具备上下文感知能力，准确率超92%；更新维护成本上，传统方案人工录入月均耗时120h 三、实施路径规划建议成功部署AI大模型知识库需经历三个阶段：首先是领域定制化训练，使用企业专属语料对基座模型进行调优，确保模型适配企业业务场景；其次是人机协同校验机制建立，通过人工复核保障输出内容的合规性与准确性 五、未来演进方向展望随着多模态融合技术的发展，下一代AI大模型知识库将突破文本局限，实现图纸三维模型与操作视频的联动检索，拓展知识呈现与应用形式。
50910编辑于 2025-10-16- 来自专栏《C++与 AI：个人经验分享合集》
《盘古大模型——鸿蒙NEXT的智慧引擎》
而盘古大模型在其中发挥着至关重要的核心作用。 赋予小艺智能助手超强能力 在鸿蒙NEXT中，盘古大模型赋予了小艺智能助手更强的记忆、推理和规划能力，使其能够支持23类常用记忆类型，掌握万亿token的知识量。 助力智能应用开发 盘古大模型为开发者提供了强大的模型基础和能力，极大地降低了智能应用的开发难度和门槛。 推动智能生态发展 盘古大模型作为鸿蒙NEXT人工智能的核心模型支撑，吸引了更多的开发者和合作伙伴加入鸿蒙生态系统。 盘古大模型是鸿蒙NEXT的智慧引擎，它赋予了小艺智能助手超强能力，助力智能应用开发，实现多模态个性化场景体验，保障数据安全与隐私，推动智能生态发展。
47021编辑于 2025-01-20 - 来自专栏人工智能
下一代智能系统的核心：构建基于大语言模型的知识引擎
前言随着人工智能技术的飞速发展，大语言模型（LLM）已成为推动智能应用创新的核心力量，基于大模型的智能知识引擎能够处理海量文本数据，提供精准的知识检索、智能问答和内容生成服务，广泛应用于金融、医疗、教育 2、模型层：是智能知识引擎的核心，负责加载和调优大语言模型，模型层通常包括预训练模型的加载、微调（Fine-tuning）、模型优化等模块。 （一）大语言模型的选择与优化大语言模型是智能知识引擎的核心组件，选择合适的模型需要考虑模型的规模、性能、适用场景和成本。 实际应用前景然后再来分享一下大模型知识引擎的实际应用。 Answer: Beijing 结束语通过上文的详细介绍，大模型驱动的智能知识引擎正站在一个新的历史起点上，它不仅代表了人工智能技术的前沿探索，更预示着人类社会智能化转型的未来方向，大模型驱动的智能知识引擎在架构设计
40221编辑于 2025-03-03 - 来自专栏机器学习与统计学
基于大模型、SKills 的知识管理
整个系统的架构可以拆成五个模块： Karpathy 知识库系统：五大模块 1. 数据导入（Data Import） 把各种原始素材——论文、文章、代码库、数据集、图片——统统丢进 raw/ 目录。 这点我必须插一嘴——40 万字对现在的长上下文模型来说真不算什么。 Gemini 的百万 token 窗口，Claude 的 200K 上下文，处理这个量级的知识库绑绑有余。 这种场景下知识库方法的优势更明显——你不可能把所有领域的知识都记在脑子里。 搭的是一个知识积累与检索系统——把数据灌进去，编译成知识，然后查询和输出。 40 万字知识库微调一个专属的小模型，让它从骨子里"理解"你的领域知识和思考方式。
15220编辑于 2026-04-13 - 来自专栏深度学习自然语言处理
FuseLLM：大语言模型的知识融合！
虽然模型集成需要并行部署多个模型，但权重合并通常仅限于具有相同架构的模型。相反，本文提出的方法通过将多个LLM的知识和能力明确地转移到目标LLM，支持将多个具有不同架构的LLM融合。 Knowledge Distillation：知识蒸馏最初被提出用于模型压缩，包括在一个或多个教师模型的指导下训练学生模型。在NLP中已有较为广泛的应用。本文的方法与传统的知识蒸馏有显著的区别。 首先，在传统的知识蒸馏中，学生模型通常被限制为比教师更小的尺寸。然而，在本文的场景中，目标模型的大小没有限制。其次，传统的知识蒸馏通常会导致学生模型在蒸馏后落后于教师的表现。 相比之下，本文预计在融合之后，目标模型将超过任何源模型的性能。 方法 模型架构 上图展示了传统模型融合技术和本文的LLM知识融合方法(FUSELLM)的对比。不同的动物图标代表不同的LLM。 这表明FuseLLM 通过通过连续训练集成三个具有不同架构的7B模型来实现的卓越性能超过了简单地从单个13B模型中提取知识的好处。
1.2K11编辑于 2024-01-31 - 来自专栏腾讯云智能·AI公有云
腾讯云发布三大AI大模型引擎，5分钟开发一款企业级知识应用
腾讯云大模型知识引擎、图像创作引擎、视频创作引擎三大工具发布，打造大模型时代原生工具链，通过PaaS服务简化数据接入、模型精调、应用开发流程，助力企业更高效、简单地用大模型开发AI原生应用，快速接入生产场景 为了更好地解决这些需求，腾讯云全新推出大模型原生工具链，以三款PaaS产品——“大模型知识引擎”、“大模型图像创作引擎”和“大模型视频创作引擎”，助力企业在知识服务、图像和视频创作上提质提效。 （腾讯云发布三大AI引擎工具，降低模型应用门槛） 其中，大模型知识引擎聚焦企业知识服务场景，以RAG（检索增强生成）技术架构为基础，整合了OCR文档解析、向量检索、大语言模型、多模态大模型等技术，为企业打造出 在教育行业，河南省数字教育发展有限公司，利用知识引擎将河南省百万级的中小学教材文档导入，进行知识梳理配置，打造出7×24小时全天候大模型知识助教。 在腾讯内部，多款SaaS应用依托知识引擎进行升级。 在大模型知识引擎之外，图像、视频创作引擎，将通过大模型全面提高素材生成效率。
2.9K10编辑于 2024-05-20 AI 大模型知识管理平台：让企业知识“活”起来
基于 AI 大模型的知识管理平台正彻底改变这一现状，让知识真正流动起来，成为驱动企业创新的活水源头。图片什么是 AI 大模型知识管理平台？ 核心技术：RAG 如何让大模型更“懂”企业？AI 知识管理平台的核心技术是检索增强生成（RAG）。这一技术巧妙结合了信息检索和大语言模型生成的优势。 当用户提问时，平台会先在知识库中检索相关信息，然后将这些信息作为上下文提供给大模型，最终生成精准可靠的答案。 这种方法既利用了大模型的强大理解能力，又确保了回答内容基于企业权威知识，有效避免了常见的大模型“幻觉”问题。例如，潍柴集团通过此类平台，在客服场景中实现了94% 的问答准确率，大幅提升了工作效率。 结语AI 大模型知识管理平台不仅是技术工具，更是企业智能化转型的核心基础设施。它让知识从静态存储变为动态资源，从成本中心转化为价值引擎。对于技术社区而言，这一领域充满创新机遇。
41210编辑于 2025-10-11- 来自专栏量子位
没有大招的火山引擎，拿下70%大模型玩家
而就在全球最大云厂商AWS宣布，加入大模型竞赛，并且定位是“中立平台”，会接入Anthoropic、StabilityAI等模型厂商的大模型之际，量子位也获悉： 火山引擎，也在以类似路径探索大模型的落地 火山引擎总裁谭待透露，国内几十家做大模型的企业，七成已经在火山引擎云上。 大模型企业为什么会选择火山引擎？我们和火山引擎机器学习总监吴迪聊了聊。 大模型趋势，写在云计算的最新技术里 在AI方面，此番火山引擎重点提到了两个平台：机器学习平台和推荐平台。 目前，火山引擎这一套机器学习平台，已经部署到了MiniMax的文本、视觉、声音三个模态大模型训练和推理场景中。 MiniMax和火山引擎一起为大模型训练搭建了高性能计算集群，一起致力于提升大模型训练的稳定性，保证了千卡训练的任务稳定运行数周以上。
58010编辑于 2023-05-06 - 来自专栏创作是最好的自我投资
知识蒸馏：让大模型“瘦身”的魔法
AI界的“知识浓缩术”核心定义蒸馏模型（Distillation Model）是一种通过“师生教学”的方式，将庞大复杂的大模型（教师模型）中的核心知识，“浓缩”到轻量级小模型（学生模型）中的技术。 传统训练 vs 知识蒸馏传统训练：学生模型就是直接从数据中学习（如同自学），需要大模型自己从海量数据中提取自己需要的信息，就像你想上学，但是没有资金支持，只能自己通过书籍来学习，那么在没有人指导的情况下 对于大模型来说，通常的数据训练只能保证在通常情景下的问题回答，在涉及到一些相对专业的领域往往回答效果就不是太好，这个时候就需要进行微调优化，比如对特定领域进行特定数据的训练，从而提高在特定领域的回答准确性 未来展望：蒸馏模型将如何改变AI？边缘计算革命：智能音箱、摄像头等设备将具备本地大模型能力。就像把大模型拆解成无数"小模型"，从而在手机、摄像头、工厂机器人甚至红绿灯里就地处理数据。 通过在智能终端增加大模型能力，从而使得智能家居不联网也能听懂指令。这也就意味着让数据不再拥堵在"云端高速公路"，从而既保护隐私又省电，像给大模型装上会思考的"神经末梢"。
1K30编辑于 2025-04-09 - 来自专栏老张的求知思考世界
性能测试知识科普(六)：三大模型
今天的这篇文章是性能测试知识科普的第六篇，我会聊聊在实际工作中开展性能测试，前期最核心的工作。即业务模型、流量模型和数据模型这三大模型，该如何评估和建立。 为了便于大家理解三大模型，我会以电商业务下单的场景来举例说明，如下图： 业务模型 大家可以将业务模型看作功能测试中的业务场景。 生产环境全链路压测场景 针对生产集群的全链路压测，常见的案例就是双11电商大促。 ； 构建流量模型 下面是之前我实际工作中一次双11大促时的流量模型构建案例，仅供参考。 预估大促时的支付转化率为60%，则可得：大促峰值订单支付QPS为（200/40%）*60%*（200W/50W）=1200QPS。
1.6K20编辑于 2023-03-01 大模型+知识库rag项目架构
在AI领域，“大模型”通常指的是具有大量参数的深度学习模型，它们能够处理复杂的任务，如自然语言处理（NLP）、图像识别等。 而“知识库”则是指存储大量结构化或半结构化数据的系统，这些数据可以用于支持决策、提供信息查询等服务。 将大模型与知识库结合的项目架构（RAG项目架构）可能指的是一种结合了检索（Retrieval）和生成（Generation）的架构，即RAG（Retrieval-Augmented Generation RAG架构的一般流程如下：检索阶段（Retrieval）：首先，系统会从知识库中检索出与输入查询相关的信息。这可以通过关键词匹配、语义搜索或其他相关性度量来实现。 例如，检索系统可以使用不同的搜索引擎或推荐系统，而生成模型可以是传统的语言模型，也可以是专门为特定任务训练的模型。
1K10编辑于 2024-04-19- 来自专栏技术丛林大冒险
基于大语言模型构建知识问答系统
本文探索使用大语言模型（Large Language Model, LLM），通过其对自然语言理解和生成的能力，揣摩用户意图，并对原始知识点进行汇总、整合，生成更贴切的答案。 从大语言模型（Large Language Model, LLM）角度而言，上面的需求是在两阶段训练模式下，面向下游场景进行适配的问题。 与普通搜索结合，使用基础模型对搜索结果加工。Fine-Tuning使用下游特定领域的知识对基础模型进行微调，改变神经网络中参数的权重。 消耗的资源量虽然相对大模型预训练减少，但还是不容小觑的。比如Alpaca 的微调，据作者介绍他们使用8 个 显存80GB A100 ，花费了 3 个小时。 性能好、可控性强，尽管存在一些语义鸿沟问题，但仍被广泛的应用在现有的搜索引擎架构中。Graph-based search。
7K85编辑于 2023-05-08 - 来自专栏《活动征集》
DeepSeek大模型的基础知识解析!
作为一款国产大模型，DeepSeek不仅在技术上做出了突破，还承载着国产AI的雄心壮志。很多人对大模型可能还抱有一丝困惑，尤其是像 DeepSeek 这样的模型。那么，DeepSeek究竟是什么？ 前言：DeepSeek，国产大模型的代表 近年来，随着深度学习的迅猛发展，大模型成为人工智能领域的主流。 DeepSeek 作为国产大模型的佼佼者，不仅仅代表了技术上的创新，也象征着中国在 AI 领域日益崛起的竞争力。 例如：图像+文本：DeepSeek 可以将图像内容与描述文本相结合，生成精准的图像描述，或者在搜索引擎中根据图片查找相关文本信息。 预训练与微调：模型的“养成”之路 DeepSeek 采用了 预训练 + 微调 的训练方式。首先，模型在大规模的无标签数据上进行 预训练，学习通用的知识和规律。
82321编辑于 2025-02-08 - 来自专栏从流域到海域
大模型基础知识 - 语言模型及其演进 公开版
接下来我们来从0到1了解一下大语言模型背后的基础知识。 导语 通过本节课程，希望大家能够了解： 语言模型的数学基础：概率语言模型 （25分钟） 神经网络语言模型的发展历史：即大语言模型是如何发展而来的 （10分钟） GPT训练流程：大语言模型是如何训练的 （ Scaling Laws for Neural Language Models 神经网络语言模型发展史 nlp中的预训练语言模型总结(单向模型、BERT系列模型、XLNet) 大模型时代之前 ，大语言模型的雏形出现。 随着神经网络语言模型的参数量继续增大到一个千亿级别，开始表现出强大的涌现能力，辅以instruction fituning和RLHF的（大语言模型）训练流程改进，突破性的大语言模型ChatGPT出现，大模型时代来临
77530编辑于 2023-10-12 - 来自专栏NLP/KG
LLM 大模型学习必知必会系列(一)：大模型基础知识篇
，以及首个面向大模型研发与应用的全链条开源体系。 记忆（Memory）：短期记忆（上下文，长窗口），长期记忆（通过搜索或者向量引擎实现） 工具使用（tool use）：模型学习调用外部 API 获取额外的能力。 3.使用 LLM 及优化 LLM 输出效果 大语言模型是根据跨学科的海量的文本数据训练而成的，这也让大语言模型被大家认为最接近 “AGI” 的人工智能。 然而，针对大语言模型，我们希望更好的使用 LLM，让 LLM 更好的遵循我们的指令，按照我们可控的方式和特定行业的知识输出答案。 检索增强生成 (RAG) 通过整合来自外部数据库的知识成为一个有前途的解决方案，这增强了模型的准确性和可信度，特别是对于知识密集型任务，并且允许知识的不断更新和整合特定领域的信息。
4.3K512编辑于 2024-05-11
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号