- 综合排序
- 最热优先
- 最新优先
AI大模型知识库
而基于AI大模型构建的知识库系统，通过自然语言处理技术和深度学习算法，能够自动完成文本解析、语义关联与智能检索，使分散的知识资源形成有机网络，为企业知识管理带来革命性变革。 相较于传统方案，AI大模型知识库在技术特性上展现出显著优势：语义理解深度方面，传统方案依赖关键词匹配，误差率高，而AI方案具备上下文感知能力，准确率超92%；更新维护成本上，传统方案人工录入月均耗时120h 二、典型应用场景落地AI大模型知识库在多场景落地应用，创造显著价值：智能问答机器人可7×24小时解答员工关于政策制度、操作流程的咨询，某金融机构部署后人力咨询量下降47%，提升咨询响应效率；辅助决策沙盘整合市场动态 三、实施路径规划建议成功部署AI大模型知识库需经历三个阶段：首先是领域定制化训练，使用企业专属语料对基座模型进行调优，确保模型适配企业业务场景；其次是人机协同校验机制建立，通过人工复核保障输出内容的合规性与准确性 五、未来演进方向展望随着多模态融合技术的发展，下一代AI大模型知识库将突破文本局限，实现图纸三维模型与操作视频的联动检索，拓展知识呈现与应用形式。
52610编辑于 2025-10-16大模型+知识库rag项目架构
在AI领域，“大模型”通常指的是具有大量参数的深度学习模型，它们能够处理复杂的任务，如自然语言处理（NLP）、图像识别等。 而“知识库”则是指存储大量结构化或半结构化数据的系统，这些数据可以用于支持决策、提供信息查询等服务。 将大模型与知识库结合的项目架构（RAG项目架构）可能指的是一种结合了检索（Retrieval）和生成（Generation）的架构，即RAG（Retrieval-Augmented Generation RAG架构的一般流程如下：检索阶段（Retrieval）：首先，系统会从知识库中检索出与输入查询相关的信息。这可以通过关键词匹配、语义搜索或其他相关性度量来实现。 例如，检索系统可以使用不同的搜索引擎或推荐系统，而生成模型可以是传统的语言模型，也可以是专门为特定任务训练的模型。
1K10编辑于 2024-04-19- 来自专栏算法一只狗
大模型真正落地的应用：IMA知识库
大模型结合知识库问答是一个较为常见且实用的应用场景。例如，我曾经尝试过腾讯的IMA应用，该应用背后依托于混元大模型的支持。 这个知识库其实就是利用了混元大模型+RAG的架构，在借助于混元大模型的帮助，同时不需要微调的情况下，我们就可以搭建属于自己的知识库。 简单来说就是通过大模型LLM的能力，在其基础上引入外部的知识库数据，这样大模型AI在回答问题的时候更加的精确。 当然，你也可以在IMA上点开公众号的文章，把一些相关的专题内容也一同保存到知识库。可以看到我在知识库中已经记录了多个笔记和文章的内容。 这时候在提问的时候就可以直接选择知识库中的内容，然后生成文章了，这个创作文章的效率一下子就提升上来了。生成的文章经过混元大模型的总结，能够一下子就把具体的内容生成出来。
4.8K20编辑于 2025-01-14 - 来自专栏大模型&AIGC
6种大模型微调技术
值得一提的是，通过使用T5模型进行模型大小的消融实验，我们展示了提示微调随着规模的增加变得更加具有竞争力：当模型参数超过数十亿时，我们的方法“缩小了差距”并达到了模型微调（即调整所有模型权重）的强大性能 input和target，则使用原始的input embedding(5) 使用方式离散和连续template token混合时，显示地插入一下anchor（离散的token）有助于template的优化(6) ，无需verbalizer(4) 特点在小、大模型上，效果均优于P-tuning。 当参数量达10B，效果相当于FT6.LoRA（2021）(1) 论文信息来自论文：《LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS》（2）摘要自然语言处理的一个重要范式包括在通用领域数据上进行大规模预训练 Model)，学习目标为而加入LoRA后，学习目标为：(6) 配置在多个部位$(Q/K/V/Output)$同时添加$\bigtriangleup W$ ，会比只在单一部分上添加权重$\bigtriangleup
2.7K00编辑于 2025-05-08 避雷：搭建AI知识库的6大注意事项
但是，在搭建AI知识库的过程中，稍不留意，就会漏掉一些小细节，导致做出来的AI知识库没有发挥最大的作用。一起来看看搭建AI知识库时需要注意的几个关键点，帮你避开容易踩的坑。 第一个是明确目标和需求。 在搭建AI知识库之前，要先明确AI知识库的目的是什么。是提升客户服务质量、优化内部工作流程，还是进行大数据分析？只有一开始就明确了目标，才能确保知识库搭建方向正确，避免走弯路，浪费时间。 数据是AI知识库的重要部分。收集到的数据需要是准确、完整的。如果数据存在错误或遗漏，那么基于这些数据搭建的AI知识库就会无法提供准确的信息给到用户，那么这个AI知识库无异于一个失败的知识库。 第四个是知识库的更新和维护。 随着企业业务的不断变化和发展，AI知识库的内容也要实时更新和修改，让用户在第一时间接收到最新的信息，增加用户的良好体验感。 在开始使用某产品的AI知识库之前，数据安全和隐私保护是用户首要关心的一个重要问题。在搭建AI知识库时，要采取必要的安全措施来保护用户数据和知识库本身的安全。
88510编辑于 2024-09-24- 来自专栏6G
6G，AI , 与大模型?
6G与AI融合的未来方向 6G 网络的内生 AI 设计将赋能网络的AI大模型，同时使网络能够支持 AI 大模型的训练和服务。 另外，从小模型到大模型，生产效率跨越式提升基础通用大模型具有泛化性，网络智能化将从用例驱动转变为能力驱动，迅速降低应用开发门槛，加速 AI 工程化、规模化落地。 6G 网络将承担数据采集、预处理等数据服务，为云AI训练提供更好的支持。此外，6G 网络的分布式部署将使得 AI 大模型更靠近用户侧，从而在时延方面具有潜在优势。 在数据获取和处理方面，与 ChatGPT 不同，网络中存在大量结构化数据，且网络不同问题间的共性不清晰，网络 AI 大模型面临较大挑战。6G 网络面临如何有效采集适合AI大模型训练的数据的挑战。 而在构建 AI 大模型的路径上，需要分阶段探索，从离线小规模模型开始，逐步过渡到实时大规模模型，最终实现统一的网络 AI 大模型。 本文摘自于中国移动的“6G内生AI架构及AI大模”汇报材料。
42010编辑于 2024-04-24 - 来自专栏深度学习自然语言处理
基于大语言模型LangChain框架：知识库问答系统实践
LangChain 框架是一种利用大语言模型的能力开发各种下游应用的开源框架，旨在为各种大语言模型应用提供通用接口，简化大语言模型应用的开发难度。 LangChain 提供了以下 6 种标准化、可扩展的接口，并且可以外部集成：模型输入/输出（Model I/O），与大语言模型交互的接口；数据连接（Data connection），与特定应用程序的数据进行交互的接口 知识库问答系统实践 大语言模型虽然可以很好地回答很多领域的各种问题，但是由于其知识是通过语言模型训练及指令微调等方式注入模型参数中的，因此针对本地知识库中的内容，大语言模型很难通过此前的方式有效地进行学习 通过 LangChain 框架，可以有效地融合本地知识库内容与大语言模型的知识问答能力。 基于 LangChain 的知识库问答系统框架如下图所示。 知识库问答系统的工作流程主要包含以下几个步骤。 （4）根据用户输入信息的嵌入表示，通过向量数据库检索得到最相关的文本片段，将提示词模板与用户提交问题及历史消息合并输入大语言模型。 （5）将大语言模型结果返回给用户。
4.3K30编辑于 2024-01-25 - 来自专栏Lcry个人博客
开源 LLM 大模型知识库问答系统 FastGPT 部署教程
最新版是怎么样的了，周末抽空在本地部署一下做个备忘，最终使用了下发现和早期还是有很大变化，特别已经将早期的 one-api 替换成了现在的 ai-proxy（估计也是直接基于 one-api 封装的吧），然后添加模型以及工具也改成了以插件的方式安装了 介绍 FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，将智能对话与可视化编排完美结合，让 AI 应用开发变得简单自然。无论您是开发者还是业务人员，都能轻松打造专属的 AI 应用。 3000 端口（FastGPT 主服务） 9000 端口（S3 服务） 3005 端口（FastGPT SSE MCP server 服务） 然后依次点击账号，模型提供商，设置最基础的对话和向量模型则可以使用了 答：默认部署访问地址为 IP:9000，默认账号密码为minioadmin/minioadmin 4、向量存储数据库这官方提供的不同版本我应该如何选择部署 答：按照官方推荐，PgVector版本适合知识库索引量在 总结 本文主要介绍了在 macos 使用 docker 部署 fastgpt 知识库问答平台，官方提供的编排文件中存在镜像未修改为最近导致跑不起来需要手动修改，这算是一个坑，总体体验下来 fastgpt
73510编辑于 2026-03-02 检索增强生成（RAG）：大模型的‘外挂知识库
它结合了信息检索与生成式大模型的双重优势，让AI的回答更精准、更实时。那么，RAG究竟是如何工作的？它又能为我们的生活带来哪些改变？让我们一探究竟！ 什么是RAG RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合信息检索技术与生成式大模型（LLM）的AI框架。 它通过从外部知识库中检索相关信息，并将其作为提示（Prompt）输入给大模型，从而增强模型处理知识密集型任务的能力，如问答、文本摘要、内容生成等。 工作原理 1. 复杂性问题 系统复杂性高：RAG需要同时维护检索模型、生成模型和知识库，系统架构和调试复杂度较高。 调试难度大：检索和生成两个模块的协同工作可能导致问题定位和优化更加困难。 5. 总结 优点 缺点 准确性高，减少幻觉 检索效率低，计算成本高 可解释性强，结果透明 知识库依赖性强，更新成本高 灵活性高，适用于多任务 检索与生成协同问题 知识覆盖广，弥补模型知识局限 系统复杂性高，调试难度大
1.7K10编辑于 2025-05-31大模型的2025：6个关键洞察
以下为卡帕西年度回顾全文：《2025年大语言模型年度回顾》2025年是大语言模型领域大步跨越且充满变数的一年。 通过在数学、代码谜题等大量可自动验证奖励的环境中训练大语言模型，模型会自发形成人类视角下近似“推理”的策略。 Cursor与大语言模型应用的新层级Cursor最引人关注的点（除了其2025年的爆发式增长），在于它清晰揭示了大语言模型应用的一个全新层级，人们开始普遍讨论“某领域的Cursor模式”。 2025 年，行业内围绕这一新应用层的“厚度”展开了大量讨论：大语言模型实验室是否会通吃所有应用场景？还是说垂直领域的大语言模型应用仍有广阔蓝海？ 我个人的观点是，大语言模型实验室更倾向于培育“通识能力极强的大学生”式模型，而大语言模型应用则通过整合私有数据、传感器、执行器及反馈闭环，对这些“大学生”进行针对性组织、微调，最终驱动它们成为特定垂直领域的
60410编辑于 2025-12-24- 来自专栏CSDNToQQCode
千帆大模型——自定义【知识库】——Embedding式数据
前言 自定义知识库是自己的库，在做企业信息咨询等应用的时候就会有很大的帮助，这里个人建议使用json数据来导入，数据稍微有些变化，是每行都是一个对象数据，搞成jsonl文件后缀再去上传即可，不然上传后也解析不了的 创建步骤2、知识库创建 创建的四个步骤： 这里我们选择默认的【Embedding】有这个能返回对应的分数值，看看那些最匹配，做的都是相似度查询。 100级"} {"id": 5, "title": "大唐政府", "skill_name": "破釜沉舟", "skill_info": "攻击多个目标，伤害逐一减少，0-79级"} {"id": 6, 增加使用时的伤害，技能达到60级攻击4个目标，70级攻击5个目标，90级攻击6个目标。"}
91210编辑于 2023-11-22 - 来自专栏开源技术小栈
3分钟快速构建大语言模型AI知识库
FastGPT FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！ 登录成功访问页面如下所示 构建知识库 创建知识库 成功登录后，新建一个知识库，取名开源技术小栈。 导入成功 至此，个人知识库已经建好了。 创建应用 使用知识库必须要创建一个应用 关联知识库 设置了开场白并且选择绑定对应知识库开源技术小栈 点击保存预留后，可以直接在右边调试预览框预览对话进行文档内容测试。 开始对话 点击链接查看知识库引用 打开对应链接可以直接跳转到微信公众号文章地址 总结 构建私有数据训练服务，针对问题提供精准回答。
2.1K11编辑于 2023-11-27 开源大模型RAG企业本地知识库问答机器人
ChatWiki ChatWiki是一款开源的知识库 AI 问答系统。 系统基于大语言模型（LLM ）和检索增强生成（RAG）技术构建，提供开箱即用的数据处理、模型调用等能力，可以帮助企业快速搭建自己的知识库 AI 问答系统。 能力1、专属 AI 问答系统通过导入企业已有知识构建知识库，让 AI 机器人使用关联的知识库回答问题，快速构建企业专属 AI 问答系统。 2、一键接入模型ChatWiki已支持全球20多种主流模型，只需要简单配置模型API key等信息即可成功接入模型。 4、简单易用的使用方式ChatWiki采用直观的可视化界面设计，通过简洁易懂的操作步骤，可以轻松完成 AI 问答机器人和知识库的创建。
1K00编辑于 2024-07-01- 来自专栏野生AI架构师
大模型知识库中的文档预处理的优化问题
在基于大模型的知识库问答应用中，提升效果的点主要有: 1. 优化文档预处理； 2. 大模型的预训练及微调等； 3. 大模型的提示词优化； 4. 这应该有两种处理方式: 一是把该片段所在段落的各级标题拼接到文本的前面；二是用大模型将该片段前面的文本（同段落的）生成一个简短的摘要信息，拼在文本前面。 我想最好的办法是利用大模型的多态能力，直接表格进行结构化或者文本化。结构化就是变成有层级关系的json数据，文本化就是让大模型用文本来描述表格的内容，而这个文本化我觉得可能是更好的方式。 现在也有模型可以对表格进行结构化的，应该可以解决部分问题，这个方向发展的进一步，我觉得肯定是大模型。 3. 在目前技术限制下，可能最现实的做表格识别，然后按单元格排序组成文本，再转化为向量。 4. （本文主要依据周四在华工国际校区和曾老师及大家关于大模型的讨论，结合自己以往的经验扩展所写）
2.2K20编辑于 2023-09-30 - 来自专栏程序员奇点
基于 DeepSeek R1 搭建自己的大模型知识库
基于 coze 搭建自己的知识库，有两个问题： 信息安全问题； 数据容量问题； 基于本地环境搭建自己的大模型知识库，这里选取的是 DeepSeek R1 大模型。 安装 ollama Ollama 作为本地大模型部署的 “瑞士军刀”，在易用性和跨平台兼容性上表现突出，尤其适合个人开发者和小型团队快速验证模型想法。 curl https://ollama.ai/install.sh | sh # Windows winget install Ollama.Ollama 查看 ollama 看是否安装成功 安装大模型 这里安装的是 Deepseek-R1 大模型机器配置要求 ollama 常用命令 模型加载 ollama run deepseek-r1:32b 查看已安装模型 ollama list 如何卸载大模型 cloud.tencent.com/developer/article/2494891 安装可视化工具 从链接下载：https://anythingllm.com/ 配置LLM Anything 配置大模型
97300编辑于 2025-04-07 - 来自专栏张高兴的博客
大模型开发实战：（二）使用 LangChain 构建本地知识库应用
检索增强生成（Retrieval-Augmented Generation，RAG）是一种优化大型语言模型输出的方法，允许模型在生成回答前，从外部知识库中检索相关信息，而非仅依赖模型内部训练的知识。 基础概念 什么是 LangChain LangChain 是一个大语言模型（LLM）编程框架，其目的是简化基于大语言模型的应用开发，统一不同大模型的调用方式，开发者无需关心底层 API 差异。 chunk_overlap=20, add_start_index=True) split_docs = text_splitter.split_documents(documents) 文本向量化 大模型无法直接理解知识库当中的文本 如果将大模型通过词条查找内容的过程比作查字典，那么文本向量化就是在编写字典。这里使用向量化的一种方式—— Embedding（嵌入），能够使向量捕捉词语之间的语义关系、语法相似性等信息。 OllamaEmbeddings 是一个大语言模型的 Embedding 工具，将文本数据转换为向量表示，以便于后续的检索和生成。
3.1K21编辑于 2025-05-21 - 来自专栏开源部署
基于开源MaxKB构建大语言模型的本地知识库系统
什么是MaxKB MaxKB是一款基于LLM（Large Language Model）大语言模型的知识库问答系统。 使用MaxKB 如下图，进入后台之后有“应用”，“知识库”，“系统管理”三大主要功能。 创建应用 主要选择 AI模型，添加模型 除了基于OpenAI、Ollama、百度千帆大模型等在线大模型快速搭建知识库问答系统，这里可以添加第三方的大模型。 本地安装Olloma MaxKB还支持与以Ollama为代表的本地私有大模型相结合，快速部署本地的知识库问答系统。 months ago phi3:latest a2c89ceaed85 2.3 GB 2 months ago llama3:latest a6990ed6be41
1.6K11编辑于 2024-08-14 - 来自专栏素质云笔记
总结｜哪些平台有大模型知识库的Web API服务
截止2023/12/6 笔者个人的调研，有三家有大模型知识库的web api服务： 平台 类型 文档数量 文档上传并解析的结构 api情况 返回页码 文心一言 插件版 多文档 有问答api，文档上传是通过网页进行上传 有，而且是具体的chunk id，需要设置verbose参数 通义千问 插件版 单文档 【pdf解析】插件单文档问答api，文档只能用url模式，问答的方式可以总结、可以随意问答 无 星火大模型 知识库 response.message )) if __name__ == '__main__': call_with_messages() 在通义千问中，有按钮专门选择【文档解析】插件： 3 星火大模型 文档地址 涵盖了三个web api： 文档上传 文档总结 文档问答 具体可参考博客：讯飞星火知识库文档问答Web API的使用（二） 在星火大模型的sparkdesk版面： 4 智谱 地址： https 4.1 上传模块 4.2 文档问答 5 FastChat 地址： https://ai.fastgpt.in/ 文件导入： 每篇导入是收费的 问答配置： 6 Langchain-Chatchat
1.4K10编辑于 2023-12-07 - 来自专栏AI粉嫩特攻队
别再堆文档了，大模型时代知识库应该这样建
有人说，大模型+知识库就是新一代的员工。 可你有没有想过，如果你把一堆资料往员工桌上一扔，不教、不管，还想让他做出像样的工作，结果会如何？ 这是很多人现在“用知识库喂大模型”的真实写照。 “我们知识库里已经有很多内容了，可是模型回答的问题却越来越不靠谱。” 问题不在知识数量，而在知识质量和结构。 知识库不是扔进去一堆垃圾，然后吐出来一堆垃圾。 “究竟该怎么构建有用的知识？” “是不是只要建好知识库，大模型就能无所不能？” 知识是需要持续完善的。 大模型不能穷尽行业所有知识，你的知识库更不可能。 这篇文章带你从知识本源出发，思考如何构建真正有用的“知识治理平台”。 大模型不能穷尽一切，你的知识库更不可能。 在真实使用过程中，知识会不可避免地出现：错误、过时、缺失 、冗余 。 为了让知识库可以持续迭代完善，我们需要建立： 1. 我们从知识本源开始，探讨了知识库的建设究竟要关注哪些问题，以及知识治理平台的能力层级。 再想到什么，我会继续接着写。 如果你能看到这里，在对大模型+知识库的理解上你已经超过了绝大多数的人。
1.2K00编辑于 2025-05-15 - 来自专栏猫头虎博客专区
ChatGLM-6B 大模型的前世今生
ChatGLM-6B 开源模型旨在与开源社区一起推动大模型技术发展，恳请开发者和大家遵守开源协议，勿将开源模型和代码及基于开源项目产生的衍生物用于任何可能给国家和社会带来危害的用途以及用于任何未经过安全评估和备案的服务 ： 更强大的性能：基于 ChatGLM 初代模型的开发经验，我们全面升级了 ChatGLM2-6B 的基座模型。 ，运行内存只需要 4G 基于或使用了 ChatGLM-6B 的开源项目： langchain-ChatGLM：基于 langchain 的 ChatGLM 应用，实现基于可扩展知识库的问答 闻达：大型语言模型调用平台 支持 ChatGLM-6B 和相关应用在线训练的示例项目： ChatGLM-6B 的部署与微调教程 ChatGLM-6B 结合 langchain 实现本地知识库 QA Bot 第三方评测： Measuring 将模型下载到本地之后，将以上代码中的 THUDM/chatglm-6b 替换为你本地的 chatglm-6b 文件夹的路径，即可从本地加载模型。 Optional 模型的实现仍然处在变动中。
1.4K10编辑于 2024-04-08
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号