- 综合排序
- 最热优先
- 最新优先
- 来自专栏嵌入式音视频
【RAG】内部外挂知识库搭建-本地GPT
检索增强生成(RAG)是指对大型语言模型输出进行优化，使其能够在生成响应之前引用训练数据来源之外的权威知识库。 https://github.com/chatchat-space/Langchain-Chatchat 搭建local GPT：https://github.com/PromtEngineer/localGPT ==》本地版的 GPT，可以下載 source code 学习视频：https://www.youtube.com/watch? ithelp.ithome.com.tw/users/20120030/ironman/5515 效果 https://docs.google.com/presentation/d/1dkfd9cAwsHfM2jdKtn6RHixecoD6X1lF2Mby60YxmT4
1.5K10编辑于 2024-04-04 使用Ollama搭建本地大模型知识库
前言这章节主要是讲如何用本地的，一个很小的大模型，搭建一个自己的知识库，体验一下大模型的一个知识库的能力，还有大模型的一个检索能力。 当然也可以使用默认的下载大模型你可以直接在这上面选择输入的内容模型的内容，直接下载一边使用命令的方式这边是使用命令的方式，先去官网检索搜索到对应的大模型，选择相应的版本，复制他们的命令担保搜索文本bge-m3，这是其中的一个模型不用处理本地知识库接下来自己输入命令也好 ，它可以读取本地的大模型配置使用API的方式这次我们选择使用硅基流动的API的方式来导入模型服务，这样的话你就可以使用工具来进行一个访问，当然其他的也可以，比如现在很流行的deepseek，通义千问，豆包等等 创建知识库选择一些景点的知识库然后把这些文档添加到知识库里面接着进行文本的时候就可以添加对应的知识库了当你进行提问的时候，他会自动去解锁知识库优先使用知识库里面的内容，我选的这个模型是比较小的，所以整体而言 ，他的提问的质量不是特别的高总结主要是介绍一种本地搭建知识库的方式，体验一下大模型的一个轻量化小型化的一个体验方式，当然也可以用来进行微调，比起供网上面的大模型，这个差距太多了，这个是一个很小的一个模型
66110编辑于 2026-08-07- 来自专栏山行AI
搭建本地知识库的开源利器之DocsGPT
•安排演示 [1]•发送电子邮件 ✉️[2] [4] 基于langchain，可针对上传的文档进行知识问答等 路线图[5] 您可以在这里[6]找到我们的路线图。 [16]•如何使用其他文档[17]•如何在本地托管（以便所有数据保留在内部）[18] 项目结构[19] •Application - Flask 应用程序（主要应用程序）。 /setup.sh 这将安装所有依赖项并允许您下载本地模型或使用 OpenAI。
4.3K20编辑于 2023-10-09 - 来自专栏码匠的流水账
使用MaxKB及deepseek搭建本地AI知识库
序本文主要研究一下如何MaxKB及deepseek搭建本地AI知识库步骤拉取MaxKB镜像docker pull cr2.fit2cloud.com/1panel/maxkb如果拉取不下来就用docker 模型设置–>添加模型，这里添加ollama的deepseek-r1:8b，其中API URL设置为http://host.docker.internal:11434，API KEY随便设置一个就行设置知识库创建知识库 –>向量模型为maxkb-embedding，知识库类型为通用型，之后上传文档，可以选择文本文件、表格、QA问答对，之后执行向量化设置应用创建应用–>设置AI模型–>关联知识库(添加知识库)，参数设置：
1.8K10编辑于 2025-02-13 - 来自专栏coder
使用langchain搭建自己的本地知识库系统
什么是 RAG RAG 是retrieval-augmented-generation的缩写，翻译为中文的意思就检索增强，以基于最新，最准确的数据建立LLM 的语料知识库。 LLM 现存的痛点 我们知道 LLM 的知识库是通过现有的网络公开的数据作为数据源来训练的，现在公开的很多模型他们基于的训练数据会比我们现在网络上公开的数据早很多，那自然就会产生一种问题，网络上最新的数据和知识 langchain-experimental pip install "langserve[all]" pip install langchain-cli pip install langsmith 实现知识库 总结： 本文主要是介绍了如何使用 langchain 构建一个自己的知识库系统 介绍了知识库构建的 RAG 相关的知识 LLM 不能做什么，如何将最新的数据于 llm 相结合来提示 llm 的能力 langchain 的基本介绍，他是一个用于开发由语言模型驱动的应用程序的框架 向量数据库的作用：存储向量化后的文本然后提供查找语义相关的内容 构建知识库的步骤和相关代码的介绍
2.3K10编辑于 2024-09-06 - 来自专栏AI研习日志
DeepSeek + Ollama + Cherry Studio搭建本地私有知识库
二、为什么要搭建个人知识库？搭建个人知识库不仅能提升工作效率，还能促进持续学习和团队协作，对个人职业发展和团队知识管理具有长远意义。1. 如果想要搭建知识库，这里我们又不得不提到另外一个词——RAG.三、什么是RAG？ 好了，废话不多说，接下来就带大家具体实操了，如何用DeepSeek + Ollama + Cherry Studio在本地搭建私有知识库。五、搭建实操1. 因为我自己搭建的知识库会用到很多内部资料，出于安全性考虑今天我们重点介绍的是第一种方式———使用Ollama工具本地运行 DeepSeek R1 ，借助Cherry Studio嵌入本地资料，搭建本地私有知识库 如图可以使用默认的聊天助手，也可以新建一个自定义的聊天助手，选择本地模型和知识库， 这样默认这个聊天助手所有的问答都会参考我们的知识库资料。
8.9K52编辑于 2025-02-26 - 来自专栏计算机视觉CV
【玩转 GPU】搭建本地知识库--chatGLM+langchain（尝鲜篇）
我们可以利用langchain+chatGLM在本地搭建自己的知识库，除了能搜索到文档这个功能，还能基于知识库内容和你进行对话问答～上文我们介绍了如何在本地部署chatGLM，本文就介绍如何搭建你的本地知识库问答系统 1 知识库搭建思路先抛开技术，假设现在知识库就在手边，我们是如何搜索想要的答案的？首先，把所有的文档看一遍，对文档进行分类；然后，找出和问题相关的文档内容；最后，对相关内容进行总结，得到答案。 1.2 langchain-ChatGLM流程介绍langchain-ChatGLM项目就是参考了Langchain的思路，我们一起看下langchain-ChatGLM搭建本地知识库的流程。 https://github.com/imClumsyPanda/langchain-ChatGLM/blob/master/README.md如上图，本地知识库搭建的流程如下：（1-2）准备本地知识库文档目前支持 2 知识库搭建步骤2.1 硬件需求首先确定机器性能是否满足要求，仍然使用ChatGLM-6B模型通过上文介绍，大家应该可以在本地跑通chatGLM-6B模型了。
12.7K122编辑于 2025-07-18 - 来自专栏大模型
搭建本地知识库的操作方法（Ollama+AnythingLLM）
一些应用场景的感悟：搭建本地知识库其实作用还是挺大的，最适合公司内部署、有多年职场经验的或是创业中的小伙伴，可以很好的将手头上n多的资料管理起来，查询时再也不用在各个磁盘里各种翻阅了，即保证了材料的安全又能极大地提高了资料的使用率和办公效率 进入命令行并执行以下命令，这一步可能会很慢，若过程中出现错误，重新拉取即可ollama run deepseek-r1:8b<若只想通过Ollama使用deepseek进行简单问答，则无需继续下面的操作>三、下载搭建本地知识库的 它无需编写代码或处理复杂的基础设施问题，适合快速搭建私有知识库和智能问答系统。 ;(4)多向量数据库支持:支持 Pinecone、Weaviate 等向量数据库;(5)多文件格式处理:支持 PDF、TXT、DOCX 等文件格式; (6)实时网络搜索:结合 LLM响应缓存与对话标记功能 q=nomic（2）复制安装命令（3）拉取nomic进入命令行，并执行上一步复制的命令即可（4）拉取完成后重启AnythingLLM，并点击小扳手进入配置页面Step6：配置Embedder首选项此时Embeddings
8.4K11编辑于 2025-07-18 - 来自专栏程序员树先生
基于 ChatGLM-6B 搭建个人专属知识库
ChatGLM-6B 部署与 P-Tuning 微调实战 今天树先生教大家无需微调就能实现垂直领域的专业问答，利用 ChatGLM-6B + langchain 实现个人专属知识库，非常简单易上手。 -qe": "THUDM/chatglm-6b-int4-qe", "chatglm-6b-int4": "THUDM/chatglm-6b-int4", "chatglm-6b-int8 ": "THUDM/chatglm-6b-int8", "chatglm-6b": "/your_path/chatglm-6b", } 项目启动 Web 模式启动 pip install gradio ，可作为后台管理员操作页面，如果要开放给用户使用就不合适了，树先生在 Chatgpt-Next-Web 项目基础上进行了适配修改，打造了一款面向用户使用的本地知识库前端。 授权码控制 选择知识库 基于知识库问答 显示答案来源 PS：这个知识库是我上传的原始知识库，所以来源这块数据展示效果不好，更好的做法是经过一遍数据治理再上传。
4.5K155编辑于 2023-05-16 从零搭建个人Wiki RAG：Karpathy范式的本地知识库
Karpathy（OpenAI联合创始人、前特斯拉AI总监）最近提出了一个优雅的解法：LLM Wiki——不用向量数据库，不用传统RAG，让LLM自己维护一个Markdown知识库。 今天这篇文章，带你从零搭建一个可闭环的个人Wiki RAG系统。用Ollama本地模型，完全离线，代码不到300行。 读完你会觉得：我行了，我也能搭。 Karpathy的LLM Wiki是什么？ 一句话：让LLM帮你维护一个结构化的Markdown知识库。 末尾添加「一句话总结」 6. 生成3-5个标签""" 智能跳过： 用MD5哈希检测文件变化，没改动的自动跳过。 用LLM Wiki + RAG，你可以在本地搭建一个真正可用的个人知识库——零API费用，完全离线，数据自己掌控。 试试看，你会发现：真没那么难。
12.3K12编辑于 2026-04-14- 来自专栏程序员树先生
LangChain + ChatGLM2-6B 搭建个人专属知识库
之前教过大家利用 langchain + ChatGLM-6B 实现个人专属知识库，非常简单易上手。 推荐使用 2.0 及以上的版本，以获得最佳的推理性能pip install -r requirements.txt下载模型# 这里我将下载的模型文件放到了本地的 chatglm-6b 目录下git clone 并将模型路径 THUDM/chatglm2-6b 改为你本地的模型路径。 部署微调后的模型这里我们先修改 web_demo.sh 的内容以符合实际情况，将 pre_seq_len 改成你训练时的实际值，将 THUDM/chatglm2-6b 改成本地的模型路径。 bash web_demo.sh结果对比原始模型微调后模型LangChain + ChatGLM2-6B 构建知识库LangChain 知识库技术原理目前市面上绝大部分知识库都是 LangChain +
6.7K53编辑于 2023-07-14 把本地文档变成可问答的知识库：个人知识库搭建的实操经验
把本地文档变成可问答的知识库：个人知识库搭建的实操经验 一、背景：资料越来越多，找起来越来越慢 做设计和研发的人，电脑里几乎都攒着一座"资料山"：项目文档、客户需求、标准规范、会议纪要、历史报价……真正要用的时候 后来我用上了 AI 工具，把本地文档变成"可以提问的资料库"——不用记住文件在哪，只要描述需求，AI 就能从文档里把答案捞出来。这篇文章分享一下我的实操流程和踩过的坑。 二、整体思路：文档入库、检索召回、问答输出 我的方案遵循一个非常朴素的流程，也是主流知识库问答（RAG）的经典三段式： 1. 我的做法是本地嵌入模型兜底，联网时用更强的模型做问答，网络不稳定时降级到本地模型，保证核心检索功能随时可用。 ** 知识库的体验，八成分在数据准备上，两成分在算法上，方向别搞反了。 希望这篇实操笔记能帮你少踩几个坑。
19010编辑于 2026-11-03避雷：搭建AI知识库的6大注意事项
但是，在搭建AI知识库的过程中，稍不留意，就会漏掉一些小细节，导致做出来的AI知识库没有发挥最大的作用。一起来看看搭建AI知识库时需要注意的几个关键点，帮你避开容易踩的坑。 第一个是明确目标和需求。 在搭建AI知识库之前，要先明确AI知识库的目的是什么。是提升客户服务质量、优化内部工作流程，还是进行大数据分析？只有一开始就明确了目标，才能确保知识库搭建方向正确，避免走弯路，浪费时间。 数据是AI知识库的重要部分。收集到的数据需要是准确、完整的。如果数据存在错误或遗漏，那么基于这些数据搭建的AI知识库就会无法提供准确的信息给到用户，那么这个AI知识库无异于一个失败的知识库。 在开始使用某产品的AI知识库之前，数据安全和隐私保护是用户首要关心的一个重要问题。在搭建AI知识库时，要采取必要的安全措施来保护用户数据和知识库本身的安全。 总之，在搭建AI知识库的过程中，有很多小细节一定不要忽略掉，每一个小细节都可能会影响整个AI知识库的效果。做好充分的准备和规划，才能确保项目的顺利进行和成功实施。希望以上几点注意事项能对你有所帮助！
1.1K10编辑于 2024-09-24Yi-6B-Chat 接入 LangChain 搭建知识库助手
Yi-6B-Chat 接入 LangChain 搭建知识库助手 环境准备 在 autodl 平台中租赁一个 3090 等 24G 显存的显卡机器，如下图所示镜像选择 PyTorch–>2.0.0–>3.8 ', cache_dir='/root/autodl-tmp', revision='master') 知识库建设 我们选用以下开源仓库作为知识库来源： sweettalk-django4.2 首先我们需要将上述远程开源仓库 注意，也可以选用其中的代码文件加入到知识库中，但需要针对代码文件格式进行额外处理。 persist_directory # 允许我们将persist_directory目录保存到磁盘上 ) # 将加载的向量数据库持久化到磁盘上 vectordb.persist() 将上述代码整合在一起为知识库搭建的脚本 __init__() print("正在从本地加载模型...")
48210编辑于 2025-07-17- 来自专栏大语言模型
纯本地AI知识库搭建：DeepSeek-R1+AnythingLLM全流程
在数据隐私与效率需求双重驱动下，本地部署AI知识库已成职场刚需。 核心组件与优势DeepSeek-R1作为国产开源模型，实现三大突破：全本地化运行杜绝数据外泄、0成本部署无需算力付费、支持模型微调适配垂直场景。
3.3K10编辑于 2025-08-07 - 来自专栏实时计算
【开源项目推荐】——纯中文本地GPT知识库搭建项目.assets
那么，有没有可以在本地部署搭建的AI知识库项目呢？ 今天为大家推荐的就是一个纯中文本地GPT知识库搭建项目，虽然刚刚开源不到半年的时间，标星已经达到了8.8K， 让我们一起来看看吧~ FastGPT 今天为大家推荐的开源项目名为FastGPT。 虽然开源的大模型已经有很多，但是如果基于这些大模型搭建自己的知识库并不容易，需要非常复杂的实现过程。而FastGPT正是为了解决这个问题而诞生的。 而如果需要做二次开发，也可以很轻松的搭建环境，该项目主要是TS语言开发，准备好NodeJS相关环境就可以了。而且FastGPT的整个配置过程都是支持中文的，非常方便。 FastGPT自开源以来发展迅速，已经有非常多的用户基于其搭建了自己的本地知识库，最新版本为4.6.6，大家赶快用起来吧~ 功能演示 请参考大数据流动视频号演示介绍。
7.4K11编辑于 2024-01-17 【2024年】6款搭建AI知识库的最佳SaaS软件
现如今，越来越多的企业开始意识到搭建高效、智能的AI知识库是非常重要的，并在不断了解和搭建AI知识库。如何高效搭建出有效的AI知识库是很多企业存在的问题。 在2024年，有哪些SaaS软件是搭建AI知识库的最佳软件呢？本文将推荐6个用于搭建AI知识库的最佳SaaS软件。1. HelpLook AI知识库HelpLook AI知识库是一款专注于搭建AI知识库的SaaS软件。它有强大的AI搜索和智能问答功能。 6. ProProfs Knowledge BaseProProfs Knowledge Base是一款用于搭建AI知识库的卓越SaaS软件。它支持内容创建、编辑和分类，确保信息条理清晰。 以上就是2024年用于搭建AI知识库的最佳SaaS软件推荐。这些软件各有特点，能够满足不同企业的需求。如果你正在寻找一款合适的AI知识库搭建软件，不妨简单试试以上几款吧！
1.8K10编辑于 2024-09-06手把手教你:Windows与Linux下Dify+DeepSeek实现ragflow构建企业知识库
搭建本地化知识库并实现接口调用，对于企业和开发者来说具有至关重要的意义。在实际应用场景中，企业内部往往拥有大量的业务数据、文档资料等，这些数据蕴含着丰富的知识和信息。 通过搭建本地化知识库，企业可以将这些数据进行有效的整合和管理，利用大语言模型的强大能力，实现对知识的快速检索、智能问答和深度分析。 在众多的技术方案中，Dify + Ollama + DeepSeek 技术栈脱颖而出，成为了搭建本地化知识库和实现接口调用的理想选择。 这三者的结合，为我们提供了一个高效、安全、低成本的本地化知识库搭建和接口调用解决方案。 通过 Dify，我们可以快速搭建一个功能强大的知识库应用，并且能够轻松地实现接口调用，将知识库的能力集成到其他系统中。
4.7K21编辑于 2025-05-30手把手教你搭建本地知识库：打造你的专属AI助手
搭建本地知识库，本质上就是给你自己配一个“第二大脑”——把你所有的资料、文档、笔记交给AI，让它替你记住，随时调取。我之前折腾了好几个方案，踩过不少坑，今天把我摸索出来的路子全盘托出。 一、先搞懂：什么是本地知识库？为什么要自己搭？简单说，本地知识库=你的私有数据+AI搜索引擎。你把所有文档、笔记、资料扔进去，然后用自然语言问它问题，它从这些资料里找答案给你。为什么要自己搭？ 这是什么：Dify是一个开源平台，可以搭建完整的知识库系统，还能接入本地运行的模型（比如用Ollama跑开源模型）。 在Dify里配置：把Ollama作为模型接入创建知识库：上传文档，Dify会自动切片、向量化开始用：提问，它在本地跑，不上传任何数据优点：完全免费，数据全在本地，隐私最好。 怎么搭：把所有资料整理到飞书云文档（或者钉钉文档）打开AI助手，问它问题，它会搜索你的文档找答案优点：零搭建，会用飞书就会用。团队协作方便，可以共享知识库。缺点：资料在云端，隐私稍弱。
8.2K21编辑于 2026-03-03- 来自专栏《Cloud Studio》
还在搭建本地知识库？ Cloud Studio DeepSeek 模板已经内置，直接来玩！
今天，CloudStudio 在 DeepSeek-R1 CPU 模板中已内置知识库，支持 Open WebUI 和 AnythingLLM 两种模式，无需动手搭建，开箱即可拥有属于自己的私有知识库。 二、为什么要搭建个人知识库搭建个人知识库不仅能提升工作效率，还能促进持续学习和团队协作，对个人职业发展和团队知识管理具有长远意义。1. 如果想要搭建知识库，这里我们又不得不提到另外一个词—— RAG 。 相对于本地搭建 RAG 知识库，体验门槛直线降低！ 上传本地文件或将本地文件拖入行业报告返回对话窗口，在输入框输入“#”，选择知识库后即可进行对话最后，我们来看看以 AnythingLLM 为例，基于我们传入的《微短剧行业深度分析报告》文件，得到的对话答案能够较为精准地提权
1.5K10编辑于 2025-02-13
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号