首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏嵌入式音视频

    【RAG】内部外挂知识库搭建-本地GPT

    检索增强生成(RAG)是指对大型语言模型输出进行优化,使其能够在生成响应之前引用训练数据来源之外的权威知识库。 https://github.com/chatchat-space/Langchain-Chatchat 搭建local GPT:https://github.com/PromtEngineer/localGPT ==》本地版的 GPT,可以下載 source code 学习视频:https://www.youtube.com/watch? https://github.com/PromtEngineer/localGPT.git 2、安装 conda:https://www.anaconda.com/download-success 3

    1.4K10编辑于 2024-04-04
  • 使用Ollama搭建本地大模型知识库

    前言这章节主要是讲如何用本地的,一个很小的大模型,搭建一个自己的知识库,体验一下大模型的一个知识库的能力,还有大模型的一个检索能力。 当然也可以使用默认的下载大模型你可以直接在这上面选择输入的内容模型的内容,直接下载一边使用命令的方式这边是使用命令的方式,先去官网检索搜索到对应的大模型,选择相应的版本,复制他们的命令担保搜索文本bge-m3, 这是其中的一个模型不用处理本地知识库接下来自己输入命令也好,或者是在下拉选择也好,把模型库下载下来之后的就是建立知识库了CherryAI大模型管理平台介绍一个另外一个大模型的管理工具平台,它集成了很多个平台的大模型 创建知识库选择一些景点的知识库然后把这些文档添加到知识库里面接着进行文本的时候就可以添加对应的知识库了当你进行提问的时候,他会自动去解锁知识库优先使用知识库里面的内容,我选的这个模型是比较小的,所以整体而言 ,他的提问的质量不是特别的高总结主要是介绍一种本地搭建知识库的方式,体验一下大模型的一个轻量化小型化的一个体验方式,当然也可以用来进行微调,比起供网上面的大模型,这个差距太多了,这个是一个很小的一个模型

    29710编辑于 2026-08-07
  • 来自专栏码匠的流水账

    使用MaxKB及deepseek搭建本地AI知识库

    序本文主要研究一下如何MaxKB及deepseek搭建本地AI知识库步骤拉取MaxKB镜像docker pull cr2.fit2cloud.com/1panel/maxkb如果拉取不下来就用docker 模型设置–>添加模型,这里添加ollama的deepseek-r1:8b,其中API URL设置为http://host.docker.internal:11434,API KEY随便设置一个就行设置知识库创建知识库 –>向量模型为maxkb-embedding,知识库类型为通用型,之后上传文档,可以选择文本文件、表格、QA问答对,之后执行向量化设置应用创建应用–>设置AI模型–>关联知识库(添加知识库),参数设置:

    1.7K10编辑于 2025-02-13
  • 来自专栏山行AI

    搭建本地知识库的开源利器之DocsGPT

    [16]•如何使用其他文档[17]•如何在本地托管(以便所有数据保留在内部)[18] 项目结构[19] •Application - Flask 应用程序(主要应用程序)。 /setup.sh 这将安装所有依赖项并允许您下载本地模型或使用 OpenAI。 (可选)创建一个 Python 虚拟环境: python -m venv venv source venv/bin/activate 3.切换到application/子目录并安装后端的依赖项: pip 3.使用npm run dev运行应用程序。 注:本文由山行翻译整理自:https://github.com/arc53/DocsGPT,感兴趣的请点赞、收藏、关注。

    4.2K20编辑于 2023-10-09
  • 来自专栏coder

    使用​​langchain​​搭建自己的本地知识库系统

    什么是 RAG RAG 是retrieval-augmented-generation的缩写,翻译为中文的意思就检索增强,以基于最新,最准确的数据建立LLM 的语料知识库。 LLM 现存的痛点 我们知道 LLM 的知识库是通过现有的网络公开的数据作为数据源来训练的,现在公开的很多模型他们基于的训练数据会比我们现在网络上公开的数据早很多,那自然就会产生一种问题,网络上最新的数据和知识 langchain-experimental pip install "langserve[all]" pip install langchain-cli pip install langsmith 实现知识库 总结: 本文主要是介绍了如何使用 langchain 构建一个自己的知识库系统 介绍了知识库构建的 RAG 相关的知识 LLM 不能做什么,如何将最新的数据于 llm 相结合来提示 llm 的能力 langchain 的基本介绍,他是一个用于开发由语言模型驱动的应用程序的框架 向量数据库的作用:存储向量化后的文本然后提供查找语义相关的内容 构建知识库的步骤和相关代码的介绍

    2.1K10编辑于 2024-09-06
  • 来自专栏技术趋势

    chatGLM3+chatchat实现本地知识库

    落地方案 通过chatGLM3-6B+langchain-chatchat+bge-large-zh实现本地知识库库。 注意:相关介绍和说明请看官网~ 配置要求 名称 要求 说明 内存 16G 最好是32G GPU 英伟达16G 最好是24G python 3.10 环境搭建 拉取代码 https://github.com requirements_webui.txt 下载模型 #国内源下载(推荐) git lfs install git clone https://www.modelscope.cn/ZhipuAI/chatglm3- AI-ModelScope/bge-large-zh.git #需要梯子 git lfs install git clone https://huggingface.co/THUDM/chatglm3- 项止 访问页面:127.0.0.1:8501 最后 试了最新的chatchat发现这个版本在识别agent中的utils有时生效有时无效,官方也承认有这个问题,建议后续还是用官方的chatGLM3

    1.1K10编辑于 2024-03-22
  • 来自专栏AI研习日志

    DeepSeek + Ollama + Cherry Studio搭建本地私有知识库

    二、为什么要搭建个人知识库搭建个人知识库不仅能提升工作效率,还能促进持续学习和团队协作,对个人职业发展和团队知识管理具有长远意义。1. 减少沟通成本:常见问题和解决方案在知识库中共享,减少重复沟通。 如果想要搭建知识库,这里我们又不得不提到另外一个词——RAG.三、什么是RAG? 好了,废话不多说,接下来就带大家具体实操了,如何用DeepSeek + Ollama + Cherry Studio在本地搭建私有知识库。五、搭建实操1. 因为我自己搭建知识库会用到很多内部资料,出于安全性考虑今天我们重点介绍的是第一种方式———使用Ollama工具本地运行 DeepSeek R1 ,借助Cherry Studio嵌入本地资料,搭建本地私有知识库 如图可以使用默认的聊天助手,也可以新建一个自定义的聊天助手,选择本地模型和知识库, 这样默认这个聊天助手所有的问答都会参考我们的知识库资料。

    8.5K52编辑于 2025-02-26
  • 来自专栏计算机视觉CV

    【玩转 GPU】搭建本地知识库--chatGLM+langchain(尝鲜篇)

    我们可以利用langchain+chatGLM在本地搭建自己的知识库,除了能搜索到文档这个功能,还能基于知识库内容和你进行对话问答~上文我们介绍了如何在本地部署chatGLM,本文就介绍如何搭建你的本地知识库问答系统 1 知识库搭建思路先抛开技术,假设现在知识库就在手边,我们是如何搜索想要的答案的?首先,把所有的文档看一遍,对文档进行分类;然后,找出和问题相关的文档内容;最后,对相关内容进行总结,得到答案。 1.2 langchain-ChatGLM流程介绍langchain-ChatGLM项目就是参考了Langchain的思路,我们一起看下langchain-ChatGLM搭建本地知识库的流程。 https://github.com/imClumsyPanda/langchain-ChatGLM/blob/master/README.md如上图,本地知识库搭建的流程如下:(1-2)准备本地知识库文档目前支持 2 知识库搭建步骤2.1 硬件需求首先确定机器性能是否满足要求,仍然使用ChatGLM-6B模型通过上文介绍,大家应该可以在本地跑通chatGLM-6B模型了。

    12.4K122编辑于 2025-07-18
  • 来自专栏大模型

    搭建本地知识库的操作方法(Ollama+AnythingLLM)

    一些应用场景的感悟:搭建本地知识库其实作用还是挺大的,最适合公司内部署、有多年职场经验的或是创业中的小伙伴,可以很好的将手头上n多的资料管理起来,查询时再也不用在各个磁盘里各种翻阅了,即保证了材料的安全又能极大地提高了资料的使用率和办公效率 Step1:下载 Ollama下载并安装Ollama:https://ollama.com/downloadStep2:验证安装是否成功打开命令行并输入 ollama,若如图所示,则代表安装成功Step3: 进入命令行并执行以下命令,这一步可能会很慢,若过程中出现错误,重新拉取即可ollama run deepseek-r1:8b<若只想通过Ollama使用deepseek进行简单问答,则无需继续下面的操作>三、下载搭建本地知识库的 它无需编写代码或处理复杂的基础设施问题,适合快速搭建私有知识库和智能问答系统。 <主要特性>(1)多种部署方式:支持云端、本地和自托管部署 ;(2)多用户协作:支持团队协作,适用于企业知识管理和客户支持;(3)多模型支持:兼容OpenAl、Anthropic、LocalAl等主流大模型

    7.6K11编辑于 2025-07-18
  • 从零搭建个人Wiki RAG:Karpathy范式的本地知识库

    Karpathy(OpenAI联合创始人、前特斯拉AI总监)最近提出了一个优雅的解法:LLM Wiki——不用向量数据库,不用传统RAG,让LLM自己维护一个Markdown知识库。 今天这篇文章,带你从零搭建一个可闭环的个人Wiki RAG系统。用Ollama本地模型,完全离线,代码不到300行。 读完你会觉得:我行了,我也能搭。 Karpathy的LLM Wiki是什么? 一句话:让LLM帮你维护一个结构化的Markdown知识库。 ▪ 3. 用LLM Wiki + RAG,你可以在本地搭建一个真正可用的个人知识库——零API费用,完全离线,数据自己掌控。 试试看,你会发现:真没那么难。

    11K11编辑于 2026-04-14
  • 来自专栏大语言模型

    本地AI知识库搭建:DeepSeek-R1+AnythingLLM全流程

    在数据隐私与效率需求双重驱动下,本地部署AI知识库已成职场刚需。 核心组件与优势DeepSeek-R1作为国产开源模型,实现三大突破:全本地化运行杜绝数据外泄、0成本部署无需算力付费、支持模型微调适配垂直场景。 AnythingLLM后,在设置界面完成三要素配置: LLM提供商:Ollama(指定DeepSeek-R1) 向量数据库:默认LanceDB 嵌入引擎:Ollama(选用nomic-embed-text)3.

    2.9K10编辑于 2025-08-07
  • 来自专栏实时计算

    【开源项目推荐】——纯中文本地GPT知识库搭建项目.assets

    那么,有没有可以在本地部署搭建的AI知识库项目呢? 今天为大家推荐的就是一个纯中文本地GPT知识库搭建项目,虽然刚刚开源不到半年的时间,标星已经达到了8.8K, 让我们一起来看看吧~ FastGPT 今天为大家推荐的开源项目名为FastGPT。 虽然开源的大模型已经有很多,但是如果基于这些大模型搭建自己的知识库并不容易,需要非常复杂的实现过程。而FastGPT正是为了解决这个问题而诞生的。 而如果需要做二次开发,也可以很轻松的搭建环境,该项目主要是TS语言开发,准备好NodeJS相关环境就可以了。而且FastGPT的整个配置过程都是支持中文的,非常方便。 FastGPT自开源以来发展迅速,已经有非常多的用户基于其搭建了自己的本地知识库,最新版本为4.6.6,大家赶快用起来吧~ 功能演示 请参考大数据流动视频号演示介绍。

    7.3K11编辑于 2024-01-17
  • 基于 ChatGLM3 和 LangChain 搭建知识库助手

    基于 ChatGLM3 和 LangChain 搭建知识库助手 环境配置 在已完成 ChatGLM3 的部署基础上,还需要安装以下依赖包: pip install langchain==0.0.292 同时,在本节中,ChatGLM3-6B 的模型参数文件存储在本地 autodl-tmp/ZhipuAI/chatglm3-6b。 知识库搭建 我们选择 Datawhale 的一系列 LLM 开源教程作为语料库来源,包括: Self LLM:一个围绕开源大模型、针对国内初学者、基于 AutoDL 平台的中国宝宝专属大模型教程。 persist_directory # 允许我们将persist_directory目录保存到磁盘上 ) # 将加载的向量数据库持久化到磁盘上 vectordb.persist() 将上述代码整合在一起为知识库搭建的脚本
    """) gr.close_all() # 直接启动 demo.launch() 通过将上述代码封装为 run_gradio.py 脚本,直接通过 python 命令运行,即可在本地启动知识库助手的

    57710编辑于 2025-07-17
  • 尝试用WorkBuddy搭建IMA知识库标签系统-3

    新能源汽车), 部件-导线(=0.90,导线), 标准-GB(=0.90,GB) ⚠️ 人工队列: 品类-汽车(=0.72,汽车), 工艺-设计(=0.72,设计), 岗位-设计(=0.72,设计) s3_ quality.docx 路径(仅日志): pipeline/samples/s3_quality.docx 文本长度: 42 ✅ 自动标签: 部件-端子(=0.90,端子), 工艺-压接(=0.90, ,下次判标跳过 = 全局降权) pending → 跳过 有 confirm 项时自动调 batch_writeback 算写回 ETA(分日调度,占位不真实调用) 配套改动:config.py 加 3 confirmed_tags 若同一词被别处 reject 进了全局排除,你 confirm 的文档仍通过 confirmed 保留、只是重跑后 manual_queue 里不再显示——这是预期,不是丢失 当前状态 本地判标 将来若某篇文档确实该打 品类-汽车 或 岗位-管理,不能再靠弱信号自动/候选——需你在 IMA 手动补标,或回 标签清单_线束知识库.md 把该词登记为强信号同义词后再清排除。

    21910编辑于 2026-07-20
  • 手把手教你:Windows与Linux下Dify+DeepSeek实现ragflow构建企业知识库

    搭建本地知识库并实现接口调用,对于企业和开发者来说具有至关重要的意义。在实际应用场景中,企业内部往往拥有大量的业务数据、文档资料等,这些数据蕴含着丰富的知识和信息。 通过搭建本地知识库,企业可以将这些数据进行有效的整合和管理,利用大语言模型的强大能力,实现对知识的快速检索、智能问答和深度分析。 在众多的技术方案中,Dify + Ollama + DeepSeek 技术栈脱颖而出,成为了搭建本地知识库和实现接口调用的理想选择。 这三者的结合,为我们提供了一个高效、安全、低成本的本地知识库搭建和接口调用解决方案。 通过 Dify,我们可以快速搭建一个功能强大的知识库应用,并且能够轻松地实现接口调用,将知识库的能力集成到其他系统中。

    4.4K21编辑于 2025-05-30
  • 手把手教你搭建本地知识库:打造你的专属AI助手

    搭建本地知识库,本质上就是给你自己配一个“第二大脑”——把你所有的资料、文档、笔记交给AI,让它替你记住,随时调取。我之前折腾了好几个方案,踩过不少坑,今天把我摸索出来的路子全盘托出。 一、先搞懂:什么是本地知识库?为什么要自己搭?简单说,本地知识库=你的私有数据+AI搜索引擎。你把所有文档、笔记、资料扔进去,然后用自然语言问它问题,它从这些资料里找答案给你。为什么要自己搭? 这是什么:Dify是一个开源平台,可以搭建完整的知识库系统,还能接入本地运行的模型(比如用Ollama跑开源模型)。 怎么搭(简略版):安装Dify:用Docker部署,或者下载桌面版安装Ollama:这是一个可以在本地跑模型的工具下载模型:用Ollama拉一个开源模型,比如qwen2.5(阿里的通义千问开源版)或者llama3 第五步:开始提问回到聊天界面,在顶部选择你刚建的知识库(不选就是普通聊天,选了就只从知识库里找答案)。然后问它问题,比如:“去年那个关于预算的方案里,Q3的分配比例是多少?”

    6.9K21编辑于 2026-03-03
  • 来自专栏杨建荣的学习笔记

    搭建知识库xwiki

    之前自己使用Django admin和suit完成了初步的个人知识库管理,基本完成了我自己的浏览器标签库和微信公众号的统一管理,但是有一个问题,那就是目前我只能根据标题来做查询,如果能查根据关键字查到一些相关的文章 这个项目的环境搭建部分得吐槽一下,官网的说明重点在体现xwiki功能如何全面,但是对于如何搭建,如何部署注意的地方相对来说比较散,没有一种一气呵成的感觉。 浏览器输入: http://192.168.253.141:8080/xwiki 就会看到如下的配置信息,搭建的步骤大体有下面的内容: ? 整个网页版的安装,比较有特色,所有工作都在页面中完成。

    2.6K50发布于 2018-03-22
  • 来自专栏《Cloud Studio》

    还在搭建本地知识库? Cloud Studio DeepSeek 模板已经内置,直接来玩!

    二、为什么要搭建个人知识库搭建个人知识库不仅能提升工作效率,还能促进持续学习和团队协作,对个人职业发展和团队知识管理具有长远意义。1. 3. 持续学习积累经验:记录问题和解决方案,形成个人经验库。知识更新:持续更新知识库,保持技术前沿。4. 团队协作知识共享:团队成员可访问知识库,促进经验交流。 减少沟通成本:常见问题和解决方案在知识库中共享,减少重复沟通。如果想要搭建知识库,这里我们又不得不提到另外一个词—— RAG 。 相对于本地搭建 RAG 知识库,体验门槛直线降低! 上传本地文件或将本地文件拖入行业报告返回对话窗口,在输入框输入“#”,选择知识库后即可进行对话最后,我们来看看以 AnythingLLM 为例,基于我们传入的《微短剧行业深度分析报告》文件,得到的对话答案能够较为精准地提权

    1.4K10编辑于 2025-02-13
  • 来自专栏山河已无恙

    基于 Deepseek LLM 本地知识库搭建开源方案(AnythingLLM、Cherry、Ragflow、Dify)认知

    写在前面 博文内容涉及 基于 Deepseek LLM 的本地知识库搭建 使用 ollama 部署 Deepseek-R1 LLM 知识库能力通过 Ragflow、Dify 、AnythingLLM 知识库搭建知识库搭建的时候,我们还需要一个基本的嵌入模型,用于理解分析已有的知识库内容 嵌入模型 这里我们使用的是 BGE-M3 ,嵌入模型是什么,通俗的话讲,它把文本信息翻译成计算机能够理解和处理的数字形式 需要注意的事项 知识库搭建部分使用的是容器的方式,所以调用 ollama 提供的推理能力的时候,通过 127.0.0.0:11434 访问是访问不通的,所以需要一个能代表宿主机但是IP地址或者域名不是 模型 选择嵌入模型 在系统模型设置添加对应的模型 选择知识库 创建知识库 在配置中配置需要的数据 上传本地知识库内容 全选,解析启用 之后在聊天配置中选择对应的知识库 模型参数调整 简单测试 每次提问会显示对应的文本内容 在用户中心设置中配置模型相关配置 配置本地模型,需要注意这里的地址 配置嵌入模型 然后中模型配置中添加 选择创建知识库 导入本地知识库 分段相关配置 保存设置 等待文档解析完成 知识库创建完成 创建聊天助手

    4.4K45编辑于 2025-02-25
  • 来自专栏码客

    知识库系统搭建

    /opt/mm-wiki/conf/ -v /data/mm-wiki/data:/data/mm-wiki/data/ --name mm-wiki eahom/mm-wiki:v0.1.7 # 本地构建最新代码 mm-wiki/data/:/data/mm-wiki/data/ --name mm-wiki mm-wiki-image 支持图片粘贴上传 MM-Wiki的编辑器不支持从粘贴板上传图片,我们需要将图片保存到本地后才能使用编辑器中的上传图片按钮进行选择上传

    87810编辑于 2024-03-29
领券