首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏嵌入式音视频

    【RAG】内部外挂知识库搭建-本地GPT

    检索增强生成(RAG)是指对大型语言模型输出进行优化,使其能够在生成响应之前引用训练数据来源之外的权威知识库。 https://github.com/chatchat-space/Langchain-Chatchat 搭建local GPT:https://github.com/PromtEngineer/localGPT ==》本地版的 GPT,可以下載 source code 学习视频:https://www.youtube.com/watch?

    1.5K10编辑于 2024-04-04
  • 使用Ollama搭建本地大模型知识库

    前言这章节主要是讲如何用本地的,一个很小的大模型,搭建一个自己的知识库,体验一下大模型的一个知识库的能力,还有大模型的一个检索能力。 当然也可以使用默认的下载大模型你可以直接在这上面选择输入的内容模型的内容,直接下载一边使用命令的方式这边是使用命令的方式,先去官网检索搜索到对应的大模型,选择相应的版本,复制他们的命令担保搜索文本bge-m3,这是其中的一个模型不用处理本地知识库接下来自己输入命令也好 ,它可以读取本地的大模型配置使用API的方式这次我们选择使用硅基流动的API的方式来导入模型服务,这样的话你就可以使用工具来进行一个访问,当然其他的也可以,比如现在很流行的deepseek,通义千问,豆包等等 创建知识库选择一些景点的知识库然后把这些文档添加到知识库里面接着进行文本的时候就可以添加对应的知识库了当你进行提问的时候,他会自动去解锁知识库优先使用知识库里面的内容,我选的这个模型是比较小的,所以整体而言 ,他的提问的质量不是特别的高总结主要是介绍一种本地搭建知识库的方式,体验一下大模型的一个轻量化小型化的一个体验方式,当然也可以用来进行微调,比起供网上面的大模型,这个差距太多了,这个是一个很小的一个模型

    66110编辑于 2026-08-07
  • 来自专栏山行AI

    搭建本地知识库的开源利器之DocsGPT

    •安排演示 [1]•发送电子邮件 ✉️[2] [4] 基于langchain,可针对上传的文档进行知识问答等 路线图[5] 您可以在这里[6]找到我们的路线图。 [16]•如何使用其他文档[17]•如何在本地托管(以便所有数据保留在内部)[18] 项目结构[19] •Application - Flask 应用程序(主要应用程序)。 /setup.sh 这将安装所有依赖项并允许您下载本地模型或使用 OpenAI。 5.使用celery -A application.app.celery worker -l INFO启动工作进程。 启动前端[26] 确保您已安装 Node 版本 16 或更高版本。

    4.3K20编辑于 2023-10-09
  • 来自专栏码匠的流水账

    使用MaxKB及deepseek搭建本地AI知识库

    序本文主要研究一下如何MaxKB及deepseek搭建本地AI知识库步骤拉取MaxKB镜像docker pull cr2.fit2cloud.com/1panel/maxkb如果拉取不下来就用docker 模型设置–>添加模型,这里添加ollama的deepseek-r1:8b,其中API URL设置为http://host.docker.internal:11434,API KEY随便设置一个就行设置知识库创建知识库 –>向量模型为maxkb-embedding,知识库类型为通用型,之后上传文档,可以选择文本文件、表格、QA问答对,之后执行向量化设置应用创建应用–>设置AI模型–>关联知识库(添加知识库),参数设置:

    1.8K10编辑于 2025-02-13
  • 来自专栏coder

    使用​​langchain​​搭建自己的本地知识库系统

    什么是 RAG RAG 是retrieval-augmented-generation的缩写,翻译为中文的意思就检索增强,以基于最新,最准确的数据建立LLM 的语料知识库。 LLM 现存的痛点 我们知道 LLM 的知识库是通过现有的网络公开的数据作为数据源来训练的,现在公开的很多模型他们基于的训练数据会比我们现在网络上公开的数据早很多,那自然就会产生一种问题,网络上最新的数据和知识 [INFO] [02-28 16:30:15] oauth.py:207 [t:140704718436288]: trying to refresh access_token for ak `r5KIlr 总结: 本文主要是介绍了如何使用 langchain 构建一个自己的知识库系统 介绍了知识库构建的 RAG 相关的知识 LLM 不能做什么,如何将最新的数据于 llm 相结合来提示 llm 的能力 langchain 的基本介绍,他是一个用于开发由语言模型驱动的应用程序的框架 向量数据库的作用:存储向量化后的文本然后提供查找语义相关的内容 构建知识库的步骤和相关代码的介绍

    2.3K10编辑于 2024-09-06
  • 来自专栏星融元

    技术指南:5分钟零成本实现本地AI知识库搭建

    针对这种情况,将企业内部知识库和大模型连接起来构建一个本地私有化的专属的AI知识库不失为一种简易的解决方案。 构建本地私有知识库的基本步骤整理出需要模型分析的私有数据,比如文本数据(doc、csv、ppt…),音视频数据,甚至一些网址链接。 将向量化的信息存储到专属的向量数据库中,构建本地知识库。这个时候当用户提问时,我们引入的通用大模型将会结合本地知识库中所存在的信息有针对性的回答,甚至也可以专门分析本地知识库中的信息来输出。 本地AI知识库的安装和配置AnythingLLM 是一款构建本地知识库的工具,能够直接读取文档并处理大量信息资源,包括文档上传、自动抓取在线文档,然后进行文本的自动分割、向量化处理,以及实现本地检索增强生成 /download 选择对应版本04、配置AnythingLLM配置参数选择OllamaEmbedder选择M3e向量数据库选择LanceDB(默认)上传私有数据并验证AI问答效果至此,一个AI驱动的本地私有知识库的基本架构已经搭建完成

    11.3K21编辑于 2024-09-03
  • 来自专栏AI研习日志

    DeepSeek + Ollama + Cherry Studio搭建本地私有知识库

    二、为什么要搭建个人知识库?搭建个人知识库不仅能提升工作效率,还能促进持续学习和团队协作,对个人职业发展和团队知识管理具有长远意义。1. 如果想要搭建知识库,这里我们又不得不提到另外一个词——RAG.三、什么是RAG? 好了,废话不多说,接下来就带大家具体实操了,如何用DeepSeek + Ollama + Cherry Studio在本地搭建私有知识库。五、搭建实操1. 因为我自己搭建的知识库会用到很多内部资料,出于安全性考虑今天我们重点介绍的是第一种方式———使用Ollama工具本地运行 DeepSeek R1 ,借助Cherry Studio嵌入本地资料,搭建本地私有知识库 如图可以使用默认的聊天助手,也可以新建一个自定义的聊天助手,选择本地模型和知识库, 这样默认这个聊天助手所有的问答都会参考我们的知识库资料。

    8.9K52编辑于 2025-02-26
  • 来自专栏计算机视觉CV

    【玩转 GPU】搭建本地知识库--chatGLM+langchain(尝鲜篇)

    我们可以利用langchain+chatGLM在本地搭建自己的知识库,除了能搜索到文档这个功能,还能基于知识库内容和你进行对话问答~上文我们介绍了如何在本地部署chatGLM,本文就介绍如何搭建你的本地知识库问答系统 1 知识库搭建思路先抛开技术,假设现在知识库就在手边,我们是如何搜索想要的答案的?首先,把所有的文档看一遍,对文档进行分类;然后,找出和问题相关的文档内容;最后,对相关内容进行总结,得到答案。 1.2 langchain-ChatGLM流程介绍langchain-ChatGLM项目就是参考了Langchain的思路,我们一起看下langchain-ChatGLM搭建本地知识库的流程。 https://github.com/imClumsyPanda/langchain-ChatGLM/blob/master/README.md如上图,本地知识库搭建的流程如下:(1-2)准备本地知识库文档目前支持 2 知识库搭建步骤2.1 硬件需求首先确定机器性能是否满足要求,仍然使用ChatGLM-6B模型通过上文介绍,大家应该可以在本地跑通chatGLM-6B模型了。

    12.7K122编辑于 2025-07-18
  • 来自专栏大模型

    搭建本地知识库的操作方法(Ollama+AnythingLLM)

    一些应用场景的感悟:搭建本地知识库其实作用还是挺大的,最适合公司内部署、有多年职场经验的或是创业中的小伙伴,可以很好的将手头上n多的资料管理起来,查询时再也不用在各个磁盘里各种翻阅了,即保证了材料的安全又能极大地提高了资料的使用率和办公效率 进入命令行并执行以下命令,这一步可能会很慢,若过程中出现错误,重新拉取即可ollama run deepseek-r1:8b<若只想通过Ollama使用deepseek进行简单问答,则无需继续下面的操作>三、下载搭建本地知识库的 它无需编写代码或处理复杂的基础设施问题,适合快速搭建私有知识库和智能问答系统。 ;(4)多向量数据库支持:支持 Pinecone、Weaviate 等向量数据库;(5)多文件格式处理:支持 PDF、TXT、DOCX 等文件格式; (6)实时网络搜索:结合 LLM响应缓存与对话标记功能 初次启动时直接点下一步即可如下图便是启动后的页面,左上角“新工作区”可以按类别新建工作区,可以按照不同的需求创建分类;左下角点击小扳手可进行设置;右侧便是自动生成的演示样例Step3:配置大模型Step4:配置向量数据库Step5:

    8.4K11编辑于 2025-07-18
  • 来自专栏玩转全栈

    h5高效本地调试环境搭建

    首先,我们为什么需要搭建本地调试环境? 因为,我们开发的业务绝对需要上线到正式环境的,不然你做的就是一个玩具,对吗? 而我们在本地【localhost】开发,终究是用不到线网的一些环境,或许,比较规范的团队是有测试环境的,所以,我们有必要先来区分一下几个环境。 localhost:这里指你的本地环境,比如vue server可以启动一个server,来跑你的代码。 好的,环境区分出来了,那么,还是回到话题上来,为什么要搭建本地调试?我认为最主要的是提高开发效率。反过来思考,我们如果不做本地调试配置的话,我们在本地调试会遇到什么问题? [20190730121924.png] 至此登录态的问题也解决了,所以最终的效果就是,整个开发的过程都可以在本地进行,更本不需要频繁的rz文件到测试服务器上调试了。

    2.3K101发布于 2019-08-02
  • 从零搭建个人Wiki RAG:Karpathy范式的本地知识库

    Karpathy(OpenAI联合创始人、前特斯拉AI总监)最近提出了一个优雅的解法:LLM Wiki——不用向量数据库,不用传统RAG,让LLM自己维护一个Markdown知识库。 今天这篇文章,带你从零搭建一个可闭环的个人Wiki RAG系统。用Ollama本地模型,完全离线,代码不到300行。 读完你会觉得:我行了,我也能搭。 Karpathy的LLM Wiki是什么? 一句话:让LLM帮你维护一个结构化的Markdown知识库。 保留核心代码 5. 末尾添加「一句话总结」 6. 生成3-5个标签""" 智能跳过: 用MD5哈希检测文件变化,没改动的自动跳过。 用LLM Wiki + RAG,你可以在本地搭建一个真正可用的个人知识库——零API费用,完全离线,数据自己掌控。 试试看,你会发现:真没那么难。

    12.3K12编辑于 2026-04-14
  • 把本地文档变成可问答的知识库:个人知识库搭建的实操经验

    把本地文档变成可问答的知识库:个人知识库搭建的实操经验 一、背景:资料越来越多,找起来越来越慢 做设计和研发的人,电脑里几乎都攒着一座"资料山":项目文档、客户需求、标准规范、会议纪要、历史报价……真正要用的时候 后来我用上了 AI 工具,把本地文档变成"可以提问的资料库"——不用记住文件在哪,只要描述需求,AI 就能从文档里把答案捞出来。这篇文章分享一下我的实操流程和踩过的坑。 后来我固定收敛到 Top 3 到 Top 5,并按相关度过滤,低于阈值的直接丢弃,回答的准确率明显提升。 4. 问答环节必须"带引用" 无论模型回答得多流畅,我都要求它给出答案来源的文档名和片段位置。 我的做法是本地嵌入模型兜底,联网时用更强的模型做问答,网络不稳定时降级到本地模型,保证核心检索功能随时可用。 ** 知识库的体验,八成分在数据准备上,两成分在算法上,方向别搞反了。 希望这篇实操笔记能帮你少踩几个坑。

    19010编辑于 2026-11-03
  • 来自专栏大飞的部落阁

    5分钟学会本地Pypi源搭建

    但是当我们的开发环境无法访问外网的时候,就需要搭建私有源。今天我们就一起花 5 分钟时间学习如何搭建一个本地私有源。 工具选择 搭建本地私有源有很多种方案,包含但不限于 pypiserver,pip2pi,bandsnatch,其中 pypiserver 上手难度最小,使用方便,功能简单。 下载示例包 cd ~/packages pip download -i https://pypi.tuna.tsinghua.edu.cn/simple simplejson 从本地源搜索 PS C:\ pypi 源搭建全部结束。 Linux 上的搭建方法和 Windows 基本一致。 Tip 此次试验搭建的源仅供开发使用,如果需要搭建企业级的私有源,需要定时同步官方源,建议您使用 bandsnatch 进行搭建。

    1.9K21编辑于 2022-06-17
  • 来自专栏大语言模型

    纯本地AI知识库搭建:DeepSeek-R1+AnythingLLM全流程

    在数据隐私与效率需求双重驱动下,本地部署AI知识库已成职场刚需。 核心组件与优势DeepSeek-R1作为国产开源模型,实现三大突破:全本地化运行杜绝数据外泄、0成本部署无需算力付费、支持模型微调适配垂直场景。

    3.3K10编辑于 2025-08-07
  • 来自专栏实时计算

    【开源项目推荐】——纯中文本地GPT知识库搭建项目.assets

    那么,有没有可以在本地部署搭建的AI知识库项目呢? 今天为大家推荐的就是一个纯中文本地GPT知识库搭建项目,虽然刚刚开源不到半年的时间,标星已经达到了8.8K, 让我们一起来看看吧~ FastGPT 今天为大家推荐的开源项目名为FastGPT。 虽然开源的大模型已经有很多,但是如果基于这些大模型搭建自己的知识库并不容易,需要非常复杂的实现过程。而FastGPT正是为了解决这个问题而诞生的。 而如果需要做二次开发,也可以很轻松的搭建环境,该项目主要是TS语言开发,准备好NodeJS相关环境就可以了。而且FastGPT的整个配置过程都是支持中文的,非常方便。 FastGPT自开源以来发展迅速,已经有非常多的用户基于其搭建了自己的本地知识库,最新版本为4.6.6,大家赶快用起来吧~ 功能演示 请参考大数据流动视频号演示介绍。

    7.4K11编辑于 2024-01-17
  • 手把手教你:Windows与Linux下Dify+DeepSeek实现ragflow构建企业知识库

    搭建本地化知识库并实现接口调用,对于企业和开发者来说具有至关重要的意义。在实际应用场景中,企业内部往往拥有大量的业务数据、文档资料等,这些数据蕴含着丰富的知识和信息。 通过搭建本地化知识库,企业可以将这些数据进行有效的整合和管理,利用大语言模型的强大能力,实现对知识的快速检索、智能问答和深度分析。 在众多的技术方案中,Dify + Ollama + DeepSeek 技术栈脱颖而出,成为了搭建本地化知识库和实现接口调用的理想选择。 这三者的结合,为我们提供了一个高效、安全、低成本的本地化知识库搭建和接口调用解决方案。 通过 Dify,我们可以快速搭建一个功能强大的知识库应用,并且能够轻松地实现接口调用,将知识库的能力集成到其他系统中。

    4.7K21编辑于 2025-05-30
  • 手把手教你搭建本地知识库:打造你的专属AI助手

    搭建本地知识库,本质上就是给你自己配一个“第二大脑”——把你所有的资料、文档、笔记交给AI,让它替你记住,随时调取。我之前折腾了好几个方案,踩过不少坑,今天把我摸索出来的路子全盘托出。 一、先搞懂:什么是本地知识库?为什么要自己搭?简单说,本地知识库=你的私有数据+AI搜索引擎。你把所有文档、笔记、资料扔进去,然后用自然语言问它问题,它从这些资料里找答案给你。为什么要自己搭? 这是什么:Dify是一个开源平台,可以搭建完整的知识库系统,还能接入本地运行的模型(比如用Ollama跑开源模型)。 在Dify里配置:把Ollama作为模型接入创建知识库:上传文档,Dify会自动切片、向量化开始用:提问,它在本地跑,不上传任何数据优点:完全免费,数据全在本地,隐私最好。 怎么搭:把所有资料整理到飞书云文档(或者钉钉文档)打开AI助手,问它问题,它会搜索你的文档找答案优点:零搭建,会用飞书就会用。团队协作方便,可以共享知识库。缺点:资料在云端,隐私稍弱。

    8.2K21编辑于 2026-03-03
  • 来自专栏《Cloud Studio》

    还在搭建本地知识库? Cloud Studio DeepSeek 模板已经内置,直接来玩!

    今天,CloudStudio 在 DeepSeek-R1 CPU 模板中已内置知识库,支持 Open WebUI 和  AnythingLLM 两种模式,无需动手搭建,开箱即可拥有属于自己的私有知识库。 二、为什么要搭建个人知识库搭建个人知识库不仅能提升工作效率,还能促进持续学习和团队协作,对个人职业发展和团队知识管理具有长远意义。1. 如果想要搭建知识库,这里我们又不得不提到另外一个词—— RAG 。 相对于本地搭建 RAG 知识库,体验门槛直线降低! 上传本地文件或将本地文件拖入行业报告返回对话窗口,在输入框输入“#”,选择知识库后即可进行对话最后,我们来看看以 AnythingLLM 为例,基于我们传入的《微短剧行业深度分析报告》文件,得到的对话答案能够较为精准地提权

    1.5K10编辑于 2025-02-13
  • 来自专栏山河已无恙

    基于 Deepseek LLM 本地知识库搭建开源方案(AnythingLLM、Cherry、Ragflow、Dify)认知

    写在前面 博文内容涉及 基于 Deepseek LLM 的本地知识库搭建 使用 ollama 部署 Deepseek-R1 LLM 知识库能力通过 Ragflow、Dify 、AnythingLLM 知识库搭建 在知识库搭建的时候,我们还需要一个基本的嵌入模型,用于理解分析已有的知识库内容 嵌入模型 这里我们使用的是 BGE-M3 ,嵌入模型是什么,通俗的话讲,它把文本信息翻译成计算机能够理解和处理的数字形式 需要注意的事项 知识库的搭建部分使用的是容器的方式,所以调用 ollama 提供的推理能力的时候,通过 127.0.0.0:11434 访问是访问不通的,所以需要一个能代表宿主机但是IP地址或者域名不是 模型 选择嵌入模型 在系统模型设置添加对应的模型 选择知识库 创建知识库 在配置中配置需要的数据 上传本地的知识库内容 全选,解析启用 之后在聊天配置中选择对应的知识库 模型参数调整 简单测试 每次提问会显示对应的文本内容 在用户中心设置中配置模型相关配置 配置本地模型,需要注意这里的地址 配置嵌入模型 然后中模型配置中添加 选择创建知识库 导入本地知识库 分段相关配置 保存设置 等待文档解析完成 知识库创建完成 创建聊天助手

    4.7K45编辑于 2025-02-25
  • 来自专栏杨建荣的学习笔记

    搭建知识库xwiki

    之前自己使用Django admin和suit完成了初步的个人知识库管理,基本完成了我自己的浏览器标签库和微信公众号的统一管理,但是有一个问题,那就是目前我只能根据标题来做查询,如果能查根据关键字查到一些相关的文章 这个项目的环境搭建部分得吐槽一下,官网的说明重点在体现xwiki功能如何全面,但是对于如何搭建,如何部署注意的地方相对来说比较散,没有一种一气呵成的感觉。 connection.driver_class">com.mysql.jdbc.Driver</property> <property name="dialect">org.hibernate.dialect.MySQL5InnoDBDialect 浏览器输入: http://192.168.253.141:8080/xwiki 就会看到如下的配置信息,搭建的步骤大体有下面的内容: ? 整个网页版的安装,比较有特色,所有工作都在页面中完成。

    2.7K50发布于 2018-03-22
领券