首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >最好用的大模型chatbot,离线部署,用户体系打通

最好用的大模型chatbot,离线部署,用户体系打通

作者头像
Ai学习的老章
发布2025-10-11 12:15:54
发布2025-10-11 12:15:54
4830
举报

大家好,我是 Ai 学习的老章

写个小教程

Open WebUI

市面上大模型 chatbot 无数,我最喜欢的一直都是 Open WebUI 👋

因为它可以完全离线部署、支持OpenAI 兼容 API,并配备内置推理引擎用于 RAG

https://github.com/open-webui/open-webui
https://github.com/open-webui/open-webui

https://github.com/open-webui/open-webui

我还很喜欢它的模型对比功能,多个模型对同一问题同时输出结果

最良心的是,这个开源项目还支持身份认证,可以直接对接 LDAP

顺带说一句,Qwen 的官方网页就是基于 Open WebUI 修改的

离线部署

安装 openwebui 是我见过所有 chatbot 中最简单的了

代码语言:javascript
复制
# 安装
pip install open-webui
# 启动
open-webui serve

浏览器打开 http://locahost:8080

如果是服务器部署,把 localhost 改为服务器 ip

正常注册登陆

右上角点击头像,点击管理员面板

点击设置 - 外部链接,照着抄一下,api key 随便填写

然后回到前端,左上角添加模型那里就可以了

但是内网一般无法联网,大多公司可能连 pip 源都没有

Docker 或许是最好的选择

代码语言:javascript
复制
# 有网环境拉去镜像,打包镜像
docker pull ghcr.io/open-webui/open-webui:main
docker save open-webui/open-webui:main > open-webui.tar
#镜像传入内网后加载
docker load -i open-webui.tar
#运行open-webui
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

然后浏览器打开 http://ip:3000 就 OK 了,首次登录可以设置管理员用户和密码

用户对接

可以手动新增用户,在设置-用户中添加即可

一个一个添加太麻烦,还可以csv导入

也在管理员设置页-通用-身份认证里,打开允许新用户注册,右下角保存即可

其他用户打开Open-WebUI,其他用户就可以注册了

甚至可以给不同的用户设置不同的模型使用权限

如果公司有统一认证系统,还可以做LDAP对接

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2025-09-18,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 机器学习与统计学 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • Open WebUI
  • 离线部署
  • 用户对接
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档