

大家好,我是 Ai 学习的老章
写个小教程
市面上大模型 chatbot 无数,我最喜欢的一直都是 Open WebUI 👋
因为它可以完全离线部署、支持OpenAI 兼容 API,并配备内置推理引擎用于 RAG

https://github.com/open-webui/open-webui
我还很喜欢它的模型对比功能,多个模型对同一问题同时输出结果

最良心的是,这个开源项目还支持身份认证,可以直接对接 LDAP

顺带说一句,Qwen 的官方网页就是基于 Open WebUI 修改的

安装 openwebui 是我见过所有 chatbot 中最简单的了
# 安装
pip install open-webui
# 启动
open-webui serve
浏览器打开 http://locahost:8080
如果是服务器部署,把 localhost 改为服务器 ip
正常注册登陆

右上角点击头像,点击管理员面板
点击设置 - 外部链接,照着抄一下,api key 随便填写

然后回到前端,左上角添加模型那里就可以了
但是内网一般无法联网,大多公司可能连 pip 源都没有
Docker 或许是最好的选择
# 有网环境拉去镜像,打包镜像
docker pull ghcr.io/open-webui/open-webui:main
docker save open-webui/open-webui:main > open-webui.tar
#镜像传入内网后加载
docker load -i open-webui.tar
#运行open-webui
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main
然后浏览器打开 http://ip:3000 就 OK 了,首次登录可以设置管理员用户和密码
可以手动新增用户,在设置-用户中添加即可

一个一个添加太麻烦,还可以csv导入

也在管理员设置页-通用-身份认证里,打开允许新用户注册,右下角保存即可

其他用户打开Open-WebUI,其他用户就可以注册了

甚至可以给不同的用户设置不同的模型使用权限

如果公司有统一认证系统,还可以做LDAP对接
