老周的AI极客工坊 | 零成本部署本地私有 ChatGPT：Ollama + Open WebUI 极速搭建指南

亲爱的读者，欢迎回到 老周的AI极客工坊！

如果你也经常使用 ChatGPT、Claude 或 Kimi，你一定体会到了 AI 带来的巨大效率提升。但同时，你可能也面临着这些烦恼：商业模型需要高昂的月费、频繁出现网络连接报错、以及核心商业或个人数据泄露的隐私风险。

如果你拥有一台带显卡的电脑，为什么不把大模型“据为己有”呢？

今天，老周带你用最简单的路线，在本地搭建一个功能完全对标 ChatGPT 的 “个人私有 AI 工作站”。我们使用目前最强本地引擎 Ollama，配合高颜值前端 Open WebUI，教你如何一键跑通，实现 100% 离线、隐私安全且完全免费的私有 AI 体验！

本教程所采用的模型下载与软件安装方式，均直连官方合规网络或国内高速镜像源。整个部署过程均在本地网络环境下流畅完成。本教程仅用于个人多设备互联与合规的远程办公场景。

🎨 为什么选择 Ollama + Open WebUI？

很多本地运行大模型的工具（如 LM Studio）界面比较简单，而 Open WebUI 是目前全球公认颜值最高、功能最接近官方 ChatGPT 体验的开源 Web 界面。它拥有以下超强特性：

2. 极简高颜值：完美适配暗黑模式，支持多轮对话、对话历史管理、对话分享。
4. RAG（文档智能阅读）：你可以直接把 PDF、Word、TXT 甚至网页链接拖入对话框，本地模型会瞬间阅读并根据文档内容进行问答，完全不用担心商业机密泄露给云端。
6. 多模型无缝切换：如果你本地装了写代码的 DeepSeek-Coder 和日常聊天的 Qwen2，可以在界面上一键切换，甚至让他们“同台竞技”对比回答。

🛠️ 第一步：本地大模型引擎 Ollama 安装

Ollama 是目前最方便的本地大模型管理器，我们可以快速完成安装：

2. 直接访问 Ollama 官方网站 下载适用于您系统（Windows、macOS 或 Linux）的安装程序。
4. Windows 用户下载后直接双击安装，它会默认运行在后台，并在系统右下角托盘显示一只可爱的小章鱼图标。
6. 验证安装：打开您的 PowerShell 命令行，输入以下命令并回车： powershell ollama --version 看到版本号输出，即代表引擎安装成功！

🐋 第二步：用 Docker 一键部署 Open WebUI

Open WebUI 官方推荐使用 Docker 进行部署，这样可以避免配置繁琐的 Python 环境和依赖包。

1. 确保已安装 Docker

如果您电脑上没有 Docker，请先去 Docker 官网 下载并安装 Docker Desktop（解压并一路点击下一步即可）。

2. 使用 Docker Compose 一键启动

在我们的福利资源包中，已经为您写好了 docker-compose.yml 配置文件。您只需在 ollama_articles/ 目录下新建一个文件，命名为 docker-compose.yml，并写入以下内容：

services:   open-webui:     image: ghcr.io/open-webui/open-webui:main     container_name: open-webui     ports:       - "3000:8080"     volumes:       - open-webui:/app/backend/data     environment:       - OLLAMA_BASE_URL=http://host.docker.internal:11434     extra_hosts:       - "host.docker.internal:host-gateway"     restart: always  volumes:   open-webui: 

3. 启动服务

在当前目录下打开终端，运行一行命令：

docker compose up -d 

Docker 会自动从官方镜像源下载 Open WebUI 并运行。启动完成后，在浏览器中打开 http://localhost:3000，即可看到精美的私有 ChatGPT 登录界面！ (第一次登录需要注册一个管理员邮箱和密码，由于是完全本地运行，您可以输入任意邮箱和密码)

📥 第三步：国内直连全速下载模型（魔搭社区方案）

如果您直接在 Ollama 中运行 ollama run qwen2 觉得下载过慢，老周推荐使用阿里官方的 魔搭社区 (ModelScope) 进行国内满速下载并手动导入：

2. 下载模型文件：打开国内直连的魔搭社区官网（modelscope.cn），搜索并下载 Qwen2-7B-Instruct-GGUF 或 DeepSeek-Coder-7B-GGUF 的权重文件（例如下载下来为 qwen2-7b-instruct-q4_k_m.gguf）。
4. 编写导入配置文件：在本地下载目录中新建一个文本文件，命名为 Modelfile，写入以下内容（把路径替换为您下载的文件路径）： text FROM D:\models\qwen2-7b-instruct-q4_k_m.gguf
6. 一键创建模型：在终端中运行以下命令： powershell ollama create myqwen2 -f ./Modelfile 此时模型已成功导入！刷新您的 Open WebUI 网页，在顶部的模型选择框中即可直接看到并调用 myqwen2 大模型，享受流畅的中文对话！

🎁 本期福利资源包 (Episode 03 Perks)

为了让大家零门槛用上高颜值的本地大模型工作站，本期福利包包含：

1. 开箱即用配置文件：本目录下的 docker-compose.yml 启动配置，支持一键在 localhost:3000 端口拉起网页后台
2. GGUF 大模型快速导入模板：包含了各种国内大模型（Qwen2, DeepSeek-Coder, ChatGLM4）的标准 Modelfile 导入代码。
3. 精选 System Prompt（系统提示词）合集：包含老周调试好的“爆款文案助手”、“代码重构专家”等角色提示词，您可以直接粘贴到 Open WebUI 的角色管理（Prompts）中。

下一期预告：AI 的本地地基已经打好！下一期我们将重新切回“打洞组网”专题，教大家如何把我们这两期的成果串联起来 —— 《老周的AI极客工坊 | 异地安全穿透：外网如何安全、快速地调用您家里的本地大模型与 AI 画图算力》。敬请期待！