- 综合排序
- 最热优先
- 最新优先
- 来自专栏.Net Core技术分享
Ollama本地部署大模型总结
今天计划对之前ollama系列做个回顾，从如何部署到API使用，整理到一篇内容中，提供给大家参考。 ollama run deepseek-r1:1.5b 下载完成后，ollama会为我们运行刚下载的大模型。下面是我运行成功的截图： 第三步：使用大模型 恭喜你已经在本地成功安装了第一个私有大模型。 安装完成后打开，你会看到一个聊天窗口： 使用ollama中的大模型 我们在上一篇中在本地安装了ollama和deepseek，现在我们把它集成到刚安装的chatbox中。 和本地大模型对话 点击左侧新对话，开启新的对话。 向大模型提问试试吧 创建智能体 恭喜你已经完成了ollama和chatbox的集成，现在你的对话数据都保留在本地，绝对的安全和隐私。 运行起来后界面如下： 集成ollama中的本地模型 将cherryStudio运行起来后，点击界面左下角的小齿轮进行设置。
4.7K11编辑于 2025-03-30 - 来自专栏机器学习
OpenCloudOS部署OpenClaw配置本地Ollama
上一篇内容我们在OpenCloudOS部署好了OpenClaw，但是还没有配置它的LLM，今天我们在艾克斯开发板上使用Ollama来部署一个小模型。 Ollama安装通过ssh登录我们的设备输入curl-fsSLhttps://ollama.com/install.sh|sh进行下载。输入密码后等待安装完成。完成安装。 添加ollama的模型我们在ollama的官网可以看到，它们已经可以很方便的和OpenClaw进行对接了，因此我们按照官网的提示进行配置看看是否可行。
9.1K01编辑于 2026-02-12 - 来自专栏陈冠男的游戏人生
使用ollama本地部署开源大模型
chatGPT 刚出来没多久的时候，openai 时不时的限制使用频率，当时我想要是能本地部署一个大模型，无限制的使用该多好哇。 后来有很多团队/公司陆陆续续在 github 开源了他们自己训练的大模型，但是部署使用的操作门槛比较高，曾经试图部署过一个，报了几个错也没时间折腾就放弃了 前几天我发现了一个叫 ollama 的项目，根据介绍 ，此时就已经部署结束了 可以在：https://ollama.com/library 找到更多的模型 但是在命令行中直接交互里很多格式解析不出来，看起来怪怪的，可以使用 chatbot-ollama 这个项目部署一个 npm（直接安装 nodejs，会附带安装 npm），然后下载 chatbot-ollama 项目到本地，在文件夹中依次执行这两条命令即可： npm ci npm run dev 此时会自动打开一个 此外，你还可以配合翻译插件进行本地AI翻译，openai-translator 这个项目原本是使用在线模型的 API 进行翻译的，但目前也支持了 ollama，项目地址： https://github.com
3K20编辑于 2024-03-05 - 来自专栏Python与算法之美
Ollama 本地CPU部署开源大模型
Ollama可以在本地CPU非常方便地部署许多开源的大模型。 如 Facebook的llama3, 谷歌的gemma, 微软的phi3，阿里的qwen2 等模型。 完整支持的模型列表可以参考：https://ollama.com/library 它基于llama.cpp实现，本地CPU推理效率非常高（当然如果有GPU的话，推理效率会更高）, 还可以兼容 openai ollama run qwen2 #跑qwen2模型，如果本地没有，会先下载 ollama pull llama3 #下载llama3模型到本地 ollama list #查看本地有哪些模型可用 ollama rm #删除本地的某个模型 ollama help #获取帮助 ! pip install openai ollama还支持非常热门的openai接口，简简单单，本地就mock了一个chatgpt。
3.7K11编辑于 2024-06-26 - 来自专栏软件测试学习
Ollama搭配DeepSeek，本地部署全攻略
在人工智能领域，大型语言模型（LLMs）正变得越来越普及，而将这些模型部署到本地设备上，不仅可以提高数据隐私性，还能降低对网络的依赖。 Ollama 是一个开源工具，能够帮助用户轻松地在本地运行各种大型语言模型，包括 DeepSeek。本文将详细介绍如何通过 Ollama 在本地安装和使用 DeepSeek 模型。 一、Ollama 简介 Ollama 是一个开源的本地大模型部署工具，旨在让用户能够在个人电脑上运行各种开源大型语言模型（如 Llama、DeepSeek 等）。 通过 Ollama，开发者、研究者和爱好者可以快速部署私有化 AI 应用，无需依赖云端服务，同时享受高效、安全的本地 AI 体验。 通过 Ollama 在本地使用 DeepSeek 模型，不仅可以提供更高的隐私性和灵活性，还能让用户在没有互联网连接的情况下使用 AI 大模型。
7K10编辑于 2025-02-18 - 来自专栏AI大流行时代
Ollama系列：轻松3步本地部署deepseek
本文主要介绍如何通过ollama快速部署deepseek、qwq、llama3、gemma3等大模型，网速好的小伙伴10分钟就能搞定。让你摆脱GPU焦虑，在普通电脑上面玩转大模型。 ollama run deepseek-r1:1.5b下载完成后，ollama会为我们运行刚下载的大模型。下面是我运行成功的截图：第三步：使用大模型恭喜你已经在本地成功安装了第一个私有大模型。 内容讲解（干货）ollama是什么？Ollama 是一款开源工具，能让你在个人电脑上本地运行各种大语言模型（如 DeepSeek、QwQ等）。 总结本文介绍了如何使用ollama本地部署DeepSeek等大模型，通过干货分享了ollama常用的指令，以及如何获取更多大模型。但是我们目前仍然只是在命令行使用大模型，非常的不友好。 下一章我们将介绍如何摆脱命令行的束缚，将ollama集成到本地的AI工具中，实现聊天、自定义智能体等功能。
1K10编辑于 2025-03-15 - 来自专栏小胡的技术分享
玩转deepseek本地部署版ollama融合其他大模型
引言部署完成本地版本的deepseek后很多兄弟们想去接入其他厂商的大模型进行微调和测试下面我就用宝塔Linux面板的快速搭建来示范如何接入大模型。 正文1.安装宝塔面板1.1在应用大模型前需要先安装一下宝塔面板——面板后台docker——“AI大模型”选项1.2来到“AI大模型”选项界面找到“DeepSeek-R1”选项注意：只有这个可以一键完成部署和拉去镜像哈
87910编辑于 2025-02-12 - 来自专栏养虾记
OpenClaw 接入本地 Ollama
1.概述本手册介绍如何在OpenClaw中配置本地Ollama服务。Ollama是一个开源的本地大语言模型运行框架，支持在本地机器上运行多种开源模型，如Llama、DeepSeek、Qwen等。 适用范围：希望在本地运行AI模型的用户需要离线使用OpenClaw的用户关注数据隐私的用户想要降低API调用成本的用户Ollama的优势：本地运行：数据不离开本地机器，保护隐私离线可用：无需网络连接即可使用开源免费 简介Ollama是一个本地大语言模型运行框架，特点：OpenAI兼容API：提供与OpenAI兼容的RESTAPI模型管理：简单的命令行工具管理模型跨平台：支持macOS、Linux、WindowsModelfile /api/chat对话模式POST/api/embeddings获取文本嵌入向量GET/api/tags列出本地模型POST/api/pull拉取模型OpenAI兼容端点：端点说明POST/v1/chat token=YOUR_TOKENWebUI界面会显示当前使用的模型：Default(qwen2.5:7b-ollama)，表示已成功连接到本地Ollama服务。
2.5K40编辑于 2026-03-31 - 来自专栏AI工具部署开发
ollama官网下载DeepSeek-R1实现本地部署
最近Deepseek被一再的推上热搜，那么我们今天来一起研究下利用OllaMa官网开源的DeepSeek-R1本地部署的整个流程以及所需要的工具。 他们都是可以利用本文的方法进行部署。二、下载所需大模型进行本地部署打开ollama官网下载 Ollama找到我们所需要的大模型索要部署的系统。 本地部署Windows + R 打开运动 输入 cmd 进入 管理员控制板 Ctrl + C 复制ollama run deepseek-r1:671b这里的671B可以换成你所下载的版本 也就是上面所提到的 1.5b 、7B 、8B 等运动安装DeepSeek-R1最后我们需要优化一下 给DeepSeek-R1 加上一个前端的 WebUI ChatBox 安装完成后选择： 使用自己的API key 或 本地部署 原文链接：ollama官网下载DeepSeek-R1实现本地部署 - 小店盟电商运营
1K10编辑于 2025-02-11 DeepSeek实践-5分钟快速腾讯云部Ollama部署本地部署
部署DeepSeek步骤 1、安装Ollama Ollama 是一款功能强大的开源工具，专为在本地运行、部署和管理大型语言模型（LLMs）而设计。 执行安装命令： 在终端中输入以下命令并回车： curl -fsSL https://ollama.com/install.sh | sh 2、部署DeepSeek 借助 Ollama，我们可以轻松部署 本地部署 成功在本地部署DeepSeek AI助手后，您将能够在个人电脑上畅享其强大功能，无需担忧网络延迟和隐私泄露问题。 定期重启服务： 如果您使用的是Ollama等本地部署的AI服务，建议您定期重启服务，以释放内存并清除缓存，确保AI始终保持最佳运行状态。 也可接入本地 Ollama 部署的 Deepseek 大模型，结合腾讯云AI代码助手和 DeepSeek ，开发者可实现更加强大、高效、安全的 AI 编程体验。
2.4K21编辑于 2025-03-19- 来自专栏AI大模型
别被 “一键部署” 骗了！使用Ollama本地部署DeepSeek 避坑指南
最近最火的莫过于DeepSeek，现在网上关于 AI 模型部署的文章一抓一大把，动不动就是 “一键部署，轻松上手”、“30 分钟搭好一个本地能跑起来的大模型”。 Ollama 是什么 Ollama 则是咱们搭建模型的得力助手，它就像是一个智能的建筑工人，能够帮助我们快速、轻松地部署各种大型语言模型。 使用 Ollama，我们不需要掌握复杂的技术知识，只需要几个简单的命令，就能让模型在本地运行起来。它还提供了简洁易用的界面，让我们可以方便地与模型进行交互，就像和朋友聊天一样自然。 通过本地命令行可以正常调用接口，但当尝试从外部电脑访问服务器上的 DeepSeek 接口时，始终无法成功。 接下来在chatbox 中设置Ollama 的地址即可。 通过以上几步，我们就可以使用Ollama 在本地部署DeepSeek大模型了。
3.6K10编辑于 2025-04-04 - 来自专栏云技术与
ollama 离线安装本地模型
下载安装脚本install.sh 下载 https://ollama.com/install.sh，编辑如下 修改安装路径改成本地安装 #! manifest pulling aabd4debf0c8... 14% ¨Š¨€¨€¨€¨€¨€¨€¨€¨€¨€¨€¨€¨€¨€ ¨‡ 161 MB/1.1 GB 42 pulling manifest 如果本地硬件配置允许的话 ，可以运行其他模型 ollama run deepseek-r1:7b ollama run deepseek-r1:14b ollama run deepseek-r1:32b DeepSeek本地化部署硬件配置要求一览表 ： 7 启动ollama 服务 ollama serve 服务启动后，可以通过访问 http://localhost:11434 来与模型进行交互 Ollama 启动默认只有127.0.0.1 本地可以访问 端口了 8 验证测试 为了方便对话，我们可以下载一个chatboxai （官网：https://chatboxai.app/zh） 本地硬件配置4C 8G
1.7K10编辑于 2025-10-31 - 来自专栏TechLead
使用Ollama部署本地LLM：构建AI REST API的简易指南
利用Ollama本地LLM（大语言模型）搭建AI的REST API服务是一个实用的方法。下面是一个简单的工作流程。 1. 安装Ollama和LLMs 首先，在本地机器上安装Ollama和本地LLMs。 Ollama可以帮助你轻松地在本地部署LLMs，并让它们更方便地处理各种任务。 在本地与llama3对话 Ollama命令 可用的命令： /set 设置会话变量 /show 显示模型信息 /bye 退出 /? 部署 当你对REST API的功能和性能感到满意后，可以将此服务部署到生产环境。这可能涉及将其部署到云平台、使用Docker进行容器化，或者在服务器上部署。 在这个简单的示例中，我们通过使用Ollama进行本地LLM部署并结合FastAPI构建REST API服务器，创建了一个免费的AI服务解决方案。
2.1K10编辑于 2024-09-27 - 来自专栏机器学习与统计学
可本地部署，支持Ollama大模型
Presenton 直接把这些痛点一锅端了：开源、本地部署、支持自定义模板、还能当 API 服务用。目前 GitHub 已经 3.5k+ Star，40 个版本迭代，值得一试！ 你可以用 OpenAI、Gemini、Claude 这些云端模型，也可以用 Ollama 跑本地开源模型，数据完全不出你的机器。 Image 1.5、Gemini Flash、Pexels、Pixabay、ComfyUI 都支持 ✅ 富媒体支持：图标、图表、自定义图形 ✅ 本地运行：所有处理都在你设备上完成 ✅ API 部署：可以部署成你团队的 /app_data:/app_data" \ ghcr.io/presenton/presenton:latest 使用 Ollama 本地模型 想完全离线、完全隐私？ 优点： ✅ 完全本地部署，隐私有保障 ✅ 支持从现有 PPTX 学习风格，品牌一致性搞定 ✅ 多 LLM 提供商支持（OpenAI/Gemini/Claude/Ollama/自定义） ✅ 多图像来源支持
2.7K20编辑于 2026-01-05 - 来自专栏Linux相关
Ollama【部署 02】Linux本地化部署及SpringBoot2.X集成Ollama（ollama-linux-amd64.tgz最新版本 0.6.2）
.exe（实现客户端操作）1.本地部署1.1 软件安装Ollama 官网1.1.1 脚本安装curl -fsSL https://ollama.com/install.sh | sh脚本安装默认路径是 下载：# 使用后台下载nohup curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz > download.log 2>&1 &# wget跟随的最新urlhttps://github.com/ollama/ollama/releases/latest/download/ollama-linux-amd64 也可以设置 Ollama 的环境变量 OLLAMA_HOST=0.0.0.0 监听所有可用的网络接口，从而允许外部网络访问：export OLLAMA_HOST=0.0.0.0:11434nohup . /ollama serve >> serve.log 2>&1 &Ollama 的环境变量：Usage: ollama serve [flags]Aliases: serve, startFlags
2.6K10编辑于 2025-08-22 - 来自专栏AI SPPECH
MCP Client 与 Ollama 本地模型
通过真实代码示例、Mermaid 流程图和多维度对比表，展示 MCP v2.0 如何实现与 Ollama 的无缝集成、本地模型的高效管理和混合部署策略，为构建隐私优先、高性能的 AI 工具调用系统提供实战指南 网络独立性：不依赖网络连接，适合离线或弱网环境 定制化支持：便于部署和使用自定义训练的本地模型 随着 Ollama 等本地模型管理工具的兴起，MCP Client 与本地模型的集成成为了 AI 工具调用系统的重要发展方向 ：支持同时管理和使用多个本地模型 混合部署：支持本地模型与云端模型的混合使用 性能优化：内置本地模型的性能优化机制 隐私保护：确保数据不离开本地环境 理解 MCP Client 与 Ollama / 本地模型的集成方案 支持无缝切换本地模型和云端模型 简化多模型部署和管理 新要素 3：Ollama 工具调用支持 支持 Ollama 模型的工具调用能力 实现与 MCP 协议的无缝对接 支持动态能力协商 2.2 本地模型优化机制 , Ollama, 本地模型, 隐私保护, 混合部署, 性能优化, 模型路由, 故障回退
43710编辑于 2026-01-07 - 来自专栏小明学AI
Ollama本地安装基础教程
本文，我将手把手教你如何完全掌控Ollama的安装和模型存储位置，让大模型“住”进你指定的文件夹！一、自定义ollama安装路径首先，访问Ollama官网下载对应操作系统的安装程序。 Ollama虽然安装包不大，但下载的模型文件却相当庞大，所以需要通过自定义安装和存储路径，在ollama安装目录打开cmd，在执行安装得时候制定目录：等到安装之后，验证是否安装成功ollama--version 如果出现ollama对应版本说明安装成功。 至此，自定义ollama安装就已经完成，后面下载的ollama大模型也会存储在我们指定的目录中。总结通过自定义Ollama安装路径与模型存储目录，成功解决了大模型占满系统盘空间的痛点。 这套方法一劳永逸，让本地AI模型管理变得井井有条，为后续探索更多开源模型奠定了清爽、可控的基础。
94110编辑于 2026-04-05 - 来自专栏leehao
采用Ollama运行本地大模型
Ollama Ollama， 羊驼，快速的在本地电脑上运行大模型，只需要下载一个应用包即可，通过简单的安装指令，可以让用户执行一条命令就在本地运行开源大型语言模型，无需安装额外的环境依赖和编译等操作。 Ollama 将模型权重、配置和数据捆绑到一个包中，定义成 Modelfile。它优化了设置和配置细节，包括 GPU 使用情况。 优势 使用极其方便。 运行 打开cmd，输入ollama run {模型名称}，如，运行glm4-9b，则执行 ollama run glm4:9b 如果之前没有下载该模型，那么系统会首先下载模型，下载后运行，其中下载速度还是很快的 常用命令 获取模型 ollama pull llama3 运行模型 ollama run llama3 移除模型 ollama rm llama3 多模态 What's in this image? /Users/jmorgan/Desktop/smile.png 显示模型信息 ollama show llama3 罗列已安装模型 ollama list 后端运行服务 ollama serve 下节整合
1.3K20编辑于 2025-02-11 - 来自专栏.Net Core技术分享
ollama系列1：轻松3步本地部署deepseek，普通电脑可用
本文主要介绍如何通过ollama快速部署deepseek、qwq、llama3、gemma3等大模型，网速好的小伙伴10分钟就能搞定。让你摆脱GPU焦虑，在普通电脑上面玩转大模型。 ollama run deepseek-r1:1.5b 下载完成后，ollama会为我们运行刚下载的大模型。下面是我运行成功的截图： 第三步：使用大模型 恭喜你已经在本地成功安装了第一个私有大模型。 内容讲解（干货） ollama是什么？ Ollama 是一款开源工具，能让你在个人电脑上本地运行各种大语言模型（如 DeepSeek、QwQ等）。 总结 本文介绍了如何使用ollama本地部署DeepSeek等大模型，通过干货分享了ollama常用的指令，以及如何获取更多大模型。 但是我们目前仍然只是在命令行使用大模型，非常的不友好。 下一章我们将介绍如何摆脱命令行的束缚，将ollama集成到本地的AI工具中，实现聊天、自定义智能体等功能。
53200编辑于 2025-03-16 用 LangChain 驱动本地 Ollama 模型
二、准备工作：本地启动 Ollama 模型1️⃣ 使用 Docker 部署 Ollama（推荐）docker run \-d \--restart=always \--name ollama \--gpus =all \-p 11434:11434 \-v /home/data/ollama:/root/.ollama \ollama/ollama如果你对部署细节感兴趣，可以参考我之前的文章：《如何使用 Ollama 打造你的本地 AI 助手》《为本地部署的大模型添加 API Key 认证：Nginx 实现方案》2️⃣ 拉取并运行模型以 qwen3:8b 为例：ollama pull qwen3:8b简单测试：ollama 三、LangChain 接入本地 Ollama（OpenAI 协议）接下来进入核心部分：如何用 LangChain 调用本地 Ollama？ / 超大模型❌ 面向公网的 C 端产品七、一些来自实践的工程建议最后分享几点真实踩坑后的经验：模型别贪大7B / 8B 是当前本地部署的性价比甜点位Prompt 比模型更重要本地模型对 Prompt 非常敏感
76410编辑于 2026-02-10
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号