- 综合排序
- 最热优先
- 最新优先
- 来自专栏C++
【DeepSeek】DeepSeek概述 | 本地部署deepseek
1 -> 概述 DeepSeek是由中国的深度求索公司开发的一系列人工智能模型，以其高效的性能和低成本的训练而受到关注。 知识蒸馏：DeepSeek-R1通过知识蒸馏，将长链推理(CoT)模型的推理能力蒸馏到标准LLM中，显著提升了推理性能。 2 -> 本地部署deepseek 2.1 -> 安装ollama ollama官网 点击Download下载 选择对应的操作系统，本次以Windows操作系统为例 点击Download for Windows 2.2 -> 部署deepseek-r1模型 回到ollama官网点击左上角的Models进入如下界面。 这样本地部署deepseek就算完成啦
4.3K32编辑于 2025-02-08 - 来自专栏C++
【DeepSeek】deepseek可视化部署
1 -> 前文 【DeepSeek】DeepSeek概述 | 本地部署deepseek 通过前文可以将deepseek部署到本地使用，可是每次都需要win+R输入cmd调出命令行进入到命令模式，输入命令 ollama run deepseek-r1:latest。 deepseek大模型，选择该模型，并点击保存 随便提问一个问题试一下。 那测试一下这个代码是否正确： 比如说计算3^4 mod 5。3^4=81，mod5的话余数是1。 按照代码： 初始res=1, a=3, b=4. a变为9 mod5=4. b=2. 第二次循环：b%2==0吗，还是继续看是否为奇数？不是，所以不改变res。a变成4*4=16 mod5=1, b=1.
1.2K20编辑于 2025-02-12 - 来自专栏机器学习与统计学
DeepSeek-V4 本地部署，SGLang 把活做绝了
关于 DeepSeek-V4，我之前写过： DeepSeek-V4-Flash 本地部署，2 x H20（96GB版本），性能简测 vLLM解密：DeepSeek-V4本地部署为何如此困难 今天换个角度 ，从架构和推理引擎的视角聊聊：DeepSeek-V4 这次发布为啥这么难伺候，以及 SGLang Day-0 是怎么把活给做下来的 V4 到底改了啥 先简单交代下背景，DeepSeek 这次一发就是俩： 变体 总参数 激活参数 单节点部署门槛 DeepSeek-V4-Flash 284B 13B B200 / GB200 / GB300 / H200 4 卡 DeepSeek-V4-Pro 1.6T ：并行策略一应俱全 怎么部署 SGLang 给每个硬件平台都准备了独立 Docker 镜像： 硬件 镜像 NVIDIA B300 lmsysorg/sglang:deepseek-v4-b300 NVIDIA B200 lmsysorg/sglang:deepseek-v4-blackwell NVIDIA GB200/GB300 lmsysorg/sglang:deepseek-v4-grace-blackwell
4.3K20编辑于 2026-05-08 deepseek本地部署有什么用？解锁 DeepSeek 本地部署
DeepSeek 作为一款备受瞩目的大模型工具，其本地化部署逐渐成为众多用户关注的焦点。今天，我们就来深入探讨 DeepSeek 本地部署的用途，为大家详细介绍一款助力本地部署的神器，快来看看吧。 一、为什么要进行 DeepSeek 本地部署DeepSeek 本地部署保障数据隐私，适配敏感行业合规需求。降低网络依赖，无网络也能稳定运行，保障实时场景业务连续。 二、DS 本地部署大师 —— 本地部署的得力助手①一键部署，轻松上手DS 本地部署大师它内置了 DeepSeek - R1 全系列模型（1.5B/7B/14B/32B/70B），根据智能推荐并下载适合的模型版本 ②部署完成，进入体验选择模型后等待下载，下载完成后，软件会自动安装完成。之后，点击【立即体验】进入智能界面体验DeepSeek 本地部署效果。 DS 本地部署大师凭借其强大的功能和便捷的操作，为用户实现 DeepSeek 本地部署提供了一站式解决方案。
2.9K10编辑于 2025-08-21- 来自专栏分享学习
DeepSeek本地部署教程
DeepSeek是一款强大的知识检索和问答工具，通过本地部署，用户可以更加便捷地进行知识检索和问答操作。本文将详细介绍如何在本地部署DeepSeek，以便用户能够充分利用其强大的功能。 环境要求 在本地部署DeepSeek之前，需要确保计算机满足以下环境要求： 操作系统：Linux（推荐）或Windows。 Python版本：Python 3.7及以上。 克隆DeepSeek代码 打开终端或命令行窗口，使用git命令克隆DeepSeek的GitHub仓库：git clone https://github.com/your-repository/DeepSeek.git 在DeepSeek项目目录下，运行以下命令创建虚拟环境：python3 -m venv deepseek-env（Linux）或deepseek-env\Scripts\activate（Windows (result) 使用与调试 使用DeepSeek 在成功部署并启动DeepSeek后，可以通过API服务器或直接在Python脚本中调用模型进行推理。
2.1K10编辑于 2025-05-18 - 来自专栏代码简单说
DeepSeek-V4发布、DeepSeek API、OpenAI兼容调用、DeepSeek-V4教程、DeepSeek-V4-Pro与Flash区别
DeepSeek-V4发布、DeepSeek API、OpenAI兼容调用、DeepSeek-V4教程、DeepSeek-V4-Pro与Flash区别 作为日常关注大模型API更新的开发者，今天一早就看到一个重磅消息 ：2026年4月24日，DeepSeek 正式发布 DeepSeek-V4 预览版并开源，同时 API 已同步升级。 这篇文章帮你一次性搞懂： V4模型能力升级点 API变化与弃用提醒 如何用 OpenAI SDK 直接调用 DeepSeek-V4（含Node示例） 一、DeepSeek-V4 发布重点 官方信息核心可以总结为 1️⃣ 新模型名称 现在主要使用： deepseek-v4-pro deepseek-v4-flash 模型定位 模型 定位 类比 deepseek-v4-pro 高性能推理 GPT-4级别 deepseek-v4 ://api.deepseek.com model deepseek-v4-pro / flash 就这么简单。
2.5K10编辑于 2026-06-16 华为910B4八卡服务器部署deepseek v4 flash记录
花了两天时间终于在成功在华为910B4八卡服务器部署deepseek v4 flash。 将镜像文件，权重文件rsync到另外四台服务器测试，也都成功拉起服务。 device /dev/davinci1 \ --device /dev/davinci2 \ --device /dev/davinci3 \ --device /dev/davinci4 ascend_install.info:/etc/ascend_install.info \ -v /etc/hccn.conf:/etc/hccn.conf \ -v /data/weights/DeepSeek-V4 \ --block-size 128 \ --enable-chunked-prefill \ --enable-prefix-caching \ --tokenizer-mode deepseek_v4 \ --tool-call-parser deepseek_v4 \ --enable-auto-tool-choice \ --reasoning-parser deepseek_v4
82000编辑于 2026-06-22- 来自专栏运维小路
DeepSeek-离线部署版
前面2个小节我们虽然介绍了在Win电脑和Linux服务器里面部署DeepSeek，他们都有安装模型的操作，而且这个操作会很费时间，那有没有一个方法可以提前下载好文件，然后只需要一个启动命令就可以实现呢？ 如果要提供自动部署脚本，我们首先就是要分析我们的安装过程都做了什么，然后根据部署过程的动作才能把部署内容封装到一起。 3.文件组合打包 前面两个步骤我们搞清楚了这个DeepSeek的逻辑，我们把ollama和模型的文件放置到一起，然后进行打包压缩(该文件压缩后大概3.1G)。 4.准备脚本 准备2个脚本，一个安装，一个启动(可复用上个小节的脚本，注意脚本路径)。 #安装脚本，这里用的是复制避免使用mv 用户找不到， #!
2.4K10编辑于 2025-02-21 deepseek本地部署简要教程
安装ollama访问：https://ollama.com/安装AI模型访问模型列表：https://ollama.com/search安装deepseek-r1命令行运行：ollama run deepseek-r1
1K20编辑于 2025-02-13- 来自专栏运维小路
DeepSeek-基于vLLM部署
conda create --name vllm python=3.12.9 4.切换进入vLLM虚拟Python环境 (base) [root@MiWiFi-RD03-srv ~]# conda activate #国内镜像站 https://hf-mirror.com/deepseek-ai/DeepSeek-R1 脚本下载 #下载一个python包，用于下载模型 (vllm) [root@MiWiFi-RD03 vllm serve \ /root/deepseekr1_1.5b/deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B \ --dtype=half 8.访问模型 这个 /DeepSeek-R1-Distill-Qwen-1.5B", "messages": [{"role": "user", "content": "写一篇关于AI安全的短论文" result = stream_chat_response() print("\n--- 完整响应 ---") print(result) 我后面用Ubuntu 20.4 重新部署了一次
2.8K01编辑于 2025-03-03 - 来自专栏运维小路
DeepSeek-Open WebUI部署
前面部署了vLLM版本以后，访问它比较麻烦。如何才能更好的实现访问呢，这个就是我们今天要讲的Open WebUI，它可以向我们使用官方DeepSeek一样直接在网页进行对话。 OPENAI_API_BASE_URL=http://127.0.0.1:8000/v1 # 设置默认模型路径 export DEFAULT_MODELS="/root/deepseekr1_1.5b/deepseek-ai /DeepSeek-R1-Distill-Qwen-1.5B" # 启动Open WebUI open-webui serve 4.配置Open WebUI 5.开始提问
2K00编辑于 2025-03-04 - 来自专栏Tencent云服务征文
DeepSeek上云 | 腾讯云HAI如何部署使用DeepSeek
HAI提供了不同的算力套餐，用户可以根据自己的需求购买，并且可以通过HAI预置的多种 AI 环境帮助用户快速部署。所以本篇文章主要探究如何使用HAI，一键轻松完成DeepSeek的部署。 按照我们本地部署的思维和步骤来说，在上面步骤中选择安装Ollama，然后再用Ollama拉取DeepSeek大模型完成部署。 选择应用 - DeepSeek我们在社区应用下可以找到 DeepSeek-R1 进行选择。这里HAI提供了DeepSeek-R1 1.5B及7B两种模型环境，能够满足用户快速部署和使用的需求。3. 至于算力方案的选择上，对于DeepSeek-R1 1.5B和7B的模型，使用GPU基础型套餐就可以运行。如果想要DeepSeek实现更快的推理回答，就可以选择GPUT进阶型方案。4. 结语与TIONE安装DeepSeek相比较，HAI也具备了快速部署DeepSeek的能力。通过一键式操作，用户就可以使用云化的DeepSeek。
2.3K51编辑于 2025-02-07 - 来自专栏云上实验室
如何快速部署DeepSeek| 腾讯云TI部署指南
一、为什么要使用DeepSeek + 腾讯云HAI近年来，随着大模型与多场景应用的蓬勃发展，AI工程师越来越需要快速、高效且低成本地部署和管理模型服务。 在模型体验中可以体验与DeepSeek模型的对话。创建在线服务在DeepSeek的模型页面，点击新建在线服务，进入到服务创建页面。填入服务名称之后，选择机器来源用来部署DeepSeek。1. 选择算力规格选择的按量计费的话，则选择从TIONE平台购买：根据选择的DeepSeek模型，选择相对应的算力规格，点击启动服务。4. 启动服务启动之后进入在线服务列表。 点击调用API，可以查看DeepSeek的服务调用地址。同时可以点击实例进入详情页面，我们可以看到安装了DeepSeek大模型实例的信息。这样，我们就完成了DeepSeek在腾讯云TI平台的部署。 有任何问题或意见，欢迎在相关社区或官方文档中查阅更多信息，也可以向腾讯云和DeepSeek官方团队寻求支持。祝你一切部署顺利，玩得开心！
2K30编辑于 2025-02-10 - 来自专栏开发经验
DeepSeek本地部署+微调训练
本地训练流程（无需专业知识），从数据准备到模型部署的完整操作指南：一、准备训练数据1. 下载训练脚本创建文件夹：mkdir deepseek_train下载官方示例脚本：wget https://example.com/train_deepseek.py wget https://example.com 启动训练在命令行执行（根据显存调整参数）：accelerate launch train_deepseek.py \ --model_name "deepseek-ai/deepseek-llm-7b 查看训练日志训练文件夹会生成 training_logs.txt，重点关注：Epoch 1/3 | Loss: 2.34 → 1.78Epoch 2/3 | Loss: 1.78 → 1.23五、部署训练好的模型 /ollama_model/deepseek-custom.gguf \ --quantize q4_0 # 4位量化节省空间2.
4.1K23编辑于 2025-02-25 - 来自专栏小陈运维
使用Ollama部署deepseek大模型
使用Ollama部署deepseek大模型 前置条件 使用英伟达显卡下载cuda驱动 https://developer.nvidia.com/cuda-downloads Ollama Ollama deepseek-r1:1.5b # 7B Qwen DeepSeek R1 # 所需空间大约 4.7G ollama run deepseek-r1:7b # 8B Llama DeepSeek R1 # 所需空间大约 4.9G ollama run deepseek-r1:8b # 14B Qwen DeepSeek R1 # 所需空间大约 9G ollama run deepseek-r1 :14b # 32B Qwen DeepSeek R1 # 所需空间大约 20G ollama run deepseek-r1:32b # 70B Llama DeepSeek R1 # 所需空间大约 open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main 4.
2.9K20编辑于 2025-02-04 - 来自专栏AllTests软件测试
本地部署AI大模型DeepSeek
官方网址： https://www.deepseek.com/ 本篇讲解如何快速的在本地部署AI大模型DeepSeek。 2、本地部署DeepSeek 1、首先要下载安装Ollama。 Ollama是一个开源的大型语言模型本地部署框架。 特点： 多平台支持，如Windows、macOS、Linux，还支持Docker，方便跨平台部署。 在本地运行Llama 3.3、DeepSeek-R1、Phi-4、Mistral、Gemma 2等模型。 根据所属平台，下载指定的Ollama。 2、搜索并安装DeepSeek模型。 搜索大语言模型： https://ollama.com/search 可以看到DeepSeek-R1。 它支持多种大语言模型运行程序，如Ollama和兼容OpenAI的应用程序编程接口（API），还内置了用于检索增强生成（RAG）的推理引擎，使其成为一个强大的人工智能部署解决方案。
98311编辑于 2025-02-10 - 来自专栏Crossin的编程教室
DeepSeek 本地部署指南（基于 vLLM）
本指南将详细介绍如何使用 vLLM 在本地部署 DeepSeek 语言模型。 下载 DeepSeek 模型 接下来，我们需要下载 deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 模型。 虽然某些模型可能需要注册账号，但 DeepSeek-R1-Distill-Qwen-7B 是公开的，可直接下载。 3. 安装 vLLM vLLM 是一个高效的大型语言模型推理库，支持快速部署。 macOS/Linux： source venv/bin/activate # Windows： venv\Scripts\activate 安装 vLLM： pip install vllm 4. 总结 通过以上步骤，你已成功在本地部署了 DeepSeek 模型，并能够通过 vLLM 进行推理。如果在部署过程中遇到问题，请参考 vLLM 官方文档或在相关社区寻求帮助。祝你使用愉快！
2.4K11编辑于 2026-03-11 - 来自专栏小陈运维
使用Ollama部署deepseek大模型
使用Ollama部署deepseek大模型前置条件使用英伟达显卡下载cuda驱动https://developer.nvidia.com/cuda-downloadsOllamaOllama 官方版: :1.5b# 7B Qwen DeepSeek R1# 所需空间大约 4.7Gollama run deepseek-r1:7b# 8B Llama DeepSeek R1# 所需空间大约 4.9Gollama run deepseek-r1:8b# 14B Qwen DeepSeek R1# 所需空间大约 9Gollama run deepseek-r1:14b# 32B Qwen DeepSeek R1# 所需空间大约 20Gollama run deepseek-r1:32b# 70B Llama DeepSeek R1# 所需空间大约 43Gollama run deepseek-r1:70b# 671B open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main 4.
3.6K12编辑于 2025-01-26 DeepSeek免费超越GPT-4？
核心性能提升 性能表现优异，直逼国际一流 数学、编程、逻辑推理测试中，成绩国内领先 整体表现已接近 GPT-4 和谷歌最新模型 AIME 数学竞赛准确率从 70% 大幅提升至87.5% 思考过程更加深入 总结展望 国产 AI 的重要突破 DeepSeek-R1 这次升级展现了国产 AI 在推理能力上的重大进步： 性能达到国际先进水平：多项测试接近 GPT-4 表现 完全免费开源：对开发者和研究者友好 实用性强 //huggingface.co/deepseek-ai/DeepSeek-R1-0528 与之前的 DeepSeek-R1 版本一致，此次开源仓库（包括模型权重）统一采用 MIT License，允许用户利用模型输出 API 使用方法不变，文档地址：https://api-docs.deepseek.com/guides/reasoning_model 推荐阅读： 主题 链接 1.零成本部署：5分钟创建免费PostgreSQL 数据库 点击阅读 2.AI知识库的真相 点击阅读 3.Cherry Studio 本地知识库搭建教程 点击阅读 4.RAG知识库痛点与优化 点击阅读 5.数据库接入大模型实战 点击阅读 6.免费域名
40410编辑于 2026-04-29- 来自专栏玩转Lighthouse
玩转DeepSeek Harness｜使用Lighthouse快速部署云上DeepSeek Harness
由于它具备文件编辑、命令执行和联网等能力，更适合部署在一个与个人主力电脑隔离、权限边界清晰的环境中。 一台已部署DeepSeekHarness应用模板的Lighthouse实例，或一台允许重装的空闲实例。一个可用的DeepSeekAPIKey。可以前往DeepSeek开放平台创建。 套餐配置：建议选择2核4GB内存或更高配置。简单体验可以从较小套餐开始；大型代码仓库、多会话或多Agent场景建议选择4核8GB或更高配置。登录方式：自动生成密码、SSH密钥或其他方式均可。 在模型（Models）区域中：确认提供方为DeepSeek。确认页面展示的目标模型，例如deepseek-v4-pro。模型名称可能随模板和开放平台更新。 Q4：WebUI一直停在“Loadingplugins…”首次加载需要下载并初始化多个前端插件，可能需要数秒。先等待，再刷新一次页面。
1K10编辑于 2026-08-14
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号