- 综合排序
- 最热优先
- 最新优先
- 来自专栏全栈开发日记
本地部署DeepSeek-R1大模型
从安装到API调用全流程指南 想不依赖网络、零门槛运行AI大模型？Ollama帮你轻松实现！ 一、准备工作：安装Ollama Ollama是一个轻量级工具，支持在本地一键运行大模型（如Llama、DeepSeek等），无需复杂配置。 1. 下载DeepSeek模型 （根据需求选择模型版本，如deepseek-r1:7b、deepseek-math-7b等） ollama pull deepseek-r1:7b 注：首次下载需等待模型文件拉取 查看已安装模型 ollama list 3. 删除模型 ollama rm deepseek-r1:7b 4. 性能调优 • 增加GPU支持：安装CUDA驱动后，启动时添加 --gpu 参数。 • 回复速度慢：关闭其他占用显存的程序，或尝试更小规模的模型（如deepseek-7b）。 通过Ollama，DeepSeek大模型的部署和调用变得前所未有的简单！
2.5K10编辑于 2025-02-10 - 来自专栏灵墨AI探索室
快速入门 DeepSeek-R1 大模型
国内最新的神级人工智能模型已经正式发布，没错，它就是备受瞩目的DeepSeek-R1大模型。今天，我们将对DeepSeek进行一个简单的了解，并探索如何快速使用和部署这个强大的工具。 ，model='deepseek-reasoner'才是DeepSeek-R1大模型。 ollama run deepseek-r1 当然，你可以选择启动的模型参数。 :14bollama run deepseek-r1:32bollama run deepseek-r1:70b 参数越大，模型效果越好。 总结 总之，DeepSeek-R1大模型凭借其强大的性能和开源优势，为开发者带来了前所未有的机遇。无论是通过API快速接入，还是借助Ollama在本地部署，都能轻松实现智能化升级。
1.7K30编辑于 2025-02-04 - 来自专栏Dance with GenAI
图解DeepSeek-R1大模型—推理型大语言模型（LLM）的训练秘密
本文目录： ●大型语言模型（LLM）训练方式回顾 ●DeepSeek-R1 训练配方 ●1 - 长推理链监督式微调（SFT）数据 ●2 - 一个中期高质量推理 LLM（但在非推理任务上表现较差）。 ●DeepSeek-R1 训练配方 DeepSeek-R1 遵循这一通用配方。第一步的详细信息来自之前关于 DeepSeek-V3 模型的论文。 冷启动：与 DeepSeek-R1-Zero 不同，为了防止从基础模型开始的 RL 训练的早期不稳定冷启动阶段，对于 DeepSeek-R1，我们构建并收集了一小部分长推理链数据，以微调模型作为初始 RL ●模型架构 与 GPT2 和 GPT 3 问世之初的模型一样，DeepSeek-R1 是一堆 Transformer 解码器块。它由 61 个这样的块组成。 》 至此，你应该已经掌握了围绕 DeepSeek-R1 模型的主要训练方法
1.5K20编辑于 2025-02-07 - 来自专栏山河已无恙
如何高效使用DeepSeek-R1：推理大模型调优指南
^_^ 如何高效使用DeepSeek-R1：推理大模型提示工程调优指南 LLM 中 DeepSeek-R1 与传统非推理模型的交互方式存在本质差异。 但与通用大模型不同，推理型模型需要特殊的交互策略，博文内容列举几个常见的优化手段，帮助开发者构建高效的交互范式。 调试过程： 1.初始设置(temp=0.8)：生成文案新颖但部分描述不准确 2.降低温度至0.6：保证产品参数正确性 3.提升top_p至0.9：保留"防水""超长续航"等有效关键词 4.限制长度512 ，并按照特定的方式进行回应，比如 你是一个技术博主 少量示例: 这些示例可以帮助大语言模型更好地理解任务，并生成更准确的响应，{Q：分布式锁实现方式有哪些？ 用户输人:用户的输人可以直接引导大语言模型生成特定的答案,用户输入的问题 {QUESTION} 高级交互 数学推理增强模式 要求：请通过逐步推导证明勾股定理，并将最终答案用Latex公式框起 示例响应：
97710编辑于 2025-03-04 - 来自专栏AI粉嫩特攻队
在windows主机本地快速部署使用deepseek-r1大模型
简介 Ollama（用于下载和启动大模型） Ollama 专注于本地大型语言模型（LLM）的快速、极简安装和使用，例如 LLaMA 3.3 和 DeepSeek-R1。 由于大模型的文件都非常大，比如我们将要部署的模型文件大小就为9G左右，所以建议选择的路径所在的磁盘空间要比较大一些。 4.通过任务管理器结束Ollama进程，然后重新运行Ollama来使修改的环境变量生效。 5.上述过程完成后，打开powershell命令行工具，执行如下命令下载deepseek-r1:14b大模型，模型文件较大，需要等待一定时间。 （可能是因为本地提前启动了ollama,毕竟open webui以前叫ollama webui嘛~） 使用Open WebUI 向指定大模型提问 笔者是24g显存的显卡，所以部署的是32b的deepseek-r1
1K10编辑于 2025-05-15 - 来自专栏人工智能应用
如何在电脑上部署DeepSeek-r1大模型来使用
DeepSeek作为国产AI大模型之光，为什么得到国内外超2千万用户的认可，因为它对GPU要求配置低，大部分电脑都支持独立部署使用，且DeepSeek能力卓越，在推理能力、数学、代码和语音处理方面直逼ChatGPT4.0 本期小白教程，轻松给你电脑安装上DeepSeek-r1大模型，在自己的电脑上使用DeepSeek-r1，反应很快还免费。 ollama安装好了 第2步：运行DeepSeek模型 进入 ollama 的 deepseek-r1 介绍页面 根据自己的硬件情况，选择一个合适的版本，复制命令到cmd运行即可（建议32b及以上） 复制 可以重复运行ollama run deepseek-r1:32b 命令去下载。 运行完命令可在控制台直接对话，如下图（Windows），linux同样的命令： 这样你可以在自己本地的电脑上独立使用DeepSeek-r1大模型了。
92810编辑于 2025-02-07 - 来自专栏后台技术汇
大模型应用之（4）：Langchain架构与大模型接入
作为一个语言模型集成框架，LangChain 的用例与一般语言模型的用例有很大的重叠。 重叠范围包括文档分析和总结摘要, 代码分析和聊天机器人。 Langchain架构 LangChain工具 组件：大模型包装器、聊天模型包装器、数据增强工具和接口链： 提供了标准接口，和数据平台和实际应用工具紧密集成 LangChain六大模块 模块 核心作用 Agent作为高级模块，可调用其他所有模块功能 大模型接入 接入示例 云服务和私有化大模型优劣对比 维度 开发成本 算力成本 运维成本 数据安全 云厂商大模型 较低，开箱即用 算力资源充足，大模型性能好 &吞吐量较高 较低，提供云平台监控 安全性低 私有化大模型 较高，自建大模型网关、服务鉴权、可用性等 算力硬件投入成本高，大模型性能较差低&吞吐量较低 较高，需要专业运维团队介入 安全性高，保密性强 小结： - 研发&测试环境：为了方便部署和测试，使用云服务 - 大客户生产环境：安全审核严格，大多数采用自建大模型的方式 总结 LangChain 是什么？
70610编辑于 2025-08-04 - 来自专栏深度学习和计算机视觉
最新「大模型简史」整理！从Transformer（2017）到DeepSeek-R1（2025）
多模态模型：连接文本、图像及其他 (2023–2024) 在2023年至2024年间，像GPT-4V和GPT-4o这样的多模态大型语言模型（MLLMs）通过将文本、图像、音频和视频整合到统一系统中重新定义了 「系统1」与「系统2」思维 7.1 OpenAI-o1：推理能力的一大飞跃(2024) 2024年9月12日，OpenAI发布的o1-preview标志着人工智能能力的重大飞跃，尤其是在解决复杂推理任务 成本高效的推理模型：DeepSeek-R1 (2025) LLMs通常需要极其庞大的计算资源来进行训练和推理。 像GPT-4o和OpenAI-o1这样的最先进LLM模型的闭源性质限制了对尖端AI的「普及化」。 DeepSeek-R1 (2025)：代表了成本效率的一大飞跃，DeepSeek-R1利用专家混合架构(MoE)和优化算法，与许多美国模型相比，运营成本降低了多达50倍。
4.6K10编辑于 2025-03-06 - 来自专栏腾讯云原生团队
在 TKE 上部署 AI 大模型（以 DeepSeek-R1 为例）
概述 本文介绍如何在 TKE 上部署 AI 大模型，以 DeepSeek-R1 为例，使用 Ollama 或 vLLM 运行大模型并暴露 API，然后使用 OpenWebUI 提供交互界面。 ，可以看成是大模型领域的 Docker，可以下载所需的大模型并暴露 Ollama API，极大的简化了大模型的部署。 步骤4: 使用 Job 下载 AI 大模型 下发一个 Job，将需要用的 AI 大模型下载到 CFS 共享存储中，以下分别是 vLLM 和 Ollama 的 Job 示例： 使用之前 Ollama 或 vLLM 的镜像执行一个脚本去下载我们需要的 AI 大模型，本例中下载的是 DeepSeek-R1 的模型，修改 LLM_MODEL 以替换大语言模型。 如果希望大模型跑在超级节点，需通过 Pod 注解 eks.tke.cloud.tencent.com/gpu-type 指定 GPU 类型，可选 V100、T4、A10*PNV4、A10*GNV4，具体可参考
1.3K10编辑于 2025-02-18 - 来自专栏小陈运维
使用 HAI 一键上云部署 Deepseek-R1 大模型
背景DeepSeek-R1 是中国人工智能初创企业 DeepSeek 推出的一款以“推理”能力为核心的开源大语言模型。 Ollama是一个开源的大模型管理工具，提供了丰富的功能，包括模型的训练、部署、监控等。我这里选择了俩张 GPU 卡的环境。选好之后点击“立即购买”即可。 运行其他参数的 DeepSeek可以通过这些命令运行不同参数的大模型环境。 run deepseek-r1:7b# 8B Llama DeepSeek R1# 所需空间大约 4.9Gollama run deepseek-r1:8b# 14B Qwen DeepSeek R1 deepseek-r1:671b使用社区模型腾讯云的 HAI 自带了很多模型，也可以在“社区应用”中选择 DeepSeek 大模型，这样即可开箱即用。
99350编辑于 2025-02-07 免费使用DeepSeek-R1模型？？？
我们可以使用硅基流动作为临时通道，用户可通过该平台稳定调用DeepSeek R1模型。 我这里不演示了） 进入软件点击左下角设置,模型选择硅基流动填入秘钥 点击下方管理添加DeepSeek-R1模型，这样就配置完成了 我们来用这个24点扑克游戏题验证一下是不是真正的DeepSeek-R1模型
36110编辑于 2025-07-14- 来自专栏自然语言处理
【HuggingFace项目】：Open-R1 - DeepSeek-R1 大模型开源复现计划
这个项目的目标是让更多人能够理解和使用 DeepSeek-R1 的技术方案，从而推动大模型技术的发展和应用。 项目步骤 知识蒸馏：通过从 DeepSeek-R1 中提取高质量的推理语料，复现 R1-Distill 模型。 \ --per_device_eval_batch_size 4 \ --gradient_accumulation_steps 4 \ --gradient_checkpointing 支持从蒸馏模型和 DeepSeek-R1 生成数据。 这不仅为研究人员提供了宝贵的技术参考，也为大模型的普及和应用奠定了坚实的基础。
98100编辑于 2025-01-27 - 来自专栏机器学习与统计学
大模型解决机器学习问题，实测，DeepSeek-R1 排名第9
每次“运行”包含 5 次迭代，即 LLM 会收到 5 次提交，并进行 4 轮反馈，使其能够从反馈中学习并改进解决方案（ 完整系统提示[3] ）。 对于每个任务，我们为每个模型至少进行了 5 次运行（由于成本较高，o3-pro、claude-4-opus 和 gpt-4.5 每个任务只进行了 2 次运行），以考虑到我们在同一模型在同一任务上看到的性能差异很大 形状分类（简单） 一个形状分类任务（ 任务提示[4] ），模型需要从一组 512 个 2D 坐标中识别出一个形状（圆形、正方形、三角形、五边形、星星），其中只有部分点构成了形状，其他点是噪声。 搭建完美的写作环境：工具篇（12 章）图解机器学习 - 中文版（72 张 PNG）ChatGPT 、大模型系列研究报告（50 个 PDF）108页PDF小册子：搭建机器学习开发环境及Python基础 116 htihle.github.io/data/weirdml_data.csv [3] 完整系统提示: https://htihle.github.io/prompts/system_prompt_v2.html [4]
22910编辑于 2025-07-21 - 来自专栏大语言模型
DeepSeek-R1技术突破：纯RL训练竟能激发大模型反思能力？
欢迎关注评论私信交流~在AI领域，大模型的推理能力一直是研究热点。 2025年初，DeepSeek团队发布的R1模型带来了一项令人惊讶的发现：仅通过强化学习(RL)训练，无需监督微调(SFT)，就能让大模型自发产生带有反思的思维链(long CoT)。 从OpenAI o1到DeepSeek-R1的认知转变最初，业界普遍认为像OpenAI o1这样的先进模型需要将推理时扩展(Inference/test-time scaling)和强化学习作为两个独立模块 研究团队仅通过以下简单设置：就观察到了模型行为的惊人进化：随着训练步数增加，回答长度自然增长在某个训练阶段自发出现自我评估行为无需人工标注数据，就能产生结构化推理过程DeepSeek-R1的双阶段训练策略基于 这一发现不仅为大模型训练提供了新思路，也引发了关于"模型自发能力涌现"的深层思考。未来，结合RL与推理时扩展的混合方法，可能会成为大模型发展的主流方向。
31610编辑于 2025-07-10 - 来自专栏大模型成长之路
【大模型学习 | MINIGPT-4原理】
MINIGPT-4: ENHANCING VISION-LANGUAGE UNDERSTANDING WITH ADVANCED LARGE LANGUAGE MODELS在GPT4未开源的情况下，作者认为其表现优越是因为采用了最为先进的 LLM模型，因此，作者在BLIP2的基础上，将LLM模型替换为了Vicuna，同样也是通过一个线性映射层将图像表征映射为LLM的输入。 开源代码：https://minigpt-4.github.io/一、预训练方法预训练方法几乎和BLIP2模型一致，可以参考：【大模型学习 | BLIP2原理】-腾讯云开发者社区-腾讯云1.1 Q-Former ； MINI-GPT4表现比BLIP2要强上许多？ ① MiniGPT-4 使用的是 Vicuna（基于 LLaMA 的开源 ChatGPT 对话模型），具有更强的自然语言表达和指令理解能力；而BLIP-2 使用的 LLM 主要是 Flan-T5 或 OPT
73910编辑于 2025-07-02 - 来自专栏自然语言处理
大语言模型简史：从Transformer（2017）到DeepSeek-R1（2025）的进化之路
到2023年，像GPT-4这样的「多模态模型」整合了文本、图像和音频处理能力，使LLM能够以更接近人类的「听」、「说」、「看」能力。 多模态模型：连接文本、图像及其他 (2023–2024) 在2023年至2024年间，像GPT-4V和GPT-4o这样的多模态大型语言模型（MLLMs）通过将文本、图像、音频和视频整合到统一系统中重新定义了 「系统1」与「系统2」思维 7.1 OpenAI-o1：推理能力的一大飞跃(2024) OpenAI于2024年12月发布的o1模型旨在提高AI的推理能力，特别是在代码生成和调试等复杂任务上表现出色 像GPT-4o和OpenAI-o1这样的最先进LLM模型的闭源性质限制了对尖端AI的「普及化」。 DeepSeek-R1 (2025)：代表了成本效率的一大飞跃，DeepSeek-R1利用专家混合架构(MoE)和优化算法，与许多美国模型相比，运营成本降低了多达50倍。
3.4K10编辑于 2025-02-17 - 来自专栏码农编程进阶笔记
什么是DeepSeek-R1蒸馏模型？
您可以在下面的帖子中了解整个过程： 什么是DeepSeek-R1蒸馏模型？ DeepSeek-R1蒸馏模型是通过蒸馏过程创建的较大DeepSeek-R 1模型的更小、更高效的版本。 由于DeepSeek-R1模型的尺寸巨大，即671B个参数，它不可能在消费级设备上运行，因此是蒸馏模型。 Distill-Qwen-14B DeepSeek-R1-Distill-Qwen-32B DeepSeek-R1-Distill-Llama-8B DeepSeek-R1-Distill-Llama-70B 4. 蒸馏模型的性能： 经过提炼的模型在推理基准测试中取得了令人印象深刻的结果，通常优于GPT-4o和Claude-3.5-Sonnet等较大的非推理模型。 如何使用DeepSeek-R1蒸馏模型？
1K00编辑于 2025-04-26 - 来自专栏清羽飞扬
windows本地部署DeepSeek-R1模型
好的，下面是一个更加官方且规范的版本： 前期要求 硬件要求 在本地部署DeepSeek-R1模型之前，请确保你的电脑的硬件符合以下要求： 处理器：支持x86_64架构的Intel或AMD处理器。 个人要求 为确保能够顺利完成DeepSeek-R1模型的部署，建议具备以下个人技能： 命令行基础：能够理解并处理命令行中的错误信息，具备基本的调试能力，能够定位并解决常见的配置问题。 首先拉取deepseek的模型，有如下几种选择，请按照电脑要求自行选择： ollama pull deepseek-r1:1.5b # 轻量化选择 ollama pull deepseek-r1: of reasoning models with comparable performance to OpenAI-o1 等待一段时间，模型拉取成功后，就可以开始跑了，通过以下命令，这里以deepseek-r1 对于需要快速响应、低延迟的应用场景，deepseek-r1:7b无疑是一个理想的选择。 随着技术的不断发展，相信会有更多的开发者探索并扩展其应用场景，创新出更多有趣且实用的玩法。
1.6K10编辑于 2025-02-09 - 来自专栏灵墨AI探索室
腾讯云 TI 平台部署与调用DeepSeek-R1大模型的实战指南
今天我们将继续探讨如何部署一个私有化的 DeepSeek-R1 大模型，具体的部署过程我们将利用腾讯云的 TI 平台进行操作。 当前，腾讯云 TI 平台为用户提供了免费体验的满血版 DeepSeek-R1 大模型，同时该平台还提供了开放的 API 接口服务，用户可以方便地将其接入到自己的平台中，进行定制化使用。 接下来，我们将深入讲解如何快速实现 DeepSeek-R1 大模型的私有化部署，帮助大家更高效地掌握整个流程，确保能够顺利地将这一先进技术应用到自己的实际场景中。 需要注意的是，算力收费与所选模型的大小并不直接相关，因此你完全可以选择直接部署性能最强的完整版DeepSeek-R1大模型，以获得更强大的计算能力和更高的性能表现。 总结通过本次讨论，我们详细介绍了如何利用腾讯云的 TI 平台完成 DeepSeek-R1 大模型的私有化部署。
1.1K20编辑于 2025-02-05 DeepSeek-R1超高幻觉率解析：为何大模型总“胡说八道”？
在Vectara HHEM人工智能幻觉测试（行业权威测试，通过检测语言模型生成内容是否与原始证据一致，从而评估模型的幻觉率，帮助优化和选择模型）中，DeepSeek-R1显示出14.3%的幻觉率。 图：Vectara HHEM人工智能幻觉测试结果 显然，DeepSeek-R1的幻觉率不仅是 DeepSeek-V3的近4倍，也远超行业平均水平。 在博主Levy Rozman（拥有600万粉丝的美国国际象棋网红）组织的一次并不严谨的大模型国际象棋的对弈中，Deepseek“作弊”次数要远多于ChatGPT： 比如，没走几步棋，DeepSeek-R1 GPT系列的推理模型o1的HHEM分数的平均值和中位数低于其通用模型GPT-4o（见下图）。可是当我们对比 R1 和它的基座模型 V3 时，又发现增加推理强化后幻觉确实显著增加了。 图：GPT-o1和4o的HHEM分数统计，HHEM分数越低幻觉越低 比起基座模型，o1 降低了幻觉，R1增加了幻觉，这可能是R1在文科思维链方面用力过猛。
94810编辑于 2025-02-13
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号