- 综合排序
- 最热优先
- 最新优先
- 来自专栏全栈开发日记
本地部署DeepSeek-R1大模型
从安装到API调用全流程指南 想不依赖网络、零门槛运行AI大模型？Ollama帮你轻松实现！ 一、准备工作：安装Ollama Ollama是一个轻量级工具，支持在本地一键运行大模型（如Llama、DeepSeek等），无需复杂配置。 1. 下载DeepSeek模型 （根据需求选择模型版本，如deepseek-r1:7b、deepseek-math-7b等） ollama pull deepseek-r1:7b 注：首次下载需等待模型文件拉取 启动模型服务 （根据需求选择模型版本，如deepseek-r1:7b、deepseek-math-7b等） ollama run deepseek-r1:7b • 看到 >>> Send a message • 回复速度慢：关闭其他占用显存的程序，或尝试更小规模的模型（如deepseek-7b）。 通过Ollama，DeepSeek大模型的部署和调用变得前所未有的简单！
2.5K10编辑于 2025-02-10 - 来自专栏灵墨AI探索室
快速入门 DeepSeek-R1 大模型
国内最新的神级人工智能模型已经正式发布，没错，它就是备受瞩目的DeepSeek-R1大模型。今天，我们将对DeepSeek进行一个简单的了解，并探索如何快速使用和部署这个强大的工具。 ，model='deepseek-reasoner'才是DeepSeek-R1大模型。 ollama run deepseek-r1 当然，你可以选择启动的模型参数。 :14bollama run deepseek-r1:32bollama run deepseek-r1:70b 参数越大，模型效果越好。 总结 总之，DeepSeek-R1大模型凭借其强大的性能和开源优势，为开发者带来了前所未有的机遇。无论是通过API快速接入，还是借助Ollama在本地部署，都能轻松实现智能化升级。
1.7K30编辑于 2025-02-04 - 来自专栏Dance with GenAI
图解DeepSeek-R1大模型—推理型大语言模型（LLM）的训练秘密
本文目录： ●大型语言模型（LLM）训练方式回顾 ●DeepSeek-R1 训练配方 ●1 - 长推理链监督式微调（SFT）数据 ●2 - 一个中期高质量推理 LLM（但在非推理任务上表现较差）。 ●DeepSeek-R1 训练配方 DeepSeek-R1 遵循这一通用配方。第一步的详细信息来自之前关于 DeepSeek-V3 模型的论文。 冷启动：与 DeepSeek-R1-Zero 不同，为了防止从基础模型开始的 RL 训练的早期不稳定冷启动阶段，对于 DeepSeek-R1，我们构建并收集了一小部分长推理链数据，以微调模型作为初始 RL ●模型架构 与 GPT2 和 GPT 3 问世之初的模型一样，DeepSeek-R1 是一堆 Transformer 解码器块。它由 61 个这样的块组成。 》 至此，你应该已经掌握了围绕 DeepSeek-R1 模型的主要训练方法
1.5K20编辑于 2025-02-07 - 来自专栏大模型&AIGC
6种大模型微调技术
值得一提的是，通过使用T5模型进行模型大小的消融实验，我们展示了提示微调随着规模的增加变得更加具有竞争力：当模型参数超过数十亿时，我们的方法“缩小了差距”并达到了模型微调（即调整所有模型权重）的强大性能 input和target，则使用原始的input embedding(5) 使用方式离散和连续template token混合时，显示地插入一下anchor（离散的token）有助于template的优化(6) ，无需verbalizer(4) 特点在小、大模型上，效果均优于P-tuning。 当参数量达10B，效果相当于FT6.LoRA（2021）(1) 论文信息来自论文：《LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS》（2）摘要自然语言处理的一个重要范式包括在通用领域数据上进行大规模预训练 Model)，学习目标为而加入LoRA后，学习目标为：(6) 配置在多个部位$(Q/K/V/Output)$同时添加$\bigtriangleup W$ ，会比只在单一部分上添加权重$\bigtriangleup
2.5K00编辑于 2025-05-08 - 来自专栏山河已无恙
如何高效使用DeepSeek-R1：推理大模型调优指南
^_^ 如何高效使用DeepSeek-R1：推理大模型提示工程调优指南 LLM 中 DeepSeek-R1 与传统非推理模型的交互方式存在本质差异。 但与通用大模型不同，推理型模型需要特殊的交互策略，博文内容列举几个常见的优化手段，帮助开发者构建高效的交互范式。 Python函数实现Web服务器访问日志的异常检测功能，要求包含时间戳解析模块" 这一点和传统的 LLM 区别很大，传统的提示词模板中一般包含(不是必须包含)以下3个元素: 明确的指令:这些指令可以指导大语言模型理解用户的需求 ，并按照特定的方式进行回应，比如 你是一个技术博主 少量示例: 这些示例可以帮助大语言模型更好地理解任务，并生成更准确的响应，{Q：分布式锁实现方式有哪些？ 用户输人:用户的输人可以直接引导大语言模型生成特定的答案,用户输入的问题 {QUESTION} 高级交互 数学推理增强模式 要求：请通过逐步推导证明勾股定理，并将最终答案用Latex公式框起 示例响应：
97710编辑于 2025-03-04 - 来自专栏AI粉嫩特攻队
在windows主机本地快速部署使用deepseek-r1大模型
简介 Ollama（用于下载和启动大模型） Ollama 专注于本地大型语言模型（LLM）的快速、极简安装和使用，例如 LLaMA 3.3 和 DeepSeek-R1。 由于大模型的文件都非常大，比如我们将要部署的模型文件大小就为9G左右，所以建议选择的路径所在的磁盘空间要比较大一些。 5.上述过程完成后，打开powershell命令行工具，执行如下命令下载deepseek-r1:14b大模型，模型文件较大，需要等待一定时间。 run deepseek-r1:14b 该命令会启动 DeepSeek-R1 模型，并启动一个 REPL（交互式终端），你可以接着在命令行直接输入问题，模型会根据问题生成回答。 （可能是因为本地提前启动了ollama,毕竟open webui以前叫ollama webui嘛~） 使用Open WebUI 向指定大模型提问 笔者是24g显存的显卡，所以部署的是32b的deepseek-r1
1K10编辑于 2025-05-15 - 来自专栏人工智能应用
如何在电脑上部署DeepSeek-r1大模型来使用
DeepSeek作为国产AI大模型之光，为什么得到国内外超2千万用户的认可，因为它对GPU要求配置低，大部分电脑都支持独立部署使用，且DeepSeek能力卓越，在推理能力、数学、代码和语音处理方面直逼ChatGPT4.0 本期小白教程，轻松给你电脑安装上DeepSeek-r1大模型，在自己的电脑上使用DeepSeek-r1，反应很快还免费。 ollama安装好了 第2步：运行DeepSeek模型 进入 ollama 的 deepseek-r1 介绍页面 根据自己的硬件情况，选择一个合适的版本，复制命令到cmd运行即可（建议32b及以上） 复制 可以重复运行ollama run deepseek-r1:32b 命令去下载。 运行完命令可在控制台直接对话，如下图（Windows），linux同样的命令： 这样你可以在自己本地的电脑上独立使用DeepSeek-r1大模型了。
92810编辑于 2025-02-07 - 来自专栏深度学习和计算机视觉
最新「大模型简史」整理！从Transformer（2017）到DeepSeek-R1（2025）
6. 开源和开放权重模型 (2023–2024) 在2023年至2024年间，开源和开放权重AI模型获得了动力，使先进AI技术的访问民主化。 「系统1」与「系统2」思维 7.1 OpenAI-o1：推理能力的一大飞跃(2024) 2024年9月12日，OpenAI发布的o1-preview标志着人工智能能力的重大飞跃，尤其是在解决复杂推理任务 成本高效的推理模型：DeepSeek-R1 (2025) LLMs通常需要极其庞大的计算资源来进行训练和推理。 DeepSeek-R1 (2025)：代表了成本效率的一大飞跃，DeepSeek-R1利用专家混合架构(MoE)和优化算法，与许多美国模型相比，运营成本降低了多达50倍。 原文链接： https://medium.com/@lmpo/%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%AE%80%E5%8F%
4.6K10编辑于 2025-03-06 - 来自专栏腾讯云原生团队
在 TKE 上部署 AI 大模型（以 DeepSeek-R1 为例）
概述 本文介绍如何在 TKE 上部署 AI 大模型，以 DeepSeek-R1 为例，使用 Ollama 或 vLLM 运行大模型并暴露 API，然后使用 OpenWebUI 提供交互界面。 ，可以看成是大模型领域的 Docker，可以下载所需的大模型并暴露 Ollama API，极大的简化了大模型的部署。 vLLM 与 Ollama 类似，也是一个运行大模型的工具，但它针对推理做了很多优化，提高了模型的运行效率和性能，使得在资源有限的情况下也能高效运行大语言模型，另外，它提供兼容 OpenAI 的 API AI 大模型数据如何存储？ vLLM 的镜像执行一个脚本去下载我们需要的 AI 大模型，本例中下载的是 DeepSeek-R1 的模型，修改 LLM_MODEL 以替换大语言模型。
1.3K10编辑于 2025-02-18 - 来自专栏小陈运维
使用 HAI 一键上云部署 Deepseek-R1 大模型
背景DeepSeek-R1 是中国人工智能初创企业 DeepSeek 推出的一款以“推理”能力为核心的开源大语言模型。 Ollama是一个开源的大模型管理工具，提供了丰富的功能，包括模型的训练、部署、监控等。我这里选择了俩张 GPU 卡的环境。选好之后点击“立即购买”即可。 运行其他参数的 DeepSeek可以通过这些命令运行不同参数的大模型环境。 run deepseek-r1:7b# 8B Llama DeepSeek R1# 所需空间大约 4.9Gollama run deepseek-r1:8b# 14B Qwen DeepSeek R1 deepseek-r1:671b使用社区模型腾讯云的 HAI 自带了很多模型，也可以在“社区应用”中选择 DeepSeek 大模型，这样即可开箱即用。
99350编辑于 2025-02-07 - 来自专栏6G
6G，AI , 与大模型?
6G与AI融合的未来方向 6G 网络的内生 AI 设计将赋能网络的AI大模型，同时使网络能够支持 AI 大模型的训练和服务。 另外，从小模型到大模型，生产效率跨越式提升基础通用大模型具有泛化性，网络智能化将从用例驱动转变为能力驱动，迅速降低应用开发门槛，加速 AI 工程化、规模化落地。 6G 网络将承担数据采集、预处理等数据服务，为云AI训练提供更好的支持。此外，6G 网络的分布式部署将使得 AI 大模型更靠近用户侧，从而在时延方面具有潜在优势。 在数据获取和处理方面，与 ChatGPT 不同，网络中存在大量结构化数据，且网络不同问题间的共性不清晰，网络 AI 大模型面临较大挑战。6G 网络面临如何有效采集适合AI大模型训练的数据的挑战。 而在构建 AI 大模型的路径上，需要分阶段探索，从离线小规模模型开始，逐步过渡到实时大规模模型，最终实现统一的网络 AI 大模型。 本文摘自于中国移动的“6G内生AI架构及AI大模”汇报材料。
40810编辑于 2024-04-24 免费使用DeepSeek-R1模型？？？
我们可以使用硅基流动作为临时通道，用户可通过该平台稳定调用DeepSeek R1模型。 我这里不演示了） 进入软件点击左下角设置,模型选择硅基流动填入秘钥 点击下方管理添加DeepSeek-R1模型，这样就配置完成了 我们来用这个24点扑克游戏题验证一下是不是真正的DeepSeek-R1模型
36110编辑于 2025-07-14- 来自专栏机器学习与统计学
大模型解决机器学习问题，实测，DeepSeek-R1 排名第9
结果 该图提供了多个指标下模型性能的全面总结，适用于所有包含任务都有结果的模型。'跨任务平均准确率'列展示了整体平均准确率（粗体数字），它是每个任务的平均最大准确率的平均值。 虽然大多数模型通常只能略好于随机猜测，但最好的模型却能持续表现更好，而且我们几乎达到了90%的最佳得分。 来自“图像块洗牌（简单）”任务的示例数据。 图像块洗牌（简单） 模型必须排列 9 个洗牌的灰度图像块（每个 9x9 像素），以重建原始的 27x27 图像。所有块都保证来自同一张连贯的图像（ 任务提示[6] ）。训练集包含 1000 张图像。 搭建完美的写作环境：工具篇（12 章）图解机器学习 - 中文版（72 张 PNG）ChatGPT 、大模型系列研究报告（50 个 PDF）108页PDF小册子：搭建机器学习开发环境及Python基础 116 task_prompt_shapes_easy.html [5] 任务提示: https://htihle.github.io/prompts/task_prompt_shapes_hard.html [6]
22910编辑于 2025-07-21 - 来自专栏自然语言处理
【HuggingFace项目】：Open-R1 - DeepSeek-R1 大模型开源复现计划
项目链接：https://github.com/huggingface/open-r1 概述 Open-R1 是由 HuggingFace 发布的一个完全开放的项目，旨在通过三个主要步骤复现 DeepSeek-R1 这个项目的目标是让更多人能够理解和使用 DeepSeek-R1 的技术方案，从而推动大模型技术的发展和应用。 项目步骤 知识蒸馏：通过从 DeepSeek-R1 中提取高质量的推理语料，复现 R1-Distill 模型。 支持从蒸馏模型和 DeepSeek-R1 生成数据。 这不仅为研究人员提供了宝贵的技术参考，也为大模型的普及和应用奠定了坚实的基础。
98200编辑于 2025-01-27 - 来自专栏大语言模型
DeepSeek-R1技术突破：纯RL训练竟能激发大模型反思能力？
欢迎关注评论私信交流~在AI领域，大模型的推理能力一直是研究热点。 2025年初，DeepSeek团队发布的R1模型带来了一项令人惊讶的发现：仅通过强化学习(RL)训练，无需监督微调(SFT)，就能让大模型自发产生带有反思的思维链(long CoT)。 从OpenAI o1到DeepSeek-R1的认知转变最初，业界普遍认为像OpenAI o1这样的先进模型需要将推理时扩展(Inference/test-time scaling)和强化学习作为两个独立模块 研究团队仅通过以下简单设置：就观察到了模型行为的惊人进化：随着训练步数增加，回答长度自然增长在某个训练阶段自发出现自我评估行为无需人工标注数据，就能产生结构化推理过程DeepSeek-R1的双阶段训练策略基于 这一发现不仅为大模型训练提供了新思路，也引发了关于"模型自发能力涌现"的深层思考。未来，结合RL与推理时扩展的混合方法，可能会成为大模型发展的主流方向。
31610编辑于 2025-07-10 - 来自专栏自然语言处理
大语言模型简史：从Transformer（2017）到DeepSeek-R1（2025）的进化之路
6. 开源和开放权重模型 (2023–2024) 在2023年至2024年间，开源和开放权重AI模型获得了动力，使先进AI技术的访问民主化。 「系统1」与「系统2」思维 7.1 OpenAI-o1：推理能力的一大飞跃(2024) OpenAI于2024年12月发布的o1模型旨在提高AI的推理能力，特别是在代码生成和调试等复杂任务上表现出色 成本高效的推理模型：DeepSeek-R1 (2025) LLMs通常需要极其庞大的计算资源来进行训练和推理。 DeepSeek-R1 (2025)：代表了成本效率的一大飞跃，DeepSeek-R1利用专家混合架构(MoE)和优化算法，与许多美国模型相比，运营成本降低了多达50倍。 ，并强调了可扩展性、对齐性和可访问性在塑造AI未来中的重要性 原文来自：https://medium.com/@lmpo/%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%
3.4K10编辑于 2025-02-17 大模型的2025：6个关键洞察
以下为卡帕西年度回顾全文：《2025年大语言模型年度回顾》2025年是大语言模型领域大步跨越且充满变数的一年。 通过在数学、代码谜题等大量可自动验证奖励的环境中训练大语言模型，模型会自发形成人类视角下近似“推理”的策略。 Cursor与大语言模型应用的新层级Cursor最引人关注的点（除了其2025年的爆发式增长），在于它清晰揭示了大语言模型应用的一个全新层级，人们开始普遍讨论“某领域的Cursor模式”。 2025 年，行业内围绕这一新应用层的“厚度”展开了大量讨论：大语言模型实验室是否会通吃所有应用场景？还是说垂直领域的大语言模型应用仍有广阔蓝海？ 我个人的观点是，大语言模型实验室更倾向于培育“通识能力极强的大学生”式模型，而大语言模型应用则通过整合私有数据、传感器、执行器及反馈闭环，对这些“大学生”进行针对性组织、微调，最终驱动它们成为特定垂直领域的
57710编辑于 2025-12-24- 来自专栏码农编程进阶笔记
什么是DeepSeek-R1蒸馏模型？
在这篇文章中，我们将深入探讨其他6个蒸馏模型。 什么是蒸馏？ 机器学习（ML）中的模型蒸馏是一种用于将知识从大型复杂模型（通常称为教师模型）转移到较小、更简单模型（称为学生模型）的技术。 您可以在下面的帖子中了解整个过程： 什么是DeepSeek-R1蒸馏模型？ DeepSeek-R1蒸馏模型是通过蒸馏过程创建的较大DeepSeek-R 1模型的更小、更高效的版本。 由于DeepSeek-R1模型的尺寸巨大，即671B个参数，它不可能在消费级设备上运行，因此是蒸馏模型。 6.与RL训练模型的比较： 本文将蒸馏模型与使用大规模RL训练的模型（例如DeepSeek-R1-Zero-Qwen-32B）进行了比较，发现蒸馏通常会以较低的计算成本产生更好的性能。 如何使用DeepSeek-R1蒸馏模型？
1K00编辑于 2025-04-26 - 来自专栏清羽飞扬
windows本地部署DeepSeek-R1模型
好的，下面是一个更加官方且规范的版本： 前期要求 硬件要求 在本地部署DeepSeek-R1模型之前，请确保你的电脑的硬件符合以下要求： 处理器：支持x86_64架构的Intel或AMD处理器。 个人要求 为确保能够顺利完成DeepSeek-R1模型的部署，建议具备以下个人技能： 命令行基础：能够理解并处理命令行中的错误信息，具备基本的调试能力，能够定位并解决常见的配置问题。 首先拉取deepseek的模型，有如下几种选择，请按照电脑要求自行选择： ollama pull deepseek-r1:1.5b # 轻量化选择 ollama pull deepseek-r1: 7b # 单主流GPU选择，主流指30系显卡以上，显存6GB以上 Ollama可以在纯CPU情况下跑，但是速度上会慢很多，所以如果想要尝鲜可以从低配置下开始测试。 我的电脑配置 系统：Windows 10 22H2 专业工作站 CPU：R7-5800H GPU：RTX3060 LAPTOP 显存：6GB 内存：16GB PS：运行7B模型没有压力，没有向上继续测试
1.6K10编辑于 2025-02-09 - 来自专栏灵墨AI探索室
腾讯云 TI 平台部署与调用DeepSeek-R1大模型的实战指南
今天我们将继续探讨如何部署一个私有化的 DeepSeek-R1 大模型，具体的部署过程我们将利用腾讯云的 TI 平台进行操作。 当前，腾讯云 TI 平台为用户提供了免费体验的满血版 DeepSeek-R1 大模型，同时该平台还提供了开放的 API 接口服务，用户可以方便地将其接入到自己的平台中，进行定制化使用。 接下来，我们将深入讲解如何快速实现 DeepSeek-R1 大模型的私有化部署，帮助大家更高效地掌握整个流程，确保能够顺利地将这一先进技术应用到自己的实际场景中。 需要注意的是，算力收费与所选模型的大小并不直接相关，因此你完全可以选择直接部署性能最强的完整版DeepSeek-R1大模型，以获得更强大的计算能力和更高的性能表现。 总结通过本次讨论，我们详细介绍了如何利用腾讯云的 TI 平台完成 DeepSeek-R1 大模型的私有化部署。
1.1K20编辑于 2025-02-05
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号