- 综合排序
- 最热优先
- 最新优先
- 来自专栏全栈开发日记
本地部署DeepSeek-R1大模型
从安装到API调用全流程指南 想不依赖网络、零门槛运行AI大模型？Ollama帮你轻松实现！ 一、准备工作：安装Ollama Ollama是一个轻量级工具，支持在本地一键运行大模型（如Llama、DeepSeek等），无需复杂配置。 1. 下载DeepSeek模型 （根据需求选择模型版本，如deepseek-r1:7b、deepseek-math-7b等） ollama pull deepseek-r1:7b 注：首次下载需等待模型文件拉取 启动模型服务 （根据需求选择模型版本，如deepseek-r1:7b、deepseek-math-7b等） ollama run deepseek-r1:7b • 看到 >>> Send a message • 回复速度慢：关闭其他占用显存的程序，或尝试更小规模的模型（如deepseek-7b）。 通过Ollama，DeepSeek大模型的部署和调用变得前所未有的简单！
2.5K10编辑于 2025-02-10 - 来自专栏灵墨AI探索室
快速入门 DeepSeek-R1 大模型
国内最新的神级人工智能模型已经正式发布，没错，它就是备受瞩目的DeepSeek-R1大模型。今天，我们将对DeepSeek进行一个简单的了解，并探索如何快速使用和部署这个强大的工具。 ，model='deepseek-reasoner'才是DeepSeek-R1大模型。 ollama run deepseek-r1 当然，你可以选择启动的模型参数。 :14bollama run deepseek-r1:32bollama run deepseek-r1:70b 参数越大，模型效果越好。 总结 总之，DeepSeek-R1大模型凭借其强大的性能和开源优势，为开发者带来了前所未有的机遇。无论是通过API快速接入，还是借助Ollama在本地部署，都能轻松实现智能化升级。
1.7K30编辑于 2025-02-04 - 来自专栏Dance with GenAI
图解DeepSeek-R1大模型—推理型大语言模型（LLM）的训练秘密
本文目录： ●大型语言模型（LLM）训练方式回顾 ●DeepSeek-R1 训练配方 ●1 - 长推理链监督式微调（SFT）数据 ●2 - 一个中期高质量推理 LLM（但在非推理任务上表现较差）。 ●DeepSeek-R1 训练配方 DeepSeek-R1 遵循这一通用配方。第一步的详细信息来自之前关于 DeepSeek-V3 模型的论文。 冷启动：与 DeepSeek-R1-Zero 不同，为了防止从基础模型开始的 RL 训练的早期不稳定冷启动阶段，对于 DeepSeek-R1，我们构建并收集了一小部分长推理链数据，以微调模型作为初始 RL ●模型架构 与 GPT2 和 GPT 3 问世之初的模型一样，DeepSeek-R1 是一堆 Transformer 解码器块。它由 61 个这样的块组成。 》 至此，你应该已经掌握了围绕 DeepSeek-R1 模型的主要训练方法
1.5K20编辑于 2025-02-07 - 来自专栏山河已无恙
如何高效使用DeepSeek-R1：推理大模型调优指南
^_^ 如何高效使用DeepSeek-R1：推理大模型提示工程调优指南 LLM 中 DeepSeek-R1 与传统非推理模型的交互方式存在本质差异。 但与通用大模型不同，推理型模型需要特殊的交互策略，博文内容列举几个常见的优化手段，帮助开发者构建高效的交互范式。 Python函数实现Web服务器访问日志的异常检测功能，要求包含时间戳解析模块" 这一点和传统的 LLM 区别很大，传统的提示词模板中一般包含(不是必须包含)以下3个元素: 明确的指令:这些指令可以指导大语言模型理解用户的需求 ，并按照特定的方式进行回应，比如 你是一个技术博主 少量示例: 这些示例可以帮助大语言模型更好地理解任务，并生成更准确的响应，{Q：分布式锁实现方式有哪些？ 用户输人:用户的输人可以直接引导大语言模型生成特定的答案,用户输入的问题 {QUESTION} 高级交互 数学推理增强模式 要求：请通过逐步推导证明勾股定理，并将最终答案用Latex公式框起 示例响应：
97710编辑于 2025-03-04 - 来自专栏AI粉嫩特攻队
在windows主机本地快速部署使用deepseek-r1大模型
简介 Ollama（用于下载和启动大模型） Ollama 专注于本地大型语言模型（LLM）的快速、极简安装和使用，例如 LLaMA 3.3 和 DeepSeek-R1。 由于大模型的文件都非常大，比如我们将要部署的模型文件大小就为9G左右，所以建议选择的路径所在的磁盘空间要比较大一些。 5.上述过程完成后，打开powershell命令行工具，执行如下命令下载deepseek-r1:14b大模型，模型文件较大，需要等待一定时间。 （可能是因为本地提前启动了ollama,毕竟open webui以前叫ollama webui嘛~） 使用Open WebUI 向指定大模型提问 笔者是24g显存的显卡，所以部署的是32b的deepseek-r1 直接在输入框输入你的问题，点击发送即可，可能会等待10到15秒时间给出回复。
1K10编辑于 2025-05-15 - 来自专栏人工智能应用
如何在电脑上部署DeepSeek-r1大模型来使用
DeepSeek作为国产AI大模型之光，为什么得到国内外超2千万用户的认可，因为它对GPU要求配置低，大部分电脑都支持独立部署使用，且DeepSeek能力卓越，在推理能力、数学、代码和语音处理方面直逼ChatGPT4.0 本期小白教程，轻松给你电脑安装上DeepSeek-r1大模型，在自己的电脑上使用DeepSeek-r1，反应很快还免费。 要求Windows10系统以上。（下载慢或者下载不下来的小伙伴可以找作者要安装包。） 安装中...... ollama安装好了 第2步：运行DeepSeek模型 进入 ollama 的 deepseek-r1 介绍页面 根据自己的硬件情况，选择一个合适的版本，复制命令到cmd运行即可（建议32b及以上） 复制 运行完命令可在控制台直接对话，如下图（Windows），linux同样的命令： 这样你可以在自己本地的电脑上独立使用DeepSeek-r1大模型了。
92810编辑于 2025-02-07 - 来自专栏深度学习和计算机视觉
最新「大模型简史」整理！从Transformer（2017）到DeepSeek-R1（2025）
「系统1」与「系统2」思维 7.1 OpenAI-o1：推理能力的一大飞跃(2024) 2024年9月12日，OpenAI发布的o1-preview标志着人工智能能力的重大飞跃，尤其是在解决复杂推理任务 成本高效的推理模型：DeepSeek-R1 (2025) LLMs通常需要极其庞大的计算资源来进行训练和推理。 这些模型使用原始DeepSeek-R1生成的合成数据进行微调，确保在推理任务中表现出色，同时足够轻量化以便本地部署。 DeepSeek 蒸馏DeepSeek模型 DeepSeek-R1在各种基准测试中表现出竞争力，包括数学、编码、常识和写作。 DeepSeek-R1 (2025)：代表了成本效率的一大飞跃，DeepSeek-R1利用专家混合架构(MoE)和优化算法，与许多美国模型相比，运营成本降低了多达50倍。
4.6K10编辑于 2025-03-06 - 来自专栏腾讯云原生团队
在 TKE 上部署 AI 大模型（以 DeepSeek-R1 为例）
概述 本文介绍如何在 TKE 上部署 AI 大模型，以 DeepSeek-R1 为例，使用 Ollama 或 vLLM 运行大模型并暴露 API，然后使用 OpenWebUI 提供交互界面。 ，可以看成是大模型领域的 Docker，可以下载所需的大模型并暴露 Ollama API，极大的简化了大模型的部署。 AI 大模型数据如何存储？ vLLM 的镜像执行一个脚本去下载我们需要的 AI 大模型，本例中下载的是 DeepSeek-R1 的模型，修改 LLM_MODEL 以替换大语言模型。 如果希望大模型跑在超级节点，需通过 Pod 注解 eks.tke.cloud.tencent.com/gpu-type 指定 GPU 类型，可选 V100、T4、A10*PNV4、A10*GNV4，具体可参考
1.3K10编辑于 2025-02-18 - 来自专栏小陈运维
使用 HAI 一键上云部署 Deepseek-R1 大模型
背景DeepSeek-R1 是中国人工智能初创企业 DeepSeek 推出的一款以“推理”能力为核心的开源大语言模型。 Ollama是一个开源的大模型管理工具，提供了丰富的功能，包括模型的训练、部署、监控等。我这里选择了俩张 GPU 卡的环境。选好之后点击“立即购买”即可。 腾讯云的 HAI 每台实例免费提供500GB流量包，默认10Mbps带宽。等待环境创建完毕即可。登录环境在创建完毕后，可以修改一下 root 密码。 运行其他参数的 DeepSeek可以通过这些命令运行不同参数的大模型环境。 deepseek-r1:671b使用社区模型腾讯云的 HAI 自带了很多模型，也可以在“社区应用”中选择 DeepSeek 大模型，这样即可开箱即用。
99350编辑于 2025-02-07 免费使用DeepSeek-R1模型？？？
我们可以使用硅基流动作为临时通道，用户可通过该平台稳定调用DeepSeek R1模型。 我这里不演示了） 进入软件点击左下角设置,模型选择硅基流动填入秘钥 点击下方管理添加DeepSeek-R1模型，这样就配置完成了 我们来用这个24点扑克游戏题验证一下是不是真正的DeepSeek-R1模型
36110编辑于 2025-07-14- 来自专栏机器学习与统计学
大模型解决机器学习问题，实测，DeepSeek-R1 排名第9
结果 该图提供了多个指标下模型性能的全面总结，适用于所有包含任务都有结果的模型。'跨任务平均准确率'列展示了整体平均准确率（粗体数字），它是每个任务的平均最大准确率的平均值。 代码长度（行数）'列展示了每个模型生成的 Python 代码长度的分布情况，粗实线覆盖第 10 百分位到第 90 百分位，垂直线表示中位数行数。 在这个任务中，模型需要找到一种方法来编码数据，使得这种编码对点的排列变化具有不变性。形状上的点分布差异很大，因此模型需要结合来自多个点的信息来做出一个好的预测。 虽然大多数模型通常只能略好于随机猜测，但最好的模型却能持续表现更好，而且我们几乎达到了90%的最佳得分。 来自“图像块洗牌（简单）”任务的示例数据。 搭建完美的写作环境：工具篇（12 章）图解机器学习 - 中文版（72 张 PNG）ChatGPT 、大模型系列研究报告（50 个 PDF）108页PDF小册子：搭建机器学习开发环境及Python基础 116
22910编辑于 2025-07-21 - 来自专栏自然语言处理
【HuggingFace项目】：Open-R1 - DeepSeek-R1 大模型开源复现计划
这个项目的目标是让更多人能够理解和使用 DeepSeek-R1 的技术方案，从而推动大模型技术的发展和应用。 项目步骤 知识蒸馏：通过从 DeepSeek-R1 中提取高质量的推理语料，复现 R1-Distill 模型。 \ --per_device_train_batch_size 1 \ --gradient_accumulation_steps 16 \ --logging_steps 10 支持从蒸馏模型和 DeepSeek-R1 生成数据。 这不仅为研究人员提供了宝贵的技术参考，也为大模型的普及和应用奠定了坚实的基础。
98200编辑于 2025-01-27 - 来自专栏技术趋势
windows10搭建llama大模型
背景 随着人工时代的到来及日渐成熟，大模型已慢慢普及，可以为开发与生活提供一定的帮助及提升工作及生产效率。所以在新的时代对于开发者来说需要主动拥抱变化，主动成长。 LLAMA介绍 llama全称：Large Language Model Meta AI是由meta（原facebook）开源的一个聊天对话大模型。 ~all~sobaiduend~default-1-106591160-null-null.142^v88^control,239^v2^insert_chatgpt&utm_term=windows10% Linux图： 下载羊驼模型（有点大） 先建一个文件夹：path_to_original_llama_root_dir 在里面再建一个7B文件夹并把tokenizer.model挪进来。 -f prompts/alpaca.txt -ins -c 2048 --temp 0.2 -n 256 --repeat_penalty 1.3 结果 最后 我知道很多同学可能觉得学习大模型需要懂
1.5K30编辑于 2023-09-12 - 来自专栏大语言模型
DeepSeek-R1技术突破：纯RL训练竟能激发大模型反思能力？
欢迎关注评论私信交流~在AI领域，大模型的推理能力一直是研究热点。 2025年初，DeepSeek团队发布的R1模型带来了一项令人惊讶的发现：仅通过强化学习(RL)训练，无需监督微调(SFT)，就能让大模型自发产生带有反思的思维链(long CoT)。 从OpenAI o1到DeepSeek-R1的认知转变最初，业界普遍认为像OpenAI o1这样的先进模型需要将推理时扩展(Inference/test-time scaling)和强化学习作为两个独立模块 研究团队仅通过以下简单设置：就观察到了模型行为的惊人进化：随着训练步数增加，回答长度自然增长在某个训练阶段自发出现自我评估行为无需人工标注数据，就能产生结构化推理过程DeepSeek-R1的双阶段训练策略基于 这一发现不仅为大模型训练提供了新思路，也引发了关于"模型自发能力涌现"的深层思考。未来，结合RL与推理时扩展的混合方法，可能会成为大模型发展的主流方向。
31610编辑于 2025-07-10 - 来自专栏自然语言处理
大语言模型简史：从Transformer（2017）到DeepSeek-R1（2025）的进化之路
2025年初，中国推出了具有开创性且高性价比的「大型语言模型」（Large Language Model — LLM）DeepSeek-R1，引发了AI的巨大变革。 「系统1」与「系统2」思维 7.1 OpenAI-o1：推理能力的一大飞跃(2024) OpenAI于2024年12月发布的o1模型旨在提高AI的推理能力，特别是在代码生成和调试等复杂任务上表现出色 成本高效的推理模型：DeepSeek-R1 (2025) LLMs通常需要极其庞大的计算资源来进行训练和推理。 这些模型使用原始DeepSeek-R1生成的合成数据进行微调，确保在推理任务中表现出色，同时足够轻量化以便本地部署。 DeepSeek-R1 (2025)：代表了成本效率的一大飞跃，DeepSeek-R1利用专家混合架构(MoE)和优化算法，与许多美国模型相比，运营成本降低了多达50倍。
3.4K10编辑于 2025-02-17 - 来自专栏码农编程进阶笔记
什么是DeepSeek-R1蒸馏模型？
您可以在下面的帖子中了解整个过程： 什么是DeepSeek-R1蒸馏模型？ DeepSeek-R1蒸馏模型是通过蒸馏过程创建的较大DeepSeek-R 1模型的更小、更高效的版本。 由于DeepSeek-R1模型的尺寸巨大，即671B个参数，它不可能在消费级设备上运行，因此是蒸馏模型。 蒸馏模型旨在保留DeepSeek-R1发现的强大推理模式，即使它们的参数较少。 5.蒸馏模型的优点： 效率：蒸馏模型比原始DeepSeek-R1更小，计算效率更高，使其更容易在资源受限的环境中部署。 如何使用DeepSeek-R1蒸馏模型？
1K00编辑于 2025-04-26 - 来自专栏清羽飞扬
windows本地部署DeepSeek-R1模型
存储空间：至少10GB的可用存储空间，推荐使用固态硬盘（SSD）以提供更快的数据读写速度。 软件要求 请确保您的系统安装并配置了以下软件环境： 操作系统：Windows 10或更高版本（64位），以确保与Ollama工具的兼容性。 Ollama：本项目采用Ollama进行模型部署。 个人要求 为确保能够顺利完成DeepSeek-R1模型的部署，建议具备以下个人技能： 命令行基础：能够理解并处理命令行中的错误信息，具备基本的调试能力，能够定位并解决常见的配置问题。 首先拉取deepseek的模型，有如下几种选择，请按照电脑要求自行选择： ollama pull deepseek-r1:1.5b # 轻量化选择 ollama pull deepseek-r1: 我的电脑配置 系统：Windows 10 22H2 专业工作站 CPU：R7-5800H GPU：RTX3060 LAPTOP 显存：6GB 内存：16GB PS：运行7B模型没有压力，没有向上继续测试
1.6K10编辑于 2025-02-09 - 来自专栏喔家ArchiSelf
大模型应用设计的10个思考
技术不是万能的，但没有技术却可能是万万不能的，对于大模型可能也是如此。 基于大模型的应用设计需要聚焦于所解决的问题，在自然语言处理领域，大模型本身在一定程度上只是将各种NLP任务统一成了sequence 到 sequence 的模型。 利用大模型， 我们是在解决具体的生产和生活中的问题，产品和技术上的设计仍然不可或缺。 那么，如果大模型正在重新构建软件工程的未来，我们是否应该遵循一些基本原则呢？ 1. 因此，只要我们对模型进行适当的控制和引导，它就能成为我们工作中得力的“助手”。而这种控制的基础，就是我们对模型内部机制和特点的深入了解和掌握。 10. 因此，我们在使用大模型时，应该保持理性和谨慎的态度，既要欣赏它们所带来的便利和进步，也要警惕它们的局限性和潜在风险。这样，才能更好地利用这些模型，推动基于大模型应用的健康发展。
61310编辑于 2023-12-04 - 来自专栏喔家ArchiSelf
大模型应用的10个架构挑战
基于笔者近年来的探索与实践，这里列举了面向大模型应用系统架构设计的10个挑战。 1. 生产环境的挑战——推理框架的选择 对于大模型应用而言，生成环境的运行时是一个推理架构。 大模型应用需要一个针对产品级大型语言模型的高效管理系统。 尽管我们已经有了一些探索，例如《大模型应用的10个架构模式》(https://mp.weixin.qq.com/s? 适用性挑战——大模型的应用边界 大模型在人工智能领域确实展现出了强大的能力，它们在各种控制平面和应用场景中都发挥着重要作用。然而，尽管大模型的应用范围广泛，但并不意味着它们是无所不能的。 虽然大模型在人工智能领域具有广泛的应用前景，但并不是所有场景都适合使用大模型。在设计系统架构时，我们需要根据具体需求和技术挑战来判断是否需要引入大模型，以确保系统的高效性和可靠性。 10.
1.2K10编辑于 2024-12-24 - 来自专栏机器学习/数据可视化
机器学习分类模型10大评价指标
公众号：尤而小屋作者：Peter编辑：Peter大家好，我是Peter~机器学习分类模型的评价指标是在衡量模型在未知数据集上的性能表现，通常基于混淆矩阵和相关的评价指标。 样本的真实类别是负类，但模型将其识别为正类。True Negative（TN）：真负类。样本的真实类别是负类，并且模型将其识别为负类。 ，精确率越高，表示模型越好。 ，也就是说精确率是模型在某个类别上的判断。 下图是来自维基百科对ROC-AUC的解释：图片通过对分类阈值$\theta$（默认情况下是0.5，范围是0到1）从大到小或者从小到大排列，就可以得到多组TPR和FPR的取值，在二维坐标系中绘制出来就可以得到一条
1.5K10编辑于 2023-10-13
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号