- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型成长之路
【大模型学习 | DeepSeek-V3原理】
DeepSeek-V3 Technical Report DeepSeek-V3 的基本框架还是 Transformer。 另外，V3 模型是通过将预测多token作为训练目标。本文主要是对DeepSeek-V3的模型框架以及训练目标进行讨论。 什么是负载平衡？ ✅ Yes ✅ 无偏置 目前的模型权重已开源： https://huggingface.co/deepseek-ai/DeepSeek-V3-Base 者由于设备限制无法对 V3模型进行体验。 有兴趣的同学可以自行下载模型权重： mode_name_or_path = '/root/autodl-tmp/deepseek-ai/DeepSeek-V3-Base' tokenizer = AutoTokenizer.from_pretrained
1.5K21编辑于 2025-07-25 - 来自专栏开源项目搭建
简单3步部署本地国产大模型DeepSeek大模型
简单3步部署本地国产大模型DeepSeek大模型DeepSeek是最近非常火的开源大模型，国产大模型 DeepSeek 凭借其优异的性能和对硬件资源的友好性，受到了众多开发者的关注。 无奈，在使用时候deepseek总是提示服务器繁忙，请稍后再试。本文将介绍如何通过简单 3 步在本地部署 DeepSeek 大模型，让你能够轻松体验这一强大的 AI 工具。 GeForce RTX 4070Ti可以运行大模型deepseek-r1的哪个版本的大模型？ 它支持各种LLM，包括Llama 3、Mistral和Gemma。提供了类似OpenAI的API接口和聊天界面,可以非常方便地部署最新版本的GPT模型并通过接口使用。 查看版本信息命令1：ollama version命令2：ollama -v命令3：ollama --version功能：显示当前Ollama工具的版本信息。查看快捷键命令：/?
6.7K33编辑于 2025-02-06 - 来自专栏架构师之路
DeepSeek-V3模型更新，中文能力全面提升！
3月24日，DeepSeek-V3模型进行升级，四项能力全面提升： 1. 推理能力提升，特别是在数学上的能力； 2. 代码能力提升，特别是前端代码； 3. 写作能力提升，特别是中文创作有质的飞跃； DeepSeek的官网Web，APP，小程序均可体验。 划重点：V3模型体验，需要关闭“深度思考”。 一，数学推理能力提升 请证明：素数是无限的。 三，中文搜索能力提升 我要对调研AI大模型市场占用情况，请帮我系统性分析AI大模型产品，特点，用户使用情况（不限于这3点），并输出1000字左右的市场洞察报告，并为我选型AI大模型提供思路。 2025主流AI大模型核心能力对比。 画外音：额，为啥没有DeepSeek？互联网被喂药，搜索结果可信度越来越低了。 AI运用场景分析。 对不同阶段企业的差异化建议。
4.7K21编辑于 2025-03-27 - 来自专栏AI大模型
DeepSeek-V3 模型更新，加量不加价
DeepSeek V3-0324 是 DeepSeek V3 系列的重要升级版本，虽然被官方称为「小版本迭代」，但其在技术能力、开源策略和用户体验上均有显著提升。 版本中的问题大白话总结参数更大：模型体积微涨，但跑得更快更省电，甚至能在家用电脑上运行。 代码更强：现在能自动生成酷炫网页，效果媲美行业顶尖模型，小白也能当程序员。数学更牛：连小学生题都难不倒它，解题速度和正确率大幅提升。免费商用：企业可以随便改、随便用，还能享受夜间低价。 Model Scope: https://modelscope.cn/models/deepseek-ai/DeepSeek-V3-0324Huggingface: https://huggingface.co /deepseek-ai/DeepSeek-V3-0324
43511编辑于 2025-03-26 DeepSeek-V3 模型更新，各项能力全面进阶
DeepSeek-V3模型更新，各项能力全面进阶DeepSeekV3模型已完成小版本升级，目前版本号DeepSeek-V3-0324，用户登录官方网页、APP、小程序进入对话界面后，关闭深度思考即可体验 模型能力提升一览推理任务表现提高新版V3模型借鉴DeepSeek-R1模型训练过程中所使用的强化学习技术，大幅提高了在推理类任务上的表现水平，在数学、代码类相关评测集上取得了超过GPT-4.5的得分成绩 模型开源DeepSeek-V3-0324与之前的DeepSeek-V3使用同样的base模型，仅改进了后训练方法。 V3-0324模型权重下载请参考：ModelScope:https://modelscope.cn/models/deepseek-ai/DeepSeek-V3-0324Huggingface:https ://huggingface.co/deepseek-ai/DeepSeek-V3-0324与DeepSeek-R1保持一致，此次我们的开源仓库（包括模型权重）统一采用MITLicense，并允许用户利用模型输出
11110编辑于 2026-05-27- 来自专栏信创系统开发
deepseek 模型 V3 和 R1 的区别
不过，我在访问官网时发现，在 DeepSeek 的官网上，展示的模型是 V3： 然而，真正让 DeepSeek 声名大噪的，却是 R1 这一模型。根据发布记录，V3 要早于 R1 发布。 DeepSeek V3：通用的自然语言处理模型 DeepSeek V3 采用混合专家（MoE）架构，主要面向自然语言处理（NLP）任务，旨在提供高效、可扩展的解决方案。 模型架构解析 DeepSeek V3：混合专家（MoE）架构 DeepSeek V3 采用混合专家（Mixture-of-Experts, MoE）架构，这一设计极大地提升了大型语言模型的计算效率和性能 动态负载均衡： 传统 MoE 模型通常依赖辅助损失来平衡负载，而 DeepSeek V3 采用动态偏差调整策略，确保不同专家的计算资源利用均衡，提高可扩展性和稳定性。 结语 DeepSeek V3 和 R1 各自擅长不同的任务领域： DeepSeek V3 作为一个通用 NLP 模型，适用于广泛的应用场景，能够高效处理各种文本生成、摘要和对话任务。
11.9K191编辑于 2025-02-05 - 来自专栏算法一只狗
o3-mini和DeepSeek-R1模型对比
图片 这次最重要的一点是，o3-mini在更强的效果下，推理速度比o1模型要快。o3-mini 在中等推理强度下展现出更优异的表现。 图片 那么这次OpenAI这么快推出o3-mini，主要就是为了应对DeepSeek-R1推理模型。 那么这两个模型的能力到底怎么样呢？ 在整体的评分上来看，o3-mini和DeepSeek R1评分一样，出于不相上下阶段 图片 而o3-mini模型应该更小，主打的是低延迟，在推理速度上比DeepSeek R1有明显优势，大约输出tokens 图片 从整体价格上，o3-mini的价格已经和DeepSeek-R1价格相当了，同时比o1模型的价格便宜了13倍以上，确实优化得还不错。 图片 从上面三个维度来看，这两个模型其实能力差不多。 但是DeepSeek能够一下子追上大模型的天花板，确实令人惊讶。希望下一个推理大模型，DeepSeek能够正式追上并超越o3模型，做到行业的天花板～
3K21编辑于 2025-02-05 - 来自专栏人工智能
DeepSeek 主要模型介绍
前言DeepSeek 系列模型涵盖了从通用语言模型到特定领域应用的模型。每一代模型设计的特点都不一样。本文将介绍 DeepSeek 系列的主要模型及其特点。准备好了吗？ DeepSeek-R1DeepSeek-R1 在后训练阶段大规模使用了强化学习技术，在仅有极少标注数据的情况下，极大提升了模型推理能力。 DeepSeek-CoderDeepSeek-Coder 是一个高性能的代码生成模型，旨在提升软件开发过程中的自动化程度和效率。 DeepSeek-V3DeepSeek-V3 是深度求索公司推出的第三代大规模混合专家（MoE），是当前语言模型领域的顶尖代表之一。 主要特点：混合专家架构（MoE）优化：DeepSeek-V3 采用最新的 MoE 架构，通过动态路由机制实现专家选择的高效性与准确性。
1.3K75编辑于 2025-03-27 - 来自专栏大模型系列
DeepSeek模型本地化部署的技术挑战全景解析-DeepSeek-V3R1
DeepSeek系列模型，尤其是其2025年发布的V3（1.75T参数）与R1（强化推理版），虽性能卓越，但其庞大的参数量与复杂的架构对本地部署提出了前所未有的挑战。 一、算力瓶颈：GPU资源的极限挑战1.1参数规模与显存需求的矛盾DeepSeek模型的参数规模呈指数级增长：DeepSeek-LLM-7B：约14GBFP16显存DeepSeek-MoE-16B：总参数 16B，但激活参数约2.7B，显存需求~18GBDeepSeek-V3：1.75万亿参数，即使采用MoE架构，单次推理激活参数也达数百亿核心矛盾：消费级GPU（如RTX4090，24GB显存）无法直接加载高参数模型 二、存储与I/O：海量数据的吞吐困境2.1模型加载延迟挑战5：模型文件体积庞大DeepSeek-V3MoE模型：磁盘占用超1TB。 ModelScope：阿里推出的模型开放平台，提供DeepSeek一键部署模板。愿景：未来部署大模型将如安装APP般简单。9.3绿色AI挑战：大模型能耗问题日益突出。
57720编辑于 2026-04-05 - 来自专栏快乐阿超
DeepSeek-V3
DeepSeek-V3不仅支持传统的文本检索，还能通过深度学习模型实现跨模态搜索，广泛应用于企业知识库、内容推荐和数据挖掘等领域。 可扩展性 DeepSeek-V3 提供了模块化设计，方便用户根据自己的需求添加或替换模型。同时支持分布式部署，可以扩展到海量数据场景。 高级功能 模型定制化 用户可以加载自己的预训练模型或者通过Fine-Tuning对DeepSeek-V3进行定制化训练。 跨语言检索 通过加载多语言模型，DeepSeek-V3 支持不同语言间的搜索需求，比如用英文查询中文内容。 自定义开发 DeepSeek-V3 的模块化设计允许开发者在以下几个方面进行自定义： 模型扩展：将自己的深度学习模型集成到框架中。
5.2K50编辑于 2024-12-31 - 来自专栏Web大前端
深度剖析DeepSeek-V3模型：AI 领域的“国货之光”
DeepSeek-V3 模型登场，AI 江湖风云再起 当今时代，AI 领域可谓是风起云涌，各大模型你方唱罢我登场，竞争进入白热化阶段。 编程能力更是 DeepSeek-V3 模型的一大亮点，仿佛一位经验丰富的程序员，精通多种编程语言。 在售价方面，DeepSeek-V3 模型同样亲民。 展望未来，DeepSeek-V3 模型的应用前景更是广阔无垠。 在面对极其复杂、专业性极强的任务时，DeepSeek-V3 模型偶尔也会 “力不从心”。
2.4K10编辑于 2024-12-30 - 来自专栏贾志刚-OpenCV学堂
刷爆榜单 | DeepSeek-AI发布3B OCR模型
DeepSeek-AI 发布了 3B DeepSeek-OCR，这是一个端到端的 OCR 和文档解析视觉语言模型 （VLM） 系统，可将长文本压缩成一小组视觉标记，然后使用语言模型解码这些标记。 架构 DeepSeek-OCR-3B是典型的VLM模型、它有两个组件，一个名为 DeepEncoder 的视觉编码器和一个名为 DeepSeek3B-MoE-A570M 的 Mixed of Experts 解码器是一个 3B 参数的 MoE 模型（名为 DeepSeek3B-MoE-A570M），每个 token 的活动参数约为 570M。 3. 系统结构是将页面压缩为视觉令牌的 DeepEncoder 和具有约 570M 活动参数的 DeepSeek3B MoE 解码器，正如研究团队在技术报告中所描述的那样。 0.20.3 Flash Attention 2.7.3 DeepSeek-OCR 不仅仅是另一个 OCR 工具，它还是一种视觉语言模型 （VLM），旨在解决传统文档处理的最大痛点：过多的令牌使用、推理缓慢以及对布局或复杂内容
18210编辑于 2026-04-02 - 来自专栏人工智能
DeepSeek v3 的 MoE 模型架构与激活参数解析
本文将深入探讨 DeepSeek v3 这一模型的独特之处——其被描述为一个拥有 671B 参数的 MoE（Mixture of Experts）模型，其中 37B 参数在推理过程中被激活。 一个普通的深度学习模型可能相当于只有几个乐器的小型乐队，而拥有 671B 参数的 DeepSeek v3 则类似于拥有上千种乐器的大型交响乐团。 671B 参数和 37B 激活参数的关系DeepSeek v3 拥有 671B 的总参数量，但每次推理过程中仅激活 37B 参数。这种设计的优势在于减少计算成本，同时保持高效的性能。 实例分析：假设 DeepSeek v3 包含 10 个专家模块，每个模块有 67.1B 参数。 总结DeepSeek v3 的 671B 参数代表其潜在的计算能力，而 37B 激活参数体现了其高效的计算机制。
3.7K11编辑于 2025-01-12 - 来自专栏AgenticAI
刚刚DeepSeek开源新模型DeepSeek-OCR
就在3个小时前，DeepSeek突然在HuggingFace上传新模型DeepSeek-OCR，一个只有3B大小的文档解析新模型，该模型的目标是探索视觉文本压缩的边界。 在生产环境中，DeepSeek-OCR能够以单个A100-40G GPU的计算能力，每天生成 200k+ 页的训练数据，供大语言模型或视觉语言模型使用。 该模型是一个以LLM视角探索研究视觉编码器作用的模型，性能强悍，编辑距离越小越好，看起来和dots.ocr不相上下。 深感数据量不够，于是顺手训练了一个自己的文档解析模型来扩充自己的数据？ 模型地址：https://huggingface.co/deepseek-ai/DeepSeek-OCR
50010编辑于 2025-11-29 - 来自专栏运维小路
DeepSeek-模型(model)介绍
国产大模型DeepSeek之所以火爆，就是因为他用很小的代价(500W+美元)训练出来的模型达到了ChatGPT等闭源模型的性能。而DeepSeek把训练的模型开源并且允许商用。 目前国内很多厂商都使用DeepSeek的671B模型搭建了模型来供普通用户使用。 注：这里的B指出的是参数，参数越大，代表能力越强，一个B代表10亿参数。 推理模型 推理模型是指训练完成后，模型应用阶段的过程。此时模型参数已固定，用于对新的输入数据（未见过的数据）进行预测或分类。包括我们前面搭建的所有大模型都是使用DeepSeek开源的模型搭建的。 蒸馏模型 DeepSeek到目前为止开源的的模型有多个，其中最火爆DeepSeek-R1,因为他不仅发布了671B的满血版，还发布了蒸馏版。 vllm运行deepseek-ai/DeepSeek-R1-Distill-Qwen-14B和deepseek-ai/DeepSeek-R1-Distill-Qwen-32B模型，显存占用都是到116G
1K10编辑于 2025-03-10 - 来自专栏程序小小事
DeepSeek-V3-0324 在 GitHub Models模型中正式发布！
DeepSeek-V3-0324 现已在 GitHub Models 上提供。 DeepSeek-V3-0324 是一个 671B 参数专家混合 （MoE） 模型，在其前身 DeepSeek-V3 的基础上构建了显著的更新。 这次更新包括增强的推理能力和改进的函数调用准确性。 该模型在中文写作能力方面也表现出色，并包括中文的高级搜索功能。 注意：DeepSeek-V3 将于 2025 年 4 月 11 日星期五弃用。 建议过渡到 DeepSeek-V3-0324 以充分利用其增强功能。 在 Playground 中或通过 GitHub API 免费试用、比较和实现。 也可以使用 GitHub 模型中的并排比较将其与其他模型进行比较。
40510编辑于 2025-04-13 - 来自专栏openclaw系列
如何评估DeepSeek模型的性价比？——DeepSeek性价比评估手册
但热潮之下，一个关键问题亟待解答：如何科学、全面地评估DeepSeek模型的性价比？本文旨在破解这一难题。 开发团队：需2-3名AI工程师进行业务对接与微调。对比：使用API方案可节省人力，但牺牲了定制化与数据控制权。2.2.3升级与维护开源模型：可自由升级至最新版本，但需自行测试兼容性。 9.2模型效率革命MoE架构：DeepSeek-MoE用20%的激活参数实现100%的性能。4-bit量化：RTX4090可流畅运行7B模型，硬件门槛大幅降低。 参考资料：恒生电子《光子大模型一体机DeepSeek版白皮书》中信证券《DeepSeek下一代新模型有望延续高性价比开源模型路线》百度智能云《如何评估DeepSeek模型在实际项目中的性能？》 CSDN《DeepSeek结合2026算力趋势优化金融风控模型实战》重庆农商行官方新闻稿《成功实现DeepSeek模型的部署应用》
46520编辑于 2026-04-05 Google 发布最新开源模型 Gemma 3 性能超越DeepSeek-V3 为全球第二强开源模型
Google 发布其开源模型系列最新模型 Gemma 3Gemma 3 是一个高性能、可移植的轻量级 AI 模型，适用于单 GPU 或 TPU 部署，支持多语言和复杂任务。 Gemma 3 相比其他模型的优势Gemma 3 在多个 AI 评测榜单上超越了 Llama 3-8B、DeepSeek-V3、Mistral 7B，并且能够在单 GPU 上运行。 竞技场排名Gemma-3-27B 综合排名前 10超越许多仅有 27B 参数的专有模型是第二佳开源模型，仅次于 DeepSeek-R1主要特点Gemma 3 在性能、功能和适用性上带来显著提升，以下是核心亮点 Gemma 3 27B 仅需 1 张 NVIDIA H100 GPU 即可运行，相比其他模型（如 Llama 3 70B）所需的 32 张 H100，计算成本大幅降低。 相关链接官方介绍：https://blog.google/technology/developers/gemma-3模型下载：https://huggingface.co/collections/google
2K30编辑于 2025-03-13DeepSeek模型：原理、回答机制与模型因子
随着大语言模型（LLM）的快速发展，DeepSeek作为一款领先的开源大模型，以其卓越的性能和广泛的应用场景吸引了众多开发者和研究者的关注。 本文将深入探讨DeepSeek的工作原理、回答生成机制以及其关键模型因子，并通过表格和流程图的形式进行对比分析。 一、DeepSeek的工作原理DeepSeek是一种基于Transformer架构的大语言模型，其核心设计借鉴了GPT系列模型的成功经验，同时在训练数据、模型架构和优化策略上进行了创新。 三、DeepSeek的关键模型因子DeepSeek的表现不仅取决于其架构设计，还受到多个模型因子的影响。 以下是几个关键的模型因子及其作用：四、与其他模型的对比分析为了更好地理解DeepSeek的特点，我们将其与其他主流大语言模型（如GPT-4、Llama2）进行对比：从表中可以看出，DeepSeek在开源性
2.7K10编辑于 2025-03-20- 来自专栏小陈运维
使用Ollama部署deepseek大模型
使用Ollama部署deepseek大模型 前置条件 使用英伟达显卡下载cuda驱动 https://developer.nvidia.com/cuda-downloads Ollama Ollama 模型，也可以启动他的模型 https://ollama.com/search # 模型的安装命令 # 1.5B Qwen DeepSeek R1 # 所需空间大约 1.1G ollama run deepseek-r1:1.5b # 7B Qwen DeepSeek R1 # 所需空间大约 4.7G ollama run deepseek-r1:7b # 8B Llama DeepSeek R1 # 所需空间大约 4.9G ollama run deepseek-r1:8b # 14B Qwen DeepSeek R1 # 所需空间大约 9G ollama run deepseek-r1 open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda 3.
2.8K20编辑于 2025-02-04
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号