- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI掘金志
华为AI存储「求解」大模型
存储厂商谁能抢先解耦大模型训练的痛点，谁就能占据高地，成为第一个吃螃蟹的人。 作者 | 南书 编辑 | 余快 比起大模型前台的火热，人们的注意力很少关注到产业链上游。 如今，国内千行百业涌起大模型热潮，进入“群魔共舞”时代，谁能做出中国版的ChatGPT尚且未知。 但训练大模型所需要的GPU和存储器，却迎来了一次新的扩容机会。 与数据相伴相生的存储器，在大模型的推动下，也正迎来一次技术革命和市场跃迁。 站在微观角度，企业研发大模型要经过以下几个阶段：数据归集、数据预处理、模型训练、推理应用，每个阶段都离不开存储。 在数据归集阶段，大模型所需要的数据量大且种类繁多。 OceanStor A310 是一款深度学习数据湖存储产品，可以为企业训练大模型提供从“数据归集、预处理到模型训练、推理”的存储支撑。
49930编辑于 2023-08-26 - 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（十六）：safetensors存储类型
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 二、safetensors库 2.1 概述 safetensors是一个库，旨在安全地存储和加载机器学习模型的权重，特别是针对PyTorch模型。它通过加密和验证模型数据来增强安全性，防止数据篡改。 () # 保存模型到safetensors格式 save_file(model_state_dict, "model.safetensors") 对应的pytorch保存模型的方法 # 保存模型状态字典 .pth文件不同，它提供了额外的安全特性，特别是在模型的分发和共享方面 三、总结 本篇内容展示了如何使用safetensors库，主要功能旨在安全地存储和加载机器学习模型的权重，特别是针对PyTorch 模型。
4.4K10编辑于 2024-08-13 这届存储，为大模型而生！
大模型需要能打的算力和网络，还需要能打的存储。据测算，数据存储约占大模型训练整体工程量的20-30%。随着更多AIGC的产生，这个比例还在继续提升。今天，更适合大模型的云存储，来了！ 腾讯云的最新云存储解决方案，主打三个关键点：//更全面：覆盖大模型数据采集与清洗、模型训练、模型推理和内容治理等全流程的数据处理。//更能打：大模型数据清洗和训练耗时缩短一半。 - 模型训练环节：腾讯云高性能并行文件存储CFS Turbo，拥有四大核心技术，让GPU不会闲下来——1、并行客户端：支持一个客户端同时和多个服务端通过N条链路传输，提升访问速率（好比仓库开了多扇门，客户自己从仓库取货 目前，80%的头部大模型企业选择了这套云存储解决方案，包括右脑科技、百川智能、智谱、元象等明星大模型企业。 此前，腾讯云已经推出了大模型训练集群HCC、向量数据库、以及行业大模型服务MaaS等大模型全链路云服务。大模型将开创下一代云服务，我们也将继续为大模型加速落地，铺好路，架好桥。
71110编辑于 2024-04-08- 来自专栏SDNLAB
2018年企业存储的7大趋势
百分之五十五的受访者认为这是三大因素之一，远远超过了整合云服务的需求。ESG高级分析师Scott Sinclair在接受采访时表示，组织一直在处理数据快速增长的问题，但正在接近临界点。 当被问及他们主动管理多少数据存储时，51%的受访者表示在1 TB到99 TB之间。9%的受访者表示，他们主动管理的数据超过1 PB的存储。 在存储上的投入 ? 其中有超过一半的受访者表示计划在2018年增加存储方面的支出，其中22%的受访者表示他们的存储预算将增长超过10%，38%的受访者预测他们的存储预算将保持平衡。 云存储 ? 研究表明，云计算已经成为企业存储战略的核心部分。很多公司使用云存储服务的广泛用途，包括备份和恢复的方式，随后归档。只有18%的受访者表示他们不使用云存储服务。 很少有企业准备将大部分的数据存储在云端，只有7%的受访者表示在云服务中托管了超过75%的数据。近一半的受访者表示，其存储容量的10%是托管在云端。
1.3K70发布于 2018-03-28 - 来自专栏数据派THU
详解：7大经典回归模型
来源：csdn 深度学习爱好者本文约2900字，建议阅读5分钟本文给大家介绍机器学习建模中7大经典的回归分析模型。 什么是回归分析？ 4.它需要大的样本量，因为在样本数量较少的情况下，极大似然估计的效果比普通的最小二乘法差。 5.自变量不应该相互关联的，即不具有多重共线性。 7.如果因变量是多类的话，则称它为多元逻辑回归。 3. Polynomial Regression多项式回归 对于一个回归方程，如果自变量的指数大于1，那么它就是多项式回归方程。 7. ElasticNet回归 ElasticNet是Lasso和Ridge回归技术的混合体。它使用L1来训练并且L2优先作为正则化矩阵。当有多个相关的特征时，ElasticNet是很有用的。 除了这7个最常用的回归技术，你也可以看看其他模型，如Bayesian、Ecological和Robust回归。 如何正确选择回归模型？ 当你只知道一个或两个技术时，生活往往很简单。
1.8K41编辑于 2023-04-18 - 来自专栏腾讯云存储
面向大模型时代的云存储架构
沙龙活动中腾讯云存储研发总监严俊明分享了《面向大模型时代的云存储架构》的主题演讲。 据 OpenAI 研究显示，大模型的智能程度与算力、参数规模呈正相关。训练大模型所需的基础设施已达万卡级别，参数从亿级跃升至万亿级，大模型为存储带来巨大的机遇与挑战。 在大模型采集、清洗、训练、推理、“智”理等环节，对存储基础设施提出规模、性能、稳定等多维度的要求。 其中，核心矛盾是大模型的海量数据需求和极致性能需求之间的矛盾。 对此，严俊明表示，“大模型对存储的要求是既要、又要，既要海量低成本的存储引擎，同时又要很高的性能要求，然而企业实践的过程中，这两者往往很难兼顾。” 模型训练阶段，自研 GooseFS-X 高性能存储，提升大模型预训练效率；在分发阶段，通过 GooseFS AZ 加速器来提升大模型分发效率。 此外，腾讯云还提供一站式安全解决方案来保障数据内容安全。
50510编辑于 2025-04-30 - 来自专栏科技云报道
AI大模型疯长，存储扛住了吗？
存储方面，华为、阿里云、百度智能云、腾讯云等大厂，都相继推出了面向AI大模型的存储方案。 那么作为基础设施的三大件之一的存储，在AI大模型的场景下到底发生了哪些变化？又有哪些新的技术挑战？ 如果存储性能不强，那么可能需要耗费大量时间才能完成一次训练，这就会严重制约大模型的发展迭代。 事实上，不少企业在开发及实施大模型应用过程中，已经开始意识到存储系统所面临的巨大挑战。 2023年7月，华为发布两款面向AI大模型的存储产品——OceanStor A310深度学习数据湖存储和FusionCube A3000训/推超融合一体机。 总的来说，随着AI大模型的推进，数据存储出现了新的趋势。市场渴望更高性能、大容量、低成本的存储产品，并加速大模型各个环节的融合和效率提升。 而各大厂商也在通过技术创新不断满足大模型各环节的需求，为企业实施大模型降低门槛。 在AI大模型的倒逼下，存储创新已在路上。
60410编辑于 2024-04-18 - 来自专栏存储公众号：王知鱼
IMPRESS：大模型推理存储优化新突破
全文概览 大模型推理技术正广泛应用于聊天、搜索、代码生成等领域，但其高效运行面临关键挑战：用户提问常共享大量上下文知识，导致系统需频繁加载重复数据。 研究背景与问题 大模型推理的挑战：共享上下文导致重复数据加载，SSD-I/O成性能瓶颈。 现有方案局限：内存容量不足、缓存策略忽视键值重要性。 2. 研究背景与问题意识 大模型推理 大模型推理有海量应用场景，目前已应用于多个领域： 聊天（Chat）: ChatGPT 搜索（Search）: Perplexity 代码（Code）: Cursor 问答 预填充 KV 存储系统 共享的KV缓存数据能重复使用，并最终缩短模型推理过程的首Token响应时延。 Note FAST 25 很多论文都在讨论推理场景存储访问优化，其核心又集中在缓存管理机制，与早期大数据推荐系统的缓存管理相比，大模型的热数据管理，呈现出更大范围的随机性，全部数据加载是不切实际的。
1.3K10编辑于 2025-03-17 - 来自专栏腾讯云存储
数据湖存储在大模型中的应用
本次巡展以“智算 开新局·创新机”为主题，腾讯云存储受邀分享数据湖存储在大模型中的应用，并在展区对腾讯云存储解决方案进行了全面的展示，引来众多参会者围观。 会中腾讯云高级产品经理林楠主要从大模型的发展回顾、对存储系统的挑战以及腾讯云存储在大模型领域中的解决方案等三个角度出发，阐述存储系统在大模型浪潮中可以做的事情。 为什么模型越来越大 对存储系统而言，通用型人工智能也属于应用的一种，那么了解大模型的应用机制和核心需求对存储系统的设计也至关重要。 大模型对存储系统的挑战 回顾GPT3的论文可以发现，大模型的整体框架中包括了数据的采集、清洗、预训练、微调、推理等多个阶段。 腾讯云存储在大模型领域中的解决方案 为了应对大模型的技术需求，腾讯云在IaaS、PaaS和SaaS等不同产品方向均提供了多样的技术支持手段，主要体现为三个“快”： 数据读取快：GooseFS数据加速，提供高性能存储
4.9K20编辑于 2023-11-01 - 来自专栏Alter聊科技
“烧钱”的大模型，如何迈过存储这道坎？
根据第一性原理，大模型训练时算力利用率低的诱因是海量的小文件，传统存储系统无法高效地处理这些数据，导致加载速度缓慢。 大模型训练的效率要达到极致，减少不必要的浪费，必须在数据上下功夫，准确地说，必须要在数据存储性能上进行创新。 03 数据存储进入到“大模型时代”某种程度上说，大模型训练催生的数据存储性能要求，不过是文件存储系统加速演变的一个侧面。 直到今天，文件存储的需求仍在不断更新，文件系统的创新也在持续发生，就像大模型训练需求所折射出的演进方向。 无可否认的是，大模型正在从前台的“火热”，转向整个产业链条的协同驱动，数据存储正是其中的关键一环。
1.1K10编辑于 2023-08-30 CFS Turbo 大模型训练存储性能优化实践
数据来源： 2024腾讯全球数字生态大会，主讲人：杨飞 第一章：大模型训练引发的存储元数据瓶颈 随着大模型技术演进，训练数据集规模呈现爆发式增长，存储系统面临严峻的元数据管理挑战。 第二章：构建新一代元数据引擎与智能预读机制 针对大模型训练场景，CFS Turbo 采用了 新一代自适应条带化目录 技术与 智能预读策略 相结合的技术路径。 2.2 智能预读策略 (Intelligent Read-ahead Policy) 针对大模型训练（以混元DiT为例）中涉及的大量数据整理与转换操作（如 os.listdir, glob, find 优化后表现 性能提升倍数 Readdir 性能 - - 提升 55% 100万文件返回速度 30秒 1.4秒 8.6倍 第四章：混元DiT训练场景验证 在腾讯自研的 混元DiT (HunyuanDiT) 大模型训练实践中 实战验证： 方案已在腾讯 混元DiT 等千亿级大模型训练场景中得到验证，具备处理 百亿级 目录与 亿级 文件的工程成熟度。
11210编辑于 2026-05-30- 来自专栏博文视点Broadview
云存储技术首次全景展现，7大技术趋势解读
如何保证全年 7×24 小时不间断的超高可用性？ 如何保证用户的数据安全？ 如何利用数据生命周期？ 如何根据用户的需求弹性地部署和调度资源？ 如何实现数据管理和调度的高效及智能化？ …… 这些都是云存储系统要解决的问题！ 阿里云存储团队编写的《云存储：释放数据无限价值》一书便回答了以上问题！ 飞天盘古，是阿里云存储的统一底座，与高性能存储网络、分布式锁服务、键值存储系统、智能运维管控等核心组件一同构建起了云存储的“高山大地”，大幅提高存储系统的稳定性、可靠性和安全性。 基于飞天盘古构建的块存储、对象存储、表格存储、文件存储、日志服务、灾备、相册与网盘、云定义存储等多种存储产品，为全球客户提供了普惠、智能的存储服务。 自此，云计算三大技术支柱终于集齐！ 发布：刘恩惠 审核：陈歆懿 如果喜欢本文欢迎 在看丨留言丨分享至朋友圈 三连 热文推荐 因果推断与机器学习，终于有本书能讲明白啦！
93020编辑于 2023-04-04 - 来自专栏大模型应用
大模型应用：大模型参数调优：结合本地模型对比多种组合探索差异.7
引言 在大模型的应用中，参数调优是连接模型潜力与实际效能的关键桥梁。与传统的软件参数不同，大模型的生成参数更像是一组精密的调控旋钮，它们不改变模型的基础知识，而是影响模型如何思考和表达。 理解这些参数的本质，不仅能够提升模型输出的质量，更是将大模型从玩具转变为工具的关键一步。 今天我们将从理论基础到实践应用，全面解析大模型的核心参数体系，详细的介绍大模型推理中常用的参数项，并通过本地模型示例展示参数调整对模型效能的影响。常见参数项：max_length：生成文本的最大长度。 对于每个参数组合，生成文本并评估质量，然后将结果存储在results列表中。5. 分步调优流程图五、总结 大模型的参数调优本质上是在控制与释放之间寻找平衡的艺术。
83732编辑于 2026-02-04 - 来自专栏GiantPandaCV
星辰AI大模型TeleChat-7B评测
前言 受中电信 AI 科技有限公司的邀请，为他们近期开源的TeleChat-7B大模型做一个评测。 最后，我们可以从TeleChat-7B开源项目在文创方面展示的例子看到它具有不错的文创能力和一定的代码能力，可以作为开发者来使用的一个不错的基础大模型。 在评论评语方面，TeleChat7B可能是因为SFT的缘故会拒答一些问题，以及对于上面的第二个prompt回答的质量比较低。而对于上面的第一个问题，也出现了经典的大模型幻觉问题。 总结 总的来说，TeleChat-7B具有一定的文创能力和代码能力，对于本次测试的大多数prompt可以生成较为合理的答案。但模型本身也存在大模型幻觉，指令跟随能力一般以及回答有概率重复的问题。 此外，TeleChat-7B在开源方面是相当有诚意的，将清洗之后的训练数据进行开源是在之前的大模型开源中比较难见到的，如果想了解更多的数据清洗细节以及模型训练的细节可以阅读官方放出的技术报告：https
73420编辑于 2024-02-22 大模型下半场：7个趋势判断
推理模型能力的持续提升，推动大模型迎来“可用”到“好用”的拐点。推理强化和应用拓展启动了大模型下半场的新赛程。个人智能体潜力初步显现，行业应用渐次走深，开源开放日益成为大模型的核心竞争力组成。 用更大算力去探索大模型的能力上限，仍是行业共识。预计今年上半年国外将推出GPT-5、Llama 4级别大模型。 虽然去年以来，我国AI高端芯片企业数量和能力均有提升，华为、燧原科技、摩尔线程、海光、壁仞等多家企业已设计出对标英伟达A100单卡性能的国产芯片，但由于台积电暂停7nm产能供应及HBM禁令等限制，国产高端芯片的制造仍面临挑战 受DeepSeek效应刺激，国内外大模型公司正加速推出下一代大模型，如OpenAI的基础大模型GPT-4.5，推理模型o3；Anthropic整合了深度思考和快速输出的混合推理模型Claude 3.7； 大模型的数据通信开放协议则可以让大模型更方便地调用各种工具，从而自主完成各类任务。
65520编辑于 2025-04-02- 来自专栏腾讯云存储
高性能存储与大模型融合创新相关研究
在2023年中国数据与存储峰会“AIGC+存储融合发展论坛”上，腾讯云存储高级产品经理熊建刚老师发表主题演讲，就高性能存储和大模型融合创新相关研究展开探讨，以及腾讯云存储的实践案例。 熊老师耕耘存储20年，在腾讯云从事云存储领域的高性能存储以及与大模型融合创新方面的研究工作，致力于推动云技术和人工智能的创新与发展。 一、存储技术与人工智能相结合：为AI应用提供高效、可扩展的数据存储和处理基础 以ChatGPT为代表大模型的参数呈现指数级增长，已超越人脑神经网络数量。 随着大模型的发展，对数据湖诉求进一步加强。 第一，更高的可靠性和可用性，避免存储的故障到算力资源的浪费。 ，面向大模型的加速网络；腾讯云端到端大模型解决方案，适配算力按需的供给，高速供给数据资源。
47710编辑于 2024-01-31 - 来自专栏大模型应用
大模型应用：大模型本地部署的磁盘空间优化：模型分片存储与按需加载.48
为了破解这一难题，模型分片存储与按需加载成为大模型本地部署磁盘空间优化的核心方案。 模型分片存储 把大模型的完整参数文件，切成若干个小的分片文件，就像把一整块蛋糕切成小块，分别放在不同的盘子里。 大模型的参数存储形式大模型的参数本质上是海量的数值矩阵，这些矩阵以二进制文件的形式保存在磁盘上，常见的格式有：.bin 格式：最常见的模型参数文件格式，直接存储二进制参数数据。. safetensors 格式：比.bin 更安全、加载更快的格式，支持分片存储。这些参数文件是模型记住知识的载体，比如一个 7B 模型的.bin 文件，就是包含 70 亿个参数数值的集合。2. 同时 响应耗时：56.05 秒 ===== 测试案例 2 ===== 用户输入：解释什么是大模型分片存储 模型回复：在大数据处理和机器学习领域，"大模型分片存储"是一种将大型深度学习模型分割成多个小块
56444编辑于 2026-03-17 - 来自专栏流川疯编写程序的艺术
《书生·浦语大模型实战营》第7课 学习笔记：OpenCompass 大模型评测实战
其主要特点如下： 开源可复现：提供公平、公开、可复现的大模型评测方案 全面的能力维度：五大维度设计，提供 70+ 个数据集约 40 万题的的模型评测方案，全面评估模型能力 丰富的模型支持：已支持 20+ 评测对象 本算法库的主要评测对象为语言大模型与多模态大模型。我们以语言大模型为例介绍评测的具体模型类型。 C-Eval 数据集上的性能 其他学习内容 参考文献 本人学习系列笔记 《书生·浦语大模型实战营》第1课 学习笔记：书生·浦语大模型全链路开源体系 《书生·浦语大模型实战营》第2课 学习笔记：轻松玩转书生 ·浦语大模型趣味 Demo 《书生·浦语大模型实战营》第3课 学习笔记：搭建你的 RAG 智能助理(茴香豆) 《书生·浦语大模型实战营》第4课 学习笔记：XTuner 微调 LLM:1.8B、多模态、Agent 《书生·浦语大模型实战营》第5课 学习笔记：LMDeploy 量化部署 LLM 实践 《书生·浦语大模型实战营》第6课 学习笔记：Lagent & AgentLego 智能体应用搭建 《书生·浦语大模型实战营
85810编辑于 2024-07-01 - 来自专栏Datawhale专栏
《开源大模型食用指南》发布，7个小时，一杯奶茶速通大模型！
Datawhale开源 开源贡献：Datawhale self-llm团队 前 言 《开源大模型食用指南》是一个围绕开源大模型、针对国内初学者、基于 AutoDL 平台的中国宝宝专属大模型教程，针对各类开源大模型提供包括环境配置 、本地部署、高效微调等技能在内的全流程指导，简化开源大模型的部署、使用和应用流程，让更多的普通学生、研究者更好地使用开源大模型，帮助开源、自由的大模型更快融入到普通学习者的生活中。 大模型（LLM）狭义上指基于深度学习算法进行训练的自然语言处理（NLP）模型，主要应用于自然语言理解和生成等领域，广义上还包括机器视觉（CV）大模型、多模态大模型和科学计算大模型等。 同时，本项目对本地硬件基本没有要求，全程都需要在云服务器上运行，AutoDL租一台3090服务器，每小时需要1.66元，一杯奶茶就可以租一块3090愉快的学习7个小时！ 理论上7小时就可以将本项目的所有教程全部跑通一遍（除全量微调外），一杯奶茶速通大模型，掌握开源大模型部署的核心科技。 文章最后 为什么要做这样一个开源项目？
1.7K21编辑于 2024-04-24 - 来自专栏焱融科技
如何提升存储性能之IO模型和AIO大揭秘
如何提升存储系统的性能是一个对存储工程师们来说是永恒的大命题，解决这个问题并没有一击即中的银弹，IO性能的优化都在细节里。今天我们来讲一讲性能和IO模型之间的关系。 我们先从本地磁盘的IO模型说起。 在IO完成后的那次系统调用，系统会返回数据，这意味着IO可能已经完成了，但仍需应用再次主动请求，才能获得数据，所以会带了一些额外的延时，存储整体的延时性能差，且发生了多次内核和用户态之间的上下文切换，对延时要求高的应用一般不会采用该模型 例如顺序大IO，性能可能反而不如dio，这是因为buffer io要先写内存，再刷盘，而HDD或其它磁盘直接进行顺序IO性能可能更高；另外某些对数据可靠性要求比较高的场景中，写pagecache可能会有数据丢失的风险 03 分布式文件系统对AIO的支持及意义 对网络存储或者外部存储来说，客户端主要功能就是IO转发，所以客户端不涉及直接访问磁盘（IO访问模型，尤其是AIO的初衷，就是解决本地访问的问题），所以通常来说（ 尤其是对网络文件系统），类似GlusterFS等开源的分布式文件存储一般不会支持AIO。
2.1K22发布于 2020-11-13
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号