- 综合排序
- 最热优先
- 最新优先
- 来自专栏腾讯技术工程官方号的专栏
冷数据备份存储技术探索
前言 2016中国大数据产业峰会上，pony以腾讯的天津数据中心的事例，讲述了数据中心的存储和安全，考虑备灾中心的建设问题。公司从战略高度关注数据中心的数据安全性。 数据中心的数据安全性是一个多方面的问题，从IDC的风，火，水，电的建设，再到从小到一个存储bit，再到一个sector，一个硬盘，一台存储服务器，一个存储服务器集群再到一个数据中心。 介质上被烧蚀和未烧蚀的两种状态对应着两种不同的二进制数据。识别存储单元这些性质变化，即读出被存储的数据。 磁带存储系统的架构与蓝光存储系统的架构基本是类似的。 蓝光光盘的价格相比机械硬盘并不算很廉价。但冷储存数据需要平衡冗余和寿命两个因素。蓝光的寿命要长于普通硬盘（云盘、监控盘）。 通过对数据备份介质成本和运营成本的分析，我们认为蓝光存储将是一个较优选择。我们已在腾讯服务器实验室搭建一套蓝光存储系统，帮助具有大量冷备数据需求的用户评估适用性。
4.8K71发布于 2018-01-26 - 来自专栏小网管的运维之路
MYSQL冷备份数据上传到对象存储
介绍 将MySQL数据库中的冷数据备份并上传至云平台对象存储的过程。冷数据是指数据库中的历史或不经常访问的数据。 我们首先通过执行SQL查询语句从MySQL数据库中提取所需数据，然后将其保存为CSV文件格式，接着通过SDK将备份文件上传到对象存储。 BUCKET_NAME, s3_object_key) # 记录日志 logger.info(f"文件 {csv_filename} 已上传到 S3 存储桶 s3 从一个数据库中获取前一天的数据。 将数据存储到一个 CSV 文件中。 检查本地是否已存在该 CSV 文件，如果存在则不执行数据库查询，直接将已有文件上传到 Amazon S3 存储桶中。
1.3K10编辑于 2023-12-23 - 来自专栏Juicedata
JuiceFS 在 ElasticsearchClickHouse 温冷数据存储中的实践
同时，在存储介质方面，随着云计算的发展，对象存储以低廉的价格和弹性伸缩的空间获得了企业的青睐。越来越多的企业将温、冷数据迁移至对象存储。 比如设置 TTL 为 7 天，ClickHouse 就会把表中超过 7 天的数据从当前的磁盘（如默认的 SSD）再写到另外一个更低优先级的磁盘上（如 JuiceFS）。 03- 温冷数据存储：为什么使用对象存储+ JuiceFS ？ 企业把温、冷数据存放到云上后，存储成本相较于传统的 SSD 架构大为下降。 温冷数据所需的存储容量比热数据大很多，尤其是随着时间推移，会产生大量需要长期保存的数据，如果这些数据都存储在本地，相应的运维工作将不堪重负。 一般用户将 JuiceFS 用于温、冷数据的存储，用户需要在 ES 温数据节点或冷数据的节点上把 JuiceFS 文件系统挂载到本地。
3.4K30编辑于 2022-10-05 - 来自专栏昆腾
一文读懂温冷数据存储的技术选型
温冷数据的存储目前，在对象存储领有很多的使用场景。通常来说，支持AWS的S3协议，就可以把它归类于对象存储。 当然还有6TB的5400RPM的SMR硬盘，主要用于冷数据存储或归档，价格约为800元。磁带在冷存储领域是很重要的选项，其最大特点是成本较低；另外，它还具备绿色节能的特质。 DNA的存储密度基本上是目前主流存储介质的十万倍以上。如果DNA存储技术未来商用或者商业化，无论是温冷数据存储还是高性能存储都会产生翻天覆地的变化。 昆腾的解决之道昆腾主要关注磁带技术，以更好地解决温冷数据的存储问题。事实上，磁带库是可以直接挂在文件系统或者操作系统上，然后进行使用的。 第一类就是StorNext文件存储系统，它相当于在磁带库的前端嫁接了一套文件存储或NAS存储，将其作为数据的缓存。当要读取磁带库的数据的时候，就可以把这些数据缓存到前端的硬盘上来提供数据访问能力。
1.2K20编辑于 2023-10-27 - 来自专栏腾讯数据中心
数据中心蓄冷罐放冷演练
背景介绍 蓄冷罐顾名思义是用于蓄冷的设备。其原理是通过媒介将数据中心空调系统运行中的富余冷量进行储藏，在需要时再将冷量释放出来。 某夜， 腾讯某数据中心进行了一期蓄冷罐放冷演练。 此数据中心一期的冷水机组中有高压冷水机组和低压变频机组；根据现有的负荷开一半冷水机组已满足负荷需要，关闭的冷机处于备用状态。 1. 演练目的 通过进行蓄冷罐放冷测试，测试空调系统设备存在的隐患，使现场人员更好的熟悉应急预案及了解应急预案的实施性、可行性，缩短突发故障处理时间，确保数据中心运营安全；也可以测试运维人员熟练程度，提高运维人员处理故障的能力 ②冷机延时关机结束，冷机停止运行，值班员现场手动开启蓄冷罐放冷。同时值班员在现场记录从开启电动阀指令到电动阀全部开启所需的时间。 ? ③开启蓄冷罐放冷操作完毕，同时关闭冷机冷冻水电动阀。 演练过程正常，蓄冷罐温度从8℃升至11.5℃为止共25mim。全程未对运营环境造成影响，末端负载运行正常。 总结 在数据中心的运营工作中，应急演练是不可或缺的一环。
2.9K42发布于 2018-03-16 - 来自专栏Java知识点
第7章_InnoDB数据存储结构
数据库的存储结构：页 # 1.1 磁盘与内存交互基本单位：页 # 1.2 页结构概述 # 1.3 页的大小 不同的数据库管理系统（简称 DBMS）的页大小不同。 页结构的示意图如下所示： 如下表所示： 我们可以把这 7 个结构分为 3 个部分。 数据库存储结构.mmap # 2.3 从数据库页的角度看 B + 树如何查询 一颗 B + 树按照字节类型可以分为两部分： 叶子节点，B+ 树最底层的节点，节点的高度为 0，存储行记录。 InnoDB 行格式 (或记录格式) 见文件 InnoDB 数据库存储结构.mmap # 4. 区、段与碎片区 # 4.1 为什么要有区？ # 4.2 为什么要有段？ InnoDB 存储引擎特意定义了一些列的 内部系统表 (internal system table) 来记录这些元数据： 这些系统表也称为 数据字典 ，它们都是以 B+ 树的形式保存在系统表空间的某个页面中
42020编辑于 2023-08-02 - 来自专栏GPUS开发者
CUDA优化的冷知识16|纹理存储优势（2）
CUDA优化的冷知识 8 |GPU显存的特色 CUDA优化的冷知识9 |GPU显存的粒度 CUDA优化的冷知识10 | GPU卡和Jetson上显存优化的特色 CUDA优化的冷知识11 |一些规避的坑和优化的要点 CUDA优化的冷知识12 |一些规避的坑和优化的要点(续） CUDA优化的冷知识13 |从Global memory到Shared memory CUDA优化的冷知识14|local memory你可能不知道的好处 CUDA优化的冷知识15|纹理存储优势（1） ? 从而使得这个特性不仅仅适用于图像这类的数据, 也适用一定的需要严格坐标指定的普通2D数组/矩阵之类的算法/代码. 因为一定范围内的1/2^N在我们用的卡上, 是可以被精确表示的浮点数.
73420发布于 2021-02-05 - 来自专栏GPUS开发者
CUDA优化的冷知识17|纹理存储优势（3）
CUDA优化的冷知识13 |从Global memory到Shared memory CUDA优化的冷知识14|local memory你可能不知道的好处 CUDA优化的冷知识15|纹理存储优势（1） CUDA优化的冷知识16|纹理存储优势（2） ? 而今天, 如果纹理能适用你的数据类型/代码, 则你可以自动得到这个免费特性. 从而提升你的编码效率, 也提升了你的代码执行的性能. 这是说的第三大点的边界/越界处理中的自动返回0值的情况.
70620发布于 2021-02-05 - 来自专栏存储公众号：王知鱼
磁带逆袭：何以成为AI时代冷存储首选？
冷存隐形“小霸王”-磁带库进展 2. 磁带库存储方案TCO优势？ 3. 磁带库应用面临的挑战？ • 高密度硬盘驱动器（HDD） 的总体拥有成本更高，是磁带存储的3.5倍。 • 托管存储提供商（Managed Storage Provider） 的总体拥有成本最高，是磁带存储的7倍。 - 重要性：这是评估磁带或任何存储介质存储容量能力的标准指标。面密度越高，同样大小的磁带能存储的数据就越多。 2. - 重要性：这个指标衡量了磁带在其长度上的数据存储能力。线性密度增加意味着在同样的磁带长度上可以存储更多的数据。 3. • 标准化接口：如支持S3 Glacier兼容接口，这是亚马逊提供的一种低成本云存储服务，允许使用标准的web服务接口来存储和检索任意数量的数据。 • 数据耐用性：磁带提供的是非常耐用的存储选项。
1.4K00编辑于 2025-02-11 - 来自专栏GPUS开发者
CUDA优化的冷知识15|纹理存储优势（1）
接着之前的内容, 即说对GPU上的各种存储器的优化使用, 今天来到纹理存储. 这个其实我们之前在编程指南中已经说过很多了, 读者也应当对基本用法, 包括经典的纹理引用和较新的纹理对象都应该会使用了. 有些算法需要将数据作为8-bit或者16-bit整数存储, 然后读取到后, 再转换为float之类的浮点数, 和其他类型进行运算. 而纹理读取的时候, 可以利用上其数据路径中的自带的转换功能, 从而节省掉对SFU/XU或者人工编码成本的开销. 这样有可能带来额外的性能提升, 和对人力成本的节省. 如图, 我们可以看到了7.x的卡上, 每SM每周期可以执行64条常规的float加法/乘法/乘加, 这往往构成了你的代码的运算主体; ? 而从8-bit或者16-bit或者其他整数类型转换成float的时候, 吞吐率就只有16条/SM/周期了, 相当于在7.X上转换本身只有常规计算的1/4的性能.
1K30发布于 2021-02-05 - 来自专栏coding
centos7修改mysql数据存储目录
随着数据量的增长，mysql数据所占的空间会越来越大，而默认情况下mysql数据盘空间可能不够，这时候，就需要修改存储路径 ? image 网上有很多修改路径的方式，需要改配置文件，比较麻烦，在目标路径建好目录，再建个软连接就可以了，不需要改动任何配置 查看mysql数据存储位置： mysql> show global variables ---+-----------------------+ 1 row in set (0.00 sec) 关闭mysql服务，要将所有mysql进程都kill掉，如 killall mysqld 新建存储目录 ，如: mkdir -p /data/mysql 将原数据盘拷贝 $ cd /usr/local/mysql $ cp -r var /data/mysql $ mv var var_copy # 避免操作失误
2.6K00发布于 2019-04-18 - 来自专栏深度学习与python
Google Cloud 为 Spanner 数据库引入 HDD 层，将冷存储成本降低 80%
这种分层存储架构包含一种新的 HDD 存储选项，比现有的 SSD 选项便宜 80%，可降低旧数据的存储成本，同时尽可能减少与传统数据迁移相关的开销。 无论数据在哪个存储层，SQL 查询都可以访问 SSD 和 HDD 层上的数据，并且备份策略在所有数据上一致应用。 这种转变意味着旧的“冷”数据不需要像当前的“热”事务数据那样具有高性能访问能力，从而鼓励公司寻求更具成本效益的历史信息存储解决方案。 现在用户可以在各种 Spanner 级别（数据库、表、列或二级索引）实施存储分层策略，并可以灵活地将特定数据移动到速度较慢但成本较低的 HDD 存储。 在移动数据之前，数据必须在 SSD 中存储至少 1 小时。 Google Spanner 不是唯一提供分层存储的分布式云数据库。
84710编辑于 2025-04-07 蓝光存储：冷数据归档的“最后一公里”到底怎么走？
# 蓝光存储：冷数据归档的“最后一公里”到底怎么走？ 这几年做大模型应用，模型参数动辄几十GB，训练一次留下的checkpoint、日志、中间数据，轻松堆满几个TB的SSD。 他们问我：这些数据不常用，但也不能删，放对象存储吧，月费贵得肉疼；放冷备吧，又怕哪天真要用的时候恢复太慢。我说，你试试蓝光存储。 蓝光存储不是新东西，但很多人对它的理解还停留在“刻碟存电影”的阶段。 其实吧，蓝光光盘在数据中心场景下，已经变成了一种靠谱的冷数据归档方案。它最大的特点是：写一次，读很多次，数据能躺50年不动。对，50年。 总结一下我的观点：蓝光存储不适合做热数据、温数据，它最适合的是冷数据归档。如果你手上有超过10TB的冷数据，保留周期超过3年，蓝光存储比硬盘、磁带都划算。 总之，蓝光存储是冷数据归档的靠谱选择，尤其适合合规要求高、保留周期长的行业。 作者：刘艳芬 发布日期：2026年6月23日
10210编辑于 2026-06-23蓝光存储：冷数据归档的“最后一公里”到底怎么走？
# 蓝光存储：冷数据归档的“最后一公里”到底怎么走？ 这几年做大模型应用，模型参数动辄几十GB，训练一次留下的checkpoint、日志、中间数据，轻松堆满几个TB的SSD。 他们问我：这些数据不常用，但也不能删，放对象存储吧，月费贵得肉疼；放冷备吧，又怕哪天真要用的时候恢复太慢。我说，你试试蓝光存储。 蓝光存储不是新东西，但很多人对它的理解还停留在“刻碟存电影”的阶段。 其实吧，蓝光光盘在数据中心场景下，已经变成了一种靠谱的冷数据归档方案。它最大的特点是：写一次，读很多次，数据能躺50年不动。对，50年。 总结一下我的观点：蓝光存储不适合做热数据、温数据，它最适合的是冷数据归档。如果你手上有超过10TB的冷数据，保留周期超过3年，蓝光存储比硬盘、磁带都划算。 总之，蓝光存储是冷数据归档的靠谱选择，尤其适合合规要求高、保留周期长的行业。 作者：刘艳芬 发布日期：2026年6月23日
14610编辑于 2026-06-23- 来自专栏运维经验分享
CentOS7修改MongoDB默认数据存储路径
修改MongoDB默认数据路径只需以下几步 1. 停止MongoDB 1 $ sudo systemctl stop mongod.service 2. 复制mongo至新位置 MongoDB默认数据路径为 /var/lib/mongo 1 $ sudo rsync -av /var/lib/mongo /mnt/database/mongodb/ 这里 备份原来文件 1 $ sudo mv /var/lib/mongo /var/lib/mongo.bak 修改数据存储路径并服务重启成功后可删除。 4.
3.2K20发布于 2019-03-16 - 来自专栏腾讯数据中心
浅谈数据中心应急冷源
①蓄冷式应急制冷系统简介 蓄冷式应急制冷系统其原理是通过介质将数据中心空调系统运行中的冷量进行储藏，在需要时再将冷量释放出来用于数据中心制冷需求。 数据中心蓄冷装置用于保证制冷系统短时故障期间的供冷，其瞬时用冷量很大，由于冰蓄冷技术的融冰速度有限，不适用于数据中心快速释放储存冷量的要求。 图5 某数据中心水蓄冷罐 ④蓄冷设备的其他用途 蓄冷罐等蓄冷设备不仅可以用作数据中心应急制冷，同时也具备了其他辅助功能，如峰谷电价运营调优、早期低负载运行调优等。 最简便的办法是与制冰厂进行协调，提前调用冰砖（图7），并辅以大功率风扇制冷。 ? 图7 某数据中心应急备用冰砖 有数据中心同仁也提出将干冰作为数据中心备用冷源。 但也有些机房由于内部规范的要求，对一定规模以下的数据中心仍主推双冷源系统，同时也将冰砖等移动式冷源作为数据中心最后的制冷保障手段纳入到数据中心的应急响应中。
3.9K41发布于 2018-03-16 - 来自专栏技术博文
TKE 日志分层存储实战：CLS 热冷存储 + 生命周期管理
以一个在线论坛应用为例，用户访问日志在生成后的 7 天内可能由于内容审核、热门话题追踪等原因频繁被访问，因此可划分为热数据；7 天至 30 天的日志访问频率逐渐降低，可视为温数据；而超过 30 天的日志则基本处于归档状态 例如，设置规则将热存储中的日志在生成后超过 7 天自动迁移至冷存储。在实现这一规则时，需要考虑如何精确地追踪每条日志的生成时间。可以通过在日志采集阶段为每条日志添加时间戳字段来实现。 基于时间的生命周期规则配置选择热存储桶，点击 “添加生命周期规则”。设置规则名称（如 “7 天热转冷”），过滤条件为全部日志。 在迁移动作中，选择 “迁移到冷存储”，设置触发时间为 “对象创建后 7 天”。保存规则后，系统将自动根据该规则对热存储中的日志进行迁移。 然后，在 CLS 控制台创建热存储桶和冷存储桶，并根据业务需求制定生命周期管理规则，将 7 天前的日志自动迁移至冷存储。
58210编辑于 2025-06-26 - 来自专栏ZooKeeper原理和源码
zk源码—7.ZAB协议和数据存储
.zk的数据存储原理之事务日志7.zk的数据存储原理之数据快照8.zk的数据存储原理之数据初始化和数据同步流程1.两阶段提交Two-Phase Commit(2PC)(1)数据库事务通过undo和redo 5.zk的数据存储原理之内存数据(1)DataNode(2)DataTree和nodes(3)ZKDatabase从数据存储位置角度看，zk产生的数据可以分为内存数据和磁盘数据。 从数据的种类和作用看，又可以分为事务日志数据和全量数据快照。zk的数据模型是一棵树。zk存储了整棵树的内容，包括所有的节点路径、节点数据及ACL信息等。zk会定时将整棵树的数据存储到磁盘上。 6.zk的数据存储原理之事务日志(1)事务日志的存储(2)事务日志的写入之FileTxnLog的创建(3)事务日志的写入之FileTxnLog写入日志的步骤(4)事务日志截断(1)事务日志的存储部署zk 7.zk的数据存储原理之数据快照(1)文件存储(2)数据快照过程(1)文件存储一.数据快照文件和事务日志文件的命名规则一样二.数据快照文件没有采用事务日志文件中的预分配机制一.数据快照文件和事务日志文件的命名规则一样数据快照文件也是使用
30600编辑于 2025-07-14 - 来自专栏冷月带你手撕代码
冷月手撕408之操作系统(7)-进程通讯
操作系统的进程通讯主要是介绍了 不同进程之间的通讯，主要掌握共享存储、消息队列、管道通讯。 主要的重点冷月做出了标识，知识点如下图（pdf版或xmind源文件请私聊我：操作系统）。 ? 冷月点睛 进程通讯大家必须把这3种方式搞清楚，经常考，经常考。 共享存储就是不同的进程通过同步互斥访问工具（PV操作）来互斥访问一组共享的内存空间。 分别有基于数据结构(低级共享)、基于存储区(高级共享)。 ，发送方将消息发送到信箱中，接收方从信箱中取数据。 发送方写满后就会被阻塞，接收方读完后就会被阻塞 如果这篇文章有帮助到您，可以给冷月一个关注或者点个赞白嫖一波
45510发布于 2021-02-22 - 来自专栏申龙斌的程序人生
熊市里生成几个BTC靓号，冷存储起来装死吧
为了把挖矿得来的BTC抱得更紧一些，防止一时手贱卖掉，还是把BTC放在自己的Bitcoin Core冷钱包里吧，熊市里安心学点技术，囤好BTC准备装死。 topic=25804.0 源代码在github上，已经有人编译好了Windows上的执行程序，下载链接： https://github.com/downloads/samr7/vanitygen/vanitygen
3.5K60发布于 2018-03-29
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号