前言 2016中国大数据产业峰会上,pony以腾讯的天津数据中心的事例,讲述了数据中心的存储和安全,考虑备灾中心的建设问题。公司从战略高度关注数据中心的数据安全性。 数据中心的数据安全性是一个多方面的问题,从IDC的风,火,水,电的建设,再到从小到一个存储bit,再到一个sector,一个硬盘,一台存储服务器,一个存储服务器集群再到一个数据中心。 介质上被烧蚀和未烧蚀的两种状态对应着两种不同的二进制数据。识别存储单元这些性质变化,即读出被存储的数据。 磁带存储系统的架构与蓝光存储系统的架构基本是类似的。 蓝光光盘的价格相比机械硬盘并不算很廉价。但冷储存数据需要平衡冗余和寿命两个因素。蓝光的寿命要长于普通硬盘(云盘、监控盘)。 通过对数据备份介质成本和运营成本的分析,我们认为蓝光存储将是一个较优选择。我们已在腾讯服务器实验室搭建一套蓝光存储系统,帮助具有大量冷备数据需求的用户评估适用性。
介绍 将MySQL数据库中的冷数据备份并上传至云平台对象存储的过程。冷数据是指数据库中的历史或不经常访问的数据。 我们首先通过执行SQL查询语句从MySQL数据库中提取所需数据,然后将其保存为CSV文件格式,接着通过SDK将备份文件上传到对象存储。 查询 -- 查询最早的数据 SELECT * FROM bos_balance_flow limit 5 -- 查询最后10条数据 SELECT * FROM bos_balance_flow ORDER BY created_at DESC LIMIT 10; 添加索引 给时间字段加上索引提高查询速度 -- 给订单归档表加时间字段加索引 CREATE INDEX idx_created_at ON bos_order_archive 将数据存储到一个 CSV 文件中。 检查本地是否已存在该 CSV 文件,如果存在则不执行数据库查询,直接将已有文件上传到 Amazon S3 存储桶中。
同时,在存储介质方面,随着云计算的发展,对象存储以低廉的价格和弹性伸缩的空间获得了企业的青睐。越来越多的企业将温、冷数据迁移至对象存储。 用户可以结合节点角色,以及上文提到的不同生命周期的阶段来组合进行数据管理。 数据节点会有不同的阶段,可能是一个存储热数据的节点,也可能是一个存储温数据、冷数据,甚至极冷数据的节点。 03- 温冷数据存储:为什么使用对象存储+ JuiceFS ? 企业把温、冷数据存放到云上后,存储成本相较于传统的 SSD 架构大为下降。 温冷数据所需的存储容量比热数据大很多,尤其是随着时间推移,会产生大量需要长期保存的数据,如果这些数据都存储在本地,相应的运维工作将不堪重负。 一般用户将 JuiceFS 用于温、冷数据的存储,用户需要在 ES 温数据节点或冷数据的节点上把 JuiceFS 文件系统挂载到本地。
温冷数据的存储目前,在对象存储领有很多的使用场景。通常来说,支持AWS的S3协议,就可以把它归类于对象存储。 当然还有6TB的5400RPM的SMR硬盘,主要用于冷数据存储或归档,价格约为800元。磁带在冷存储领域是很重要的选项,其最大特点是成本较低;另外,它还具备绿色节能的特质。 DNA的存储密度基本上是目前主流存储介质的十万倍以上。如果DNA存储技术未来商用或者商业化,无论是温冷数据存储还是高性能存储都会产生翻天覆地的变化。 昆腾的解决之道昆腾主要关注磁带技术,以更好地解决温冷数据的存储问题。事实上,磁带库是可以直接挂在文件系统或者操作系统上,然后进行使用的。 第一类就是StorNext文件存储系统,它相当于在磁带库的前端嫁接了一套文件存储或NAS存储,将其作为数据的缓存。当要读取磁带库的数据的时候,就可以把这些数据缓存到前端的硬盘上来提供数据访问能力。
背景介绍 蓄冷罐顾名思义是用于蓄冷的设备。其原理是通过媒介将数据中心空调系统运行中的富余冷量进行储藏,在需要时再将冷量释放出来。 某夜, 腾讯某数据中心进行了一期蓄冷罐放冷演练。 此数据中心一期的冷水机组中有高压冷水机组和低压变频机组;根据现有的负荷开一半冷水机组已满足负荷需要,关闭的冷机处于备用状态。 1. 演练目的 通过进行蓄冷罐放冷测试,测试空调系统设备存在的隐患,使现场人员更好的熟悉应急预案及了解应急预案的实施性、可行性,缩短突发故障处理时间,确保数据中心运营安全;也可以测试运维人员熟练程度,提高运维人员处理故障的能力 (冷冻环网管水温8℃) ③蓄冷罐供冷恢复至冷机供冷时间为3分10秒。 ④演练过程一切正常,蓄冷罐温度从8℃升至11.5℃为止共25mim。全程未对运营环境造成影响,末端负载运行正常。 演练过程正常,蓄冷罐温度从8℃升至11.5℃为止共25mim。全程未对运营环境造成影响,末端负载运行正常。 总结 在数据中心的运营工作中,应急演练是不可或缺的一环。
CUDA优化的冷知识13 |从Global memory到Shared memory CUDA优化的冷知识14|local memory你可能不知道的好处 CUDA优化的冷知识15|纹理存储优势(1) CUDA优化的冷知识16|纹理存储优势(2) ? 而今天, 如果纹理能适用你的数据类型/代码, 则你可以自动得到这个免费特性. 从而提升你的编码效率, 也提升了你的代码执行的性能. 这是说的第三大点的边界/越界处理中的自动返回0值的情况.
冷存隐形“小霸王”-磁带库进展 2. 磁带库存储方案TCO优势? 3. 磁带库应用面临的挑战? - 重要性:这是评估磁带或任何存储介质存储容量能力的标准指标。面密度越高,同样大小的磁带能存储的数据就越多。 2. - 重要性:这个指标衡量了磁带在其长度上的数据存储能力。线性密度增加意味着在同样的磁带长度上可以存储更多的数据。 3. - 重要性:轨道密度决定了磁带可以同时读写的数据量。增加轨道密度可以显著提高磁带的总存储容量,因为它允许在同一物理空间内放置更多的数据轨道。 • 标准化接口:如支持S3 Glacier兼容接口,这是亚马逊提供的一种低成本云存储服务,允许使用标准的web服务接口来存储和检索任意数量的数据。 • 数据耐用性:磁带提供的是非常耐用的存储选项。
CUDA优化的冷知识 8 |GPU显存的特色 CUDA优化的冷知识9 |GPU显存的粒度 CUDA优化的冷知识10 | GPU卡和Jetson上显存优化的特色 CUDA优化的冷知识11 |一些规避的坑和优化的要点 CUDA优化的冷知识12 |一些规避的坑和优化的要点(续) CUDA优化的冷知识13 |从Global memory到Shared memory CUDA优化的冷知识14|local memory你可能不知道的好处 CUDA优化的冷知识15|纹理存储优势(1) ? 从而使得这个特性不仅仅适用于图像这类的数据, 也适用一定的需要严格坐标指定的普通2D数组/矩阵之类的算法/代码. 因为一定范围内的1/2^N在我们用的卡上, 是可以被精确表示的浮点数.
CUDA优化的冷知识 8 |GPU显存的特色 CUDA优化的冷知识9 |GPU显存的粒度 CUDA优化的冷知识10 | GPU卡和Jetson上显存优化的特色 CUDA优化的冷知识11 |一些规避的坑和优化的要点 CUDA优化的冷知识12 |一些规避的坑和优化的要点(续) CUDA优化的冷知识13 |从Global memory到Shared memory CUDA优化的冷知识14|local memory你可能不知道的好处 接着之前的内容, 即说对GPU上的各种存储器的优化使用, 今天来到纹理存储. 这个其实我们之前在编程指南中已经说过很多了, 读者也应当对基本用法, 包括经典的纹理引用和较新的纹理对象都应该会使用了. 有些算法需要将数据作为8-bit或者16-bit整数存储, 然后读取到后, 再转换为float之类的浮点数, 和其他类型进行运算. 而纹理读取的时候, 可以利用上其数据路径中的自带的转换功能, 从而节省掉对SFU/XU或者人工编码成本的开销. 这样有可能带来额外的性能提升, 和对人力成本的节省.
这种分层存储架构包含一种新的 HDD 存储选项,比现有的 SSD 选项便宜 80%,可降低旧数据的存储成本,同时尽可能减少与传统数据迁移相关的开销。 无论数据在哪个存储层,SQL 查询都可以访问 SSD 和 HDD 层上的数据,并且备份策略在所有数据上一致应用。 这种转变意味着旧的“冷”数据不需要像当前的“热”事务数据那样具有高性能访问能力,从而鼓励公司寻求更具成本效益的历史信息存储解决方案。 现在用户可以在各种 Spanner 级别(数据库、表、列或二级索引)实施存储分层策略,并可以灵活地将特定数据移动到速度较慢但成本较低的 HDD 存储。 在移动数据之前,数据必须在 SSD 中存储至少 1 小时。 Google Spanner 不是唯一提供分层存储的分布式云数据库。
# 蓝光存储:冷数据归档的“最后一公里”到底怎么走? 这几年做大模型应用,模型参数动辄几十GB,训练一次留下的checkpoint、日志、中间数据,轻松堆满几个TB的SSD。 他们问我:这些数据不常用,但也不能删,放对象存储吧,月费贵得肉疼;放冷备吧,又怕哪天真要用的时候恢复太慢。我说,你试试蓝光存储。 蓝光存储不是新东西,但很多人对它的理解还停留在“刻碟存电影”的阶段。 其实吧,蓝光光盘在数据中心场景下,已经变成了一种靠谱的冷数据归档方案。它最大的特点是:写一次,读很多次,数据能躺50年不动。对,50年。 总结一下我的观点:蓝光存储不适合做热数据、温数据,它最适合的是冷数据归档。如果你手上有超过10TB的冷数据,保留周期超过3年,蓝光存储比硬盘、磁带都划算。 总之,蓝光存储是冷数据归档的靠谱选择,尤其适合合规要求高、保留周期长的行业。 作者:刘艳芬 发布日期:2026年6月23日
# 蓝光存储:冷数据归档的“最后一公里”到底怎么走? 这几年做大模型应用,模型参数动辄几十GB,训练一次留下的checkpoint、日志、中间数据,轻松堆满几个TB的SSD。 他们问我:这些数据不常用,但也不能删,放对象存储吧,月费贵得肉疼;放冷备吧,又怕哪天真要用的时候恢复太慢。我说,你试试蓝光存储。 蓝光存储不是新东西,但很多人对它的理解还停留在“刻碟存电影”的阶段。 其实吧,蓝光光盘在数据中心场景下,已经变成了一种靠谱的冷数据归档方案。它最大的特点是:写一次,读很多次,数据能躺50年不动。对,50年。 总结一下我的观点:蓝光存储不适合做热数据、温数据,它最适合的是冷数据归档。如果你手上有超过10TB的冷数据,保留周期超过3年,蓝光存储比硬盘、磁带都划算。 总之,蓝光存储是冷数据归档的靠谱选择,尤其适合合规要求高、保留周期长的行业。 作者:刘艳芬 发布日期:2026年6月23日
一、冷备份: 1、操作系统无法进入,需要利用启动盘进入winpe系统进行操作。 3、记录下oralce的版本号、安装路径、数据库名(可以在pfile文件中查看到)、实例名保证后续重建数据库的时候配置和原数据库统一。 4、到此冷备份结束。 二、恢复: 1、彻底清除原安装路径下的oralce文件; 2、重新安装oralce10g,到原安装路径下,所有文件的路径都保持一致; 3、安装完成后检查oralce服务是否成功启动,数据库是否能够通过sqlplus / as sysdba;命令访问; 4、查看当前数据库的启动状态,为open,到此数据库安装成功。 \assistants\dbca\dbca.cl 4、在打开数据库创建向导中,建立一个数据库,其名称和路径要和原数据库保持一致; 5、之后的操作同上面的5、6、7; 6、运行命令,打开监听创建向导:
比如 bool 是类名,而 True,False 是其实例; 比如 ellipsis 是类名,Ellipsis是实例; 还有 int,string,float,list,tuple,dict 等一系列数据类型都是类名 in <module> print(my_list[5]) IndexError: list index out of range 但是今天要说的肯定不是这个,而是一个你可能会不知道的冷知识 列表推导式,字典推导式,集合推导式,生成器表达式 10.
比如 bool 是类名,而 True,False 是其实例; 比如 ellipsis 是类名,Ellipsis是实例; 还有 int,string,float,list,tuple,dict 等一系列数据类型都是类名 in <module> print(my_list[5]) IndexError: list index out of range 但是今天要说的肯定不是这个,而是一个你可能会不知道的冷知识 列表推导式,字典推导式,集合推导式,生成器表达式 10.
①蓄冷式应急制冷系统简介 蓄冷式应急制冷系统其原理是通过介质将数据中心空调系统运行中的冷量进行储藏,在需要时再将冷量释放出来用于数据中心制冷需求。 数据中心蓄冷装置用于保证制冷系统短时故障期间的供冷,其瞬时用冷量很大,由于冰蓄冷技术的融冰速度有限,不适用于数据中心快速释放储存冷量的要求。 图5 某数据中心水蓄冷罐 ④蓄冷设备的其他用途 蓄冷罐等蓄冷设备不仅可以用作数据中心应急制冷,同时也具备了其他辅助功能,如峰谷电价运营调优、早期低负载运行调优等。 图7 某数据中心应急备用冰砖 有数据中心同仁也提出将干冰作为数据中心备用冷源。因为干冰运输方便、使用过程中由固态转化为气态,不会在机房内产生液体从而对服务器的运行造成不良影响。 但也有些机房由于内部规范的要求,对一定规模以下的数据中心仍主推双冷源系统,同时也将冰砖等移动式冷源作为数据中心最后的制冷保障手段纳入到数据中心的应急响应中。
(2)性能测试结果与分析日志写入性能测试结果测试表明,在热存储中,当日志写入速率较低(如每秒 10MB)时,写入延迟保持在较低水平(约 10 - 20 毫秒)。 日志查询性能测试结果在热存储中,简单关键字查询的响应时间通常在 1 - 3 秒,而复杂多条件查询可能需要 5 - 10 秒。 对于冷存储,由于访问延迟较高,简单查询响应时间约为 5 - 10 秒,复杂查询则可能达到 15 - 30 秒。由此可见,热存储更适合频繁、实时的查询需求,而冷存储适用于偶尔的历史数据查询。 采用 CLS 热冷存储及生命周期管理后,经过统计分析,约 20% 的日志为热数据存储在热存储中,其余 80% 为冷数据存储在冷存储中。 假设热存储单位价格为冷存储的 5 倍,那么月度存储成本变为(10,000GB × X 元 / GB / 月) +(40,000GB × X/5 元 / GB / 月)= X 元 + X 元 = 2X 元
为了把挖矿得来的BTC抱得更紧一些,防止一时手贱卖掉,还是把BTC放在自己的Bitcoin Core冷钱包里吧,熊市里安心学点技术,囤好BTC准备装死。
Cerabyte公司开发了一种新型数据存储技术——Ceramic Nano Memory,采用陶瓷纳米层作为存储介质,具有超高速写入和读取速度。 2. Cerabyte陶瓷-玻璃板使用超薄玻璃作为基板材料,切割成9x9厘米的片材,并涂有10纳米薄的深色陶瓷纳米层,仅由50-100层原子组成,形成新型数据载体。 到2025年,针对云数据中心的20机架系统将上线,提供1 GB/s的写入/读取速度和每机架10 PB的容量,容量将随着时间增加,预计到本十年末将达到超级规模数据中心的理想容量。 在2030年之后将使用高速粒子束矩阵技术,这将显著减少纳米层的尺寸,达到艾字节级(exabyte)存储容量,同时大幅提高写入和读取速度。 Note:粒子束直径决定数据写入密度。 参考阅读: • 玻璃大容量永久光存储:下一代解决数据长期存储的方案 引用链接 [1] Cerabyte: http://www.cerabyte.com [2] 原型系统的视频链接: https://vimeo.com
近日,麻省理工学院开发了一种检索DNA数据文件的新方法,或许能成为DNA存储数据的重要一步。 一个咖啡杯就能装下全世界? 有了DNA数据存储,这是可能的。 DNA数据存储发展过程(1965-2018)(图源:nature) DNA数据存储是什么 DNA数据存储是一个将二进制数据转换成人工合成DNA链的编码过程。 但这种吸力与DNA的大小无关,因此你可以使用这个系统存储任意大的数据块(在这种情况下,这些片段的大小是过去使用的典型的DNA数据存储块的10倍以上)。 如果DNA合成变得足够便宜,就能够用这种方法将每个文件存储的数据量最大化 DNA数据存储目前局限于「冷存储」 该系统还允许用多个术语进行「布尔搜索」(Boolean search)。 当然,没有人会因为DNA存储「速度快」而推荐它;正如上面提到的,它的优势在能源使用和数据稳定性方面。 我们只有在确定不会经常访问某些数据时才会将它储存在DNA中,也即「冷存档存储」。