首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏腾讯技术工程官方号的专栏

    数据备份存储技术探索

    数据中心的数据安全性是一个多方面的问题,从IDC的风,火,水,电的建设,再到从小到一个存储bit,再到一个sector,一个硬盘,一台存储服务器,一个存储服务器集群再到一个数据中心。 ,所以需要长时间可靠的存储介质,运营维护简单可靠; 4、能快速恢复数据,备份的数据大,同时异地的网络传输带宽小的矛盾,所以需要备份的数据能快速运输,以方便数据搬运。 介质上被烧蚀和未烧蚀的两种状态对应着两种不同的二进制数据。识别存储单元这些性质变化,即读出被存储数据。 磁带存储系统的架构与蓝光存储系统的架构基本是类似的。 蓝光光盘的价格相比机械硬盘并不算很廉价。但储存数据需要平衡冗余和寿命两个因素。蓝光的寿命要长于普通硬盘(云盘、监控盘)。 通过对数据备份介质成本和运营成本的分析,我们认为蓝光存储将是一个较优选择。我们已在腾讯服务器实验室搭建一套蓝光存储系统,帮助具有大量数据需求的用户评估适用性。

    4.8K71发布于 2018-01-26
  • 来自专栏小网管的运维之路

    MYSQL备份数据上传到对象存储

    介绍       将MySQL数据库中的数据备份并上传至云平台对象存储的过程。数据是指数据库中的历史或不经常访问的数据。 我们首先通过执行SQL查询语句从MySQL数据库中提取所需数据,然后将其保存为CSV文件格式,接着通过SDK将备份文件上传到对象存储。 BUCKET_NAME, s3_object_key) # 记录日志 logger.info(f"文件 {csv_filename} 已上传到 S3 存储桶 s3       从一个数据库中获取前一天的数据。 将数据存储到一个 CSV 文件中。 检查本地是否已存在该 CSV 文件,如果存在则不执行数据库查询,直接将已有文件上传到 Amazon S3 存储桶中。

    1.3K10编辑于 2023-12-23
  • 来自专栏Juicedata

    JuiceFS 在 ElasticsearchClickHouse 温数据存储中的实践

    同时,在存储介质方面,随着云计算的发展,对象存储以低廉的价格和弹性伸缩的空间获得了企业的青睐。越来越多的企业将温、数据迁移至对象存储。 03- 温数据存储:为什么使用对象存储+ JuiceFS ? 企业把温、数据存放到云上后,存储成本相较于传统的 SSD 架构大为下降。 温数据所需的存储容量比热数据大很多,尤其是随着时间推移,会产生大量需要长期保存的数据,如果这些数据存储在本地,相应的运维工作将不堪重负。 一般用户将 JuiceFS 用于温、数据存储,用户需要在 ES 温数据节点或数据的节点上把 JuiceFS 文件系统挂载到本地。 Step 3:新增存储策略,设定下沉数据规则。这个存储策略会根据用户的规则去不定期的、自动地将数据从默认磁盘上下沉到指定的,比如 JuiceFS 中。 Step 4:为特定表设置存储策略及 TTL。

    3.4K30编辑于 2022-10-05
  • 来自专栏昆腾

    一文读懂温数据存储的技术选型

    数据存储目前,在对象存储领有很多的使用场景。通常来说,支持AWS的S3协议,就可以把它归类于对象存储。 当然还有6TB的5400RPM的SMR硬盘,主要用于数据存储或归档,价格约为800元。磁带在存储领域是很重要的选项,其最大特点是成本较低;另外,它还具备绿色节能的特质。 DNA的存储密度基本上是目前主流存储介质的十万倍以上。如果DNA存储技术未来商用或者商业化,无论是温数据存储还是高性能存储都会产生翻天覆地的变化。 昆腾的解决之道昆腾主要关注磁带技术,以更好地解决温数据存储问题。事实上,磁带库是可以直接挂在文件系统或者操作系统上,然后进行使用的。 第一类就是StorNext文件存储系统,它相当于在磁带库的前端嫁接了一套文件存储或NAS存储,将其作为数据的缓存。当要读取磁带库的数据的时候,就可以把这些数据缓存到前端的硬盘上来提供数据访问能力。

    1.2K20编辑于 2023-10-27
  • 来自专栏冷月带你手撕代码

    月手撕408之数据结构(4)-链表

    主要的重点月做出了标识,主要构架如下图(pdf版或xmind源文件请私聊我:数据结构)。 ? 月点睛 链表 定义 逻辑上相邻,物理上不一定相邻的线性表。 基础术语 首节点 有效元素的第一个节点 尾节点 有效元素的最后一个节点 头结点 有效元素的第一个节点前面的节点 头指针 指向头结点的指针 尾指针 指向尾节点的指针 分类 单链表 一个节点内分为数据域和指针域 如果这篇文章有帮助到您,可以给月一个关注或者点个赞白嫖一波

    43910发布于 2021-02-22
  • 来自专栏腾讯数据中心

    数据中心蓄罐放演练

    背景介绍 蓄罐顾名思义是用于蓄的设备。其原理是通过媒介将数据中心空调系统运行中的富余量进行储藏,在需要时再将量释放出来。 某夜, 腾讯某数据中心进行了一期蓄罐放演练。 此数据中心一期的冷水机组中有高压冷水机组和低压变频机组;根据现有的负荷开一半冷水机组已满足负荷需要,关闭的机处于备用状态。 1. 演练目的 通过进行蓄罐放测试,测试空调系统设备存在的隐患,使现场人员更好的熟悉应急预案及了解应急预案的实施性、可行性,缩短突发故障处理时间,确保数据中心运营安全;也可以测试运维人员熟练程度,提高运维人员处理故障的能力 4.演练心得 ①如中途蓄罐放操作失败或机重新起动时间过长,会引起机房微模块通道内部温度突然上升等问题,此时需要现场及时将问题上报,持续关注机房温升情况,开启备用机。 演练过程正常,蓄罐温度从8℃升至11.5℃为止共25mim。全程未对运营环境造成影响,末端负载运行正常。 总结 在数据中心的运营工作中,应急演练是不可或缺的一环。

    2.9K42发布于 2018-03-16
  • 来自专栏GPUS开发者

    CUDA优化的知识16|纹理存储优势(2)

    CUDA优化的知识 8 |GPU显存的特色 CUDA优化的知识9 |GPU显存的粒度 CUDA优化的知识10 | GPU卡和Jetson上显存优化的特色 CUDA优化的知识11 |一些规避的坑和优化的要点 CUDA优化的知识12 |一些规避的坑和优化的要点(续) CUDA优化的知识13 |从Global memory到Shared memory CUDA优化的知识14|local memory你可能不知道的好处 CUDA优化的知识15|纹理存储优势(1) ? 从而使得这个特性不仅仅适用于图像这类的数据, 也适用一定的需要严格坐标指定的普通2D数组/矩阵之类的算法/代码. 因为一定范围内的1/2^N在我们用的卡上, 是可以被精确表示的浮点数.

    73420发布于 2021-02-05
  • 来自专栏GPUS开发者

    CUDA优化的知识17|纹理存储优势(3)

    CUDA优化的知识13 |从Global memory到Shared memory CUDA优化的知识14|local memory你可能不知道的好处 CUDA优化的知识15|纹理存储优势(1) CUDA优化的知识16|纹理存储优势(2) ? 我们知道之前在编程指南手册中, 我们和大约一起阅读过有4点边界/越界自动处理, 即自动填充0, 自动重复边界值, 卷绕和镜像模式. 而今天, 如果纹理能适用你的数据类型/代码, 则你可以自动得到这个免费特性. 从而提升你的编码效率, 也提升了你的代码执行的性能. 这是说的第三大点的边界/越界处理中的自动返回0值的情况. 另外则是这种需要考虑越界的方向, 往往需要考虑4个或者8个方向, 例如从左边界线, 上边界线, 右边界线, 下边界下, 或者上下左右4个顶点.

    70620发布于 2021-02-05
  • 来自专栏存储公众号:王知鱼

    磁带逆袭:何以成为AI时代存储首选?

    存隐形“小霸王”-磁带库进展 2. 磁带库存储方案TCO优势? 3. 磁带库应用面临的挑战? - 重要性:这是评估磁带或任何存储介质存储容量能力的标准指标。面密度越高,同样大小的磁带能存储数据就越多。 2. - 重要性:这个指标衡量了磁带在其长度上的数据存储能力。线性密度增加意味着在同样的磁带长度上可以存储更多的数据。 3. • 标准化接口:如支持S3 Glacier兼容接口,这是亚马逊提供的一种低成本云存储服务,允许使用标准的web服务接口来存储和检索任意数量的数据。 • 数据耐用性:磁带提供的是非常耐用的存储选项。 带库优势:成本较低,可长期存储数据,适用于备份和灾难恢复等场景。 4. 技术挑战:扩展性、易用性和生态系统标准化等问题需解决。 5.

    1.4K00编辑于 2025-02-11
  • 来自专栏智能大数据分析

    数据存储技术(4)—— NoSQL数据

    NoSQL的拥护者提倡运用非关系型的数据存储作为大数据存储的重要补充。 4、图(Graph)数据库:诸如Neo4J、InfoGrid、Infinite Graph等。 Neo4j是一个将结构化数据存储在图(网络)而不是表中的NoSQL图数据库,它可以被看作是一个嵌入式的、基于磁盘的、具备完全事务特性的高性能Java持久化图引擎,该引擎具有成熟数据库的所有特性。 Neo4j重点解决了拥有大量连接的传统RDBMS在查询时出现的性能衰退问题。围绕图进行数据建模后,Neo4j会以相同的速度遍历节点与边,其遍历速度与构成图的数据规模没有关系。 Neo4j数据库中的数据模型隐含在它存储数据中,而不是明确地将数据模型定义为数据库本身的一个部分,它是对存入数据的一个描述,而不是数据库的一系列方法来限制将要存储的内容。

    2.3K10编辑于 2025-01-22
  • 来自专栏GPUS开发者

    CUDA优化的知识15|纹理存储优势(1)

    CUDA优化的知识 8 |GPU显存的特色 CUDA优化的知识9 |GPU显存的粒度 CUDA优化的知识10 | GPU卡和Jetson上显存优化的特色 CUDA优化的知识11 |一些规避的坑和优化的要点 接着之前的内容, 即说对GPU上的各种存储器的优化使用, 今天来到纹理存储. 这个其实我们之前在编程指南中已经说过很多了, 读者也应当对基本用法, 包括经典的纹理引用和较新的纹理对象都应该会使用了. 我们主要从这4点说开. 先说一下免费的值变换. 有些算法需要将数据作为8-bit或者16-bit整数存储, 然后读取到后, 再转换为float之类的浮点数, 和其他类型进行运算. 而纹理读取的时候, 可以利用上其数据路径中的自带的转换功能, 从而节省掉对SFU/XU或者人工编码成本的开销. 这样有可能带来额外的性能提升, 和对人力成本的节省. 这两点都属于今天的texture带来的4点中的第一大点, 即自动/免费对读取到的值变换的好处.

    1K30发布于 2021-02-05
  • 来自专栏深度学习与python

    Google Cloud 为 Spanner 数据库引入 HDD 层,将存储成本降低 80%

    这种分层存储架构包含一种新的 HDD 存储选项,比现有的 SSD 选项便宜 80%,可降低旧数据存储成本,同时尽可能减少与传统数据迁移相关的开销。 无论数据在哪个存储层,SQL 查询都可以访问 SSD 和 HDD 层上的数据,并且备份策略在所有数据上一致应用。 这种转变意味着旧的“数据不需要像当前的“热”事务数据那样具有高性能访问能力,从而鼓励公司寻求更具成本效益的历史信息存储解决方案。 现在用户可以在各种 Spanner 级别(数据库、表、列或二级索引)实施存储分层策略,并可以灵活地将特定数据移动到速度较慢但成本较低的 HDD 存储。 在移动数据之前,数据必须在 SSD 中存储至少 1 小时。 Google Spanner 不是唯一提供分层存储的分布式云数据库。

    84710编辑于 2025-04-07
  • 蓝光存储数据归档的“最后一公里”到底怎么走?

    # 蓝光存储数据归档的“最后一公里”到底怎么走? 这几年做大模型应用,模型参数动辄几十GB,训练一次留下的checkpoint、日志、中间数据,轻松堆满几个TB的SSD。 他们问我:这些数据不常用,但也不能删,放对象存储吧,月费贵得肉疼;放备吧,又怕哪天真要用的时候恢复太慢。我说,你试试蓝光存储。 蓝光存储不是新东西,但很多人对它的理解还停留在“刻碟存电影”的阶段。 其实吧,蓝光光盘在数据中心场景下,已经变成了一种靠谱的数据归档方案。它最大的特点是:写一次,读很多次,数据能躺50年不动。对,50年。 总结一下我的观点:蓝光存储不适合做热数据、温数据,它最适合的是数据归档。如果你手上有超过10TB的数据,保留周期超过3年,蓝光存储比硬盘、磁带都划算。 总之,蓝光存储数据归档的靠谱选择,尤其适合合规要求高、保留周期长的行业。 作者:刘艳芬 发布日期:2026年6月23日

    10210编辑于 2026-06-23
  • 蓝光存储数据归档的“最后一公里”到底怎么走?

    # 蓝光存储数据归档的“最后一公里”到底怎么走? 这几年做大模型应用,模型参数动辄几十GB,训练一次留下的checkpoint、日志、中间数据,轻松堆满几个TB的SSD。 他们问我:这些数据不常用,但也不能删,放对象存储吧,月费贵得肉疼;放备吧,又怕哪天真要用的时候恢复太慢。我说,你试试蓝光存储。 蓝光存储不是新东西,但很多人对它的理解还停留在“刻碟存电影”的阶段。 其实吧,蓝光光盘在数据中心场景下,已经变成了一种靠谱的数据归档方案。它最大的特点是:写一次,读很多次,数据能躺50年不动。对,50年。 总结一下我的观点:蓝光存储不适合做热数据、温数据,它最适合的是数据归档。如果你手上有超过10TB的数据,保留周期超过3年,蓝光存储比硬盘、磁带都划算。 总之,蓝光存储数据归档的靠谱选择,尤其适合合规要求高、保留周期长的行业。 作者:刘艳芬 发布日期:2026年6月23日

    14610编辑于 2026-06-23
  • 来自专栏云计算linux

    图形存储数据库Neo4j

    《NoSQL数据库技术与应用》 教学设计 课题 名称 第9章 图形存储数据库Neo4j 计划学时 5 课时 内容 分析 图形存储数据库也是NoSQL数据库的一种类型,它主要是应用图形理论存储实体之间的关系信息 常见的图形存储数据库有Neo4j、FlockDB以及AllegroGrap。由于Neo4j数据库是目前最流行、稳定的图形存储数据库,因此,本章将针对Neo4j数据库的相关知识进行详细讲解。 Neo4j数据库也可以被看作是一个高性能的图引擎,并且该引擎具有成熟数据库的所有特性。 本节课将针对Neo4j的数据模型进行讲解。 3.明确学习目标 理解Neo4j的数据模型 二、进行重点知识的讲解 Neo4j的数据模型 教师可以参考课件绘制Neo4j的数据模型图,来讲述Neo4j的数据模型。

    78110编辑于 2024-12-07
  • 来自专栏深入浅出区块链技术

    Solidity 教程系列4 - 数据存储位置分析

    Solidity教程系列第4篇 - Solidity数据位置分析。 引用类型是一个复杂类型,占用的空间通常超过256位, 拷贝时开销很大,因此我们需要考虑将它们存储在什么位置,是memory(内存中,数据不是永久存在)还是storage(永久存储在区块链中) 所有的复杂类型如数组 (arrays)和数据结构(struct)有一个额外的属性:数据存储位置(data location)。 状态变量:合约内声明的公有变量 还有一个存储位置是:calldata,用来存储函数参数,是只读的,不会永久存储的一个数据位置。外部函数的参数(不包括返回参数)被强制指定为calldata。 storage 在区块链中是用key/value的形式存储,而memory则表现为字节数组 关于栈(stack) EVM是一个基于栈的语言,栈实际是在内存(memory)的一个数据结构,每个栈元素占为256

    1.7K30发布于 2018-07-23
  • 来自专栏腾讯数据中心

    浅谈数据中心应急

    ①蓄式应急制冷系统简介 蓄式应急制冷系统其原理是通过介质将数据中心空调系统运行中的量进行储藏,在需要时再将量释放出来用于数据中心制冷需求。 数据中心蓄装置用于保证制冷系统短时故障期间的供,其瞬时用量很大,由于冰蓄技术的融冰速度有限,不适用于数据中心快速释放储存量的要求。 蓄罐与冷水机组主要有两种方式连接: (1) 冷水机组与蓄罐串联 ? 图4 冷水机组与蓄罐串联 蓄罐串联接入用于空调系统的容灾备份,冷冻水流经蓄罐以保证随时供应量 (图4) 。 图5 某数据中心水蓄罐 ④蓄设备的其他用途 蓄罐等蓄设备不仅可以用作数据中心应急制冷,同时也具备了其他辅助功能,如峰谷电价运营调优、早期低负载运行调优等。 但也有些机房由于内部规范的要求,对一定规模以下的数据中心仍主推双源系统,同时也将冰砖等移动式源作为数据中心最后的制冷保障手段纳入到数据中心的应急响应中。

    3.9K41发布于 2018-03-16
  • 来自专栏技术博文

    TKE 日志分层存储实战:CLS 热存储 + 生命周期管理

    例如,在热存储中,一份日志数据可能会在多个节点上保存副本,当某个节点出现故障时,可以从其他副本快速恢复数据存储CLS 存储则适用于存储历史的、访问频率较低的日志数据存储数据冗余策略可能与热存储有所不同,例如采用纠删码等技术,在保障数据可靠性的同时降低存储开销。 当用户查询日志时,系统会优先从热存储中检索数据;如果所需日志已迁移至存储,系统会自动从存储中调取数据,并可能在返回结果时稍作延迟提示。 采用 CLS 热存储及生命周期管理后,经过统计分析,约 20% 的日志为热数据存储在热存储中,其余 80% 为数据存储存储中。 数据管理收益CLS 热存储及生命周期管理使得日志数据管理更加高效、有序。运维人员可以更快地定位和查询热数据,提高故障排查效率。同时,数据的归档存储符合数据合规要求,降低了数据丢失或泄露的风险。

    58210编辑于 2025-06-26
  • 来自专栏技术杂记

    Mysql 优化存储4

    2>&1 & 通过监控 optimize.log 来判断执行完成状态 也可以通过查看监控,IOPS很能反映问题 ---- 恢复备份 优化完成后,立刻恢复备份 start slave; 通过对比前后数据文件大小

    48020编辑于 2022-03-21
  • 来自专栏申龙斌的程序人生

    熊市里生成几个BTC靓号,存储起来装死吧

    为了把挖矿得来的BTC抱得更紧一些,防止一时手贱卖掉,还是把BTC放在自己的Bitcoin Core钱包里吧,熊市里安心学点技术,囤好BTC准备装死。 Address: 1SLBmXi168JXm6KGhgjw8xzp54exNJmX3 Privkey: 5JUPYv6**************************************3uoQF4Zij 4、还可以算得再快一些 对于64位机器,可以运行vanitygen64.exe程序,其它参数保持不变即可,大概能够提升50%的性能,我的CPU在32位模式下每秒计算600K个地址,在64位下计算900K

    3.5K60发布于 2018-03-29
领券