- 综合排序
- 最热优先
- 最新优先
- 来自专栏机器学习/数据可视化
Spark笔记7-RDD持久化和分区
持久化 有时候需要访问同一组值，不做持久化，会重复生成，计算机代价和开销很大。 持久化作用： 通过缓存机制避免重复计算的开销 通过使用persist()方法对一个RDD标记为持久化，仅仅是标记 只有等到第一个行动操作才会发生真生的持久化操作，触发真正的计算操作，才会把计算结果进行持久化 persist()方法 该方法的作用是将一个RDD标记为持久化，并不是真正的持久化操作，行动操作才是真正的持久化，主要的参数是： memory_only 将反序列化的对象存在JVM中，如果内存不足将会按照先进先出的原则 创建RDD时候指定分区个数 list = [1,2,3,4] rdd = sc.parallelize(list,4) # 设置4个分区 修改分区数目用repartition方法 data = sc.parallelize ([1,2,3,4], 4) # 指定4个分区 len(data.glom().collect()) # 显示分区数目 rdd = data.repartition(2) # 重新设置分区数目为2
94710发布于 2021-03-02 - 来自专栏EffectiveCoding
Redis 持久化之AOF持久化&混合持久化
上一篇提到了Redis的RDB持久化方式，同时也提到了一点关于AOF的内容。 RDB（snapshotting） 是一种内存快照的方式进行持久化，AOF（append-only-file）是通过追加写入命令的方式进行持久化，混合持久化是指RDB和AOF协同完成持久化工作来发挥各自有点的持久化方式 协议格式来保存命令内容的，有兴趣可以看一下： https://redis.io/topics/protocol 很显然，如果命令操作量非常大的时候，与RDB不同，AOF因为是追加命令，所以很大概率上AOF持久化文件会越来越大 混合持久化： 混合持久化是Redis 4.X之后的一个新特性，说是新特性其实更像是一种RDB&AOF的结合，持久化文件变成了RDB + AOF，首先由RDB定期完成内存快照的备份，然后再由AOF完成两次 在大多数场景下RDB + AOF的混合持久化模式其实还是很合适的。
1.9K20发布于 2019-07-31 - 来自专栏Jed的技术阶梯
详解 redis-4.x 持久化机制
实际上，内存中的全量数据由一个个的"数据段页面"组成，每个数据段页面的大小为4K，客户端要修改的数据在哪个页面中，就会复制一份这个页面到内存中，这个复制的过程称为"页面分离"，在持久化过程中，随着分离出的页面越来越多 AOF Rewrite过程 (3) redis-4.x 混合持久化 重启redis时，我们很少使用RDB来恢复内存状态，因为会丢失大量数据。 redis-4.x混合持久化机制 redis重启的时候，可以先加载RDB的内容，然后再重放增量AOF日志，就可以完全替代之前的AOF全量文件重放，恢复效率因此大幅得到提升。 (3) 混合持久化的优缺点 优点：结合了RDB和AOF的优点，使得数据恢复的效率大幅提升 缺点：兼容性不好，redis-4.x新增，虽然最终的文件也是.aof格式的文件，但在4.0之前版本都不识别该aof 4. redis 持久化机制的配置 ######################### 通用 ######################### # 持久化文件(包括RDB文件和AOF文件)的存储目录
73030发布于 2019-03-05 - 来自专栏Netkiller
Linux磁盘分区加密
Linux磁盘分区加密 Procedure 12.1. cryptsetup - configures encrypted block devices 安装 cryptsetup # apt-get install 创建加密分区 # cryptsetup --verbose --verify-passphrase -c aes-cbc-plain luksFormat /dev/sdb1 WARNING! (Type uppercase yes): YES (输入大写的YES来确定创建加密分区) Enter LUKS passphrase: (输入密码) Verify passphrase: (确认密码 如下命令将显示/dev/mapper路径中的隐藏设备 # ls -l /dev/mapper 格式化加密分区 现在将该分区格式化为ext3文件系统. . # mkdir /mnt/secret # mount /dev/mapper/sdb1 /mnt/secret 使用加密分区 好了,现在你可以使用你的加密分区了. cd /mnt/secret
6.8K40发布于 2018-03-05 - 来自专栏EffectiveCoding
Redis 持久化之RDB持久化
Redis 相对于其他NoSQL 内存数据库而言，除了更富的数据结构和速度快之外，Redis 的丰富的持久化方案也就一个很显著的优势，Redis 支持RDB、AOF、混合持久化三种模式。 RDB（snapshotting） 是一种内存快照的方式进行持久化，AOF（append-only-file）是通过追加写入命令的方式进行持久化，混合持久化是指RDB和AOF协同完成持久化工作来发挥各自有点的持久化方式 RDB 持久化有自动触发、手动触发两种方式。 自动触发 具体可以看一下redis.conf 中的配置项及对应注释来了解这一部分内容，翻一下注释就很明了了： 当达到如下条件的时候就出发自动持久化，这种持久化在后台进行的bgsave 先看一下save选项 恢复： 数据恢复的过程，整个Redis 都是被阻塞在那里的，一直到持久化完成才正常工作。具体恢复步骤就是把文件移到刚才dir指定的文件下，然后启动redis 就可以啦。
83520发布于 2019-07-31 - 来自专栏大数据成长之路
快速入门Redis系列(4)——Redis的持久化
作为快速入门Redis系列的第四篇博客，本篇为大家带来的是Redis的持久化。 码字不易,先赞后看! ? ---- Redis 的持久化 由于redis是一个内存数据库，所有的数据都是保存在内存当中的，内存当中的数据极易丢失，所以redis的数据持久化就显得尤为重要，在redis当中，提供了两种数据持久化的方式 ，分别为RDB以及AOF，且redis默认开启的数据持久化方式为RDB方式，接下来我们就分别来看下两种方式的配置吧~ 1.RDB持久化方案介绍之RDB方案介绍 RDB方案介绍 Redis 注意:每次生成新的dump.rdb都会覆盖掉之前的老的快照 2.AOF持久化方案 AOF方案介绍 采用AOF持久方式时，Redis会把每一个写请求都记录在一个日志文件里。 appendfsync everysec # appendfsync no 同样的，我们配置好了之后，在redis中的新添加的数据在断开服务之后，依然存在~ ---- 好了，本次关于Redis持久化的内容就分享完了
87530发布于 2021-01-27 - 来自专栏全栈工程师修炼之路
Kali之U盘启动加密与持久化存储制作流程
Step6.安装PE启动后我们进行拆分分区UEFI 引导区域不要动，按照下图所示进行分区即可(为了方便Kail系统识别这里先将做数据持久化的分区格式化为ext4文件系统): WeiyiGeek.拆分分区 configfile /BOOT/GRUB/MENU.LST WeiyiGeek.KAIL.LIST Step9.在电脑上测试做好的启动盘（或者可以采用老毛桃的模拟启动）,注意首次进入Kail-Live等继续完成磁盘加密以及持久化配置后使用菜单 U盘我们持久化数据存区并且设置U盘持久化存储： kali@kali:~/Desktop# sudo fdisk -l #查看磁盘以及分区信息 kali@kali:~/Desktop# sudo cryptsetup #打开加密的分区 kali@kali:~/Desktop# sudo mkfs.ext4 -L persistence /dev/mapper/hacker #格式化数据分区为ext4文件类型 # Step13.放置一个文件测试Kail U盘的持久化之后再次重启发现该文件仍然存在即可，以后安装软件都会保留在我们的持久化数据盘上; WeiyiGeek.Kali ---- 0x02 入坑解决 所遇问题
3.1K20编辑于 2022-09-29 - 来自专栏DevOps运维
4-数据的持久化和共享互连
一 容器数据持久化和共享方案 A.为什么要使用docker数据持久化 正常情况下，删除容器，容器中所有的文件也会被删除。 所以需要能持久化容器中数据的方法,也就是数据卷 数据卷(Data Volume)的作用： 持久化容器运行过程中产生的数据文件 实现多个容器间的文件共享。 实现多个主机间有状态容器的迁移 B.docker数据卷的分类 在集群环境下,数据卷分为: 单机内容器间的数据持久化和共享 数据卷[Data Volume] 绑定挂载[bind mount] 容器管理卷[ docker managed volume] 容器卷[volume container] 跨主机容器间的数据持久化和共享 使用分布式文件系统(如NFS) 使用volume driver实现跨主机存储 Rex-Ray 有利于配置的规范和标准化 使用 volume container 的容器其 mount point 是一致的，有利于配置的规范和标准化，但也带来一定的局限，使用时需要综合考虑。 B.
92240发布于 2021-11-16 - 来自专栏网络技术联盟站
如何在 Linux 上加密分区？
请确保使用强密码，并记住它，因为你将在每次使用该分区时需要输入密码。步骤4：打开加密设备使用 cryptsetup 命令打开加密设备，并将其映射到设备节点。 步骤5：格式化加密分区一旦你打开了加密设备并将其映射到设备节点，你可以像格式化普通分区一样格式化加密分区。 sudo mkfs.ext4 /dev/mapper/encrypted_partition请根据你的需求选择合适的文件系统类型。 步骤6：挂载加密分区在格式化加密分区后，你需要将其挂载到文件系统中以便访问其中的文件。首先，创建一个目录作为挂载点。 步骤7：卸载和关闭加密分区当你完成对加密分区的操作后，需要卸载和关闭它。首先，卸载挂载的加密分区。sudo umount /mnt/encrypted_partition然后，关闭加密设备。
1.3K00编辑于 2023-06-19 - 来自专栏全栈工程师修炼之路
Kali之U盘启动加密与持久化存储制作流程
Step4.创建分区镜像和完成导出镜像Gho文件 ? Step5.格式化U盘为FAT文件系统或者采用老毛桃直接初始化U盘，然后采用自定义的个性设置(纯属装B实际没必要) ? Step6.安装PE启动后我们进行拆分分区UEFI 引导区域不要动，按照下图所示进行分区即可(为了方便Kail系统识别这里先将做数据持久化的分区格式化为ext4文件系统): ? Step9.在电脑上测试做好的启动盘（或者可以采用老毛桃的模拟启动）,注意首次进入Kail-Live等继续完成磁盘加密以及持久化配置后使用菜单2Kali-Encrypted-Persistence即可使用 Step11.采用cryptsetup进行加密U盘我们持久化数据存区并且设置U盘持久化存储： kali@kali:~/Desktop# sudo fdisk -l #查看磁盘以及分区信息 kali@kali cryptsetup open /dev/sdb4 hacker #打开加密的分区 kali@kali:~/Desktop# sudo mkfs.ext4 -L persistence /dev/mapper
4.2K20发布于 2020-10-12 - 来自专栏测试开发干货
接口测试平台代码实现121:cookie持久化-4
3.url插入： 很显然，这里需要更改，更改如下： 4.header插入： 很显然，这里也需要更改，更改如下： 5.body的插入： 很显然，这里也需要更改，更改如下： 好的 ，到此为止，cookie持久化的操作就算全部完成了！
32420编辑于 2022-05-19 - 来自专栏云原生系列
k8s系列(4)-MongoDB数据持久化
K8S_Dashboard安装1k8s系列(1)-腾讯云CVM手动部署K8S_Dashboard安装2k8s系列(2)-Servicek8s系列(3)-StatefulSet的MongoDB实战k8s系列(4) -MongoDB数据持久化k8s系列(5)-Configmap和Secretk8s系列(6)-Helmk8s系列(7)-命名空间k8s系列(8)-Ingressk8s系列(9)-容忍、污点、亲和一. 2-7095991055263109797.wt index-5-7095991055263109797.wt storage.bsonWiredTiger.wt collection-4- 7095991055263109797.wt index-6-7095991055263109797.wtWiredTigerHS.wt diagnostic.data journal4. 数据持久化保存正确存储数据> show dbsadmin 0.000GBconfig 0.000GBlocal 0.000GBuse testswitched to db testdb.users.save
1.5K31编辑于 2022-10-21 - 来自专栏fixzd
redis系列：RDB持久化与AOF持久化
前言 什么是持久化？ 持久化（Persistence），即把数据（如内存中的对象）保存到可永久保存的存储设备中（如磁盘）。 持久化的主要应用是将内存中的对象存储在数据库中，或者存储在磁盘文件中、XML数据文件中等等。 持久化是将程序数据在持久状态和瞬时状态间转换的机制。 Redis提供了两种持久化方式 RDB持久化（快照） AOF持久化（只追加操作的文件 Append-only file） 先来看看RDB持久化 RDB持久化 RDB持久化是指在客户端输入save AOF持久化 AOF持久化是通过保存Redis服务器所执行的写命令来记录数据库状态，也就是每当 Redis 执行一个改变数据集的命令时（比如 SET）， 这个命令就会被追加到 AOF 文件的末尾。 那么我们如何开启AOF持久化功能呢？
92410发布于 2018-08-25 - 来自专栏fixzd
redis系列：RDB持久化与AOF持久化
前言 什么是持久化？ 持久化（Persistence），即把数据（如内存中的对象）保存到可永久保存的存储设备中（如磁盘）。 持久化的主要应用是将内存中的对象存储在数据库中，或者存储在磁盘文件中、XML数据文件中等等。 持久化是将程序数据在持久状态和瞬时状态间转换的机制。 Redis提供了两种持久化方式 RDB持久化（快照） AOF持久化（只追加操作的文件 Append-only file） 先来看看RDB持久化 RDB持久化 RDB持久化是指在客户端输入save、bgsave AOF持久化 AOF持久化是通过保存Redis服务器所执行的写命令来记录数据库状态，也就是每当 Redis 执行一个改变数据集的命令时（比如 SET）， 这个命令就会被追加到 AOF 文件的末尾。 那么我们如何开启AOF持久化功能呢？
76820发布于 2018-08-28 - 来自专栏Golang语言社区
Golang 持久化
涉及数据存储的的过程称之为持久化。下面golang中的数据持久化做简单的介绍。主要包括内存存储，文件存储和数据库存储。 内存持久化比较简单，严格来说这也不算是持久化，比较程序退出会清空内存，所保存的数据也会消失。这种持久化只是相对程序运行时而言。 基本上涉及的都有纯文本，格式化文本和二进制文本的读写操作。通过文件持久化数据比起内存才是真正的持久化。然而很多应用的开发，持久化更多还是和数据库打交道。 关于数据库，又是一个很大的话题。 总结 数据持久化我们介绍了内存，文件和数据库三种持久化方案。其中内存并不是严格意义的持久化，但是对于一些需要频繁操作，并且程序启动后就需要处理的数据，可以考虑内存持久化。 对于简单的配置，可以使用文件持久化，更多时候，数据的持久化方案还是依托于数据库。如今数据库种类繁多，无论是sql还是nosql，都需要考虑具体的使用场景。
2.9K90发布于 2018-03-26 - 来自专栏IT技术订阅
Redis持久化
一. redis持久化的介绍 Redis的持久化指的是将内存中redis数据库运行的数据，写到硬盘文件上。 Redis持久化的意义主要在于故障恢复，比如你部署一个Redis，作为缓存有可能里边有一些比较重要的数据，如果没有持久化的时候，redis遇到灾难性故障的时候就会丢失所有的数据。 Redis持久化的两种方式： 1. RDB：Redis DataBase 默认的持久化方式，以二进制的方式将数据写入文件中,每隔一段时间写入一次。 2. RDB机制 2.1 介绍 RDB持久化是指在指定的时间间隔内将内存中的数据集快照写入磁盘。 AOF机制 3.1 介绍 与快照持久化相比，AOF持久化 的实时性更好，因此已成为主流的持久化方案。
1K20编辑于 2022-05-11 - 来自专栏desperate633
深入理解Redis持久化Redis 持久化
Redis 持久化 Redis 提供了多种不同级别的持久化方式： RDB 持久化可以在指定的时间间隔内生成数据集的时间点快照（point-in-time snapshot）。 Redis 还可以同时使用 AOF 持久化和 RDB 持久化。 了解 RDB 持久化和 AOF 持久化之间的异同是非常重要的， 以下几个小节将详细地介绍这这两种持久化功能， 并对它们的相同和不同之处进行说明。 RDB 非常适用于灾难恢复（disaster recovery）：它只有一个文件，并且内容都非常紧凑，可以（在加密后）将它传送到别的数据中心，或者亚马逊 S3 中。 从 1.1 版本开始， Redis 增加了一种完全耐久的持久化方式： AOF 持久化。
96232发布于 2018-08-22 - 来自专栏linux学习笔记
redis持久化
持久化简介 什么是持久化 ? 利用永久性存储介质将数据进行保存，在特定的时间将保存的数据进行恢复的工作机制称为持久化 为什么要进行持久化? 与RDB相比可以简单描述为改记录数据为记录数据产生的过程 AOF的主要作用是解决了数据持久化的实时性，目前已经是Redis持久化的主流方式 AOF写数据过程 image.png AOF写数据三种策略 AOF重写作用 降低磁盘占用量，提高磁盘利用率 提高持久化效率，降低持久化写时间，提高IO性能 降低数据恢复用时，提高数据恢复效率 AOF重写规则 进程内已超时的数据不再写入文件 忽略无效指令，重写时使用进程内数据直接生成，这样新的AOF文件只保留最终数据的写入命令 如del key1、 hdel key2、srem key3、set key4 111、set key4 AOF持久化策略使用everysecond，每秒钟fsync一次。
89300发布于 2019-12-07 - 来自专栏java 挖矿之路
rabiitMq 持久化
其中，RabblitMQ的持久化分为三个部分： 交换器(Exchange)的持久化 队列(Queue)的持久化 消息(Message)的持久化 2. durable：设置是否持久化。durable设置为true表示持久化，反之是非持久化。持久化可以将交换器存盘，在服务器重启的时候不会丢失相关信息。 durable：设置是否持久化。为true则设置队列为持久化。持久化的队列会存盘，在服务器重启的时候可以保证不丢失相关信息。 name, durable, false, false, null); } 运行代码，然后重启RabbitMQ服务，会发现队列现在不丢失了： 4. 3)单单只设置队列持久化，重启之后消息会丢失；单单只设置消息的持久化，重启之后队列消失，继而消息也丢失。单单设置消息持久化而不设置队列的持久化显得毫无意义。
1.1K20发布于 2021-02-24 - 来自专栏云同步
Redis 持久化
持久化就是把内存的数据写到磁盘中，防止服务宕机导致内存数据丢失。 Redis支持两种方式的持久化，一种是RDB的方式，一种是AOF的方式。 RDB 是什么 Redis 会单独创建一个子进程（fork）来进行持久化，先将数据写入到一个临时文件中，待持久化过程完成后，再将这个临时文件内容覆盖到 dump.rdb Fork Fork rdbchecksum：完整性的检查，即数据是否完整性、准确性 save 表示写操作的次数 格式：save 秒 写操作次数 优点 Redis 加载 RDB 恢复数据远远快于 AOF 的方式 使用单独子进程来进行持久化 ，主进程不会进行任何 IO 操作，保证了 Redis 的高性能 缺点 RDB方式数据无法做到实时持久化。 如果只是做纯内存缓存，可以都不用 https://www.yuque.com/heyyall/summary/gq40cg5i4aprhyd5?singleDoc# 《Redis 持久化》
28310编辑于 2025-08-01
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号