首页
学习
活动
专区
圈层
工具
发布

Oracle CDC 架构优化:从主库直连到 DataGuard 备库同步

今天,我们将详细聊聊 Oracle DataGuard 备库同步的技术细节。为什么不连主库?对于数据量不大、同步表不多、链路数量有限的场景,直接连接主库往往是最简单的方案。...这样主库侧新增的长期解析压力就会减少很多,同步任务需要读取、解析等动作,都转移到了备库完成。对 DBA 来说,同步链路不直接占用主库 LogMiner 解析资源,生产库更稳定。...对数据团队来说,备库仍然能持续接收主库变更,满足下游对实时性的要求。备库同步的挑战把同步入口从主库切到备库,并不只是简单地改一个连接地址,在很多技术细节上需要做特别的设计。...目标端也可以换成 Elasticserach、PostgreSQL、Kafka、MySQL 等十几种 CloudCanal 支持的数据源。...一个 Oracle 源端往往会服务多个下游系统,每多一个消费方,主库的压力都会持续增加;而 DataGuard 备库作为同步入口,可以把主库和下游消费体系解耦,避免同步压力持续叠加到主库。

29110
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    mysql主库更新后,从库都读到最新值了,主库还有可能读到旧值吗?

    如果两个mysql配置好了主从的关系,那么他们之间会建立一个tcp长连接,主要用于传输同步数据。 除此之外,主库还会再起一个binlog dump线程将binlog文件的变更发给从库。...io线程和sql线程 因此总结起来,主从同步的步骤就是 1.执行更新sql语句。 2.主库写成功时,binlog会更新。...mysql主从同步 到这里,我们可以开始回答文章开头的第一个问题。 主库更新后,主库都读到最新值了,从库还有可能读到旧值吗?...当更新一行数据后,立马去读主库,主库的数据肯定是最新值,这点没什么好说的,但如果此时主从延迟过大,这时候读从库,同步可能还没完成,因此读到的就是旧值。...在这之后主库的线程1将age更新为100且执行commit提交了事务。 主库线程1的事务提交成功之后binlog就会顺利产生,然后同步给从库。此时从库去查询就能查到最新值age=100。

    96820

    PostgreSQL 12 的同步流复制搭建及主库hang问题处理与分析

    PostgreSQL流复制,有两种方式,分别是异步流复制和同步流复制。...异步流复制模式中,当备库出现异常,主库可以正常的进行读写; 同步流复制模式中,当备库出现异常,主库则可能会hang住(DML、DDL)。...主库的postgresql.conf中: #同步流复制 synchronous_standby_names = 'standbydb1' #同步流复制才配置该值 synchronous_commit...但是始终无法改变备库的状态为同步流复制(也尝试多次设置synchronous_commit参数,但是只有当该参数为local的时候,主库才不会hang住)。...此时数据库在进行DML和DDL操作的时候,则会等待备库的响应,但备库又为异步流复制,所以不会给主库回复wal已经接收到或者写入磁盘。因此,主库会一直hang住。

    2.2K40

    MySQL 中主库跑太快,从库追不上怎么整?

    但是问题就来了,读从库时的数据要与主库保持一致,那就需要主库的数据在写入后同步到从库中。如何保持主库与从库的数据一致性,主库又是通过什么样的方式将数据实时同步到从库的?...在主从同步的过程中,主库会将所有的操作事件记录在 binlog 中,从库通过开启一个 I/O 线程保持与主库的通信,并在一定时间间隔内探测 binlog 日志文件是否发生改变。...主从延迟原因 上面的流程我们已经知道了主从复制的相关过程了,但是主库有更新就会同步从库,那为什么会出现主从延迟的情况呢?...随机重放 Mysql 主库中写 binlog 的操作是顺序写的,之前我们提到过,磁盘的顺序读写速度是很快的。同样的,从库中的 I/O 线程操作日志的速度效率也是很高的。...主从延迟处理 MySQL 5.6版本以后通过并行复制的方式来解决 SQL 单线程产生的主从延迟问题。对于低版本来说,可以通过降低主库的并发来解决。

    1.8K20

    Mysql 中主库跑太快,从库追不上怎么整?

    但是问题就来了,读从库时的数据要与主库保持一致,那就需要主库的数据在写入后同步到从库中。如何保持主库与从库的数据一致性,主库又是通过什么样的方式将数据实时同步到从库的?...基本原理 Mysql 中主从复制时有两个很重要的日志文件: binlog(二进制日志文件) relay log(中继日志文件) 在主从同步的过程中,主库会将所有的操作事件记录在 binlog 中,从库通过开启一个...主从延迟原因 上面的流程我们已经知道了主从复制的相关过程了,但是主库有更新就会同步从库,那为什么会出现主从延迟的情况呢?...随机重放 Mysql 主库中写 binlog 的操作是顺序写的,之前我们提到过,磁盘的顺序读写速度是很快的。同样的,从库中的 I/O 线程操作日志的速度效率也是很高的。...主从延迟处理 MySQL 5.6版本以后通过并行复制的方式来解决 SQL 单线程产生的主从延迟问题。对于低版本来说,可以通过降低主库的并发来解决。

    1.6K30

    Mysql主库跑太快,从库追不上怎么做?

    但是问题就来了,读从库时的数据要与主库保持一致,那就需要主库的数据在写入后同步到从库中。如何保持主库与从库的数据一致性,主库又是通过什么样的方式将数据实时同步到从库的?...在主从同步的过程中,主库会将所有的操作事件记录在 binlog 中,从库通过开启一个 I/O 线程保持与主库的通信,并在一定时间间隔内探测 binlog 日志文件是否发生改变。...主从复制原因 上面的流程我们已经知道了主从复制的相关过程了,但是主库有更新就会同步从库,那为什么会出现主从延迟的情况呢?...随机重放 Mysql 主库中写 binlog 的操作是顺序写的,之前我们提到过,磁盘的顺序读写速度是很快的。同样的,从库中的 I/O 线程操作日志的速度效率也是很高的。...主从延迟处理 MySQL 5.6版本以后通过并行复制的方式来解决 SQL 单线程产生的主从延迟问题。对于低版本来说,可以通过降低主库的并发来解决。

    1.4K50

    MySQL 中主库跑太快,从库追不上怎么整?

    但是问题就来了,读从库时的数据要与主库保持一致,那就需要主库的数据在写入后同步到从库中。如何保持主库与从库的数据一致性,主库又是通过什么样的方式将数据实时同步到从库的?...在主从同步的过程中,主库会将所有的操作事件记录在 binlog 中,从库通过开启一个 I/O 线程保持与主库的通信,并在一定时间间隔内探测 binlog 日志文件是否发生改变。...主从延迟原因 上面的流程我们已经知道了主从复制的相关过程了,但是主库有更新就会同步从库,那为什么会出现主从延迟的情况呢?...随机重放 Mysql 主库中写 binlog 的操作是顺序写的,之前我们提到过,磁盘的顺序读写速度是很快的。同样的,从库中的 I/O 线程操作日志的速度效率也是很高的。...主从延迟处理 MySQL 5.6版本以后通过并行复制的方式来解决 SQL 单线程产生的主从延迟问题。对于低版本来说,可以通过降低主库的并发来解决。

    1.8K31

    mysql主从环境: 主库磁盘坏了(os error 5), 从库更是先一步不同步了(my-01595)

    导读某mysql双主(其实是mariadb 10.5)环境,但实际上只有一个节点写,我们记录主库为db-A,从库为db-B故我们当作主从来分析要简单点.问题: 发现数据库切换了, 还丢了部分数据(部分变更的数据找不到了...登录从库, 查看主从状态, 发现主从在时间点A就已经断开了, 报错可参考: MySQL error code 1595 (ER_SLAVE_RELAY_LOG_WRITE_FAILURE): Relay...log write failure: could not queue event from master我们查询mysql源码(我手里就mysql源码, 这种报错都差不多的),发现报错逻辑为:我们根据主库的日志记录时间...如果主库能修复,那么我们只需要将从库的数据同步完主库即可切换过来.如果主库修复失败, 就只能忍受丢一部分数据了(没得备份.)重启OS后(环境特殊,未验证不重启是否可行),使用xfs_repaire -L...顺利"修复了"xfs文件系统, 再次重启后,主库正常, 待主库数据同步完之后, 即可切换到主库, 并重建从库.总结本次案例为: 主库磁盘问题导致切换, 但切换之前主从就已经不同步了,故切换后的库数据实际上是不完整的

    17220

    Mysql主从同步

    所以在并发量高的情况下一般会使用主从同步来实现读写分离。本篇文章主要就是围绕主从同步实现读写分离这个主题去讲解。...我们其实在Redis专题中也有提到过主从同步的概念,现在我们可以先看下主从同步和读写分离的具体概念。...概念 主从同步:其实主从同步和Redis系列讲到的主从同步比较类似,在多个服务器部署Mysql服务,将其中一台Mysql服务设置为主数据库,其他的Mysql服务设置为从数据库,然后主从同步保证主从数据库数据的一致性...sync_binlog:设置同步二进制日志到磁盘的频率。 binlog_format:mysql复制模式,有SBR、RBR、MBR三种可选模式。...主从同步实现之后我们就可以在这个基础上实现数据库读写分离,减轻主数据库的负载。下一篇将着重介绍Mysql的读写分离。

    3.2K30

    mysql主从同步

    非常感谢大家昨晚来到我们的公开课课堂,一起探讨了关于数据库的架构,最后详细探讨学习了mysql主从同步的搭建过程。...详细过程: 模式: C/S 模式 端口: 3306 x-63 主mysql服务器配置 创建要同步的数据库: mysql> create database bawei; mysql> use bawei...restart 如果只做为备库,就只设置server-ID, 如果他也作为一个分发主库,开启bin-log和中继日志 测试: 主服务器上查看: mysql> show master status; ERROR...SLAVE 测试:数据同步 x-63写数据: mysql> use bawei; Database changed mysql> show tables; +--------------+ | Tables_in_bawei...test1; +------+ | id | +------+ | 1 | +------+ 到现在为止mysql主从同步就搭建完成了,因为篇幅限制,后面会出现的问题解决方案暂时就不在这里阐述了

    5.1K20

    mysql主从同步

    介绍:主从同步是一种数据库复制技术,用于将主数据库(Master)中的数据实时或接近实时地复制到一个或多个从数据库(Slave)中核心流程:主库(Master)记录所有数据变更到二进制日志(binlog...=1#主库唯一标识log-bin=/var/log/mysql/mysql-bin.log#启用二进制日志保存后重启MySQL服务:sudosystemctlrestartmysqld登录数据库修改密码...,创建同步专用账号--登录MySQL主库mysql-uroot-p--创建同步专用账号CREATEUSER'repl'@'%'IDENTIFIEDBY'Password123!'...MySQL服务sudosystemctlrestartmysqld配置主从连接--登录MySQL从库mysql-uroot-p--设置主库信息(替换实际值)--MSQL8.23前CHANGEMASTERTOMASTER_HOST...linux同步成功配置主从同步的过程中常见的故障和维护问题解决方案主从连接失败检查防火墙、主库账号权限主从数据不一致使用pt-table-checksum工具校验同步延迟过高优化慢查询,增加从库硬件资源日常维护需要使用的命令重置主从关系

    32110

    MySQL 双主单写,主库偶尔出现大量延迟的原因

    作者:高鹏(网名八怪),《深入理解MySQL主从原理32讲》系列的作者。...开启),并且从库的DUMP线程会发送给主库,但是主库的IO线程通过SERVER_ID进程判定,将Event进行过滤,不写入主库的relay log,同时会更新主库IO线程读取的位置(Read_Master_Log_Pos...ign_master_log_name_end[0]= 0; //rli->ign_master_log_pos_end,执行这个Event就可以 mysql_mutex_unlock...但是如果从库binlog切换的时候,从库至少会传送ROTATE_EVENT给主库,这个时候主库会拿到这个实际的Event,因此Event的 header中的timestamp 更新了。...Event写入到relay log后会重置,如下: rli->ign_master_log_name_end[0]= 0; // last event is not ignored Enjoy MySQL

    1.4K10

    ActionOMS 正式支持 OceanBase 备库数据同步,释放主库压力更高效!

    传统数据同步往往直接依赖主库资源,但高频率的同步任务可能导致主库性能波动,甚至影响核心业务响应速度。...✅ 释放主库压力,核心业务 0 干扰 将数据同步任务从主库迁移至备库,彻底避免同步任务与核心业务“抢资源”,主库性能提升高达 30%!,保障交易、订单等高并发场景流畅稳定。...✅ 数据同步更稳定,容错能力再升级 OceanBase 备库天然支持多地多活容灾,即使主库所在机房突发故障,ActionOMS 仍可通过备库持续获取最新数据,同步链路 0 中断。...实时数据分析:从备库同步数据至数仓,报表生成提速 50%,业务决策更敏捷。 读写分离架构:备库数据实时同步至缓存系统,缓解主库查询压力,用户体验更流畅。...ActionDB 的 MySQL 8.0 协议全面兼容能力,辅以基于 MySQL binlog 的双向复制技术,为业务系统与下游数据平台提供了安全无虞、无缝迁移的完美方案,确保数据迁移的零风险与无感知。

    45200
    领券