首页
学习
活动
专区
圈层
工具
发布
首页标签数据同步

#数据同步

数据库同步怎么做?交易库实时同步到分析平台的四类方案与选型避坑

数据库小学妹

上周同事丢给我一个需求。要把交易库的数据,实时同步到分析平台去。老板只问了一句,数据库同步你打算怎么做。我当时的反应很朴素,建个触发器不就行了。三天后我就为这个...

15410

记一次连接器改造经历:为什么我把 BigQuery Sink 从待处理流重构为缓冲流?

Apache SeaTunnel

在为 Apache SeaTunnel 开发 BigQuery Sink 连接器的过程中,我最初认为最大的挑战会很直接:确保数据能够正确写入 BigQuery。

7300

异构数据集成衔接实战:位点锚定+分片校验,割接不再丢两小时数据

数据库小学妹

异构数据集成做落地,全量初始化跑完只算走了一半。真正定成败的是下一步:增量怎么接上,接上之后怎么证明两边真的一致。这篇就按"锚位点—并行追—判追平—分片校验—熔...

13410

内网时间乱了?一台时间同步装置,让设备时间保持一致

正瑞电子

在厂区、机房等场景中,网络内往往部署大量网络设备,包括交换机、服务器、PLC、视频采集设备、门禁终端等。每一台设备都自带本地硬件时钟,用于记录时间。硬件时钟受元...

10800

数据库数据同步解决方案深度对比:6款主流工具横向对比与信创选型指南

这个DBA有点耶

迁移割接需要同步,双轨并行需要同步,实时容灾需要同步,信创替换更需要同步。数据同步做不好,迁移就是灾难。

15410

数据库实时同步工具选型:六类方案 + Oracle 迁国产库复盘

数据库小学妹

上个月我被拉进一个选型会。客户要换掉跑了六年的 Oracle 同步链路。会议室里摆着三份方案,报价差了三倍。业务方只问一句:明天早上八点前,报表能不能拿到今天的...

19210

SCN、RBA、XID:读懂这三个缩写,就读懂了Oracle日志

河北英数创新软件马英迪

第一次接触的时候,很多人会搞混。它们都跟“位置”有关,但“位置”的含义完全不同。把这三个东西搞清楚了,redo log的解析逻辑基本就通了一大半。

10710

195 次合并、13 个新连接器!Apache SeaTunnel 8 月有哪些新进展?

Apache SeaTunnel

Apache SeaTunnel 8 月社区持续高频迭代!本月共合并 195 次提交,60 位贡献者参与贡献,新增 13 个连接器,进一步拓展数据源生态;Zet...

9010

Redis 数据迁移不用写脚本:SeaTunnel 支持 String、Hash、Set、ZSet 四种数据类型

Apache SeaTunnel

Apache SeaTunnel 的 Redis 连接器支持 string、hash、set、zset 类型的读取和写入,Redis 到 Redis 的数据搬运...

8010

异构数据集成"搬追对"三步落地复盘:Oracle、MySQL迁国产库

数据库小学妹

先说上周的事。周一早上九点,运营要周报,财务说ERP和报表库对不上账,开发同事一脸无奈:ETL昨晚又没跑完,字段映射错了,还在补数。三个系统、三套口径、一个早上...

20510

用 Apache SeaTunnel 同步 DynamoDB 到 Redis,一个配置文件就够

Apache SeaTunnel

假设你把客户数据存储在 Amazon DynamoDB 中,作为应用的唯一数据源(single source of truth)。但如今你需要同样的数据放在 R...

24610

实践心得 | 用 Apache SeaTunnel 搞定 PostgreSQL 到平凯数据库云服务的数据迁移

Apache SeaTunnel

我们业务初期采用 PostgreSQL 作为 OLTP 兼分析型数据库,采用本地自建部署方式。实际运维过程中,需要投入大量人力处理数据库高可用架构维护、定时备份...

13910

db-archive:跨数据库、低峰窗口与分区表归档实践

石头1678

项目地址:https://github.com/elison2000/db-archive

20710

worker不是越多越好:主从延迟调优的量化方法

这个DBA有点耶

主从延迟是DBA绕不过去的坎,但延迟背后的原因,不同的人看到的完全不同。有人遇到延迟就翻慢查询日志,有人一上来就改并行复制参数,还有人选择“重启大法”。折腾一晚...

12310

一个关于数据集成的真相:链路 Success 不等于数据真实可靠

Apache SeaTunnel

在数据工程领域,Fivetran 经常被认为是“简单、省运维”的代表,而 Apache SeaTunnel 等开源项目则意味着更高的灵活性和更强的自主控制能力。...

11310

数据接入与同步不能是“黑盒”!

Apache SeaTunnel

当企业的数据管道成为核心生产系统时,真正的风险往往不是“同步失败”,而是你不知道它为什么成功,也不知道它为什么失败。

16810
领券