首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏腾讯大数据的专栏

    腾讯HTAP数据库TBase分布式事务揭秘

        TBase是一款腾讯自研高性能HTAP数据库,提供高性能的OLTP和OLAP能力,同时保证可扩展全局一致性分布式事务(ACID)。 本篇文章先介绍TBase的架构体系和数据库事务的基本原理,然后介绍学术界最先进的分布式事务设计方案,最后阐述我们的设计原理。  TBase腾讯自研高性能HTAP数据库介绍 01 ? —— TBase整体系统架构图 ——     TBase是一款腾讯自研高性能HTAP分布式数据库,同时提供高性能的OLTP和OLAP能力,整体系统架构如上图所示。 DrTM采用HTM和RDMA特性基于OCC实现了非常高效的分布式事务 [5-7]。 总结 06     事务ACID是数据库的核心能力和特性,也是数据库区别去其它存储(例如KV)的一个重要区别。随着存储和处理数据量不断增长(PB级),数据库向着横向扩展的方向发展(分布式数据库)。

    3.7K30发布于 2019-08-07
  • 来自专栏算法之美

    TiDB 数据库 HTAP 技术 摘要

    TiDB 高级系统管理 :TiDB 数据库 HTAP 技术 要点 思考一下: 1. 异步复制 怎么保证一致性读取? 2 raft 角色有哪三种? TiDB 数据库 HTAP 概述 青铜级练习 特点1 htap 架构是什么 不修改整体结构,引入一个角色(不投票,不选举,只同步数据) tiflash cols 行列混合是2个产品。 MPP 架构可以对聚合、JOIN 等操作加速 答案:b 白银级练习:MPP 架构是什么 与HTAP关系 TiDB 通过 TiFlash 节点引入了 MPP 架构。 数据隔离性:TiKV、TiFlash 可按需部署在不同的机器,解决 HTAP 资源隔离的问题。 采用行存(tikv) + 列存(TiFlash)的混合存储方式(这个是HTAP) B. region 支持 raft 投票和选举(learner) C.

    1.5K30编辑于 2022-03-15
  • 来自专栏飞总聊IT

    OceanBase CTO杨传辉:有些HTAP数据库,不是真HTAP

    新粉请关注我的公众号 OceanBase CTO 杨传辉,最近在OceanBase公众号上发表了一篇文章:真正的HTAP对用户和开发者意味着什么? 这篇文章写得非常的好,飞总强烈推荐对HTAP有兴趣的人仔细读读这篇文章,顺便聊聊里面一个非常重要的观点。 这种方案并不符合“一份数据“的要求,不是真正的 HTAP。为什么? 杨传辉,公众号:OceanBase真正的HTAP对用户和开发者意味着什么? 这篇文章的这个观点,飞总是非常赞同的。 但是确实有缝合怪在大力宣传自己是很牛逼的HTAP系统啊,既可以做OLAP的也能够处理OLTP的,深受投资人的追捧,和互联网上懵懵懂懂的大众的欢迎。

    94320编辑于 2022-07-14
  • 来自专栏韩锋频道

    金融业分布式数据库选型及HTAP场景实践

    已经有越来越多的企业选择在云上构建基础环境,包括云上数据库的发展速度也远高于非云环境。据乐观估计,在未来5~10年云数据库将占据整体数据库市场的七成以上。 基于原生分布式HTAP 数据库,用一个数据平台应对规模化交易和实时分析,提升业务决策的时效性,降低数据技术栈的复杂性,越来越多的混合负载需求推动了 HTAP 在金融场景的落地。 3. 金融业 HTAP 应用场景实践 1). 金融场景下 HTAP 的分析 在金融企业数字化转型的过程中,各类业务对“海量、实时、在线”的数据需求变得愈发迫切。 经过测试,选择 TiDB 作为基础数据库平台。通过一段时间上线使用,满足业务场景,基于其 HTAP 的特性,打造金融市场实时数据平台,目前已投产了灵活报表和交易对手分析等功能。 3).未来 HTAP 的场景发展 实时数据处理技术还以某些具体的应用场景为主,从现状来看以事件驱动类、流式管道数据计算类为代表的场景,已经开始使用 HTAP 场景的。

    1.6K31编辑于 2022-08-31
  • 来自专栏JavaEdge

    分布式数据库HTAP能统一OLTP和 OLAP吗?

    Gartner用HTAP来描述一种新型数据库,打破OLTP和OLAP隔阂,在一个数据库系统中同时支持事务型数据库场景和分析型数据库场景。 这个构想很快表现出它侵略性一面,由于数据源头在OLTP系统,所以HTAP概念很快成为OLTP数据库,尤其NewSQL风格分布式数据库,向OLAP领域进军的一面旗帜。 ,未来还会有更多分布式数据库竖起HTAP的大旗。 分布式数据库的流设计理念是计算与存储分离,计算就比较容易实现无状态化,所以在一个HTAP系统内构建多个计算引擎不太困难,而真要将HTAP概念落地为可运行系统,根本性挑战是存储。 总的来说,HTAP是解决传统OLAP的一种思路,但是推动者只是少数OLTP数据库厂商。

    94140编辑于 2023-08-13
  • 来自专栏tjava

    TiDB 数据库 HTAP 技术 摘要

    TiDB 高级系统管理 :TiDB 数据库 HTAP 技术 要点 思考一下: 1. 异步复制 怎么保证一致性读取? 2 raft 角色有哪三种? TiDB 数据库 HTAP 概述 青铜级练习 特点1 htap 架构是什么 不修改整体结构,引入一个角色(不投票,不选举,只同步数据) tiflash cols 行列混合是2个产品。 加速本节点join 加速group by 最后汇报给tidb server 小测试 1.下面属于 HTAP 场景特点的是?(请选择 3 项) A. 在故障恢复方面可以做到 RPO = 0 B.

    81720编辑于 2022-03-16
  • 来自专栏腾讯开源的专栏

    企业级分布式 HTAP 数据库管理系统,腾讯 TBase 正式开源

    TBase简介 TBase是腾讯数据平台团队在开源的PostgreSQL基础上研发的企业级分布式HTAP数据库管理系统: 具备高性能可扩展的分布式事务能力,支持RC和RR两种隔离级别; 通过安全、管理、 TBase适用场景 在国产化落地、业务核心领域去O场景; 对HTAP混合事务分析应用模型有需要的业务场景; 对物联网地理信息系统有需求的业务场景; 对实时高并发环境下的分布式事务强一致性有要求的业务(如金融 TBase功能介绍 分布式事务全局一致性能力:通过拥有自主专利的分布式事务一致性技术,包括两阶段提交(Two Phase Commit)以及全局时钟(Global Timestamp)的策略来保证在全分布式环境下的事务一致性 TBase项目规划 加强TBase的HTAP能力,支持多种存储格式; 异构数据互通功能丰富,添加数据更新订阅发布功能; 完善周边生态,丰富数据库联邦数据源; 运维管理能力全面提升,PASS能力持续增强。 TBase真情期待开源贡献 TBase目前已在腾讯内外部包括银行、保险、证券、微信支付等多个行业提供底层数据库支撑。

    2.7K52发布于 2019-11-08
  • 来自专栏应用实践

    OpenTenBase分布式HTAP实战:从Oracle迁移到云原生数据库指南

    "代码是逻辑的诗篇,架构是思想的交响" OpenTenBase官方 OpenTenBase官方GitHub仓库 - 分布式HTAP数据库源码 摘要 作为一名在数据库领域的技术实践者,我最近有幸参与了一个系统从 这次经历让我深刻体会到了分布式HTAP数据库的强大能力,也见证了腾讯云开源数据库技术的成熟度。 在技术选型阶段,我们评估了多个分布式数据库方案,最终选择了OpenTenBase。 OpenTenBase简介 OpenTenBase 是企业级分布式数据库 TDSQL 的社区发行版,包含 OpenTenBase 和 TXSQL 双内核,具备高扩展性、商业数据库语法兼容、分布式引擎、多级容灾和多维度资源隔离等能力 HTAP数据库有了全新的认识和深刻的体会。

    40010编辑于 2025-09-14
  • 来自专栏设计模式

    深入OceanBase内部机制:高性能分布式(实时HTAP)关系数据库概述

    1️⃣OceanBase简介 OceanBase是由蚂蚁集团完全自主研发的国产原生分布式数据库。 实时 HTAP 基于“同一份数据,同一个引擎”,同时支持在线实时交易及实时分析两种场景,“一份数据”的多个副本可以存储成多种形态,用于不同工作负载,从根本上保持数据一致性。 5️⃣OceanBase vs 传统关系型数据库 OceanBase作为一款分布式关系数据库,旨在解决传统数据库如MySQL在多个方面所面临的痛点: 扩展性问题:MySQL等传统数据库在数据量增大时, 在传统数据库中,当业务访问压力大,或数据变化快时,通过拆分库和表来应对,需要人工进行数据迁移和负载均衡,而且分库分表后,跨库SQL和分布式事务都有诸多限制。 6️⃣结语 OceanBase作为一款高性能的分布式关系数据库,以其出色的技术特性和卓越的性能表现赢得了众多企业和开发者的青睐。

    1.4K20编辑于 2024-04-02
  • 来自专栏数据猿

    【金猿技术展】一种分布式 HTAP 数据库上基于索引的数据任意分布方法——为 HTAP 数据库实现 Collocation 优化

    当前,HTAP 已成为数据库发展的前沿领域。 在分布式 HTAP 数据库中,数据有行存和列存两种形式,分别对应于面向 OLTP 的场景和面向 OLAP 的场景,行存和列存的数据通过某种方式进行同步。 在一个强实时性的 HTAP 数据库中,这种同步方式要求行存和列存中的数据满足相同的分布以保证同步效率即实时性,这要求 HTAP 数据库中的数据应以 OLTP 中的分布形式为准,而 HTAP 中的 TP 5、数据调度模块,用于在分布式集群扩缩容或热点调度时对数据进行调度。 本发明的一个分布式 HTAP 数据库系统的实施例: 如上图所示,本发明基于一个分布式 HTAP 数据库系统,该 HTAP 数据库由三部分组成: 1、SQL 层:负责接收用户的 SQL 查询请求,生成和优化

    1.6K40编辑于 2023-03-03
  • 来自专栏大数据,java,Python和前端

    深入解析OpenTenBase:基于原生PostgreSQL的HTAP分布式数据库内核奥秘

    传统的解决方案往往采用“OLTP数据库 + ETL + OLAP数据仓库”的架构,但这带来了数据延迟、运维复杂和成本高昂等问题。 OpenTenBase(其内核亦被称为TXSQL)应运而生,作为一个企业级开源分布式HTAP数据库,它巧妙地在一套系统中同时满足了这两种需求。 其整体架构主要包含三个核心组件:Coordinator(协调节点,CN): 作为数据库的入口,接收SQL请求,进行解析、重写,并依托全新的分布式查询优化器生成最优的分布式执行计划,下发给相应的数据节点执行 它既继承了PostgreSQL强大的SQL兼容性和生态,又赋予了它水平扩展和HTAP能力,是现代企业应对复杂数据场景的优秀开源解决方案。 无论如何,OpenTenBase已经为开源分布式数据库领域树立了一个新的标杆,其设计理念与实现值得每一位数据库开发者深入研究。

    42910编辑于 2025-08-21
  • 来自专栏Goboy

    从Oracle垄断到OpenTenBase分布式HTAP的技术国产数据库的突围之路

    2.分布式HTAP传统数据库的痛点是什么?要么专注于OLTP(交易处理),要么专注于OLAP(分析处理),很难兼顾。 而OpenTenBase通过分布式HTAP架构,完美解决了这个问题:OpenTenBaseHTAP架构3.企业级特性分布式事务:全局事务管理器保证ACID特性水平扩展:在线扩容,应对业务增长多级容灾:数据安全和业务连续性资源隔离 :5432/opentenbase_db#分布式连接池优化initial-size:10max-active:50#分布式事务配置remove-abandoned-timeout:1800#HTAP混合负载配置 2011-2015市场突破期政府采购支持行业应用增多技术差距缩小2016-2020快速发展期云原生架构分布式技术AI智能优化2021-2025全面崛起期OpenTenBase开源技术领先国际生态日趋完善国产数据库发展历程第二阶段 技术先进:分布式HTAP架构领先行业成本可控:开源免费,大幅降低TCO兼容性好:双内核设计,迁移成本低生态完善:腾讯背书,社区活跃未来可期:持续演进,技术路线清晰给技术同行的建议如果你也在为数据库选型而纠结

    45110编辑于 2025-09-09
  • 来自专栏PingCAP的专栏

    HTAP 会成为数据库的未来吗?

    为什么是 HTAP? 在互联网浪潮出现之前,企业的数据量普遍不大,特别是核心的业务数据,通常一个单机的数据库就可以保存。 基于创新的计算存储框架,HTAP 数据库能够在一份数据上同时支撑业务系统运行和 OLAP 场景,避免在传统架构中,在线与离线数据库之间大量的数据交互。 此外,HTAP 基于分布式架构,支持弹性扩容,可按需扩展吞吐或存储,轻松应对高并发、海量数据场景。 其中,TiDB 是国内首家开源的 HTAP 分布式数据库,接下来,本文将以此例进行深入分析。 而云计算 + 数据库将带来更低的运营成本、更高的灵活性,以及与未来物联网、5G 结合满足庞大而复杂数据需求的能力。将数据库“搬”到云上,将成为未来数据库发展的主旋律。

    2.4K32发布于 2020-03-27
  • 来自专栏从ORACLE起航,领略精彩的IT技术。

    如何选择适合你的HTAP数据库

    当我们在网络上去搜索“HTAP”关键字,相关信息很多会提到分布式/集中式架构、传统数据库/新型数据库等等概念,本文就从这些相关概念来切入,抛砖引玉,试着理清面临如今众多的数据库,对于有HTAP需求的用户 1.分布式还是集中式? 2.传统数据库还是新型数据库? 3.水平扩展问题 4.Exadata对OLAP的表现 5.Exadata对OLTP的表现 总结 1.分布式还是集中式? 好像如今一谈到HTAP,都是各种新型的数据库,那么,传统的数据库不能支持HTAP场景吗? 3.水平扩展问题 通过上面两节的讨论,我们看到,HTAP本身和分布式/集中式、传统数据库/新型数据库是没什么直接的对应关系的。那为什么提到HTAP就总爱扯上分布式呢? 5.Exadata对OLTP的表现 Exadata一体机不但为OLAP带来了卓越性能提升,也可以大幅度提升OLTP类应用效率。

    2.1K70发布于 2021-06-10
  • 来自专栏腾讯云开发者社区推荐

    国产开源数据库:腾讯云TBase在分布式HTAP领域的探索与实践

    ​导语 | TBase 是腾讯TEG数据平台团队在开源 PostgreSQL 的基础上研发的企业级分布式 HTAP 数据库系统,可在同一数据库集群中同时为客户提供强一致高并发的分布式在线事务能力以及高性能的数据在线分析能力 视频内容 一、TBase分布式数据库介绍 1. TBase 发展历程 腾讯云从 2009 年便开始在内部的业务上进行尝试,在企业分布式数据库领域的自研过程是比较有经验的。 PostgreSQL 数据库简介 TBase 是基于单机 PostgreSQL 自研的一个分布式数据库,除了具备完善的关系型数据库能力外,还具备很多企业级的能力。 这块面临的主要的业务场景需求,首先是交易数据可能会大于 1T,分析能力大于 5T,并发能力要求达到 2000 以上,每秒的交易峰值可能会达到 1000 万。 Google Spanner 是一个全球分布式数据库,可以在各大洲之间提供一致性的数据库服务能力。

    3.9K20发布于 2020-11-23
  • 来自专栏AI人工智能

    腾讯开源OpenTenBase深度实践:企业级分布式HTAP数据库部署全攻略

    腾讯开源OpenTenBase深度实践:企业级分布式HTAP数据库部署全攻略 Hello,我是摘星! 在彩虹般绚烂的技术栈中,我是那个永不停歇的色彩收集者。 OpenTenBase作为腾讯开源的分布式HTAP数据库,其强大的分布式能力和对PostgreSQL的高度兼容性让我印象深刻。 故障排查与优化 6.1 常见问题排查流程 图5:故障排查流程图 - 系统性问题诊断与解决 6.2 性能优化实践 "分布式数据库的性能优化不仅仅是单节点的调优,更重要的是要理解数据分布和网络通信对整体性能的影响 总的来说,OpenTenBase作为一个开源的分布式HTAP数据库,在功能完整性、性能表现和运维便利性方面都达到了企业级应用的要求。 OpenTenBase #分布式数据库 #PostgreSQL兼容 #HTAP #数据库运维 我是摘星!

    65410编辑于 2025-09-24
  • 来自专栏CU技术社区

    HTAP数据库技术的现在和未来

    什么是HTAP数据库? 2. HTAP 解决的问题 3. HTAP实现思路 4. 腾讯云数据库的选择 以下为演讲正文: 什么是HTAP数据库HTAP实现思路 如果HTAP是一个应用程序架构或状态,数据库怎么实现HTAP?我们认为数据库通过充分发挥硬件能力以满足应用高性能、低成本数据存储与查询需求的技术集合来实现HTAP。 腾讯云第二个HTAP应用程序架构的数据库产品是云原生数据库TDSQL-C,TDSQL-C是典型的云原生分布式数据库,采用存算分离架构,日志即数据库,通过日志在网络间传输,跨存储再去做相应的数据库引擎封装 腾讯云第三个具有HTAP架构形态的产品是缓存数据库KeewiDB,KeewiDB是腾讯云自研的兼容Redis协议的NoSQL数据库,具有数据持久化、分布式、多种一致性等特性。 KeewiDB为用户提供极致的性能,热数据提供Redis级吞吐,冷数据比 RocksDB 高2-5倍,水平堆叠到亿级吞吐。

    1.1K30编辑于 2023-03-02
  • 来自专栏云数据库技术

    HTAP for MySQL 在腾讯云数据库的演进

    本次主题将介绍腾讯云数据库为满足此类场景而在HTAP for MySQL产品方面进行的尝试。 2023首届云数据库技术沙龙 MySQL x ClickHouse 专场,在杭州市海智中心成功举办。 本次,腾讯TEG数据库产品部高级技术专家陆洪勇,为大家分享一下《HTAP for MySQL 在腾讯云数据库的演进》的一些技术内容。本文内容根据演讲录音以及PPT整理而成。 目前在腾讯云数据库做 HTAP for MySQL 相关产品的设计与开发。今天我来讲一下,HTAP for MySQL 在腾讯云数据库的演进。 在这个产品中,我们使用了分布式共享存储来存储数据,而 CPU 和内存等资源也将实现相应的池化,后续我们还会陆续推出相应的产品。 我们从TPCH中抽取了一部分数据,大概可以看到我们提升了 5 倍左右的性能,这说明SIMD指令的效果非常明显。

    2.5K20编辑于 2023-05-10
  • 来自专栏CU技术社区

    腾讯云数据库伍鑫:MPP数据库HTAP技术探索

    本期分享嘉宾 伍鑫 腾讯云数据库专家工程师 【嘉宾介绍】在数据库内核、数据复制、大数据计算等领域有丰富经验,曾发表多篇相关论文、专利。 加入腾讯后,负责TDSQL PG系数据库研发工作。 本文摘要:腾讯云TDSQL分布式关系型数据库是一款面向海量在线实时数据的MPP数据库系统。 以下为DTCC大会腾讯云数据库专家工程师伍鑫的演讲实录: HTAP概述 早在上个世纪九十年代,大家就在讨论存储模型到底是用行存还是列存,因为针对交易系统每列数据是紧耦合,按行组织数据效果在OLTP场景更好 Logical Decoder和Logical Replay去做基于流式复制更高时效的复制层面设计,通过CDC从远端TP场景抓取增量日志、逻辑日志,传输到端的数仓,再做一个日志回放,这样的话时效可以达到5秒内 刚才也有讲到虽然最近用到逻辑复制和流复制的场景达到5秒内的数据延迟,但其实还不是一个完全实时的业务分析,面向现在更多要求实时性更严格,甚至是完全实时的分析场景就需要有一个挑战,一体式的HTAP产品是否能够完全实时的数据分析要求也是一个挑战

    2.1K20编辑于 2023-03-02
  • 来自专栏数据猿

    【金猿技术展】OceanBase 社区版——一款开源分布式HTAP数据库管理系统

    OceanBase技术 OceanBase 社区版是一款开源分布式HTAP(Hybrid Transactional/Analytical Processing)数据库管理系统,具有原生分布式架构, 技术说明 OceanBase 是完全自主研发的金融级分布式关系数据库,在存储引擎、分布式事务、水平扩展、多副本、高可用、多活容灾、HTAP、主流数据库建通等多个方向都有关键技术突破和竞争力。 混合事务和分析处理(Hybrid Transaction and Analytical Process,HTAP): OceanBase 独创的分布式计算引擎,能够让系统中多个计算节点同时运行 OLTP 相对于国内很多分布式数据库采用的通过两种不同的计算引擎,甚至两套数据库系统去分别支持 OLTP 和 OLAP 的方式具有巨大优势。 数据备份:拥有完善的分布式物理备份的能力,备份数据保证一致性。 2020 年 5 月,OceanBase 以 7.07亿 tpmC 的在线事务处理性能,打破了自己在 2019 年创造的 TPC-C 世界纪录。

    2.2K40编辑于 2022-03-16
领券