首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏Hadoop数据仓库

    ShardingSphere实践(6)——弹性伸缩

    使用规范         支持项: 将外围数据迁移至ShardingSphere所管理的数据库。 将ShardingSphere的数据节点进行扩容或缩容。         ShardingSphere-Scaling目前不是一个独立的产品,而是以ShardingSphere-Proxy中的一个配置项提供相应功能。 -5.1.1-shardingsphere-proxy-bin/lib/ # 重启Proxy /root/apache-shardingsphere-5.1.1-shardingsphere-proxy-bin (7,4,3,30),(8,4,4,40), (9,5,1,10),(10,5,2,20),(11,6,3,30),(12,6,4,40),(13,7,1,10),(14,7,2,20),(15,8,3,30 /ral/#%E5%BC%B9%E6%80%A7%E4%BC%B8%E7%BC%A9

    4.6K21编辑于 2022-06-12
  • 来自专栏IT者

    ShardingSphere介绍

    概述 简介 ShardingSphere-JDBC ShardingSphere-Proxy ShardingSphere-Sidecar(TODO) 混合架构 解决方案 线路规划 ShardingSphere GitHub地址:https://github.com/apache/shardingsphere ShardingSphere 官网:https://shardingsphere.apache.org ShardingSphere 站在数据库的上层视角,关注他们之间的协作多于数据库自身。 连接、增量和可插拔是 Apache ShardingSphere 的核心概念。 Apache ShardingSphere 是多接入端共同组成的生态圈。 通过混合使用 ShardingSphere-JDBC 和 ShardingSphere-Proxy,并采用同一注册中心统一配置分片策略,能够灵活的搭建适用于各种场景的应用系统,使得架构师更加自由地调整适合于当前业务的最佳系统架构

    1.1K30编辑于 2022-10-31
  • 来自专栏晏霖

    ShardingSphere 数据分片

    我们今天用ShardingSphere 给大家演示数据分片,包括分库分表、只分表不分库进行说明。 下一节有时间的话在讲讲读写分离吧。 github地址:https://github.com/362460453/boot-sharding-JDBC 正文 目录 前言 正文 ShardingSphere介绍 为什么不用mycat 实践前的准备工作 代码案例 总结 ---- ShardingSphere介绍 ShardingSphere是一套开源的分布式数据库中间件解决方案组成的生态圈,它由Sharding-JDBC、Sharding-Proxy ShardingSphere的功能能帮助我们做什么 数据分片 读写分离 编排治理 分布式事务 2016年初Sharding-JDBC被开源,这个产品是当当的,加入了Apache 后改名为 ShardingSphere ,mycat和ShardingSphere是同类型的中间件,主要的功能,数据分片和读写分离两个都能去做,但是姿势却有很大的差别, 从字面意义上看Sharding 含义是分片、碎片的意思,所以不难理解ShardingSphere

    2.2K40发布于 2019-06-26
  • 来自专栏后端技术学习

    shardingSphere学习一

    shardingSphere1.0中,在看到mybatis的列子中,我们可以看到需要配置:mybatisContext.xml和shardingContext.xml。 ? 2.DatabaseShardingStrategy 数据源分片策略 SingleKeyModuloDatabaseShardingAlgorithm 单key模库分片算法 如图所示,图片来自shardingSphere

    29230发布于 2021-07-23
  • 来自专栏小四的技术文章

    ShardingSphere数据分片

    前言 上一篇我们说了ShardingSphere的读写分离,使用读写分离能够减轻单库的读写操作,从而提升数据库的吞吐量,但是当数据库中表的数据量到达一定数量时,我们可能就会需要进行分片了, 分片又分为垂直分片和水平分片 ShardingSphere数据分片实战 使用ShardingSphere数据分片,我们只需通过简单的配置就能实现,ShardingSphere帮我们屏蔽了底层逻辑,我们也可通过ShardingSphere spring: shardingsphere: mode: type: Standalone repository: type: File 分片算法 ShardingSphere的分片算法有多种,我们也可以自己实现一套分片算法,通过SPI,分片算法的顶层接口是ShardingAlgorithm,目前实现了多种算法。 关于ShardingSphere的数据分片,我们就说到这里,感谢你的观看,我们下期再见 ShardingSphere数据库读写分离

    1.4K21编辑于 2022-07-26
  • 来自专栏Hadoop数据仓库

    (一)ShardingSphere介绍

    假设主键ID为bigint类型,长度为8字节,而指针大小在InnoDB源码中设置为6字节,所以就是一个键值指针占用8+6=14字节,一个内部节点中存储的指针个数为 16KB/14B = 16 * 1024B (6)多数据源         分库分表之后面临同时从多个数据库实例的库表中获取数据,一般的解决思路有客户端适配或代理层(中间件)适配。 5. ShardingSphere-JDBC ShardingSphere-Proxy ShardingSphere-Sidecar 数据库 任意 MySQL/PostgreSQL MySQL/PostgreSQL 6. 弹性伸缩         ShardingSphere-Scaling是一个提供给用户的通用数据接入迁移及弹性伸缩的解决方案。 ShardingSphere-Scaling支持将外围数据迁移至ShardingSphere所管理的数据库,或对 ShardingSphere的数据节点进行扩容或缩容。

    6.8K35编辑于 2022-05-26
  • 来自专栏读写分离

    ShardingSphere实现读写分离

    target=https%3A%2F%2Fgitee.com%2Fcreyanghang%2Fspring-example%2Ftree%2Fmaster%2Fspring-shardingsphere </groupId> <artifactId>shardingsphere-jdbc-core-spring-boot-starter</artifactId> <version System.out.println(users.size()); } 复制 图片 在这里插入图片描述 2.3、负载均衡测试 load-balancer-name: alg_round # 轮询 复制 图片 在这里插入图片描述 查询6次结果 结果轮询 load-balancer-name: alg_weight # 权重 复制 图片 在这里插入图片描述 访问9次:slave1数据库3次,slave2数据库6次。 权重 1:2 load-balancer-name: alg_random # 随机 复制 访问6次:slave2,slave2,slave1,slave2,slave2,slave1,slave1。

    67541编辑于 2023-10-26
  • 来自专栏SpringBoot教程

    ShardingSphere实现读写分离

    spring-boot-starter-web</artifactId> </dependency> <dependency> <groupId>org.apache.shardingsphere </groupId> <artifactId>shardingsphere-jdbc-core-spring-boot-starter</artifactId> <version userMapper.selectList(null); System.out.println(users.size()); } 2.3、负载均衡测试 load-balancer-name: alg_round # 轮询 查询6次结果 结果轮询 load-balancer-name: alg_weight # 权重 访问9次:slave1数据库3次,slave2数据库6次。 权重 1:2 load-balancer-name: alg_random # 随机 访问6次:slave2,slave2,slave1,slave2,slave2,slave1,slave1。

    89910编辑于 2023-02-16
  • 来自专栏FoamValue

    ShardingSphere」SQL 路由引擎

    对源码有兴趣的同学可以阅读 shardingsphere-route.jar 包。

    84750发布于 2020-10-09
  • 来自专栏温安适的blog

    分库分表-ShardingSphere

    UUID,无序,写入性能差 snowflake·: ShardingSphere提供这个算法, 有序,写入性能好,生成性能无上限。 利用Redis作为发号器: String 类型 key:yyyyMMddHHmmssSSS value: 序号 防止时钟不准,key的有效时间为:30s,生产性能受到redis限制,一般业务够用 ShardingSphere 标准类图,ShardingSphere 改写部分的 略有不同。

    83021编辑于 2023-10-16
  • 来自专栏SpringBoot教程

    ShardingSphere-JDBC垂直分片

    server-user容器 1.2、创建server-order容器 2、程序实现 2.1、创建实体类 2.2、创建Mapper 2.3、配置垂直分片 3、测试垂直分片 常见错误 前言 垂直分片介绍 ShardingSphere PRIMARY KEY(id) ); 2、程序实现 2.1、创建实体类 @TableName("t_order")//逻辑表名 @Data public class Order { //当没有配置shardingsphere-jdbc Order> { } @Mapper public interface UserMapper extends BaseMapper<User> { } 2.3、配置垂直分片 # 垂直分片 spring: shardingsphere 常见错误 ShardingSphere-JDBC远程连接的方式默认的密码加密规则是:mysql_native_password 因此需要在服务器端修改服务器的密码加密规则,如下: ALTER USER

    33220编辑于 2023-02-16
  • 来自专栏Hadoop数据仓库

    ShardingSphere实践(8)——影子库

    影子算法 (1)列影子算法 (2)Hint 影子算法 6. 使用案例 (1)场景需求 (2)影子库配置 (3)影子库环境 (4)影子算法使用 三、用例测试 1. 准备测试用例环境 2. ShardingSphere 关注于全链路压测场景下,数据库层面的解决方案。将压测数据自动路由至用户指定的数据库,是 ShardingSphere 影子库模块的主要设计目标。 2. 属性名称 数据类型 说明 foo String bar 6. 使用案例 (1)场景需求         假设一个电商网站要对下单业务进行压测。 -5.1.1-shardingsphere-proxy-bin/bin/stop.sh /root/apache-shardingsphere-5.1.1-shardingsphere-proxy-bin -------------------------------+ 1 row in set (0.01 sec) mysql> preview insert into t1 values (5),(6)

    2K51编辑于 2022-08-30
  • 来自专栏FoamValue

    ShardingSphere 介绍与简单入门

    于是,我将 Apache ShardingSphere 产品介绍与开发入门通篇阅读了一遍。 那么,本周将围绕 “Apache ShardingSphere” 进行展开。 1. ShardingSphere 提供了数据分片、读写分离、编排治理、分布式事务的能力,然后完美的解决了上述的问题。 2. Apache ShardingSphere 架构 ShardingSphere 由 JDBC、Proxy 和 Sidecar(规划中)这 3 款相互独立,却又能够混合部署配合使用的产品组成。 ShardingSphere-JDBC 采用无中心化架构,适用于 Java 开发的高性能的轻量级 OLTP 应用;ShardingSphere-Proxy 提供静态入口以及异构语言的支持,适用于 OLAP 创建分库与分表 引入 Maven 依赖 分库分表规则配置 数据源配置 测试类 查询测试结果 6.

    85220发布于 2020-09-24
  • 来自专栏Hadoop数据仓库

    ShardingSphere实践(3)——数据分片

    分库分表 (1)自动取模分片 (2)自动时间范围分片 (3)自定义分片 6. 绑定表 参考: ---- 一、功能详解 1. order_amount)  values  (1, 1, 10,100),(2, 1, 10,100),(3, 1, 10,100),(4, 1, 10,100), (5, 1, 10,100),(6, 01:01:01',1,10,100),     -> (4,'2022-04-01 01:01:01',1,10,100),(5,'2022-05-01 01:01:01',1,10,100),(6, 1, 10, 100), (3, '2022-03-01 01:01:01', 1, 10, 100)  | | resource_3       | insert into t_order_dt_6 values (6, '2022-06-01 01:01:01', 1, 10, 100)                                          | | resource_3

    4.9K21编辑于 2022-06-05
  • 来自专栏Hadoop数据仓库

    ShardingSphere实践(5)——性能测试

    数据分片 参考: ----         从业务角度考虑,分为直连、单路由、主从、分库分表四个基本应用场景,对 ShardingSphere-Proxy 和 MySQL 进行性能对比。 ShardingSphere官方文档中说明支持Sysbench和BenchmarkSQL 5.0,但是BenchmarkSQL 5.0本身不支持MySQL数据库(需要自行修改源码重新编译),因此别无选择只能使用 sbtest1    | sysbench_ds   | | sbtest4    | sysbench_ds   | | sbtest3    | sysbench_ds   | | sbtest6     在以前做的tpcc-mysql对比测试中(“5.6.6 消费延迟监控”),Greenplum与MySQL的QPS相差2.75倍,虽然也有差距,但总不像ShardingSphere这般夸张。         参考: https://shardingsphere.apache.org/document/current/cn/reference/test/performance-test/performance-test

    1.6K21编辑于 2022-06-05
  • 来自专栏程序员云帆哥

    ShardingSphere实现分库分表

    文章目录 一、简介 二、项目使用 1、引入依赖 2、数据库 3、实体类 4、mapper 5、yml配置 6、测试类 7、数据 一、简介   Apache ShardingSphere 是一套开源的分布式数据库解决方案组成的生态圈 Apache ShardingSphere 5.x 版本开始致力于可插拔架构,项目的功能组件能够灵活的以可插拔的方式进行扩展。 Apache ShardingSphere 目前已提供数十个 SPI 作为系统的扩展点,仍在不断增加中。    ShardingSphere 已于2020年4月16日成为 Apache 软件基金会的顶级项目。 {age%3} sharding-column: age # 在日志中SQL语句 props: sql: show: true 6

    1.5K30编辑于 2022-05-12
  • 来自专栏Hadoop数据仓库

    ShardingSphere实践(7)——数据加密

    解决方案详解 (1)新上线业务 (2)已上线业务改造 6. 中间件加密服务优势 7. 加密算法解析 三、用例测试 1. 准备测试用例环境 2. ShardingSphere 提供了 Java、YAML、Spring Boot Starter、Spring 命名空间多种方式供用户选择接入,力求满足业务不同的接入需求。 6. +pPg== | +----+------------------+--------------------------+ 6 rows in set (0.00 sec) 4. == | LR3Zm3Bn6ANef7HMwBY5VQ==                     | |  5 | 456              | 2uY82tVK909q01NgQ21/Ww= | 789  | +----+------+ 6 rows in set (0.03 sec) 参考: https://shardingsphere.apache.org/document/current

    2.4K11编辑于 2022-06-14
  • 来自专栏Hadoop数据仓库

    ShardingSphere实践(4)——读写分离

    |       100.00 | NULL   | |        5 |     200 |             10 |       100.00 | NULL   | |        6 |       100.00 | NULL   | |        5 |     200 |             10 |       100.00 | NULL   | |        6 ShardingSphere-Proxy会不会有同样的问题呢?先说结论,ShardingSphere-Proxy也无法透传客户端连接地址,但这并不是问题,相反如果透传了才会造成混淆。         : /root/apache-shardingsphere-5.1.1-shardingsphere-proxy-bin/bin/stop.sh /root/apache-shardingsphere- 5.1.1-shardingsphere-proxy-bin/bin/start.sh         从一个客户端连接ShardingSphere-Proxy执行查询: mysql -u root -

    1.6K31编辑于 2022-06-05
  • 来自专栏JAVA葵花宝典

    实战:Shardingsphere分库分表

    官方地址:http://shardingsphere.apache.org 本文目标 本文将以springboot进行集成演示,以订单表为例,演示shardingsphere分库分表的基本原理及配置。 spring.shardingsphere.datasource.names = db0,db1 spring.shardingsphere.datasource.db0.type = com.zaxxer.hikari.HikariDataSource spring.shardingsphere.datasource.db0.driver-class-name = com.mysql.cj.jdbc.Driver spring.shardingsphere.datasource.db0 characterEncoding=utf8&useSSL=false spring.shardingsphere.datasource.db0.username = root spring.shardingsphere.datasource.db0 characterEncoding=utf8&useSSL=false spring.shardingsphere.datasource.db1.username = root spring.shardingsphere.datasource.db1

    3K11发布于 2020-06-17
  • 来自专栏晏霖

    ShardingSphere 读写分离-代码零入侵

    封面为好友拍摄的照片,想查看更多微信公众号搜索:JavaBoy王皓或csdn博客搜索:TenaciousD 前言 上文我们介绍Sharding-JDBC 分库分表(ShardingSphere 数据分片 mysql-connector-java</artifactId> </dependency> <dependency> <groupId>io.shardingsphere <version>3.1.0</version> </dependency> <dependency> <groupId>io.shardingsphere

    2.5K40发布于 2019-06-26
领券