首页
学习
活动
专区
圈层
工具
发布

20亿条记录的MySQL大表迁移实战

我们的一个客户遇到了一个 MySQL 问题,他们有一张大表,这张表有 20 多亿条记录,而且还在不断增加。如果不更换基础设施,就有磁盘空间被耗尽的风险,最终可能会破坏整个应用程序。...而且,这么大的表还存在其他问题:糟糕的查询性能、糟糕的模式设计,因为记录太多而找不到简单的方法来进行数据分析。...因此,我们用新 schema 创建了新表,并使用来自 Kafka 的数据来填充新的分区表。在迁移了所有记录之后,我们部署了新版本的应用程序,它向新表进行插入,并删除了旧表,以便回收空间。...我开发了一个新的 Kafka 消费者,它将过滤掉不需要的记录,并将需要留下的记录插入到另一张表。我们把它叫作整理表,如下所示。...由于我们只对特定的分析查询使用 BigQuery,而来自用户其他应用程序的相关查询仍然由 MySQL 服务器处理,所以开销并不会很高。

6.6K10
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    MySQL 分表查询

    分表是一种数据库分割技术,用于将大表拆分成多个小表,以提高数据库的性能和可管理性。在MySQL中,可以使用多种方法进行分表,例如基于范围、哈希或列表等。...下面将详细介绍MySQL如何分表以及分表后如何进行数据查询。 基于哈希的分表 基于哈希的分表是一种将数据分散到多个子表中的数据库分表策略。这种方法通过计算数据的哈希值来决定数据应该存储在哪个子表中。...示例插入数据: -- 计算数据的哈希值(示例使用MySQL的MD5哈希函数) SET @hash = MD5(CONCAT(customer_id, order_date)); -- 根据哈希值决定插入到哪个子表中...SET @table_number = ABS(CAST(CONV(SUBSTRING(@hash, 1, 6), 16, 10) AS SIGNED)) % 10; -- 10是子表数量 -- 插入数据到对应的子表...= ABS(CAST(CONV(SUBSTRING(@hash, 1, 6), 16, 10) AS SIGNED)) % 10; -- 10是子表数量 -- 查询对应的子表 SELECT * FROM

    5.5K20

    MySQL之单表查询、多表查询

    一、单表查询: 单个表的查询方法及语法顺序需要通过实际例子来熟悉 先将表数据创建下: ? ?...) # 查询记录,其中匹配名字条件为以j开头,n或者y结尾的名字 mysql> select * from emp where name regexp '^j....多个表之间的查询一般都是在 表之间存在某种逻辑关联的情况下进行的查询,这种逻辑上的关联其实就是表中某个字段名和另外一个表中的字段名存在一个一一对应的关系或者关联。...# 将2张表关联到一起的操作,有专门的方法 # 1、内连接(inner join):只取两张表有对应关系的记录 mysql> select * from emp inner join dep on emp.dep_id...| +------+ | 200 | | 201 | +------+ mysql> # 在将上述查询到的id号作为条件,进行再一次查询: mysql> select * from emp

    25K30

    【MySQL】表的基本查询

    通常情况下不建议使用 * 进行全列查询 查询的列越多,意味着需要传输的数据量越大 可能会影响到索引的使用 SELECT * FROM exam_result; 指定列查询 指定列的顺序不需要按定义表的顺序来...LIMIT n OFFSET s; 注意:对未知表进行查询时,最好加一条 LIMIT 1,避免因为表中数据过大,查询全表数据导致数据库卡死 按 id 进行分页,每页 3 条记录,分别显示 第 1、2、3...SELECT 删除表中的的重复复记录,重复的数据只能有一份 原始数据: 创建一张空表 no_duplicate_table,结构和 duplicate_table 一样: CREATE TABLE no_duplicate_table...数量 SUM([DISTINCT] expr) 返回查询到的数据的 总和,不是数字没有意义 AVG([DISTINCT] expr) 返回查询到的数据的 平均值,不是数字没有意义 MAX([DISTINCT...] expr) 返回查询到的数据的 最大值,不是数字没有意义 MIN([DISTINCT] expr) 返回查询到的数据的 最小值,不是数字没有意义 统计班级共有多少同学 使用 * 做统计,不受 NULL

    3.2K10

    mysql分表+分页查询

    背景 我们都知道,数据量大了,都要对数据库进行分库分表。奈何一直对分表及分表查询没什么概念,这里先不讲那么多概念,先直接演示一个demo。我们直接上车,请坐稳扶好。...key auto_increment , name varchar(20), age tinyint not null default '0' )engine=InnoDB...where id%2=0; insert into tb_member2(id,name,age) select id,name,age from tb_member where id%2=1; 分页查询...其实tb_member_all表里面是没有存储数据,它就是一个外壳,里面的数据是tb_member1,tb_member2的并集,数据的存储是放在分表中;做数据查询的时候,就直接用tb_member_all...查询数据 SELECT * FROM tb_member_all order by id LIMIT 10 OFFSET 10; 删除数据 delete from tb_member_all where

    3.3K30

    mysql-单表查询

    语法: 一、单表查询的语法    SELECT 字段1,字段2... ...from 2.拿着where指定的约束条件,去文件/表中取出一条条记录 3.将取出的一条条记录进行分组group by,如果没有group by,则整体作为一组 4.将分组的结果进行having过滤...= 2.between 80 and 100 :值在80到100之间 3.in(80,90,100)值是10或20或30 4.like 'xiaomagepattern': pattern可以是%或者_...#1、首先明确一点:分组发生在where之后,即分组是基于where之后得到的记录而进行的 #2、分组指的是:将所有记录按照某个相同字段进行归类,比如针对员工信息表的职位分组,或者按照性别进行分组等...,没有任何意义,因为我们现在想查出当前组的多条记录 mysql> select * from employee group by post;  # 查询不全 +----+----------+-----

    6.3K20

    【MYSQL】表的基本查询

    查询的列越多,意味着需要传输的数据量越大; -- 2. 可能会影响到索引的使用。...案例: //将一张表中去重的数据插入另一张空表 //思路 //先创建一张空表,然后筛选数据并去重,插入到空表中 //创建两张表 mysql> create table data(    ...数量 SUM([DISTINCT] expr) 返回查询到的数据的 总和,不是数字没有意义 AVG([DISTINCT] expr) 返回查询到的数据的 平均值,不是数字没有意义 MAX([DISTINCT...] expr) 返回查询到的数据的 最大值,不是数字没有意义 MIN([DISTINCT] expr) 返回查询到的数据的 最小值,不是数字没有意义 1.count函数 案例: mysql> select...)    | +--------+-------------+ |     10 | 2916.666667 | |     20 | 2175.000000 | |     30 | 1566.666667

    2.5K10

    MySQL子查询,联结表

    一,子查询 子查询:嵌套在其他查询中;执行顺序由里到外。子查询数目没有限制,如果要使用多层查询,注意写好缩进格式,不要出错。...二,联结表 SQL强大的功能之一就是能够在数据检索查询的执行中使用联结(join)。使用联结的的原理是一个表与另一个表有相关联的列。一个表的外键是另一个列主键,通过外键可以将两个表联结起来。...在使用联结表时,实际上做的是将第一个表的每一行与第二行表行进行匹配。因此,如果没有联结条件,检索出的行数目将是第一个表的行数乘以第二个表的行数,即所谓的笛卡儿积。...对于联结表的数目没有限制,对于那些复杂的查询使用联结将变得简单。...外部链接,左联结(left outer join),右联结(right outer join);左联结左边表全部返回,右边表没有匹配的为空;右联结同理。

    6.6K20

    【MySQL】表的基本查询

    (20) -> ); (1)单行数据 + 全列插入 接下来我们插入两条记录,其中 value_list 数量必须和定义表的列的数量及顺序一致: 例如插入一个数据: insert into...全列查询 语法:SELECT * FROM 表名; 通常情况下不建议使用 * 进行全列查询,因为: 查询的列越多,意味着需要传输的数据量越大; 可能会影响到索引的使用。...查询字段为表达式 表达式不包含字段:select id, name, 10 from exam_result; - - - 显示 10 表达式包含一个字段:select id, name, chinese...实例:创建一个新表,插入一个旧表中查询到的去重后的数据 先创建一个旧表,并插入数据: mysql> create table duplicate_table (id int, name varchar...(20)); mysql> INSERT INTO duplicate_table VALUES -> (100, 'aaa'), -> (100,

    3.5K10

    【MySQL】007-记录的查询

    一、基础查询 1、多个字段的查询 select 字段1,字段2...字段n from 表名; -- 如果要查询所有字段,可以用*代替 2、去除重复 select distinct 字段1 from 表名...实例: -- 查询年龄大于等于20的学生 SELECT * FROM student WHERE age >= 20; -- 查询年龄等于20的学生 SELECT * FROM student WHERE...age = 20; -- 查询年龄不等于20的学生 SELECT * FROM student WHERE age !...- 按照数学成绩排序,如果数学成绩是一样的,按照英语成绩排序 SELECT * FROM student ORDER BY math ASC,english ASC; 注意:多个排序条件,当前面的条件查询到的结果一样的时候...LIMIT 3,3 -- 第二页 -- 公式:开始的索引= (当前的页码 - 1) * 每页显示的条数; 3、公式 公式:开始的索引= (当前的页码 - 1) * 每页显示的条数; 4、limit分页操作是MySQL

    2.7K10

    mysql查询数据表中记录行数及每行空间占用情况

    可查询数据库中每个表占用的空间、表记录的行数。...目的是知道该表在保证查询性能的前提下,单表能存储的行记录的上限。参考博客3中提到一个假设:假设一行记录的数据大小为1k,实际上现在很多互联网业务数据记录大小通常就是1K左右。...在这个假设下得出结论为单表B+树索引层级为3层时,能存储的行记录上限为21,902,400。         由此可知,一张表在保证查询性能的前提下,能存储的记录行数与每行记录的大小有关。...参考博客: 1.https://www.jianshu.com/p/8f086c98d591  mysql查询库大小,表行数,索引大小 2.https://www.cnblogs.com/mr-wuxiansheng...4.https://www.cnblogs.com/guohu/p/10984278.html  MySQL查询数据表的auto_increment(自增id)

    3.7K30
    领券