首页
学习
活动
专区
圈层
工具
发布

mysql大表加字段慢

基础概念

MySQL大表加字段慢主要是因为当表的数据量很大时,对表进行结构修改(如添加新字段)会涉及到大量的数据页调整和索引重建,这些操作在InnoDB存储引擎中是相对耗时的。

相关优势

  • 数据一致性:MySQL提供了ACID特性,确保数据的一致性和完整性。
  • 灵活性:支持多种存储引擎,如InnoDB、MyISAM等,可以根据不同的应用场景选择合适的存储引擎。
  • 广泛的应用:MySQL是关系型数据库管理系统,广泛应用于各种规模的企业和个人项目中。

类型

MySQL中的表主要分为两类存储引擎:

  • InnoDB:支持事务处理、行级锁定和外键,是默认的存储引擎。
  • MyISAM:不支持事务处理,但读取速度快,适合读多写少的场景。

应用场景

  • Web应用:MySQL常用于存储用户数据、订单信息等。
  • 日志系统:用于存储和分析系统日志。
  • 电子商务:处理大量的交易数据和用户信息。

问题原因

当对大表添加新字段时,MySQL需要:

  1. 分配空间:为新字段分配磁盘空间。
  2. 更新元数据:修改表的元数据信息。
  3. 重建索引:如果新字段被添加到索引中,需要重建索引。
  4. 复制数据页:可能需要复制数据页以适应新的字段布局。

这些操作在大表上会非常耗时。

解决方法

  1. 在线DDL
    • MySQL 5.6及以上版本支持在线DDL(Data Definition Language),可以在不阻塞DML(Data Manipulation Language)操作的情况下进行表结构修改。
    • 使用ALGORITHM=INPLACELOCK=NONE选项来尽量减少对表的锁定。
    • 使用ALGORITHM=INPLACELOCK=NONE选项来尽量减少对表的锁定。
  • pt-online-schema-change
    • 使用Percona Toolkit中的pt-online-schema-change工具,可以在不阻塞表的情况下进行结构修改。
    • 该工具通过创建一个新表并逐步复制数据来实现在线修改。
    • 该工具通过创建一个新表并逐步复制数据来实现在线修改。
  • 分批处理
    • 如果表的数据量非常大,可以考虑将表分成多个部分进行处理,例如通过分片(sharding)将数据分散到多个表中。
  • 优化索引
    • 在添加新字段之前,确保表的索引是优化的,避免不必要的索引重建。

参考链接

通过以上方法,可以有效减少MySQL大表加字段的时间,提高数据库的维护效率。

页面内容是否对你有帮助?
有帮助
没帮助

相关·内容

MySQL8.0大表秒加字段,是真的吗?

很早就听说 MySQL8.0 支持快速加列,可以实现大表秒级加字段。笔者自己本地也有8.0环境,但一直未进行测试。本篇文章我们就一起来看下 MySQL8.0 快速加列到底要如何操作。...通常情况下大表的 DDL 操作都会对业务有很明显的影响,需要在业务空闲,或者是维护的时候做。...所以大表 DDL 仍是一件令 DBA 头痛的事。 听闻 MySQL 8.0 解决了这件令 DBA 头痛的事,那让我们来详细了解下吧。想了解新功能,最简单的方法就是查阅官方文档。...查阅官方文档得知,快速加列即 Instant Add Column ,该功能自 MySQL 8.0.12 版本引入,是由腾讯游戏DBA团队贡献。注意一下,此功能只适用于 InnoDB 表。...总结 虽然快速加列存在一些限制, instant 算法也只适用于部分 DDL 操作,但 8.0 的这项新功能已经足以令人兴奋,很大程度上解决了大表加字段的大难题。

4.8K20

MySQL8.0大表秒加字段,是真的吗?

前言: 很早就听说 MySQL8.0 支持快速加列,可以实现大表秒级加字段。笔者自己本地也有8.0环境,但一直未进行测试。本篇文章我们就一起来看下 MySQL8.0 快速加列到底要如何操作。...通常情况下大表的 DDL 操作都会对业务有很明显的影响,需要在业务空闲,或者是维护的时候做。...所以大表 DDL 仍是一件令 DBA 头痛的事。 听闻 MySQL 8.0 解决了这件令 DBA 头痛的事,那让我们来详细了解下吧。想了解新功能,最简单的方法就是查阅官方文档。...说的再多不如实际来测下,下面我们以 8.0.19 版本为例来实际验证下: # 利用sysbench生成一张1000W的大表 mysql> select version(); +-----------+...总结: 虽然快速加列存在一些限制, instant 算法也只适用于部分 DDL 操作,但 8.0 的这项新功能已经足以令人兴奋,很大程度上解决了大表加字段的大难题。

3.9K70
  • 探寻大表删除字段慢的原因

    《大表删除字段为何慢?》的案例中,提到删除一张大表的字段,产生了很多等待,但是测试环境模拟的现象,看起来和生产,略有区别。...2. obj#=11111 obj#对应的是dba_objects视图中的字段object_id,所以,根据object_id,可以检索出object_name,就知道正是删除字段的表名,说明这些等待,...产生在删除字段的表上。...关于大表删字段,有些老师朋友,提供了他们碰见的问题,以及建议, 1. kill删除字段的会话,再次查询表会报ORA-12986,需要truncate表才能继续,此时要是没备份,就凉凉了。 ?...如果有停机时间,可以采用CTAS重建表,间接删除字段。 针对这个问题,我们采用的,算是第五种方法,即不动这字段,作为备份字段,未来新需求要增加字段,就直接改这字段,当然这是有些前提的, 1.

    1.9K20

    Mysql千万级大表添加字段锁表?

    MySQL 大表数据添加新字段 有时候我们在测试环境给一个表添加字段,但是在线上环境添加一个字段,却极其的慢。...执行加字段操作就会锁表,这个过程可能需要很长时间甚至导致服务崩溃。...,导致新表数据流失不完整 总结 生产环境MySQL添加或修改字段主要通过如下四种方式进行,实际使用中还有很多注意事项 直接添加 如果该表读写不频繁,数据量较小(通常1G以内或百万以内),直接添加即可(可以了解一下...online ddl的知识) 使用pt_osc添加 如果表较大 但是读写不是太大,且想尽量不影响原表的读写,可以用percona tools进行添加,相当于新建一张添加了字段的新表,再将原表的数据复制到新表中...,切换后再将其他几个节点上添加字段 将现有MySQL版本5.7升级到8.0.12之后的版本 相关文章 Mysql事务 Mysql中的索引 Mysql通过binlog恢复数据

    13.5K30

    MySql数据库大表添加字段的方法

    第一 基础方法 增加字段基本方法,该方法适合十几万的数据量,可以直接进行加字段操作。...ALTER TABLE tbl_tpl ADD title(255) DEFAULT '' COMMENT '标题' AFTER id; 但是,线上的一张表如果数据量很大,执行加字段操作就会锁表,这个过程可能需要很长时间甚至导致服务崩溃...所以,如果表的数据特别大,同时又要保证数据完整,最好停机操作。...原理: 首先它会新建一张一模一样的表,表名一般是_为前缀_new后缀,例如原表为t_user 临时表就是_t_user_new 然后在这个新表执行更改字段操作 然后在原表上加三个触发器,DELETE/...连接mysql的端口号 D= 连接mysql的库名 t= 连接mysql的表名 –alter 修改表结构的语句 –execute

    29.3K45

    MySQL修改表的字段

    MySQL修改表的字段 MySQL 修改表字段的方法有两种: ALTER TABLE MODIFY COLUMN。...1、ALTER TABLE 方法 ALTER TABLE 方法用于修改表结构,包括增加、删除和修改表字段。...其语法如下: ALTER TABLE 表名 MODIFY COLUMN 字段名 字段类型; 其中,表名 表示要修改的表名,字段名 表示要修改的字段名,字段类型 表示修改后的字段类型。...例如,修改表 users 的字段 username 的类型为 VARCHAR(50),可以使用以下 SQL 语句: ALTER TABLE users MODIFY COLUMN username VARCHAR...其语法如下: ALTER TABLE 表名 MODIFY COLUMN 字段名 字段类型 [属性]; 其中,表名 表示要修改的表名,字段名 表示要修改的字段名,字段类型 表示修改后的字段类型,属性 表示修改后的字段属性

    9.6K10

    给mybatis添加自动建表,自动加字段的功能

    开源的actable会自动删除表字段,更改表类型,更改表长度,但实际项目中,只允许自动创建表,加表字段即可,改长度,删字段这些都会有风险,不符合实际意义的,而且该开源库使用其来比较复杂 没办法,唯有自己拿过来改造...加字段的mapper public interface CreateMysqlTablesMapper { /** * 根据结构注解解析出来的信息创建表 * @param...`${tableName}`; 核心处理类方法如下: 先查出要添加表的记录或加字段的表 /** * 构建出全部表的增删改的map...自动加字段,有hiberate的created,update,none三种处理。...该代码因为限定了各种字段对应的数据库字段,可以不在PO上加任何信息,自动根据PO生成相关表。 真正使用时,我也自定义了注解类,让特殊情况时,可以自动定义对象的长度及数据为字段类型。

    5.9K30

    千万级大表如何新增字段

    千万级大表如何新增字段先搞懂核心痛点⚠️千万级大表新增字段的本质问题是:传统DDL会触发全表重建+长时间锁表,导致业务写入完全阻塞,轻则接口超时,重则服务雪崩。...不拷贝数据全程不锁表:DML操作完全不受影响8.0.12+支持:加字段到任意位置、设置默认值、修改列默认值唯一限制:不能添加自增列、不能修改列类型方案二:MySQL5.6-5.7OnlineDDL(次选...MySQL5.7加非空默认值字段全表锁5.7不支持InstantDDL,加非空默认值会触发全表更新1.分三步执行:①加允许NULL的字段(秒级)②分批更新历史数据为默认值③修改字段为NOTNULL(秒级...)千万级表DDL导致连接数暴涨DDL执行期间IO飙升,查询变慢,连接堆积1.执行前关闭慢查询日志和通用日志2.临时调大innodb_buffer_pool_size3.监控连接数,超过阈值自动暂停DDL...另外,如果是设计新系统,我会建议业务侧用JSON字段预留扩展,或者做垂直拆分,从根本上减少大表加字段的频率。这算是架构层面的一点前瞻性思考。面试官:你刚才把工具原理讲得很透。

    15610

    为 MySQL 加字段,我竟然遇史诗级 Bug?

    某天开发火急火燎找来,说是给表加字段时,出现 ERROR 1062 (23000):Duplicate entry …… key …… 报错,怀疑是 MySQL 出了问题。...我正准备大肆谴责开发,字打完一半才发现逻辑有些不通, 疑点:如果是新增字段,怎么会报数据重复(又不是给字段加唯一索引)?...生产环境能给大家看的就只有这么多了,但相信对各位 “彦祖” 来说足够看出问题了: 这就是个普通的加字段操作 加的字段和报重复值的字段不一样 但对我来说,乍一看就只看到了 duplicate key,第一反应就是看该字段是否有重复值...总结 从上文大家可知,MySQL 执行 DDL 报 duplicate entry 的条件及原因,我这边再给大家总结: 条件 表结构里面必须得是主键 + 唯一键。...最后的疑问 为什么一定得是主键 + 唯一键的表结构,唯一键冲突才会导致这个问题?

    82500

    MySQL 亿级大表(1.35亿条)安全添加字段实战指南

    MySQL 亿级大表(1.35亿条)安全添加字段实战指南 面对 1.35亿条数据 的 MySQL 表添加字段,传统 ALTER TABLE 可能导致长时间锁表,严重影响业务。...亿级大表 ALTER 的风险评估 1.1 直接执行 ALTER 的潜在问题 ALTER TABLE `orders` ADD COLUMN `is_priority` TINYINT NULL DEFAULT...0; 锁表时间估算(经验值): MySQL 5.6:约 2-6小时(完全阻塞) MySQL 5.7+:10-30分钟(短暂阻塞写入) 业务影响: 所有读写请求超时 连接池耗尽(Too...总结建议 首选方案: MySQL 8.0 → 原生 ALGORITHM=INSTANT(秒级完成) MySQL 5.7 → gh-ost(无触发器影响) 执行窗口: 选择业务流量最低时段(如凌晨 2-4...零感知 的字段添加。

    70210

    存储优化(3)-mongo大表加索引

    摘要 在存储优化(2)-排序引起的慢查询优化中我们提到过排序对查询选择索引的影响。但是的解决办法就是增加一个索引。在线上给mongo的大表增加一个索引要慎重。..."historyRecord","filter":{"bizId":1234567},"sort":{"_id":-1},"limit":1}} 增加一个索引 bizId,_id 增加索引过程 对于大表...查看system.profiles中慢日志 当时这条慢查询语句走的是cached_plan. ? 也就是说,走的是plan cache,已经缓存的执行计划。...那是不是因为这个索引是后来加的,plan-cache还没有更新的。...总结 最后解决是通过强制索引来避免索引误判,当然也可以将排序改成 sort({bizId:-1,_id:-1}) 这样也不会误判 总结一下: 大表加索引,需要确保不会block表的其他操作,尽量选择空闲时候

    3.3K10

    MySQL大表设计

    数据库设计表结构设计垂直分割:将大的表分割成多个相关性较小的表,以减少单个表的字段数量。这有助于提高查询效率和降低冗余。规范化:合理使用规范化,将重复数据抽取成独立的表,以减小数据冗余。...(255), -- 其他字段 FOREIGN KEY (main_data_id) REFERENCES main_data(id));数据类型选择根据字段的性质选择适当的数据类型,以减小存储空间和提高查询效率...索引设计主键索引:对主键字段创建索引,以提高检索速度。...分库分表如果数据量仍然巨大,可以考虑分库分表策略,将数据划分到不同的数据库或表中。4. 数据分区根据时间、范围等条件对数据进行分区,以提高查询效率。5....垂直分割对于一些很少使用的字段,可以考虑将其垂直分割到其他表中,只在需要时进行关联查询。6. 数据库参数调优调整数据库的参数,如缓冲池大小、连接池大小等,以适应大规模数据的存储和查询需求。

    1.2K10

    大表分页查询非常慢,怎么办?

    下面我以某个电商系统的客户表为例,数据库是 Mysql,数据体量在 100 万以上,详细介绍分页查询下,不同阶段的查询效率情况(订单表的情况也是类似的,只不过它的数据体量比客户表更大)。...而事实上,一般查询耗时超过 1 秒的 SQL 都被称为慢 SQL,有的公司运维组要求的可能更加严格,比如小编我所在的公司,如果 SQL 的执行耗时超过 0.2s,也被称为慢 SQL,必须在限定的时间内尽快优化...2.1、方案一:查询的时候,只返回主键 ID 我们继续回到上文给大家介绍的客户表查询,将select *改成select id,简化返回的字段,我们再来观察一下查询耗时。...三、小结 不知道大家有没有发现,上文中介绍的表主键 ID 都是数值类型的,之所以采用数字类型作为主键,是因为数字类型的字段能很好的进行排序。...本文主要围绕大表分页查询性能问题,以及对应的解决方案做了简单的介绍,如果有异议的地方,欢迎网友留言,一起讨论学习!

    2.3K20
    领券