MDL全称为metadata lock,即元数据锁。MDL锁主要作用是维护表元数据的数据一致性,在表上有活动事务(显式或隐式)的时候,不可以对元数据进行写入操作。 写锁,而 session B 的查询需要获取 MDL 读锁。 锁 MDL锁一旦发生会对业务造成极大影响,因为后续所有对该表的访问都会被阻塞,造成连接积压。 我们日常要尽量避免MDL锁的发生,下面给出几点优化建议可供参考: 开启metadata_locks表记录MDL锁。 设置参数lockwaittimeout为较小值,使被阻塞端主动停止。 参考 深入理解MDL元数据锁 MySQL的元数据锁MDL发生场景和解决方法总结 《MySQL实战45讲》 全局锁和表锁 :给表加个字段怎么有这么多阻碍?
在数据库管理中,元数据(metadata)的保护至关重要,而MySQL中的"元数据锁"(MDL锁)就是它的守护者。 1. 什么是MDL锁 MDL锁,全名Metadata Lock,是MySQL中一种用于管理元数据访问的锁机制。元数据是指数据库中的对象信息,如表结构、索引等。 2. 为什么需要MDL锁 在MySQL中,如果没有MDL锁,可能会导致以下问题: 并发修改元数据:多个事务同时尝试修改相同的表结构可能导致不一致性。 尝试读取表 START TRANSACTION; SELECT * FROM my_table; 如果没有MDL锁,事务2可能在事务1修改表结构的同时读取表数据,导致数据不一致。 如何使用MDL锁保护数据库 MDL锁通过提供一种机制来管理元数据的并发访问,确保在进行元数据操作时的协调性。
二、了解MDL锁 1、 MDL锁消耗 MDL的引入会导致一定的性能的损耗,对同一个database objects的访问越多,就会导致该对象的MDL的争用。 2、了解MDL锁 为了维护表元数据的数据一致性,在表上有活动事务(显示或者隐式)的时候,不可以对元数据进行写入操作,MySQL引入了metadata lock,来保护表的元数据信息。 则会造成MDL锁 场景二: session1 session2 begin null select * from t null null drop table t 当session1开启事务没有提交对 对表加读锁,进行写操作。 四、恨MDL 因为MDL锁,会导致表级别的锁,无论是读或者写操作,都无法进行,导致SQL的阻塞。 如监控不到位,在高并发的情况下,就会造成大量的SQL阻塞。 五、爱MDL MDL的主要目的是为了保护元数据,假如、假如没有MDL锁,会导致什么 读到的元数据不一致,写入的时候发生元数据冲突。 MDL不是洪水猛兽,不是可怕灾难,是有办法避免的。
1.什么是MDL锁 MDL全称为metadata lock,即元数据锁。MDL锁主要作用是维护表元数据的数据一致性,在表上有活动事务(显式或隐式)的时候,不可以对元数据进行写入操作。 对于引入MDL,其主要解决了2个问题,一个是事务隔离问题,比如在可重复隔离级别下,会话A在2次查询期间,会话B对表结构做了修改,两次查询结果就会不一致,无法满足可重复读的要求;另外一个是数据复制的问题, 元数据锁是server层的锁,表级锁,每执行一条DML、DDL语句时都会申请MDL锁,DML操作需要MDL读锁,DDL操作需要MDL写锁(MDL加锁过程是系统自动控制,无法直接干预,读读共享,读写互斥, 2.模拟与查找MDL锁 MDL锁通常发生在DDL操作挂起的时候,原因是有未提交的事务对该表进行DML操作。而MySQL的会话那么多,不知道哪个会话的操作没有及时提交影响了DDL。 总结: 本篇文章主要分三方面来详解MDL锁,首先介绍了MDL锁产生的原因及作用,然后我们模拟出MDL锁,并给出查找及解决方法,最后给出几点避免MDL锁的建议。
二、了解MDL锁 1、 MDL锁消耗 MDL的引入会导致一定的性能的损耗,对同一个database objects的访问越多,就会导致该对象的MDL的争用。 2、了解MDL锁 为了维护表元数据的数据一致性,在表上有活动事务(显示或者隐式)的时候,不可以对元数据进行写入操作,MySQL引入了metadata lock,来保护表的元数据信息。 则会造成MDL锁 场景二: session1 session2 begin null select * from t null null drop table t 当session1开启事务没有提交对 对表加读锁,进行写操作。 四、恨MDL 因为MDL锁,会导致表级别的锁,无论是读或者写操作,都无法进行,导致SQL的阻塞。 如监控不到位,在高并发的情况下,就会造成大量的SQL阻塞。 五、爱MDL MDL的主要目的是为了保护元数据,假如、假如没有MDL锁,会导致什么 读到的元数据不一致,写入的时候发生元数据冲突。 MDL不是洪水猛兽,不是可怕灾难,是有办法避免的。
原因就是MDL锁引起。下面让我来介绍一下MDL锁及其排查和处理方式。 MDL锁:全称meta data lock,是表锁,用于保护数据库对象定义不被修改。 执行SQL语句操作表都是需要获取和持有MDL锁,直到锁被释放。 在 MySQL 5.5 版本中引入了 MDL,当对一个表做增删改查操作的时候,加 MDL 读锁;当要对表做结构变更操作的时候,加 MDL 写锁。 读锁之间不互斥,因此你可以有多个线程同时对一张表增删改查。 读写锁之间、写锁之间是互斥的,用来保证变更表结构操作的安全性。 案例描述:一位同学查询只有2条数据的test.tt1,10秒后却返回锁等待超时报错。
我们通过实验来体验下MDL锁的情况。 如下就是 MDL 相关的锁模式,以及对应的 SQL 语句, 锁模式 对应SQL MDL_INTENTION_EXCLUSIVE GLOBAL对象、SCHEMA对象操作会加此锁 MDL_SHARED FLUSH (2) 写锁和写锁之间互相阻塞,即两个 session 不能对表同时做表定义变更,需要串行操作。这个很容易理解。 (3) 读锁和读锁之间不会产生阻塞。 之所以需要MDL锁,就是因为事务执行的时候,不能发生表结构的改变,否则就会导致同一个事务中,出现混乱的现象,如果当前有事务持有MDL读锁,DDL就不能申请 MDL写锁,保护元数据。 本文关键字:#MDL# #锁等待#
锁 本文使用MySQL8.0.23测试 另一类表级的锁是 MDL(metadata lock)。 因此,在 MySQL 5.5 版本中引入了 MDL,当对一个表做增删改查操作的时候,加 MDL 读锁;当要对表做结构变更操作的时候,加 MDL 写锁。 之后 session C 会被 blocked,是因为 session A 的 MDL 读锁还没有释放,而 session C 需要 MDL 写锁,因此只能被阻塞。 下面我们尝试进行MDL锁的等待场景模拟(MDL锁记录对应的instruments为wait/lock/metadata/sql/mdl,5.7中默认没有启用(MySQL8.0.23中默认开启了);对应的 ) 结论: 可以使用上述两个脚本定位MDL锁信息,如果关闭了performance_schema,也是可以查询到MDL锁的。
在 MySQL 5.7 中,元数据锁(MDL, Metadata Lock) 机制用于确保数据一致性,但如果处理不当,可能会导致长时间阻塞,影响数据库的并发性能。 MDL 锁的影响任何 读取 或 写入 操作都会获取 MDL 锁,以防止表结构在操作过程中发生变更。例如,在 SELECT 查询执行时,不能对表进行 ALTER 操作,否则会出现等待现象。 2. 事务 B 试图修改表结构:ALTER TABLE sbtest1 ADD COLUMN age INT;由于 ALTER TABLE 需要 获取 MDL 写锁,但事务 A 未释放 MDL 读锁,事务 B 事务 C 执行普通查询:SELECT * FROM sbtest1 LIMIT 10;由于事务 B 未能获取 MDL 写锁,事务 C 也会等待事务 B 释放锁,进入 Waiting for table
在此过程中,无法获取 MDL(元数据锁)的问题时有发生。 为此,笔者结合以往生产故障案例,梳理 MDL 锁问题的排查思路与方法。 2. INNODB STATUS 查看行锁相关信息 MDL 锁 MySQLServer 层 保护表元数据,操作表时自动获取,防止表结构被修改 若有事务持有 MDL 写锁,其他等待获取 MDL 锁的会话会显示处于 5.3 如何优化与避免 MDL 锁 MDL 锁一旦发生,会对业务造成极大影响,因为后续所有对该表的访问都会被阻塞,导致连接积压。 为了尽量避免 MDL 锁的发生,以下是几点优化建议: 开启 metadata_locks 表记录 MDL 锁,以便更好地监控和分析锁的使用情况。
MySQL 5.5 版本中引入了 MDL,当对一个表做增删改查操作DML的时候,加 MDL 读锁;当要对表做结构变更操作DDL的时候,加 MDL 写锁。 安全的解决方式是对表做DDL如添加字段时,设置执行语句的超时时间,写锁超时自动释放,不影响读锁。 全局锁 全局锁就是对整个数据库实例加锁。 表级锁 MySQL 里面表级别的锁有两种:一种是表锁,一种是元数据锁(meta data lock,MDL)。 每执行一条DML、DDL语句时都会申请MDL锁,DML操作需要MDL读锁,DDL操作需要MDL写锁(MDL加锁过程是系统自动控制,无法直接干预,读读共享,读写互斥,写写互斥) 读锁之间不互斥,因此你可以有多个线程同时对一张表增删改查 select @@innodb_lock_wait_timeout; 查询全局资源等待超时时间 set session innodb_lock_wait_timeout=0; 设置当前会话的资源等待超时时间 MDL
这种实现会导致两个主要的问题: 无法实现 RR 隔离级别,比如以下场景: tx1: BEGIN;tx1: SELECT * FROM tbl; -- 获取元数据锁,返回(c1,c2),释放元数据锁tx2 2. 如果没有 SU 锁模式的存在,最合适的低级别 MDL 锁模式即为 SR,那么就会存在如下场景: tx1: acquire SR lock mode tx2: acquire SR lock mode MDL 实现 3.1 实现锁的基本要素 在介绍 MDL 锁实现之前,有一些关于锁的背景先介绍一下。 // static, members hard-coded, IMPORTANT} MDL 子系统的初始化调用栈为: #0 MDL_map::init#1 mdl_init#2 init_server_components
innodb锁机制探究(二)---间隙锁(2) 上一篇文章中,我们已经知道innodb中的间隙锁是对普通索引记录的间隙做的一个锁定动作,这篇文章我们分析下间隙锁在唯一索引中的应用。 也就是说,不存在gap锁。 再看下一个实验: ? 我们可以看到,在我们搜索age=15的时候,这条记录是不存在的,那么在session B中插入id=14的这条记录的时候,我们发现是无法插入的,产生了锁等待,这就说明当记录不存在的时候,唯一索引中也会产生间隙锁 总结一下 当字段是唯一索引或者主键的时候,间隙锁产生的规则如下: 1、如果查询的结果中包含这个记录,那么在另外的会话上插入该记录前后间隙的记录时,不会产生间隙锁 2、如果查询的结果中不包含这个记录,那么在另外的会话上插入该记录前后间隙的记录时 ,会产生间隙锁。
// Innodb锁机制探究(一)---自增锁(2) // 之前我们说过一篇关于MySQL的自增锁,但是没有系统的做测试,今天做一点测试,看看效果。 通过上面这张图我们可以看到,当我们在一个事务中进行自增列的insert操作时候,另外一个会话中又进行了插入记录的操作,在这种情况下,会发生2个奇怪的现象: 1、会话1中的自增列好像直接增加了2个值。 2、会话2中的自增列直接从2开始增加。 那么为什么表级别的锁,我们还能够在会话1中的事务没有结束的时候,在另外一个会话2上成功执行insert呢?不应该直接锁表么? 2、对于常规的insert操作,可以使用参数innodb_autoinc_lock_mode来控制是否使用表级别的锁,如果该参数是0,则使用表级别的auto_inc 锁,如果该参数是1,则使用互斥自增长机制实现主键的自增
> 例如:一个锁系统可以同时包含以下与单个资源(表report的row#2)有关的锁 <transaction#3305, row#2 of table `report`, shared, granted > <transaction#3305, row#2 of table `report`, exclusive, granted > <transaction#3306, row#2 of table | report | S | GRANTED | | 3305 | 2 | report | X | GRANTED | | 3306 | : con1> LOCK TABLES t READ; Query OK, 0 rows affected (0.00 sec) 您可能希望事务已锁定表t,但是看不到任何锁: con2> SELECT 因此,我只是说这个表显示了服务器获取的锁,阻止了其他客户端尝试修改表: con3> insert into test.t values (10); ⌛ 将等待,您可以通过以下方式进行验证: con2>
开启一个队列 让命令进入队列 执行事务 # 1 开启事务 multi # 2 输入命令 set k1 v1 set k2 v2 get k2 set k2 v3 get k2 # 3 执行/放弃事务 exec 或者 discard Redis 悲观锁 效率低,所有悲观锁都不建议使用 悲观锁:每次都会操作都会上锁,执行完毕就会释放锁,别人才可以获得锁。这样会导致效率低下,降低并发量。 Redis CAS乐观锁 watch操作 乐观锁,任何人操作都不上锁,但是真实操作时,如果这个key发现version变动了,本次修改的相关事务操作不会执行! 所有人都可以拿到锁,就可以提高系统吞吐量 Redis 乐观锁的使用场景是:电影院购票,比如C1这个作为有多人同时去抢,这张票只能被一个人抢成功。使用Redis乐观锁的好处是。 watch 需要锁Key名 # 线程1 操作:开启事务,并设置money为80 但不执行事务 multi set money 80 或者 decrby money 20 # 线程2 操作:读取money
java中每个对象都可作为锁,锁有四种级别,按照量级从轻到重分为:无锁、偏向锁、轻量级锁、重量级锁。每个对象一开始都是无锁的,随着线程间争夺锁,越激烈,锁的级别越高,并且锁只能升级不能降级。 用2字(32位JVM中1字=32bit=4baye)存储对象头,如果是数组类型使用3字存储(还需存储数组长度)。对象头中记录了hash值、GC年龄、锁的状态、线程拥有者、类元数据的指针。 ? ? 2.撤销偏向锁 当有另一个线程来竞争锁的时候,就不能再使用偏向锁了,要膨胀为轻量级锁。 竞争线程尝试CAS更新对象头失败,会等待到全局安全点(此时不会执行任何代码)撤销偏向锁。 ? ? 三、轻量级锁 轻量锁与偏向锁不同的是: 轻量级锁每次退出同步块都需要释放锁,而偏向锁是在竞争发生时才释放锁 每次进入退出同步块都需要CAS更新对象头 争夺轻量级锁失败时,自旋尝试抢占锁 可以看到轻量锁适合在竞争情况下使用 2.解锁 用CAS操作锁置为无锁状态(偏向锁位为"0",锁标识位为"01"),若CAS操作失败则是出现了竞争,锁已膨胀为重量级锁了,此时需要释放锁(持有重量级锁线程的指针位为"0",锁标识位为"10"
锁 b) 加MDL_SHARED_READ锁 2)事务提交阶段,释放MDL锁 a) 释放MDL_INTENTION_EXCLUSIVE锁 b) 释放MDL_SHARED_READ 锁 2. 锁 2)事务提交阶段,释放MDL锁 a) 释放MDL_INTENTION_EXCLUSIVE锁 b) 释放MDL_SHARED_WRITE锁 3. alter操作MDL锁流程 锁 2)操作数据,copy data,流程如下: a) 创建临时表tmp,重定义tmp为修改后的表结构 b) 从原表读取数据插入到tmp表 3)将MDL_SHARED_NO_WRITE 五 参考资料 [1] 《MDL 锁介绍二 》阿里集团数据库团的雁闲的三篇文章都值得一读,强烈推荐,本系列文章也是参考他的blog 写的。 [2] 《DDL操作导致备库复制中断》 @印风的blog
这种实现会导致两个主要的问题: 无法实现RR隔离级别,比如以下场景: tx1: BEGIN; tx1: SELECT * FROM tbl; -- 获取元数据锁,返回(c1,c2),释放元数据锁 tx2 : ALTER TABLE tbl DROP COLUMN c2; -- 获取元数据锁,成功,释放元数据锁 tx1: SELECT * FROM tbl; -- 返回(c1),不可重复读 tx1: END ; 备库重放经常出错然后停止,比如以下场景: tx1: BEGIN; tx1: INSERT INTO tbl(c1, c2) VALUES(v1, v2); tx2: ALTER TABLE tbl 2. 如果没有SU锁模式的存在,最合适的低级别MDL锁模式即为SR,那么就会存在如下场景: tx1: acquire SR lock mode tx2: acquire SR lock mode tx1: acquire
) print(r) yield from cur.close() conn.close() loop.run_until_complete(test_example()) 2. session1 开启了一个事物,执行查询操作;但是现在session2 要删除表,如果执行成功,那么session1的第二次查询就跪了,这样就违背了事物的原则,所有在5.5版本引入了MDL,来保证在事物执行期间 ,表结构不被修改 2. 为什么同一张表的多个DDL不能并行执行 MDL读锁是互相兼容的,可以有多个增删查改 MDL写锁是互斥的,只能有一个表的DDL b. 为什么有时候DDL会卡住 MDL读写锁之间是互斥的,所以如果DDL卡住,就证明有事务在执行,不能申请MDL写锁 c.