线上BUG：MySQL死锁分析实战

2022-10-06 17:23:24

原文链接：线上BUG：MySQL死锁分析实战

1 线上告警

我们不需要关注截图中得其他信息，只要能看到打印得org.springframework.dao.DeadlockLoserDataAccessException就足够了，就是MySQL发生死锁导致服务抛异常。

关于接口得逻辑，可以大概描述为：C端调用接口查询店铺得追踪事件列表，如果查询为空列表则顺便给初始化，这里的初始化是批量插入一批事件追踪列表，然后再返回，这里要给到一个关于表的信息点：这个表有主键索引和唯一索引。

1.1 云日志&死锁日志

不管是云日志还是死锁日志，都是显示着是并发重复插入导致的死锁，下面我就简单放一下云日志的截图，关于死锁的日志就不放了，因为下面将自己弄个demo来仿造并发重复请求导致批量插入发生死锁。

2 相关锁概念

2.1 INSERT语句如何加锁

首先我们得先知道在执行 INSERT 语句时，引擎(默认InnoDb)是如何加锁的。

默认情况下，执行 INSERT 语句是不用加锁的，

不过如果事务中执行一条 INSERT 语句，会先定位到该记录在 B+ 树的位置时，接着判断该位置的下一条记录被加了 grap 锁；如果是的话会在记录上加上一种类型为插入意向锁的锁，最后事务进入等待状态。

插入意向锁是行级别的，也是一种间隙锁。插入意向锁之间互相兼容，多个事务可以同时对同一区间加上插入意向锁；还有在事务中，如果成功插入记录并且还未提交事务，那么当前事务还会持有插入记录的行锁。

2.2 键发生重复冲突

如果当插入记录时遇到重复键，当前事务会在生成错误信息前，对记录加上S锁，如果是唯一索引发生的重复键，会加上S型的next-key锁。

3 实践出真知

下面我们开始上例子了。

3.1 表信息

使用现有的表：

用户表
字段有：id、name、gender、user_type
id为主键，name加了唯一索引；这里加唯一索引是要和上面的告警对齐。

CREATE TABLE `user` (

  `id` bigint(20) unsigned NOT NULL AUTO_INCREMENT,

  `name` varchar(20) NOT NULL,

  `gender` char(1) NOT NULL,

  `user_type` varchar(2) NOT NULL,

  PRIMARY KEY (`id`),

  UNIQUE KEY `uk_name` (`name`)

) ENGINE=InnoDB DEFAULT CHARSET=utf8;

3.2 单元测试

接着是单元测试：

entity、mapper和service就直接省略过了。

单元测试主要是为了模拟线上的场景，前端并发发起请求，导致发生并发批量插入同一批数据。

3.2.1 代码如下

模拟并发数3：

@SpringBootTest(classes = MysqlInActionApplication.class)

@RunWith(SpringRunner.class)

public class MysqlInActionApplicationTests {

	@Autowired

	private UserService userService;

	/**

	 * 线程数

	 */

	private static final int threadNum = 3;

	/**

	 * 控制同时请求

	 */

	private static final CountDownLatch countDownLatch = new CountDownLatch(threadNum);

	/**

	 * 用户请求

	 */

	class UserRequest implements Runnable{

		@Override

		public void run() {

			try {

				// 等待

				countDownLatch.await();

			} catch (InterruptedException e) {

				e.printStackTrace();

			}

			// 批量插入用户，插入数据不变

			saveUserList();

		}

	}

	@Test

	public void contextLoads() {

		for (int i = 0; i < threadNum; i++) {

			new Thread(new UserRequest()).start();

			// 计数减一

			countDownLatch.countDown();

		}

		try {

			Thread.currentThread().join();

		} catch (InterruptedException e) {

			e.printStackTrace();

		}

	}

	/**

	 * 批量插入用户

	 */

	public void saveUserList(){

		List<User> userList = new ArrayList<>();

		userList.add(new User().setName("winfun").setGender("m").setUserType("1"));

		userList.add(new User().setName("fenghao").setGender("w").setUserType("2"));

		userList.add(new User().setName("luff").setGender("m").setUserType("1"));

		this.userService.saveBatch(userList);

	}

}

3.2.2 运行结果

我们可以看到，基本和上面的告警信息是保持一致的了，直接抛出死锁的异常。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-EVmS0aAc-1625403761274)(https://note.youdao.com/yws/res/65362/7B60F6EC0A50432399FA27974E08DDFC)]

3.3 MySQL 日志

我们再看看mysql的死锁日志：

show engine innodb status;

------------------------

LATEST DETECTED DEADLOCK

------------------------

2021-07-03 12:36:02 0x7000082df000

*** (1) TRANSACTION:

TRANSACTION 25374, ACTIVE 0 sec inserting

mysql tables in use 1, locked 1

LOCK WAIT 2 lock struct(s), heap size 1136, 1 row lock(s), undo log entries 1

MySQL thread id 17, OS thread handle 123145438982144, query id 356 localhost 127.0.0.1 root update

INSERT INTO user  ( gender,

name,

user_type )  VALUES  ( 'm',

'winfun',

'1' )

*** (1) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table `test`.`user` trx id 25374 lock mode S waiting

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

 0: len 6; hex 77696e66756e; asc winfun;;

 1: len 8; hex 0000000000000001; asc         ;;

*** (2) TRANSACTION:

TRANSACTION 25373, ACTIVE 0 sec inserting

mysql tables in use 1, locked 1

3 lock struct(s), heap size 1136, 2 row lock(s), undo log entries 2

MySQL thread id 19, OS thread handle 123145439539200, query id 369 localhost 127.0.0.1 root update

INSERT INTO user  ( gender,

name,

user_type )  VALUES  ( 'w',

'fenghao',

'2' )

*** (2) HOLDS THE LOCK(S):

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table `test`.`user` trx id 25373 lock_mode X locks rec but not gap

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

 0: len 6; hex 77696e66756e; asc winfun;;

 1: len 8; hex 0000000000000001; asc         ;;

*** (2) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table `test`.`user` trx id 25373 lock_mode X locks gap before rec insert intention waiting

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

 0: len 6; hex 77696e66756e; asc winfun;;

 1: len 8; hex 0000000000000001; asc         ;;

*** WE ROLL BACK TRANSACTION (1)

3.3.1 事务一信息

*** (1) TRANSACTION:

TRANSACTION 25374, ACTIVE 0 sec inserting

mysql tables in use 1, locked 1

LOCK WAIT 2 lock struct(s), heap size 1136, 1 row lock(s), undo log entries 1

MySQL thread id 17, OS thread handle 123145438982144, query id 356 localhost 127.0.0.1 root update

INSERT INTO user  ( gender,

name,

user_type )  VALUES  ( 'm',

'winfun',

'1' )

事务一的trascationId为25374，存活0秒

事务一执行的SQL为：INSERT INTO user ( gender,name,user_type ) VALUES ( 'm','winfun','1' )语句

3.3.2 事务一正在等待的锁

*** (1) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table `test`.`user` trx id 25374 lock mode S waiting

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

 0: len 6; hex 77696e66756e; asc winfun;;

 1: len 8; hex 0000000000000001; asc         ;;

事务一正在等待插入记录的S型的next-key锁。

3.3.3 事务二的信息

*** (2) TRANSACTION:

TRANSACTION 25373, ACTIVE 0 sec inserting

mysql tables in use 1, locked 1

3 lock struct(s), heap size 1136, 2 row lock(s), undo log entries 2

MySQL thread id 19, OS thread handle 123145439539200, query id 369 localhost 127.0.0.1 root update

INSERT INTO user  ( gender,

name,

user_type )  VALUES  ( 'w',

'fenghao',

事务二的事务ID为25373，存活0秒

事务一执行的SQL为：INSERT INTO user ( gender,name,user_type ) VALUES ( 'w','fenghao','2' )语句

3.3.4 事务二持有锁信息

*** (2) HOLDS THE LOCK(S):

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table `test`.`user` trx id 25373 lock_mode X locks rec but not gap

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

 0: len 6; hex 77696e66756e; asc winfun;;

 1: len 8; hex 0000000000000001; asc         ;;

事务二持有 name 为 winfun 这一行唯一二级索引的X锁，但不是gap锁。

3.3.5 事务二等待的锁

*** (2) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table `test`.`user` trx id 25373 lock_mode X locks gap before rec insert intention waiting

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

 0: len 6; hex 77696e66756e; asc winfun;;

 1: len 8; hex 0000000000000001; asc         ;;

事务二在添加插入意向锁时发现记录已经被加上X型的间隙锁，所以无法添加，只能等待锁释放。

最后的解决

*** WE ROLL BACK TRANSACTION (1)

InnoDb 回滚了事务一，从而让事务一接触

分析总结：

事务一和事务二是并发批量插入同一批数据
事务二先执行，成功插入 winfun这条记录，然后对这条记录加上了行锁
接着事务一进来了，发现winfun这个key是重复冲突了，接着在返回报错信息前，对winfun这条记录加上S型的next-key锁，但是发现winfun这条记录上已经有一个行锁，所以只能等待
接着事务二进行第二条记录的插入，即插入fenghao;此时发现它的下一条记录，即winfun记录处已经有事务一要加入next-key锁，导致产生冲突，所以事务二也进入等待
最后，只能回滚事务一，从而让事务二完整执行下去。

最后

最后如何解决线上这个问题呢？

其实很简单，可以上分布式锁，但是我们这场景没有必要，反而会一定程度上增加接口的耗时；并且我们这个是C端接口，完全没有必要拥有初始化店铺数据的能力，把这能力保留在Admin端的接口即可；所以最后将初始化，即批量插入初始化数据的逻辑干掉即可～

1 线上告警

我们不需要关注截图中得其他信息，只要能看到打印得org.springframework.dao.DeadlockLoserDataAccessException就足够了，就是MySQL发生死锁导致服务抛异常。

在这里插入图片描述

关于接口得逻辑，可以大概描述为：C端调用接口查询店铺得追踪事件列表，如果查询为空列表则顺便给初始化，这里的初始化是批量插入一批事件追踪列表，然后再返回，这里要给到一个关于表的信息点：这个表有主键索引和唯一索引。

1.1 云日志&死锁日志

不管是云日志还是死锁日志，都是显示着是并发重复插入导致的死锁，下面我就简单放一下云日志的截图，关于死锁的日志就不放了，因为下面将自己弄个demo来仿造并发重复请求导致批量插入发生死锁。

在这里插入图片描述

2 相关锁概念

2.1 INSERT语句如何加锁

首先我们得先知道在执行 INSERT 语句时，引擎(默认InnoDb)是如何加锁的。

默认情况下，执行 INSERT 语句是不用加锁的，

不过如果事务中执行一条 INSERT 语句，会先定位到该记录在 B+ 树的位置时，接着判断该位置的下一条记录被加了 grap 锁；如果是的话会在记录上加上一种类型为插入意向锁的锁，最后事务进入等待状态。

2.2 键发生重复冲突

如果当插入记录时遇到重复键，当前事务会在生成错误信息前，对记录加上S锁，如果是唯一索引发生的重复键，会加上S型的next-key锁。

3 实践出真知

下面我们开始上例子了。

3.1 表信息

使用现有的表：

用户表

字段有：id、name、gender、user_type

id为主键，name加了唯一索引；这里加唯一索引是要和上面的告警对齐。

CREATE TABLE user (

id bigint(20) unsigned NOT NULL AUTO_INCREMENT,

name varchar(20) NOT NULL,

gender char(1) NOT NULL,

user_type varchar(2) NOT NULL,

PRIMARY KEY (id),

UNIQUE KEY uk_name (name)

) ENGINE=InnoDB DEFAULT CHARSET=utf8;

3.2 单元测试

接着是单元测试：

entity、mapper和service就直接省略过了。

单元测试主要是为了模拟线上的场景，前端并发发起请求，导致发生并发批量插入同一批数据。

3.2.1 代码如下

模拟并发数3：

@SpringBootTest(classes = MysqlInActionApplication.class)

@RunWith(SpringRunner.class)

public class MysqlInActionApplicationTests {

@Autowired

private UserService userService;

/**

 * 线程数

 */

private static final int threadNum = 3;

/**

 * 控制同时请求

 */

private static final CountDownLatch countDownLatch = new CountDownLatch(threadNum);

/**

 * 用户请求

 */

class UserRequest implements Runnable{

	@Override

	public void run() {

		try {

			// 等待

			countDownLatch.await();

		} catch (InterruptedException e) {

			e.printStackTrace();

		}

		// 批量插入用户，插入数据不变

		saveUserList();

	}

}

@Test

public void contextLoads() {

	for (int i = 0; i < threadNum; i++) {

		new Thread(new UserRequest()).start();

		// 计数减一

		countDownLatch.countDown();

	}

	try {

		Thread.currentThread().join();

	} catch (InterruptedException e) {

		e.printStackTrace();

	}

}

/**

 * 批量插入用户

 */

public void saveUserList(){

	List<User> userList = new ArrayList<>();

	userList.add(new User().setName("winfun").setGender("m").setUserType("1"));

	userList.add(new User().setName("fenghao").setGender("w").setUserType("2"));

	userList.add(new User().setName("luff").setGender("m").setUserType("1"));

	this.userService.saveBatch(userList);

}

}

3.2.2 运行结果

我们可以看到，基本和上面的告警信息是保持一致的了，直接抛出死锁的异常。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-EVmS0aAc-1625403761274)(https://note.youdao.com/yws/res/65362/7B60F6EC0A50432399FA27974E08DDFC)]

3.3 MySQL 日志

我们再看看mysql的死锁日志：

show engine innodb status;

LATEST DETECTED DEADLOCK

2021-07-03 12:36:02 0x7000082df000

*** (1) TRANSACTION:

TRANSACTION 25374, ACTIVE 0 sec inserting

mysql tables in use 1, locked 1

LOCK WAIT 2 lock struct(s), heap size 1136, 1 row lock(s), undo log entries 1

MySQL thread id 17, OS thread handle 123145438982144, query id 356 localhost 127.0.0.1 root update

INSERT INTO user ( gender,

name,

user_type ) VALUES ( 'm',

'winfun',

'1' )

*** (1) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table test.user trx id 25374 lock mode S waiting

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

0: len 6; hex 77696e66756e; asc winfun;;

1: len 8; hex 0000000000000001; asc ;;

*** (2) TRANSACTION:

TRANSACTION 25373, ACTIVE 0 sec inserting

mysql tables in use 1, locked 1

3 lock struct(s), heap size 1136, 2 row lock(s), undo log entries 2

MySQL thread id 19, OS thread handle 123145439539200, query id 369 localhost 127.0.0.1 root update

INSERT INTO user ( gender,

name,

user_type ) VALUES ( 'w',

'fenghao',

'2' )

*** (2) HOLDS THE LOCK(S):

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table test.user trx id 25373 lock_mode X locks rec but not gap

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

0: len 6; hex 77696e66756e; asc winfun;;

1: len 8; hex 0000000000000001; asc ;;

*** (2) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table test.user trx id 25373 lock_mode X locks gap before rec insert intention waiting

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

0: len 6; hex 77696e66756e; asc winfun;;

1: len 8; hex 0000000000000001; asc ;;

*** WE ROLL BACK TRANSACTION (1)

3.3.1 事务一信息

*** (1) TRANSACTION:

TRANSACTION 25374, ACTIVE 0 sec inserting

mysql tables in use 1, locked 1

LOCK WAIT 2 lock struct(s), heap size 1136, 1 row lock(s), undo log entries 1

MySQL thread id 17, OS thread handle 123145438982144, query id 356 localhost 127.0.0.1 root update

INSERT INTO user ( gender,

name,

user_type ) VALUES ( 'm',

'winfun',

'1' )

事务一的trascationId为25374，存活0秒

事务一执行的SQL为：INSERT INTO user ( gender,name,user_type ) VALUES ( 'm','winfun','1' )语句

3.3.2 事务一正在等待的锁

*** (1) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table test.user trx id 25374 lock mode S waiting

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

0: len 6; hex 77696e66756e; asc winfun;;

1: len 8; hex 0000000000000001; asc ;;

事务一正在等待插入记录的S型的next-key锁。

3.3.3 事务二的信息

*** (2) TRANSACTION:

TRANSACTION 25373, ACTIVE 0 sec inserting

mysql tables in use 1, locked 1

3 lock struct(s), heap size 1136, 2 row lock(s), undo log entries 2

MySQL thread id 19, OS thread handle 123145439539200, query id 369 localhost 127.0.0.1 root update

INSERT INTO user ( gender,

name,

user_type ) VALUES ( 'w',

'fenghao',

事务二的事务ID为25373，存活0秒

事务一执行的SQL为：INSERT INTO user ( gender,name,user_type ) VALUES ( 'w','fenghao','2' )语句

3.3.4 事务二持有锁信息

*** (2) HOLDS THE LOCK(S):

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table test.user trx id 25373 lock_mode X locks rec but not gap

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

0: len 6; hex 77696e66756e; asc winfun;;

1: len 8; hex 0000000000000001; asc ;;

事务二持有 name 为 winfun 这一行唯一二级索引的X锁，但不是gap锁。

3.3.5 事务二等待的锁

*** (2) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 62 page no 4 n bits 72 index uk_name of table test.user trx id 25373 lock_mode X locks gap before rec insert intention waiting

Record lock, heap no 2 PHYSICAL RECORD: n_fields 2; compact format; info bits 0

0: len 6; hex 77696e66756e; asc winfun;;

1: len 8; hex 0000000000000001; asc ;;

事务二在添加插入意向锁时发现记录已经被加上X型的间隙锁，所以无法添加，只能等待锁释放。

最后的解决

*** WE ROLL BACK TRANSACTION (1)

InnoDb 回滚了事务一，从而让事务一接触

分析总结：

事务一和事务二是并发批量插入同一批数据

事务二先执行，成功插入 winfun这条记录，然后对这条记录加上了行锁

接着事务一进来了，发现winfun这个key是重复冲突了，接着在返回报错信息前，对winfun这条记录加上S型的next-key锁，但是发现winfun这条记录上已经有一个行锁，所以只能等待

接着事务二进行第二条记录的插入，即插入fenghao;此时发现它的下一条记录，即winfun记录处已经有事务一要加入next-key锁，导致产生冲突，所以事务二也进入等待

最后，只能回滚事务一，从而让事务二完整执行下去。

最后

最后如何解决线上这个问题呢？

Markdown 6816 字数 270 行数当前行 1, 当前列 0HTML 6022 字数 191 段落

码农公寓

原文链接：线上BUG：MySQL死锁分析实战

1 线上告警

1.1 云日志&死锁日志

2 相关锁概念

2.1 INSERT语句如何加锁

2.2 键发生重复冲突

3 实践出真知

3.1 表信息

3.2 单元测试

3.2.1 代码如下

3.2.2 运行结果

3.3 MySQL 日志

3.3.1 事务一信息

3.3.2 事务一正在等待的锁

3.3.3 事务二的信息

3.3.4 事务二持有锁信息

3.3.5 事务二等待的锁

最后的解决

分析总结：

最后

show engine innodb status;

LATEST DETECTED DEADLOCK

相关文章