本篇文章只是对开发过程中mysql的调优,也不介绍官方类似于单表记录不超过500-800个w的相关问题
开发过程中我们一般在创建完库表结构之后,一般通过mysql提供的Explain去查看我们的查询语句,优化对应的SQL和库表结构。
一、SQL慢的原因
- 1、硬件问题。如网络速度慢,内存不足,I/O吞吐量小,磁盘空间满了等。
- 2、没有索引或者索引失效
- 3.数据过多(分库分表)
- 4.服务器调优及各个参数设置(调整my.cnf)
二、mysql调优的方向
- 1.先观察,开启慢查询日志,设置相应的阈值,在生产环境跑上个一天过后,看看哪些SQL比较慢。
- 2、Explain和慢SQL分析。比如SQL语句写的烂,索引没有或失效,关联查询太多(有时候是设计缺陷或者不得以的需求)等等
- 3、Show Profile是比Explain更近一步的执行细节,可以查询到执行每一个SQL都干了什么事,这些事分别花了多少秒。
- 4、找DBA或者运维对MySQL进行服务器的参数调优。
三、mysql的索引
MySQL官方对索引的定义为:索引(Index)是帮助MySQL高效获取数据的数据结构。我们可以简单理解为:快速查找排好序的一种数据结构。Mysql索引主要有两种结构:B+Tree索引和Hash索引。我们平常所说的索引,如果没有特别指明,一般都是指B树结构组织的索引(B+Tree索引)。
四、explain 分析
MariaDB [test]> show create table order_info\G *************************** 1. row *************************** Table: order_info Create Table: CREATE TABLE `order_info` ( `id` bigint(20) NOT NULL AUTO_INCREMENT, `user_id` bigint(20) DEFAULT NULL, `product_name` varchar(50) NOT NULL DEFAULT ‘‘, `productor` varchar(30) DEFAULT NULL, PRIMARY KEY (`id`), KEY `user_product_detail_index` (`user_id`,`product_name`,`productor`) ) ENGINE=InnoDB AUTO_INCREMENT=10 DEFAULT CHARSET=utf8 1 row in set (0.00 sec)
MariaDB [test]> show create table user_info\G
1. row
Table: user_info
Create Table: CREATE TABLE user_info
(id
bigint(20) NOT NULL AUTO_INCREMENT,name
varchar(50) NOT NULL DEFAULT ‘‘,age
int(11) DEFAULT NULL,
PRIMARY KEY (id
),
KEY name_index
(name
)
) ENGINE=InnoDB AUTO_INCREMENT=11 DEFAULT CHARSET=utf8;
#### 4.1 explain分析执行顺序
##### 1、id相同,执行顺序由上而下
explain select user.,ord. from user_info user,order_info ord where user.id = ord.user_id;
![image.png](https://s2.51cto.com/images/20210807/1628333002929652.png?x-oss-process=image/watermark,size_14,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=)
##### 2、id不同,越大越先执行
explain select * from user_info where id =(select user_id from order_info where product_name = "p2");
![image.png](https://s2.51cto.com/images/20210807/1628333615675161.png?x-oss-process=image/watermark,size_14,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=)
#### 4.2 explain的字段
explain select * from user_info;
![image.png](https://s2.51cto.com/images/20210807/1628331430844256.png?x-oss-process=image/watermark,size_14,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=)
索引使用情况在possible_keys、key和key_len三列,后文我们先从左到右依次讲解。
- select_type
SIMPLE: 表示此查询不包含 UNION 查询或子查询
PRIMARY: 表示此查询是最外层的查询
SUBQUERY: 子查询中的第一个 SELECT
UNION: 表示此查询是 UNION 的第二或随后的查询
DEPENDENT UNION: UNION 中的第二个或后面的查询语句, 取决于外面的查询
UNION RESULT, UNION 的结果
DEPENDENT SUBQUERY: 子查询中的第一个 SELECT, 取决于外面的查询. 即子查询依赖于外层查询的结果.
DERIVED:衍生,表示导出表的SELECT(FROM子句的子查询)
- table 表示查询涉及的表或衍生的表:
- **type 字段比较重要,它提供了判断查询是否高效的重要依据依据。 通过 type 字段,我们判断此次查询是 全表扫描 还是 索引扫描等**
system: 表中只有一条数据, 这个类型是特殊的 const 类型。
const: 针对主键或唯一索引的等值查询扫描,最多只返回一行数据。 const 查询速度非常快, 因为它仅仅读取一次即可。例如下面的这个查询,它使用了主键索引,因此 type 就是 const 类型的:explain select * from user_info where id = 2;
eq_ref: 此类型通常出现在多表的 join 查询,表示对于前表的每一个结果,都只能匹配到后表的一行结果。并且查询的比较操作通常是 =,查询效率较高。例如:explain select * from user_info, order_info where user_info.id = order_info.user_id;
ref: 此类型通常出现在多表的 join 查询,针对于非唯一或非主键索引,或者是使用了 最左前缀 规则索引的查询。例如下面这个例子中, 就使用到了 ref 类型的查询:explain select * from user_info, order_info where user_info.id = order_info.user_id AND order_info.user_id = 5
range: 表示使用索引范围查询,通过索引字段范围获取表中部分数据记录。这个类型通常出现在 =, <>, >, >=, <, <=, IS NULL, <=>, BETWEEN, IN() 操作中。例如下面的例子就是一个范围查询:explain select * from user_info where id between 2 and 8;
index: 表示全索引扫描(full index scan),和 ALL 类型类似,只不过 ALL 类型是全表扫描,而 index 类型则仅仅扫描所有的索引, 而不扫描数据。index 类型通常出现在:所要查询的数据直接在索引树中就可以获取到, 而不需要扫描数据。当是这种情况时,Extra 字段 会显示 Using index。
ALL: 表示全表扫描,这个类型的查询是性能最差的查询之一。通常来说, 我们的查询不应该出现 ALL 类型的查询,因为这样的查询在数据量大的情况下,对数据库的性能是巨大的灾难。 如一个查询是 ALL 类型查询, 那么一般来说可以对相应的字段添加索引来避免。
一般来说一般的type类型的查询高效如下
**ALL < index < range ~ index_merge < ref < eq_ref < const < system**
ALL 类型因为是全表扫描, 因此在相同的查询条件下,它是速度最慢的。而 index 类型的查询虽然不是全表扫描,但是它扫描了所有的索引,因此比 ALL 类型的稍快.后面的几种类型都是利用了索引来查询数据,因此可以过滤部分或大部分数据,因此查询效率就比较高了。
- possible_keys
它表示 mysql 在查询时,可能使用到的索引。 注意,即使有些索引在 possible_keys 中出现,但是并不表示此索引会真正地被 mysql 使用到。 mysql 在查询时具体使用了哪些索引,由 key 字段决定。
- key
此字段是 mysql 在当前查询时所真正使用到的索引。
- key_len
表示查询优化器使用了索引的字节数,这个字段可以评估组合索引是否完全被使用。
- ref
这个表示显示索引的哪一列被使用了,如果可能的话,是一个常量。前文的type属性里也有ref,注意区别。
- rows
rows 也是一个重要的字段,mysql 查询优化器根据统计信息,估算 sql 要查找到结果集需要扫描读取的数据行数,这个值非常直观的显示 sql 效率好坏, 原则上 rows 越少越好。可以对比key中的例子,一个没建立索引钱,rows是9,建立索引后,rows是4。
- extra 如下列举了常见的几种类型
using filesort :表示 mysql 需额外的排序操作,不能通过索引顺序达到排序效果。一般有 using filesort都建议优化去掉,因为这样的查询 cpu 资源消耗大。
using index:覆盖索引扫描,表示查询在索引树中就可查找所需数据,不用扫描表数据文件,往往说明性能不错。
using temporary:查询有使用临时表, 一般出现于排序, 分组和多表 join 的情况, 查询效率不高,建议优化。
using where :表名使用了where过滤。
### 优化案例
MariaDB [test]> show create table order_info\G
1. row
Table: order_info
Create Table: CREATE TABLE order_info
(id
bigint(20) NOT NULL,user_id
bigint(20) DEFAULT NULL,product_name
varchar(50) NOT NULL DEFAULT ‘‘,productor
varchar(30) DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8
1 row in set (0.00 sec)
MariaDB [test]> show create table user_info\G
1. row
Table: user_info
Create Table: CREATE TABLE user_info
(id
bigint(20) NOT NULL,name
varchar(50) NOT NULL DEFAULT ‘‘,age
int(11) DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8
1 row in set (0.00 sec)
- 这是没有加索引之前,明显看到type是ALL,扫描了全表的数据
![image.png](https://s2.51cto.com/images/20210807/1628334843886074.png?x-oss-process=image/watermark,size_14,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=)
- 我们创建索引
explain select u.,o. from user_info u left join order_info o on u.id=o.user_id;
create index index_user_id on order_info(user_id);
![image.png](https://s2.51cto.com/images/20210807/1628335141909041.png?x-oss-process=image/watermark,size_14,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=)
- 我们稍稍改一下查询语句order_info用主键去查,看到type了吧
alter table order_info add primary key (id);
![image.png](https://s2.51cto.com/images/20210807/1628335730460219.png?x-oss-process=image/watermark,size_14,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=)
#### 浅谈索引的缺点
索引虽然能非常高效的提高查询速度,同时却会降低更新表的速度。实际上索引也是一张表,该表保存了主键与索引字段,并指向实体表的记录,所以索引列也是要占用空间的。
#### 需要创建索引的情况
![image.png](https://s2.51cto.com/images/20210807/1628336737413341.png?x-oss-process=image/watermark,size_14,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=)
![image.png](https://s2.51cto.com/images/20210807/1628335848924890.png?x-oss-process=image/watermark,size_14,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=)