Mysql 性能优化——必胜之道

    

    mysql的性能优化是运维和DBA们常常面对的问题,也是各大公司招聘人才时看中的要点之一。性能优化听上去很难,似乎只有大神才能做,然而,mysql的性能优化绝不是运维独自一个能完成的,DBA、开发、架构也要参与其中,齐心协力才能打赢性能优化之战。

    本文将全面解说数据库优化的各个方面,主要也就是硬件、网络、系统、架构、软件这几个方面,其中软件主要包括软件版本、表设计、引擎、SQl语句、配置文件my.cnf等几个方面


一 硬件和网络

    硬件和网络应该怎么优化呢?两个字“砸钱”!购买优质服务器,高性能多核cpu,高内存,高性能磁盘或者ssd盘等。硬件高配置是数据库高性能的基础,一般公司来说一台数据库机器配上72G内存已经足够了,具体配置也可根据公司的业务需求来添加。网络的基础配件性能越高越好,N兆光纤、N兆交换机、N兆网卡。当然,如果公司差钱,那就选择合适当前业务的基础配置即可。总之一句话:硬件与网络要用钱来优化!


二 系统

    操作系统选择,首选当前流行稳定的版本,比如centos6.5 centos6.8,尽量少用5版本,如果公司处于整体环境升级阶段,可以直接换成最新的7版本,其性能优于5、6版本;如果不差钱也可以用redhat的相应版本,本人建议还是用centos吧,不花钱且社区活跃,方便后期管理升级。AIX系统不建议使用,至于什么原因,我只能送给AIX系统两个字“呵呵”。文件系统上尽量用ext4!


三 架构体系

    mysql数据库的架构体系比较单纯,从单机到一主一从,再到一主多从,再到多主多从,再到读写分离,分级存储,分库分表,主要的形式也就这么多,具体怎么选择是根据业务需求而定,业务量较小的公司可以考虑一主多从,一般公司做到主从+读写分离就可以了,这样既有了性能也有了备份,数据量特别巨大的才用分库分表。


四 数据库版本控制

    数据库版本与数据库的性能有着密切的关系,版本越高功能越丰富性能越强悍,但是高版本存在着可能未发现的隐患。目前大部分系统自带的mysql5.1,此版本稳定而悠久,在功能和性能要求不高的数据库环境中可以使用;不过企业环境中还是建议升级到mysql5.6以上版本,如果单机性能要求特高可以使用mysql5.7或者mariadb10.1或者percona5.7;mysql5.6在企业环境的应用较为普遍,性能也稳定,推荐使用这个版本;如果想使用最新版本的高性能数据库(据测5.7版本读写性能是5.6版本的2倍),推荐使用mariadb10.1,因为mysql企业版收费了,也有闭源的趋势。总结下:推荐使用mysql5.6或者mariadb10.1的相应版本。

    高版本mysql5.7企业版,较之前版本功能性能的确有了较大提升:

    1 在读模式下,3倍性能提升;在读写模式下,2倍性能提升。

    2 默认开启ssl安全模式

        >bin/mysql_ssl_rsa_setup 开启

    3 Buffer_pool可以动态设置大小,无需重启

        set global innodb_buffer_pool_size=256*1024*1024   ##设置256M

    4 缓冲池预热 

        innodb_buffer_pool_dump_at_shutdown=1 innodb_buffer_pool_load_at_startup=1

    5 支持全中文索引

    6 支持死锁打印到错误日志  innodb_print_all_deadlocks=1

    7 支持json格式数据存储

    8 支持kill慢sql        set global max_statement_time=1

    9 支持日志审计 audit plugin

    10 支持错误日志打印到系统日志文件中


五 表设计优化

    关系数据库面临着范式的选择,最低满足第一范式:表中的字段都是单一属性,不可再分的;第二范式要求实体的属性完全依赖于主关键字;第三范式是不存在非关键字对任一候选主键的函数依赖;数据库的设计应当最大程度的满足三范式,当然三范式也是存在着问题的,它通常要很多join表,导致查询效率低下;有时候可以适当的做冗余,减少join,但要用审慎的态度对待!

    表字段类型选择也是优化的重点。选取原则尽量是选小不选大,能用字节少的字段就不用大字段。更小的字段类型占用更少的内存,占用的磁盘和内存也会很小,占用的宽带也会少,所以做字段选择时候必须坚持“用小不用大”。比如主键,强烈推荐使用int整型。

    数值类型一般常用的int(4个字节)和bigint(8个字节),比如手机号可用bigint,年龄用tinyint;字符类型最常用的有char(256)和varchar(65535),他们跟字符编码也有关系,latin1占用一个字节,gbk占用2个字节,utf8占用3个字节;时间类型常用date(3个字节)和datetime(8个字节)、timestamp(4个字节)。选择各种字段类型时候选择占用最少字节最适合的。

    在线修改表结构,可以使用percona的工具pt-online-schema-change,不影响业务。

六 数据库引擎的选择

    MyISAM和InnoDB是mysql数据库最常用的两种存储引擎,在5.5版本之前,默认是MyISAM,之后版本默认是InnoDB。两者的主要区别如下:

    1  MyISAM是非事务安全型,InnoDB是事务安全型

    2  MyISAM应用表级锁,开销小,InnoDB是行级锁,开销大,支持更好的并发写操作

    3 MyISAM支持全文索引,Innodb在5.6版本以后才支持

    4 MyISAM相对简单,管理方便,效率高,小型应用可以考虑使用MyISAM引擎

    5 MyISAM表保存成文件形式,易于跨平台迁移

    6 InnoDB比MyISAM更安全,可以随时从非事务切换到事务

    据测,在同等配置下的压力测试中,InnoDB性能是MyISAM的10倍左右,所以在选着具有大量读写操作的应用中,推荐InnoDB优先使用引擎!


七 SQL语句优化

    SQL语句决定着数据库70%的性能状况,大多数性能不好都是sql语句引起的。

    普通硬件+普通配置+完美sql语句=一般性能

    完美硬件+完美配置+垃圾sql语句=较差性能

    完美硬件+完美配置+一般sql语句=一般性能

    完美硬件+完美配置+完美sql语句=超优性能


    1 定位慢SQL语句(记录)

    开启慢日志功能,在my.cnf中添加配置:

        slow_query_log=1

        slow_query_log_file=mysql.slow

        long_query_time=2        #超过两秒的记录下来

        当数据库连接数较高时,就可以截取某段时间的满日志

        sed -n '#time 2017-03-08 14:30:00/,/end/p' mysql.slow > slow.log

    然后用mysqldumpslow 命令取出耗时间最长的10条慢sql分析

        mysqldumpslow -s t -t 10 slow.log


    2 优化not in子查询

    用left join 代替not in 子查询

    原语句:> select sql_cache count(*) from t1 where id not in (select id from t2);

    优化: > select sql_cache count(*) from t1 left join t2 on t1.id=t2.id where t2.id is null; 


    3 优化like语句

    在mysql中,like 'xxx%'可以用到索引,但是like '%xxx%'不能用到索引。

    使用索引可以减少IO,提高性能。

    原语句:> select * from t1 where name like '%game%';

    优化: > select id from t1 where name like '%game%';


    4 limit 分页优化

    原语句: > select game * from t1 order by id limit 99,10;

    优化: > select game * from t1 where id>=100 order by id limit 10;


    5 优化count统计

    利用辅助索引和distinct优化

    原语句: > select count(*) from my_user;

    优化: > select count(*) from my_user where id >=0;

               > select count(*) from (select distinct k from my_user)tmp;


    6 优化or语句

    使用union all 代替or

    原语句: > select * from user where name='a' or age=18;

    优化: > select * from user where name='a' union all select * from user where age =18;


    7 合理使用索引

    

八 my.cnf配置文件优化

    配置文件内的可以设置的项很多,下面列出常常需要注意重要项

    1 max_connections 最大连接数,默认100 ,一般设置500-1000即可。

    2 innodb_buffer_pool_size,默认128M,可以设置为物理内存的60%-70%。

    3 query_cache_size=64M query_cache_type=1 query_cache_limit=1M

    4 wait_timeout=100    等待时长

    5 connect_timeout=20    interactive_timeout=100

    6 slow_query_log=1    开启慢日志

    7 thread_cache_size=64

    8 relay_log_recovery=1    中继日志恢复

    9 open_files_limit=28512

    ..........

具体配置参数需要根据硬件环境和业务需求去定。


结语:mysql性能优化是一项系统庞大的工程,需要运维、架构、开发等多方参与共同改进,切勿盲目做调优处理,认真分析性能瓶颈所在,针对瓶颈处调优方能事半功倍!











本文转自super李导51CTO博客,原文链接: http://blog.51cto.com/superleedo/1906410,如需转载请自行联系原作者



上一篇:git 入门第一节 创建版本库 及 相关命令使用


下一篇:PyCharm设置Python版本