一、mysql日志管理
1.1、mysql日志
mysql的日志默认保存位置为 /usr/local/mysql/data
1.2、错误日志
用来记录当mysql启动、停止或运行时发生的错误信息，默认已开启
vim /etc/my.cnf
[mysqld]
log-error=/usr/local/mysql/data/mysql_error.log #指定日志的保存位置和文件名
1.3、通用查询日志
用来记录mysql的所有连接和语句，默认是关闭的
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
1.4、二进制日志（binlog）
用来记录所有更新了数据或者已经潜在更新了数据的语句，记录了数据的更改，可用于数据恢复，默认已开启
log-bin=mysql-bin #也可以 log_bin=mysql-bin
1.5、慢查询日志
用来记录所有执行时间超过long_query_time秒的语句，可以找到哪些查询语句执行时间长，以便于优化，默认是关闭的
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5 #设置超过5秒执行的语句被记录，缺省时为10秒
1.6、综合设置
1.7、查看日志状态
通用查询日志状态
mysql -u -p
show variables like 'general%'； #查看通用查询日志是否开启
二进制日志状态
show variables like 'log_bin%'; #查看二进制日志是否开启
慢查询日志状态
show variables like '%slow%'; #查看慢查询日志功能是否开启
show variables like 'long_query_time'; #查看慢查询时间设置
set global slow_query_long=ON; #在数据库中设置开启慢查询的方法
二、数据备份
2.1、数据备份的重要性
备份的主要目的是灾难恢复
在生产环境中，数据的安全性至关重要
任何数据的丢失都可能产生严重的后果
造成数据丢失的原因：
- 程序错误
- 人为操作错误
- 运算错误
- 磁盘故障
- 灾难（如火灾、地震）和盗窃
2.2、数据库备份的分类
从物理与逻辑的角度，备份可分为物理备份和逻辑备份
物理备份
对数据库操作系统的物理文件（如数据文件、日志文件等）的备份
物理备份的方法
- 冷备份（脱机备份）：是在关闭数据库的时候进行的
- 热备份（联机备份）：数据库处于运行状态，依赖于数据库的日志文件
- 温备份：数据库锁定表格（不可写入但可读）的状态下进行备份操作
逻辑备份
对数据库逻辑组件（如：表等数据库对象）的备份
逻辑备份适用于可以编辑数据值或表结构较小的数据量,或者在不同的机器体系结构上重新创建数据
从数据库的备份策略角度
完全备份
优点
每次都对数据库进行完整备份，即对整个数据库、数据库结构和文件结构的备份，是差异备份与增量备份的基础，保存的是备份完成时刻的数据库。恢复时，直接使用完全备份的文件即可
缺点
每次都进行完全备份，会导致备份文件占用空间巨大，并且有大量重复的数据
差异备份
优点
备份自从上次完全备份之后被修改过的文件
恢复时，先恢复完全备份的数据，再恢复差异备份的数据
缺点
每次差异备份，都会备份上一次完全备份之后的数据，可能会出现备份重复数据，导致占用额外的磁盘空间
增量备份
优点
只有在上次完全备份或者增量备份后被修改的文件才会被备份，不会出现备份重复数据的情况，也不会占用额外的磁盘空间
缺点
恢复数据，需要按照次序恢复完全备份和增量备份的数据
2.3、常见的备份方法
物理备份
备份时数据库处于关闭状态，直接打包数据库文件
备份速度快，恢复时也是最简单的
专用备份工具mydump或mysqlhotcopy
mysqldump常用的逻辑备份工具
mysqlhotcopy仅拥有备份MyISAM和ARCHIVE表
启用二进制日志进行增量备份
进行增量备份，需要刷新二进制日志
第三方工具备份
免费的mysql热备份软件Percona Xtrabackup
三、mysql完全备份与恢复
3.1、物理冷备份与恢复
- 关闭mysql数据库
- 使用tar命令直接打包数据库文件
- 直接替换现有mysql目录即可
InnoDB存储引擎的数据库在磁盘上存储成三个文件：db.opt（表属性文件）、表名.frm（表结构文件）、表名.ibd（表数据）
①创建数据内容
use abc;
create table if not exists test (
id int not null auto_increment,
name varchar(10) not null,
age int not null;
insert into test values (1,'aaa',24);
insert into test values (2,'bbb',25);
②压缩数据库文件
systemctl stop mysqld
yum -y install xz #压缩软件
#压缩备份
tar Jcvf /opt/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data/
③模拟恢复数据文件
drop table abc;
#解压恢复
tar Jxvf /opt/mysql_all_2021_09_02.tar.xz -C /usr/local/mysql/data
3.2、mysqldump备份与恢复
完全备份一个或多个完整的库（包含其中所有的表）
mysqldump -u root -p[密码] --databases 库名1 [库名2]... > /备份路径/备份文件名.sql #到处的就是数据库脚本文件
完全备份mysql服务器中的所有库
mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql
完全备份指定库中的部分表
mysqldump -u root -p[密码] [-d] 库名 [表名1] [表名2] ... > /备份路径/备份文件名.sql
#使用-d选项，说明只保存数据库的表结构
#不使用-d选项，说明表数据也进行备份
查看备份文件
grep -v "^--" /opt/test.sql | grep -v "^/" grep -v "^$"
恢复数据库
mysql -uroot -p123456 -e 'drop database abc;'
#-e选项，用于指定连接mysql后执行的命令，命令执行完成后自动退出
mysql -uroot -p123456 -e 'show databases;'
mysql -uroot -p123456 < /opt/abc.sql
mysql -uroot -p123456 -e 'show databases;'
恢复数据表
当备份文件中只包含表的备份，而不包含创建的库的语句时，执行到处操作时必须指定库名，且目标库必须存在
mysql -uroot -p123456 -e 'drop table abc.test;'
mysql -uroot -p123456 -e 'show tables from abc;'
mysql -uroot -p123456 abc < /opt/abc_test.sql
mysql -uroot -p123456 abc < /opt/abc_test2.sql
mysql -uroot -p123456 -e 'show tables from abc;'
四、mysql增量备份与恢复
mysql没有提供直接的增量备份方法
可通过mysql提供的二进制日志间接实现增量备份
4.1、mysql二进制日志对备份的意义
- 二进制日志保存了所有更新或者可能更新数据库的操作
- 二进制日志在启动mysql服务器后开始记录，并在文件达到max_binlog_size所设置的大小或者接收到flush logs命令后重新创建新的日志文件
- 只需定时执行flush logs方法重新创建新的日志，生成二进制文件序列，并及时把这些日志保存到安全的地方就完成了一个时间段的增量备份
4.2、开启二进制功能
vim /etc/my.cnf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED #可选，指定二进制日志（binlog）的记录格式为MIXED
server-id = 1
#二进制日志（binlog）有三种不同的记录格式：STATEMENT(基于SQL语句)、ROW（基于行）、MIXED（混合模式），默认是STATEMENT格式
systemctl start mysqld
ls -l /usr/local/mysql/data/mysql-bin.*
| 记录格式 | 说明 |
|---|---|
| STATEMENT（基于sql语句，默认） | 每一条涉及到被修改的 sql 都会记录在binlog中。日志量过大，如函数、主从复制等构架记录日志时会出现问题 |
| ROW（基于行） | 只记录变动的记录，不记录sql的上下文。如果遇到 updata…set…where true，那么日志数据量就会很大 |
| MIXED（混合模式） | 一般语句使用 STATEMENT，函数使用ROW。推荐使用 |
4.3、可每天进行增量备份操作，生成新的二进制的日志文件
mysqladmin -uroot -p123456 flush-logs
4.4、插入新的数据，模拟数据的增加
use abc;
insert into test values(3,'ccc',22);
insert into test values(4,'ddd',21);
4.5、再次生成新的二进制文件
mysqladmin -uroot -p123456 flush-logs
#之前的步骤操作会保存到mysql—bin.000004文件中，之后数据库数据再发生变化则保存在mysql—bin.000005中
4.6、查看二进制日志文件的内容
cp /usr/local/mysql/data/mysql—bin.000004 /opt/ #保存备份文件
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql—bin.000004
#--base64-output=decode-rows 使用64位编码机制去解码并按行读取
#-v 显示详细内容
4.7、增量恢复(一般恢复)
模拟丢失更改的数据的恢复步骤
use abc;
delete from test where id=3;
delete from test where id=4;
mysqlbinlog --no-defaults /opt/mysql—bin.000004 | mysql -uroot -p123456
模拟所有数据丢失恢复步骤
mysql -uroot -p123456 -e 'drop table abc.test;'
mysql -uroot -p123456 abc < /opt/abc_test.sql
mysqlbinlog --no-defaults /opt/mysql—bin.000004 | mysql -uroot -p123456
4.7、增量恢复(断点恢复)
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql—bin.000004
# at 296
#210902 18:34:53 server id 1 end_log_pos 403 CRC32 0x7509c12b Query thread_id=4 exec_time=0 error_code=0
use `abc`/*!*/;
SET TIMESTAMP=1630578893/*!*/;
insert into test values(3,'ccc',22)
#插入了用户为3的数据
# at 576
#210902 18:34:59 server id 1 end_log_pos 683 CRC32 0x6206523b Query thread_id=4 exec_time=0 error_code=0
SET TIMESTAMP=1630578899/*!*/;
insert into test values(4,'ddd',21)
#插入了用户为4的数据
基于位置恢复
#仅恢复到操作ID为576之前的数据，即不恢复用户4的数据
mysqlbinlog --no-defaults --stop-position='576' /opt/mysql—bin.000004 | mysql -uroot -p123456
#仅恢复用户4的数据，跳过用户3的数据恢复
mysqlbinlog --no-defaults --start-position='576' /opt/mysql—bin.000004 | mysql -uroot -p123456
基于时间点恢复
#仅恢复到18:34:59之前的数据，即不恢复用户4的数据
mysqlbinlog --no-defaults --stop-datetime='2021-09-02 18:34:59' /opt/mysql—bin.000004 | mysql -uroot -p123456
#仅恢复到18:34:59之后的数据，即不恢复用户3的数据
mysqlbinlog --no-defaults --start-datetime='2021-09-02 18:34:59' /opt/mysql—bin.000004 | mysql -uroot -p123456
五、总结
5.1、常用日志
vim /etc/my.cnf
#错误日志
log-error=/usr/local/mysql/data/mysql_error.log（指定日志的保存位置和文件名）
#通用查询日志
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
#二进制日志(binlog)
log-bin=mysql-bin 或者 log_bin=mysql-bin
binlog_format = MIXED
#慢查询日志
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5
5.2、物理冷备份与恢复
systemctl stop mysqld
yum -y install xz #压缩软件
#压缩备份
tar Jcvf /opt/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data/
drop table abc;
#解压恢复
tar Jxvf /opt/mysql_all_2021_09_02.tar.xz -C /usr/local/mysql/data
5.3、mysqldump备份与恢复
mysqldump -uroot -p[密码] --databases 库名 > /备份路径/备份文件名.sql
#备份所有的库
mysqldump -uroot -p[密码] --all-databases > /备份路径/备份文件名.sql
#备份指定库中的部分表
mysqldump -uroot -p[密码] 库名 表名 > /备份路径/备份文件名.sql
#使用“-d”选项，说明只保存数据库的表结构
#不使用“-d”选项，说明表数据也进行备份
#查看备份文件
grep -v "^--" /opt/gxd-gxd03.sql | grep -v "^/" | grep -v "^$"
#恢复库
mysql -uroot -p[密码] < /备份路径/备份文件名.sql
#恢复表
mysql -uroot -p[密码] 库名 < /备份路径/备份文件名.sql
5.4、增量备份和恢复
#增量备份需要开启二进制日志功能
#先创建完全备份（在创建好表和库的基础上）
#生成新的二进制文件(可每天进行增量备份操作)
mysqladmin -uroot -p[密码] flush-logs
#查看新生成的日志内容
cp /usr/local/mysql/data/mysql-bin.00000x /opt/
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.00000x
#丢失更改的数据并恢复（一般恢复）
mysqlbinlog --no-defaults /opt/mysql-bin.00000x | mysql -uroot -p[密码]
#丢失所有数据并恢复（一般恢复）
mysql -uroot -p[密码] 库名 < /备份路径/备份文件名.sql
mysqlbinlog --no-defaults /opt/mysql-bin.00000x | mysql -uroot -p[密码]
#断点恢复
##基于位置
mysqlbinlog --no-defaults --stop-position='二进制日志文件中需要恢复的ID号' /opt/mysql-bin.00000x | mysql -uroot -p[密码]
mysqlbinlog --no-defaults --start-position='二进制日志文件中需要恢复的ID号' /opt/mysql-bin.00000x | mysql -uroot -p[密码]
##基于时间点
mysqlbinlog --no-defaults --stop-datetime='二进制日志文件中需要恢复的时间点' /opt/mysql-bin.00000x | mysql -uroot -p[密码]
mysqlbinlog --no-defaults --start-datetime='二进制日志文件中需要恢复的时间点' /opt/mysql-bin.00000x | mysql -uroot -p[密码]