mysqldump备份

1.mysqldump备份原理

mysqldump备份过程

可以临时性的general log,备份完成后观察整个日志中的备份过程

flush tables;关闭所有打开的表

flush tables with read lock;加全局读锁

set session transaction isolation level repeatable read; 将隔离级别转为RR

start transaction; 开启事务

show master status; 获取正在使用的二进制文件

unlock tables; 释放全局读锁,这时就可以做写操作

show create database db;

savepoint sp; 回滚点

show create table t1;

select * from t1;

rollback to sp; 回滚到sp回滚点

release savepoint sp;

mysqldump的备份原理:通过设置READ LOCK获取数据库全局锁后,RR事务隔离级别下记录当前的日志文件名和日志位置position,然后释放掉全局锁。接下来创建一个事务的回滚点,所有数据的获取都是获取的是这个sp回滚点数据。最后释放掉回滚点sp。当然,对于MyISAM存储引擎,备份是直接锁全表的。

值得注意点:从分析mysqldump过程中我们可以知道,此命令在开始时刻会带来数据库瞬时的锁定(FLUSH TABLES WITH READ LOCK),虽然锁定时间是非常短暂的,但是却会带来非常大的数据库隐患,因为在此过程中,如果执行有DDL语句,就会导致此命令堵塞并最终异常退出。所以在做备份时间节点的选择上,需要根据数据库环境选择在负载压力最小,且没有以上操作时候进行备份。

1.1备份类型

热备

在数据库正常业务时,备份数据,并且能够一致性恢复(只能是innodb)
对业务影响非常小

温备

锁表备份,只能查询不能修改(myisam)
影响到写入操作

冷备

关闭数据库业务,数据库没有任何变更的情况下,进行备份数据.
业务停止

1.2备份方式

逻辑备份
基于SQL语句进行备份
mysqldump *****
mysqlbinlog *****

物理备份
基于磁盘数据文件备份
xtrabackup(XBK) :percona 第三方 *****
MySQL Enterprise Backup(MEB)

1.3逻辑备份和物理备份的比较

mysqldump (MDP)

优点:
1.不需要下载安装
2.备份出来的是SQL,文本格式,可读性高,便于备份处理
3.压缩比较高,节省备份的磁盘空间

缺点:
4.依赖于数据库引擎,需要从磁盘把数据读出
然后转换成SQL进行转储,相当耗费资源,数据量大的话效率较低
建议:
50G以内的数据量级,可以使用mysqldump

xtrabackup(XBK)

优点:
1.类似于直接cp数据文件,不需要管逻辑结构,相对来说性能较高
缺点:
2.可读性差
3.压缩比低,需要更多磁盘空间
建议:
>50G<TB

2.mysqldump常用参数

官网参数查询:https://dev.mysql.com/doc/refman/5.7/en/mysqldump.html

参数名 缩写 含义 默认值
--user -u 连接服务器时使用的账户
--password -p 密码
--port -P 端口号 3306
--all-database -A 备份mysql上的所有库
--database -B 备份指定的库
--add-drop-database 每个数据库创建之前添加drop数据库语句 未开启
--add-drop-table 创建表之前添加drop语句 开启
--events -E 导出事件 未开启
--routines -R 导出存储过程及自定义函数 未开启
--triggers 导出触发器 开启
--extended-insert -e 使用具有多个values列的insert语法 开启
--ignore-table 不导出指定表,指定忽略多个表时,需要重复指定多次
--no-data -d 不导出任何数据,只会导出数据库表结构
--no-create-info -t 指导出数据,而不添加create table语句
--force -f 在导出过程中忽略出现的sql错误 未开启
--tz-utc 在导出顶部设置时区TIME_ZONE=‘+00:00‘ 开启
--where -w 只转储给定的where条件选择的记录
--set-gtid-purged 是否添加SET @@GLOBAL.GTID_PURGED输出
--single-transaction 通过在一个事务中导出所有表从而创建一个一致性的快照,使用于innodb引擎
--master-data 该选项将当前服务器的binlog的位置和文件名追加到输出文件中。如果为1,将会输出CHANGE MASTER命令;如果为2,将会注释CHANGE MASTER

基本参数

-A 备份当前实例下所有的数据库

-B 备份指定的数据库

备份某个库的某些表: 库名 table1 table2 备份库中的指定表

-E 备份事件

-R 备份存储过程和函数

--triggers 备份触发器

--master-data=2 备份时记录当时的position号或者gtid号;这个position就是起始位置

--single-transaction 触发一致性备份

--set-gtid-purged=on 主从复制环境中需要,常规备份不需要

备份示例

备份文件的名称要有规范,例如:数据库+端口号+日期.sql

可以在备份时使用--flush-logs刷一下binlog,方便日后日用binlog

备份当前实例的所有库

mysqldump -uroot -p123456 -A -R -E --triggers --master-data=2 --flush-logs --single-transaction > ./all_3306_`date +%Y%m%d`.sql

备份当前实例下的指定数据库

-B 指定

mysqldump -uroot -p123456 -B db -R -E --triggers --master-data=2 --single-transaction > ./db_3306_`date +%Y%m%d`.sql

备份指定数据库中的一些表

dbname table1 table2 ...

mysqldump -uroot -p123456 db t1 -R -E --triggers --master-data=2 --single-transaction > ./db_t1_3306_`date +%Y%m%d`.sql

单独备份每个表

information_schema.tables

执行输出的脚本即可

select concat("mysqldump -uroot -p123 ",table_schema," ",table_name," --master-data=2 --single-transaction --set-gtid-purged=0  -R -E --triggers>/backup/",table_schema,"_",table_name,".sql") from information_schema.tables where table_schema not in (‘sys‘,‘information_schema‘,‘performance_schema‘) into outfile ‘/var/lib/mysql-files/mysqldump.sh‘;

备份后压缩

示例:压缩备份

之后gzip -d解压即可

mysqldump -uroot -p123456 -A -R -E --triggers --master-data=2 --single-transaction | gzip -c > all_3306_`date +%Y%m%d`.sql.gz

示例:压缩备份在远程服务器

比如说我要备在129这台主机上

mysqldump -uroot -p123456 -A -R -E --triggers --master-data=2 --single-transaction | gzip -c | ssh root@192.168.190.129 ‘cat > /tmp/all_3306_`date +%Y%m%d`.sql.gz‘

3.mysqldump恢复示例

案例:上午10点钟,因为误操作删库了,最近一次的全备是凌晨一点的。

思路:

? 1.停止业务,防止二次伤害,flush-logs这样故障操作日志都在之前的binlog文件里

? 2.用一个临时库,先恢复最近的全备

? 3.截取从最近全备到10点删库之间的binlog,恢复到临时库,进行测试

方法一:直接将临时库顶替生产库

方法二:想误删的相关库和表导出,在导入到原生产库,测试后恢复业务

3.1准备昨天23点的全备

全备的同时--flush-logs

mysqldump -uroot -p123456 -A -R -E --triggers --master-data=2 --flush-logs --single-transaction > ./all_3306.sql

[root@localhost ~]# ls
all_3306.sql

#全备文件中截取的二级制文件位置
-- CHANGE MASTER TO MASTER_LOG_FILE=‘mysql-bin.000002‘, MASTER_LOG_POS=194;

3.2准备临时库

使用多实例的3307端口

systemctl start mysqld3307

3.3模拟昨天23点到10点之间的数据变化

use test
mysql> select * from t1;
+---+---+
| a | b |
+---+---+
| 1 | 1 |
| 2 | 1 |
+---+---+
2 rows in set (0.00 sec)

-- 插入数据模拟全备之后的数据变化
mysql> insert into t1 values(3,1),(4,1);
Query OK, 2 rows affected (0.08 sec)
Records: 2  Duplicates: 0  Warnings: 0

mysql> select * from t1;
+---+---+
| a | b |
+---+---+
| 1 | 1 |
| 2 | 2 |
| 3 | 1 |
| 4 | 1 |
+---+---+
4 rows in set (0.00 sec)


3.4删库

mysql> drop database test;
Query OK, 1 row affected (0.07 sec)

3.5将全备恢复到临时库

设置sql_log_bin=0,将之后的操作不写入binlog

mysql> set sql_log_bin=0;
Query OK, 0 rows affected (0.00 sec)

mysql> source all_3306.sql;

-- 查看数据
mysql> use test;
mysql> select * from t1;
+---+---+
| a | b |
+---+---+
| 1 | 1 |
| 2 | 1 |
+---+---+
2 rows in set (0.00 sec)

3.6mysqlbinlog截取二进制日志

#在000003中,起始位置194
-- CHANGE MASTER TO MASTER_LOG_FILE=‘mysql-bin.000002‘, MASTER_LOG_POS=194;

#查看当前binlog位置,在000002文件
mysql> show master status\G
*************************** 1. row ***************************
             File: mysql-bin.000002
         Position: 618
     Binlog_Do_DB:
 Binlog_Ignore_DB:
Executed_Gtid_Set: 667ad4e0-fcc9-11eb-af3e-000c290c7222:1-5
1 row in set (0.00 sec)



#找到删除语句的位置526,stop-position会默认上一个
mysql> show binlog events in ‘/data/mysql/mysql3306/logs/mysql-bin.000002‘\G


*************************** 9. row ***************************
   Log_name: mysql-bin.000002
        Pos: 526
 Event_type: Query
  Server_id: 1
End_log_pos: 618
       Info: drop database test
9 rows in set (0.00 sec)



#在原库截取二进制日志
[root@localhost ~]# mysqlbinlog --start-position=194 --stop-position=526 /data/mysql/mysql3306/logs/mysql-bin.000002 > db.sql

3.7将截取的sql,恢复到临时库进行测试

source db.sql;

mysql> select * from t1;
+---+---+
| a | b |
+---+---+
| 1 | 1 |
| 2 | 2 |
| 3 | 1 |
| 4 | 1 |
+---+---+
4 rows in set (0.01 sec)

3.8将故障的库或表导出,恢复到生产

将库导出

[root@localhost ~]# mysqldump -uroot -p123456 -P 3307 --set-gtid-purged=off -B test -R -E --triggers --master-data=2 --single-transaction > test_t1.sql

生产上恢复

mysql> source test_t1.sql;
mysql> select *  from  test.t1;
+---+---+
| a | b |
+---+---+
| 1 | 1 |
| 2 | 2 |
| 3 | 1 |
| 4 | 1 |
+---+---+
4 rows in set (0.00 sec)


4.关于mysqlbinlog使用

mysqlbinlog

语法:

恢复语法格式:
# mysqlbinlog mysql-bin.0000xx | mysql -u用户名 -p密码 数据库名
常用选项:
    ``--start-position=953          起始pos点
    ``--stop-position=1437          结束pos点
    ``--start-datetime=``"2017-6-20 13:18:54"`  `起始时间点
    ``--stop-datetime=``"2017-6-20 13:21:53"`  `结束时间点
    ``--database=juzidb            指定只恢复juzidb数据库(一台主机上往往有多个数据库,只限本地log日志)
      
不常用选项:  
    ``-u --user=name       Connect to the remote server ``as` `username.连接到远程主机的用户名
    ``-p --password[=name]    Password to connect to remote server.连接到远程主机的密码
    ``-h --host=name       Get the binlog ``from` `server.从远程主机上获取binlog日志
    ``--read-``from``-remote-server  Read binary logs ``from` `a MySQL server.从某个MySQL服务器上读取binlog日志

按时间段查看

对于MIXED(部分SQL语句)和ROW模式是以base-64方式记录,SQL部分会显示为base64编码,要正常显示还得加上两个参数:

-v --base64-output=DECODE-ROWS

--database=test 指定库

mysqlbinlog -v --base64-output=DECODE-ROWS --start-datetime="2021-08-18 09:00:00" --stop-datetime="2021-08-18 12:00:00" --database=test /data/mysql/mysql3306/logs/mysql-bin.000002

show binlog events in

使用show binlog events in查看找到pos

mysql -S /data/mysql/mysql3306/mysql.sock -e "show binlog events in ‘/data/mysql/mysql3306/logs/mysql-bin.000002‘\G" > test.binlog

#太大的binlog不适合这样

语法:

 show binlog events 
 	[IN ‘log_name‘] 
 	[FROM pos] 
 	[LIMIT [offset,] row_count];
	

选项解析:
       IN ‘log_name‘   指定要查询的binlog文件名(不指定就是第一个binlog文件)
       FROM pos        指定从哪个pos起始点开始查起(不指定就是从整个文件首个pos点开始算)
       LIMIT [offset,] 偏移量(不指定就是0)
       row_count       查询总条数(不指定就是所有行)

示例;

A.查询第一个(即mysql-bin.000001)的binlog日志:

mysql> show binlog events\G

B.指定查询 mysql-bin.00002 这个文件:

mysql> show binlog events ``in` `‘mysql-bin.000002‘``\G

C.指定查询 mysql-bin.000002 这个文件,从pos点:534620开始查起:

mysql> show binlog events ``in` `‘mysql-bin.000002‘` `from` `534620\G

D.指定查询 mysql-bin.000002 这个文件,从pos点:534620开始查起,查询10条

mysql> show binlog events ``in` `‘mysql-bin.000002‘` `from` `534620 limit 10\G

E.指定查询 mysql-bin.000002 这个文件,从pos点:534620开始查起,偏移2行,查询10条

mysql> show binlog events ``in` `‘mysql-bin.000002‘` `from` `534620 limit 2,10\G

mysqldump备份

上一篇:android webview 播放 video经验总结


下一篇:Unable to translate SQLException with Error code '2'