Mysql学习之--Mysql二进制日志管理

Mysql学习之--Mysql二进制日志管理

简介:
     MySQL的二进制日志可以说或是MySQL最重要的日志了,它记录了所有的DDL和DML(除了数据查询语句)语句,以事件形式记录,还包含语句所执行的消耗的时间,MySQL的二进制日志是失误安全型的.
      MySQL的二进制日志的作用是显而易见的,可以方便的备份这些日志以便做数据恢复,也可以作为主从复制的同步文件,然而二进制日志的大小可能会根据不同的需求而存在麻烦,所以让日志回滚是必须的,当然MySQL已经为我们提供了二进制回滚的功能,那就是max_binlog_size参数。

       默认MySQL的二进制日志达到1G后就会自动回滚,如果我们想要更小的二进制日志,可以使用max_binlog_size参数来设置。测试使用max_binlog_size=200M,具体应用就是在配置文件里添加这个参数max_binlog_size=200M,官方文档是这样解释的:

        mysqld在每个二进制日志名后面添加一个数字扩展名。每次你启动服务器或刷新日志时该数字则增加。如果当前的日志大小达到 max_binlog_size,还会自动创建新的二进制日志。如果你正使用大的事务,二进制日志还会超过 max_binlog_size:事务全写入一个二进制日志中,绝对不要写入不同的二进制日志中。也就是说,在达到max_binlog_size的时候,如果正在处理一个大的事务,那么二进制日志会在处理完这个事务后才会回滚,所以该二进制日志可能会大于所设定的max_binlog_size。

         在主从复制的应用中,可能我们不希望二进制日志过大,因为日志过大可能会影响日志的执行效率,适当调整max_binlog_size的值还是非常有意义的,当然还要记得定期清理长时间不用的日志哦,要不然你的硬盘空间很快就会被用完的。

开启mysql二进制日志:

编辑my.cnf,添加

[root@ogg mysql]# cat /etc/my.cnf
# binary logging is required for replication
log-bin = /var/lib/mysql/mysql-bin
# binary logging format - mixed recommended
#binlog_format=mixed
binlog_format=row

     开启日志后需要myssqladmin flush logs才能生效。需要注意的是log-bin指定扩展名是无效的,当mysql创建二进制日志文件时,首先创建一个以“mysql_log_bin”为名称,以“.index”为后缀的文件;再创建一个以“mysql_log_bin”为名称,以 “.000001”为后缀的文件。当mysql服务重新启动一次以“.000001”为后缀的文件会增加一个,并且后缀名加1递增;如果日志长度超过了 max_binlog_size的上限(默认是1G)也会创建一个新的日志文件;使用flush logs(mysql命令符)或者执行mysqladmin –u –p flush-logs(windows命令提示符)也会创建一个新的日志文件。

案 例分析:

事务做DML操作:
mysql> delete from test2 where id=60;
Query OK, 1 row affected (0.01 sec)
mysql> commit;
Query OK, 0 rows affected (0.00 sec)

mysql>  insert into test2 values (60,‘jack‘);
Query OK, 1 row affected (0.00 sec)
mysql> commit;
Query OK, 0 rows affected (0.00 sec)

mysql> update test2 set name=‘hellen‘ where id=50;
Query OK, 1 row affected (0.01 sec)
Rows matched: 1  Changed: 1  Warnings: 0
mysql> commit;
Query OK, 0 rows affected (0.00 sec)

查看日志:
[root@ogg mysql]# mysqlbinlog mysql-bin.000008 -d test

/*!40019 SET @@session.max_insert_delayed_threads=0*/;
/*!50003 SET @OLD_COMPLETION_TYPE=@@COMPLETION_TYPE,COMPLETION_TYPE=0*/;
DELIMITER /*!*/;
# at 4
#140928 13:44:37 server id 1  end_log_pos 114   Start: binlog v 4, server v 5.6.4-m7-log created 140928 13:44:37 at startup
# Warning: this binlog is either in use or was not closed properly.
ROLLBACK/*!*/;
BINLOG ‘
RaAnVA8BAAAAbgAAAHIAAAABAAQANS42LjQtbTctbG9nAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA
AAAAAAAAAAAAAAAAAABFoCdUEzgNAAgAEgAEBAQEEgAAVgAEGggAAAAICAgCAAAAADM7vj8=
‘/*!*/;
# at 114
#140928 13:45:40 server id 1  end_log_pos 182   Query   thread_id=3     exec_time=0     error_code=0
SET TIMESTAMP=1411883140/*!*/;
SET @@session.pseudo_thread_id=3/*!*/;
SET @@session.foreign_key_checks=1, @@session.sql_auto_is_null=0, @@session.unique_checks=1, @@session.autocommit=1/*!*/;
SET @@session.sql_mode=0/*!*/;
SET @@session.auto_increment_increment=1, @@session.auto_increment_offset=1/*!*/;
/*!\C latin1 *//*!*/;
SET @@session.character_set_client=8,@@session.collation_connection=8,@@session.collation_server=8/*!*/;
SET @@session.lc_time_names=0/*!*/;
SET @@session.collation_database=DEFAULT/*!*/;
BEGIN
/*!*/;
# at 182
# at 229
#140928 13:45:40 server id 1  end_log_pos 229   Table_map: `test`.`test2` mapped to number 66
#140928 13:45:40 server id 1  end_log_pos 268   Delete_rows: table id 66 flags: STMT_END_F
BINLOG ‘
hKAnVBMBAAAALwAAAOUAAAAAAEIAAAAAAAEABHRlc3QABXRlc3QyAAID/gL+CgM=
hKAnVBkBAAAAJwAAAAwBAAAAAEIAAAAAAAEAAv/8PAAAAARqYWNr
‘/*!*/;
# at 268
#140928 13:45:40 server id 1  end_log_pos 295   Xid = 11
COMMIT/*!*/;
# at 295
#140928 13:46:39 server id 1  end_log_pos 363   Query   thread_id=3     exec_time=0     error_code=0
SET TIMESTAMP=1411883199/*!*/;
BEGIN
/*!*/;
# at 363
# at 410
#140928 13:46:39 server id 1  end_log_pos 410   Table_map: `test`.`test2` mapped to number 66
#140928 13:46:39 server id 1  end_log_pos 449   Write_rows: table id 66 flags: STMT_END_F
BINLOG ‘
v6AnVBMBAAAALwAAAJoBAAAAAEIAAAAAAAEABHRlc3QABXRlc3QyAAID/gL+CgM=
v6AnVBcBAAAAJwAAAMEBAAAAAEIAAAAAAAEAAv/8PAAAAARqYWNr
‘/*!*/;
# at 449
#140928 13:46:39 server id 1  end_log_pos 476   Xid = 14
COMMIT/*!*/;
# at 476
#140928 13:49:22 server id 1  end_log_pos 544   Query   thread_id=3     exec_time=0     error_code=0
SET TIMESTAMP=1411883362/*!*/;
BEGIN
/*!*/;
# at 544
# at 591
#140928 13:49:22 server id 1  end_log_pos 591   Table_map: `test`.`test2` mapped to number 66
#140928 13:49:22 server id 1  end_log_pos 643   Update_rows: table id 66 flags: STMT_END_F
BINLOG ‘
YqEnVBMBAAAALwAAAE8CAAAAAEIAAAAAAAEABHRlc3QABXRlc3QyAAID/gL+CgM=
YqEnVBgBAAAANAAAAIMCAAAAAEIAAAAAAAEAAv///DIAAAAEam9obvwyAAAABmhlbGxlbg==
‘/*!*/;
# at 643
#140928 13:49:22 server id 1  end_log_pos 670   Xid = 16
COMMIT/*!*/;
DELIMITER ;
# End of log file
ROLLBACK /* added by mysqlbinlog */;
/*!50003 SET COMPLETION_TYPE=@OLD_COMPLETION_TYPE*/;

查看日志:

[root@ogg mysql]# pwd
/var/lib/mysql
[root@ogg mysql]# ls -l
total 28820
-rw-rw---- 1 mysql mysql       56 Sep 17 14:03 auto.cnf
-rw-rw---- 1 mysql mysql 18874368 Sep 28 15:23 ibdata1
-rw-rw---- 1 mysql mysql  5242880 Sep 28 15:23 ib_logfile0
-rw-rw---- 1 mysql mysql  5242880 Sep 17 13:51 ib_logfile1
-rw-rw---- 1 mysql mysql       32 Sep 26 17:35 master-log-bin.index
drwx------ 2 mysql root      4096 Sep 17 13:51 mysql
-rw-rw---- 1 mysql mysql      133 Sep 28 13:14 mysql-bin.000001
-rw-rw---- 1 mysql mysql      574 Sep 28 13:22 mysql-bin.000002
-rw-rw---- 1 mysql mysql      417 Sep 28 13:27 mysql-bin.000003
-rw-rw---- 1 mysql mysql      315 Sep 28 13:29 mysql-bin.000004
-rw-rw---- 1 mysql mysql      314 Sep 28 13:31 mysql-bin.000005
-rw-rw---- 1 mysql mysql      133 Sep 28 13:33 mysql-bin.000006
-rw-rw---- 1 mysql mysql      314 Sep 28 13:44 mysql-bin.000007
-rw-rw---- 1 mysql mysql     9539 Sep 28 15:23 mysql-bin.000008
-rw-rw---- 1 mysql mysql      256 Sep 28 13:44 mysql-bin.index
-rw-rw---- 1 mysql root     77132 Sep 28 15:13 ogg.err
-rw-rw---- 1 mysql mysql        5 Sep 28 13:44 ogg.pid
drwx------ 2 mysql mysql     4096 Sep 17 13:51 performance_schema
drwx------ 2 mysql root      4096 Sep 26 15:33 test

由于日志是以二进制方式存储的,不能直接读取,需要使用mysql自带的mysqlbinlog工具来进行查看

mysqlbinlog mysql-bin.000002 -d test

mysqlbinlog有一些选项可以使用,简单说明常用选项:

-d,--database=name :指定数据库名称,只列出指定数据库的操作.
-D, --disable-log-bin :执行恢复的时候,禁止二进制日志.可以防止同一台MySQL加上-t时进入死循环
-o,--offset=n :忽略掉日志前n行命令
-r,--result-file=name :将输出日志到指定文件
-R, --read-from-remote-server :从一个MySQL服务器上读取二进制
-s,--short-form :显示简单格式,省略一些信息
-S, --socket=name  :socket文件连接path.
-t, --to-last-log  :和-R一起使用,在二进制日志结束的时候并不会停止,而是在MySQL服务器最后生成的binlog结束,如果输出和输入都在一台MySQL上可能会导致死循环.
--set-charset=char-name :在输出文本格式的时候,在第一行加上set names char-name.
--start-datetime=# --stop-datetime=# :指定输出起始日期的日志.
--start-position=# --stop-position=# :指定起始日志的位置.

清理:
删除全部二进制日志:

reset master

删除部分日志:

PURGE MASTER LOGS TO & PURGE MASTER LOGS BEFORE
PURGE MASTER LOGS TO ‘mysql-bin.******‘命令,是将‘******‘编号之前的所有日志进行删除
PURGE MASTER LOGS BEFORE ‘yyyy-mm-dd hh:mm:ss‘命令,是将在‘yyyy-mm-dd hh:mm:ss‘时间之前的所有日志进行删除

设置日志过期时间:
修改my.cnf

expire_log_day=5

这里设置保存5天的日志,超过5天的日志会被自动删除

恢复:
完全恢复:

mysqlbinlog mysql-bin.00001|mysql -uroot -p

基于时间点的恢复:
如果误删了一张表,使用完全恢复是没有用的,因为日志里同样也保留着删除的sql语句,所以我们需要恢复到误操作前的状态,然后跳过误操作的语句。
假如我在20:00误删了一张表,可以使用以下语句恢复:

mysqlbinlog --stop-date=‘2012-06-05 19:59:59‘ /var/log/mysql-bin.000001 | mysql -uroot -p

跳过误删除的时间点,再执行:

mysqlbinlog --start-date=‘2012-06-05 20:01:00‘ /var/log/mysql-bin.000001 | mysql -uroot -p

基于位置点的恢复:
基于位置点的恢复可以得到更为精确的数据。
Mysql学习之--Mysql二进制日志管理
如上图,drop table test这条语句的起始位置是889107,终止位置是889189,那么我们可以使用于以下语句进行恢复:

mysqlbinlog --stop-position=‘889107‘ /var/lib/mysql/mysql-bin.000001|mysql -uroot -p
mysqlbinlog --start-position=‘889189‘ /var/lib/mysql/mysql-bin.000001|mysql -uroot -p

有时有可能因为系统版本的问题,以上方法行不通,可以将二进制导出到一个sql文件中,再直接根据sql语句进行恢复

mysqlbinlog  mysqlbinlog.000001 >log.sql

完全恢复案例:

mysql> select * from test2;
+------+-------+
| id   | name  |
+------+-------+
|   10 | tom   |
|   20 | jerry |

恢复以前的数据:
[root@ogg mysql]# mysqlbinlog  /var/lib/mysql/mysql-bin.000003|mysql -uroot -poracle

恢复后查询: 
mysql> select * from test2;
+------+-------+
| id   | name  |
+------+-------+
|   10 | tom   |
|   20 | jerry |
|   60 | jack  |
|   60 | jack  |
|   60 | jack  |
|   60 | jack  |
|   60 | jack  |
|   50 | john  |
|   40 | ellen |
|   30 | rose  |
+------+-------+
10 rows in set (0.00 sec)

Binlog_format参数也特别重要。从mysql5.1版本开始引入这个参数,该参数可以设置的值STATEMENTROWMIXED

(1)STATEMENT格式和之前的mysql版本一样,二进制日志文件记录的是日志的逻辑失SQL语句。

(2)在ROW格式下,二进制日志记录的不再是简单的SQL语句了,而是记录表的行更改情况,此时可以将InnoDB的事务隔离基本设为READ COMMITTED,以获得更好的并发性。

(3)MIXED格式下,mysql默认采用的STATEMENT格式进行二进制日志文件的记录,但是在一些情况下会使用ROW格式,可能的情况包括:

1)表的存储引擎为NDB,这时对于表的DML操作都会以ROW格式记录

2)使用了UUID()USER()CURRENT_USER()FOUND_ROWS()ROW_COUNT()等不确定函数

3)使用了INSERT DELAY语句

4)使用了用户定义函数

5)使用了临时表

binary log相关变量和参数

命令行参数

  --log-bin [=file_name]

  设置此参数表示启用binlog功能,并制定路径名称。

  --log-bin-index[=file]

  设置此参数是指定二进制索引文件的路径与名称。

  --max_binlog_size

 Binlog最大值,最大和默认值是1GB,该设置并不能严格控制Binlog的大小,尤其是Binlog比较靠近最大值而又遇到一个比较大事务时,

为了保证事务的完整性,不可能做切换日志的动作,只能将该事务的所有SQL都记录进当前日志,直到事务结束。

  --binlog-do-db=db_name

  此参数表示只记录指定数据库的二进制日志

  --binlog-ignore-db=db_name

  此参数表示不记录指定的数据库的二进制日志

系统变量

  log_bin

  binlog_cache_size

  此参数表示binlog使用的内存大小,可以通过状态变量binlog_cache_use和binlog_cache_disk_use来帮助测试。

  max_binlog_cache_size

  此参数表示binlog使用的内存最大的尺寸

  binlog_cache_use

  使用二进制日志缓存的事务数量

  binlog_cache_disk_use

  使用二进制日志缓存但超过binlog_cache_size值并使用临时文件来保存事务中的语句的事务数量。

  binlog_do_db

  binlog_ignore_db

  sync_binlog

  这个参数直接影响mysql的性能和完整性。

  sync_binlog=0:

  当事务提交后,Mysql仅仅是将binlog_cache中的数据写入binlog文件,但不执行fsync之类的磁盘,同步指令通知文件系统将缓存刷新到磁盘,而让Filesystem自行决定什么时候来做同步,这个是性能最好的。

  sync_binlog=0,在进行n次事务提交以后,Mysql将执行一次fsync之类的磁盘同步指令,通知文件系统将Binlog文件缓存刷新到磁盘。

  Mysql中默认的设置是sync_binlog=0,即不做任何强制性的磁盘刷新指令,这时性能是最好的,但风险也是最大的。一旦系统Crash,在文件系统缓存中的所有Binlog信息都会丢失。




本文出自 “天涯客的blog” 博客,请务必保留此出处http://tiany.blog.51cto.com/513694/1559144

Mysql学习之--Mysql二进制日志管理

上一篇:MySQL 索引


下一篇:linux 下 jdk+tomcat+mysql 的 jsp 环境搭建