xtrabackup备份恢复测试
测试准备
成都创新互联公司长期为上千家客户提供的网站建设服务，团队从业经验10年，关注不同地域、不同群体，并针对不同对象提供差异化的产品和服务；打造开放共赢平台，与合作伙伴共同营造健康的互联网生态环境。为中方企业提供专业的成都网站建设、网站建设，中方网站改版等技术服务。拥有10余年丰富建站经验和众多成功案例,为您定制开发。
1、安装xtrabackup工具
以下测试安装xtrabackup备份恢复工具的二进制包，进行测试。安装的路径为MySQL安装路径，本次测试mysql的安装路径为：/home/q/percona-server/。
| tar -xzf percona-xtraback-2.0.0-x86-64.tar.gz cp percona-xtrabackup-2.0.0/bin/* /home/q/percona-server/bin |
2、创建备份用户
创建备份用户backup@localhost，xtraback只能用于本地操作，故只授权本地操作。
| GRANT RELOAD, LOCK TABLES, REPLICATION CLIENT ON *.* TO backup@localhost; |
3、声明PATH环境变量
为xtrabackup备份恢复工具添加到PATH路径中。
| export PATH=$PATH:/home/q/percona-server/bin |
4、创建测试库
创建测试库backup_test，测试表test。
| mysql -uroot -S/tmp/mysql.sock -e'create database backup_test;' mysql -uroot -S/tmp/mysql.sock -e'create table backup_test.test (id int);' mysql -uroot -S/tmp/mysql.sock -e'insert into backup_test.test values(1),(2),(3),(4),(5);' |
测试innodb
1、全备份测试
全备份测试主要通过测试以下几个场景，对数据备份和恢复进行验证。
1）备份全库，恢复进行测试。
进行全库备份：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
删除当前数据文件：
| rm -rf /home/q/percona-server/data/* |
恢复日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --user=backup backup/ |
恢复数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --copy-back --user=backup backup/ |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test;' |
测试结果：
经验证，备份恢复正确。
2）修改表结构，备份全库，恢复进行测试。
修改数据库表结构：
| mysql -uroot -S/tmp/mysql.sock -e 'alter table backup_test.test add name varchar(20) default "null";' |
进行全库备份：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
删除当前数据文件：
| rm -rf /home/q/percona-server/data/* |
恢复日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --user=backup backup/ |
恢复数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --copy-back --user=backup backup/ |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test;' |
测试结果：
经验证，备份恢复正确。
3）备份某个库，恢复测试
备份backup_test库
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test --user=backup backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
修改当前数据文件：
| mv /home/q/percona-server/data /home/q/percona-server/databak mkdir /home/q/percona-server/data |
恢复日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --database=backup_test --user=backup backup/ |
恢复数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --copy-back --database=backup_test --user=backup backup/ cp /home/q/percona-server/databak/* /home/q/percona-server/data(仅拷贝不在data中的文件) |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test;' |
测试结果：
经验证，备份单个库没有问题。存在的不足是，恢复的时候，数据目录必须为空。也就是说，在恢复阶段，需要将现有的数据目录改名为临时目录；在恢复之后，将原数据目录（现临时目录）下的其他库的内容拷贝到数据目录下即可。
4）备份单个表，恢复测试
备份backup_test库
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test.test --user=backup backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
修改当前数据文件：
| mv /home/q/percona-server/data /home/q/percona-server/databak mkdir /home/q/percona-server/data |
恢复日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --user=backup backup/ |
恢复数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --copy-back --user=backup backup/ |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test;' |
测试结果：
经验证，备份单个表没有问题。存在的不足是，恢复的时候，数据目录必须为空。也就是说，在恢复阶段，需要将现有的数据目录改名为临时目录；在恢复之后，将原数据目录（现临时目录）下的其他库的内容拷贝到数据目录下即可。
5）innodb_file_per_table参数验证
修改配置文件
在配置文件中添加innodb_file_per_table配置参数。
重启数据库server
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & |
创建测试库backup_test
| mysql -uroot -S/tmp/mysql.sock -e'create database backup_test;' mysql -uroot -S/tmp/mysql.sock -e'create table backup_test.test (id int);' mysql -uroot -S/tmp/mysql.sock -e'insert into backup_test.test values(1),(2),(3),(4),(5);' |
备份backup_test库
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test.test --user=backup backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
修改当前数据文件：
| mv /home/q/percona-server/data /home/q/percona-server/databak mkdir /home/q/percona-server/data |
恢复日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --user=backup backup/ |
恢复数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --copy-back --user=backup backup/ |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test;' |
测试结果：
经验证，备份单个库没有问题。存在的不足是，恢复的时候，数据目录必须为空。也就是说，在恢复阶段，需要将现有的数据目录改名为临时目录；在恢复之后，将原数据目录（现临时目录）下的其他库的内容拷贝到数据目录下即可。
2、增量备份测试
增量备份测试主要通过测试以下几个场景，对数据备份和恢复进行验证。
1）全库备份，创建数据库，增量备份，恢复测试
全库备份
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup backup/ |
创建数据库
| mysql -uroot -S/tmp/mysql.sock -e'create database backup_test_tmp;' mysql -uroot -S/tmp/mysql.sock -e'create table backup_test_tmp.test (id int);' mysql -uroot -S/tmp/mysql.sock -e'insert into backup_test_tmp.test values(1),(2),(3),(4),(5);' |
增量备份
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup --incremental --incremental-basedir=backup/ backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
删除当前数据文件：
| rm -rf /home/q/percona-server/data/* |
恢复全备份日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --user=backup backup/ |
恢复增量备份日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --user=backup backup/ --incremental-dir=backup/ |
恢复增量备份数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --copy-back --user=backup backup/ |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test;' mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test_tmp.test;' |
测试结果：
经验证，备份恢复正确。
2）全库备份，修改数据表结构，增量备份，恢复测试
全库备份
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup backup/ |
修改数据表结构
| mysql -uroot -S/tmp/mysql.sock -e 'alter table backup_test.test add email varchar(20) default "null";' |
增量备份
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup --incremental --incremental-basedir=backup/ backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
删除当前数据文件：
| rm -rf /home/q/percona-server/data/* |
恢复全备份日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --user=backup backup/ |
恢复增量备份日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --user=backup backup/ --incremental-dir=backup/ |
恢复增量备份数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --copy-back --user=backup backup/ |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test;' |
测试结果：
经验证，增量备份没有问题。存在的不足是，恢复的时候，首先数据目录必须为空，其次，恢复的时候需要单独拷贝增量备份的表结构。也就是说，在恢复阶段，需要将数据目录清空；数据恢复后，需要单独拷贝增量备份文件夹下的表结构。
3）全库备份，创建数据库，增量备份，修改表结构，增量备份，恢复测试
全库备份
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup backup/ |
创建数据库
| mysql -uroot -S/tmp/mysql.sock -e'create database backup_test_tmp;' mysql -uroot -S/tmp/mysql.sock -e'create table backup_test_tmp.test (id int);' mysql -uroot -S/tmp/mysql.sock -e'insert into backup_test_tmp.test values(1),(2),(3),(4),(5);' |
增量备份
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup --incremental --incremental-basedir=backup/ backup/ |
修改数据表结构
| mysql -uroot -S/tmp/mysql.sock -e 'alter table backup_test.test add email varchar(20) default "null";' |
增量备份
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup --incremental --incremental-basedir=backup/ backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
删除当前数据文件：
| rm -rf /home/q/percona-server/data/* |
恢复全备份日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --user=backup backup/ |
恢复增量备份1日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --user=backup backup/ --incremental-dir=backup/ |
恢复增量备份2日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --apply-log --user=backup backup/ --incremental-dir=backup/ |
恢复增量备份数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --copy-back --user=backup backup/ |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test;' |
测试结果：
经验证，增量备份没有问题。存在的不足是，恢复的时候，首先数据目录必须为空，其次，恢复的时候需要单独拷贝最后一次增量备份的表结构。也就是说，在恢复阶段，需要将数据目录清空；数据恢复后，需要单独拷贝最后一次增量备份文件夹下的表结构。
4）全备份某库，修改库，增量备份，恢复测试
全备份某库
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup --database=backup_test backup/ |
修改库
| mysql -uroot -S/tmp/mysql.sock -e 'alter table backup_test.test add address varchar(20) default "null";' |
增量备份
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup --database=backup_test --incremental --incremental-basedir=backup/ backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
删除当前数据文件：
| rm -rf /home/q/percona-server/data/backup_test/* |
恢复全备份日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test --apply-log --user=backup backup/ |
恢复增量备份日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test --apply-log --user=backup backup/ --incremental-dir=backup/ |
恢复增量备份数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test --copy-back --user=backup backup/ |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test;' |
测试结果：
经验证，增量备份没有问题。存在的不足是，恢复的时候，首先数据目录必须为空，其次，恢复的时候需要单独拷贝增量备份的表结构。也就是说，在恢复阶段，需要将现有的数据目录改名为临时目录；在恢复之后，将原数据目录（现临时目录）下的其他库的内容拷贝到数据目录下即可。数据恢复后，还需要单独拷贝增量备份文件夹下的表结构。
5）innodb_file_per_table参数验证
修改配置文件
在配置文件中添加innodb_file_per_table配置参数。
重启数据库server
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & |
创建测试库backup_test
| mysql -uroot -S/tmp/mysql.sock -e'create database backup_test;' mysql -uroot -S/tmp/mysql.sock -e'create table backup_test.test (id int);' mysql -uroot -S/tmp/mysql.sock -e'insert into backup_test.test values(1),(2),(3),(4),(5);' |
备份backup_test库
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test.test --user=backup backup/ |
修改库
| mysql -uroot -S/tmp/mysql.sock -e 'alter table backup_test.test add phone varchar(20) default "null";' |
增量备份
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup --database=backup_test --incremental --incremental-basedir=backup/ backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
删除当前数据文件：
| rm -rf /home/q/percona-server/data/backup_test/* |
恢复全备份日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test --apply-log --user=backup backup/ |
恢复增量备份日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test --apply-log --user=backup backup/ --incremental-dir=backup/ |
恢复增量备份数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test --copy-back --user=backup backup/ |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test;' |
测试结果：
经验证，增量备份没有问题。存在的不足是，恢复的时候，首先数据目录必须为空，其次，恢复的时候需要单独拷贝增量备份的表结构。也就是说，在恢复阶段，需要将现有的数据目录改名为临时目录；在恢复之后，将原数据目录（现临时目录）下的其他库的内容拷贝到数据目录下即可。数据恢复后，还需要单独拷贝增量备份文件夹下的表结构。
3、差分备份测试
差分备份实际是一次增量备份操作，该过程包含在增量备份测试中，再次不再重复测试。
测试myisam
1、全备份测试
创建myisam数据表
| mysql -uroot -S/tmp/mysql.sock -e'create table backup_test.test_myisam (id int) engine=myisam;' mysql -uroot -S/tmp/mysql.sock -e'insert into backup_test.test_myisam values(1),(2),(3),(4),(5);' |
全备份数据表
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup --database=backup_test.test_myisam backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
删除当前数据文件：
| rm -rf /home/q/percona-server/data/backup_test/test_myisam* |
恢复日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test.test_myisam --apply-log --user=backup backup/ |
恢复数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test.test_myisam --copy-back --user=backup backup/ |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test_myisam;' |
测试结果：
经验证，备份恢复正确。
2、增量备份测试
全备份数据表
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup --database=backup_test.test_myisam backup/ |
修改数据表结构
| mysql -uroot -S/tmp/mysql.sock -e 'alter table backup_test.test_myisam add name varchar(20) default "null";' |
增量备份
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --user=backup --database=backup_test.test_myisam --incremental --incremental-basedir=backup/backup/ |
关闭数据库服务：
| kill -9 $(ps -ef|grep "mysql"|gawk '$0 !~/grep/ {print $2}' |tr -s '\n' ' ') |
删除当前数据文件：
| rm -rf /home/q/percona-server/data/backup_test/test_myisam* |
恢复全备份日志文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test.test_myisam --apply-log --user=backup backup/ |
恢复增量备份日志文件
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test.test_myisam --apply-log --user=backup backup/ --incremental-dir=backup/ |
恢复数据文件：
| innobackupex --defaults-file=/home/q/percona-server/etc/my.cnf --database=backup_test.test_myisam --copy-back --user=backup backup/ |
数据验证：
| mysqld_safe --defaults-file=/home/q/percona-server/etc/my.cnf & mysql -uroot -S/tmp/mysql.sock -e'select * from backup_test.test_myisam;' |
测试结果：
经验证，备份恢复正确。
3、差分备份测试
差分备份实际是一次增量备份操作，该过程包含在增量备份测试中，再次不再重复测试。
测试总结
设置以上场景，经测试，发现xtrabackup备份恢复工具仍然存在一些潜在的问题，但是这些问题完全可以通过规避或者完善脚本的方式，来改进和避免存在的问题。
实现原理
对于InnoDB，XtraBackup基于InnoDB的crash-recovery功能进行备份。
crash-recovery是这样的：InnoDB维护了一个redo log，又称为 transaction log，也叫事务日志，它包含了InnoDB数据的所有改动情况。InnoDB启动的时候先去检查datafile和transaction log，然后应用所有已提交的事务并回滚所有未提交的事务。
XtraBackup在备份的时候并不锁定表，而是一页一页地复制InnoDB的数据，与此同时，XtraBackup还有另外一个线程监视着transactions log，一旦log发生变化，就把变化过的log pages复制走(因为transactions log文件大小有限，写满之后，就会从头再开始写，新数据可能会覆盖到旧的数据，所以一旦变化就要立刻复制走）。在全部数据文件复制完成之后，停止复制logfile。
XtraBackup采用了其内置的InnoDB库以read-write模式打开InnoDB的数据文件，然后每次读写1MB(1MB/16KB=64page)的数据，一页一页地遍历，同时用InnoDB的buf_page_is_corrupted()函数检查此页的数据是否正常，如果正常则进行复制，如不正常则重新读取，最多重读10次，如果还是失败，则备份失败退出。复制transactions log的原理也是一样的，只不过每次读写512KB(512KB/16KB=32page)的数据。
由于XtraBackup其内置的InnoDB库打开文件的时候是rw的，所以运行XtraBackup的用户，必须对InnoDB的数据文件具有读写权限。
由于XtraBackup要从文件系统中复制大量的数据，所以它尽可能地使用posix_fadvise()，来告诉OS不要缓存读取到的数据(因为这些数据不会重用到了)，从而提升性能。如果要缓存的话，大量的数据会对OS的虚拟内存造成很大的压力，其它进程（如mysqld）很有可能会被swap出去，这样就出问题了。同时，XtraBackup在读取数据的时候还尽可能地预读。
由于不锁表，所以复制出来的数据是不一致的，数据的一致性是在恢复的时候使用crash-recovery进行实现的。
对于MyISAM,XtraBackup还是首先锁定所有的表，然后复制所有文件。
应用场景
基于以上原理，xtrabackup备份恢复工具比较适合数据增长型数据库。对于数据增长型的库，由于数据的增长导致数据备份和恢复的空间和时间上的压力较大。而xtrabackup有增量备份的功能，在短时间内可以通过进行增量备份来保证数据的安全性。而长期来看，仍然需要间断性的进行全库备份。此外，由于xtrabackup对innodb的数据库不进行锁定，因此对要求不影响线上服务的数据备份和恢复较适合。
而对于数据量无明显增长，且更新为主的数据更新型数据库，xtrabackup显得过于复杂。xtrabackup操作反而不如mysqldump的性能高。
建议
通过以上测试，有以下建议，供DBA参考：
当前文章：xtrabackup备份恢复测试
网页链接：http://pwwzsj.com/article/jeggec.html
