处理Zabbix历史数据库办法一
一 问题描述
创新互联建站专业为企业提供佛坪网站建设、佛坪做网站、佛坪网站设计、佛坪网站制作等企业网站建设、网页设计与制作、佛坪企业网站模板建站服务,10年佛坪做网站经验,不只是建网站,更提供有价值的思路和整体网络服务。
随着Zabbix监控的主机和监控项目增多,Zabbix的历史数据会越来越多,MySQL数据库磁盘空间很容易就爆满,同时Zabbix前端查询数据会变得越来越慢。特别是通过Zabbix的API生成自定义Screen的情况下,打开每个Screen非常慢
查看Zabbix数据库目录文件
# ls -lh|grep G total 248G -rw-rw---- 1 mysql mysql 4.7G May 5 21:34 alerts.ibd -rw-rw---- 1 mysql mysql 3.4G May 5 21:34 events.ibd -rw-rw---- 1 mysql mysql 95G May 5 21:34 history.ibd -rw-rw---- 1 mysql mysql 25G May 5 21:34 history_text.ibd -rw-rw---- 1 mysql mysql 112G May 5 21:34 history_uint.ibd -rw-rw---- 1 mysql mysql 2.9G May 5 21:34 trends.ibd -rw-rw---- 1 mysql mysql 4.3G May 5 21:34 trends_uint.ibd
整个Zabbix数据库目录大小为248G,history和history_text以及history_uint几张表就占用了大部分磁盘空间
二 解决办法
如果不想保留太长时间的历史数据,例如只保留一个月的历史数据可以使用以下方法
1.停掉zabbix server
service zabbix-server stop
这里需要特别注意一下,在部署Zabbix架构的时候最好选择Zabbix server ---- Zabbix proxy --- Zabbix --- agent的架构。即使只有几台主机最好也部署一个proxy,根据不同应用或者不同的机房可以部署多个proxy。部署zabbix有以下几个好处:
proxy专门收集和暂存agent发来的数据,可以减轻server端的压力
使用proxy可以实现分布式监控,例如监控不同网络互相不通的服务器
增强安全性,不直接暴露zabbix server的信息
维护的时候很方便,例如清理zabbix的历史数据,zabbix停掉后的监控数据可以设置在proxy端保留时间长些,等维护好后proxy会同步数据到server端,尽量减少数据丢失。
在停掉zabbix server之前需要注意zabbix proxy的两个参数
ProxyLocalBuffer=3
设置zabbix proxy暂存在本地mysql的监控数据的时间。默认是0,不暂存。即使zabbix proxy已经把数据发送给了zabbix server,还是会暂存数据在本地设置的时间。取值范围是0~720小时
ProxyOfflineBuffer=5
设置当zabbix proxy与zabbix server无法连接时保留监控数据的时间间隔。默认是1小时,取值是1~720小时。这个参数特别有用,我就是在之前的几次维护中,停掉zabbix server后没有设置zabbix proxy的这个参数,所以当维护结束后启动zabbix server,会发现有段时间内的数据没有。这是因zabbix proxy按照默认的保留时间执行housekeeper把过期的数据删除了。
这个时间根据最好根据要维护的时间来设定,比如要维护10个小时,那么就要设置ProxyOfflineBuffer=10
这样就不至于这10个小时之间的数据都丢失了。也有一个问题,如果时间间隔太大的话,zabbix proxy重新推送数据到zabbix server会导致双方的服务器压力都会增大。
2.创建新表
create table history_new like history;
create table history_uint_new like history_uint;
create table history_text_new like history_text;
3.将近期(一个月)的数据插入到新的表中
insert into history_new select * from history where clock > '1459785600';
insert into history_text_new SELECT * FROM history_text WHERE clock > '1461945600';
insert into history_uint_new SELECT * FROM history_uint WHERE clock > '1461945600';
这里的clock是UNIX时间戳
这里根据数据量的大小可以能会花费好几个小时的时间
4.重新更改表名
alter table history rename history_old;
alter table history_new rename history;
alter table history_uint rename history_uint_old;
alter table history_uint_new rename history_uint;
alter table history_text rename history_text_old;
alter table history_text_new rename history_text;
5.重新启动zabbix server
重新启动zabbix后,有段时间会不停地报zabbix agent不可用的报警信息,过段时间就会恢复正常。
6.删除旧表
drop table history_old;
drop table history_text_old;
drop table history_uint_old;
另外可以更改items表的history字段
UPDATE items SET history = '15' WHERE history > '30'
这样就将每个item的history保留时间设置为15天。但是这样设置的话如果想看几个月之前的数据就看不到了。
这种方法处理起来效率非常低,必须要停掉zabbix server,然后导入一个月内的数据到新的表,如果数据量很大会很花时间。
标题名称:处理Zabbix历史数据库办法一
当前网址:http://pwwzsj.com/article/gdeiei.html