部署Ganglia监控HadoopHbase

在运维hadoop的时候,经常会遇到一些性能问题。而性能问题,是无法简单通过web页面和log分析出来的。需要很多方面的指标。而Ganglia就是比较实用个监控工具之一。


部署Ganglia,百度一下,很多人已经分享很多。结合众人的经验。并加入自己安装过程中遇到的问题,整理出本文。


1. 准备了2台机器

Server 192.168.0.11(gmetad,web,gmond-master) Client 192.168.0.12(gmond)


2. Server端需要安装的软件包

● epel包的安装:yum install -y epel-release(解决不能yum安装某些安装包的问题)

● gmetad的安装:yum install -y ganglia-gmetad ganglia-devel

● gmond的安装:yum install -y ganglia-gmond ganglia-gmond-python

● rrdtool的安装:yum install -y rrdtool rrdtool-devel

● httpd服务器的安装:yum install -y httpd

● ganglia-web及php安装:yum install -y ganglia-web php

● 其他依赖包的安装:yum install -y apr-devel zlib-devel libconfuse-devel expat-devel pcre-devel


3. 被监测节点需要安装的软件包

● epel包的安装:yum install -y epel-release(解决不能yum安装某些安装包的问题)

● gmond的安装:yum install -y ganglia-gmond ganglia-gmond-python


4. 安装目录说明

● ganglia配置文件目录:/etc/ganglia

● rrd数据库存放目录:/var/lib/ganglia/rrds

● httpd主站点目录:/var/www/html

● ganglia-web安装目录:/usr/share/ganglia

● ganglia-web配置目录:/etc/httpd/conf.d/ganglia.conf


5. 关闭SELINUX

vi /etc/selinux/config 把SELINUX=enforcing改成SELINUX=disable; 需要重启机器。


6. 关闭防火墙

# chkconfig iptables off # chkconfig iptables --list iptables        0:off   1:off   2:off   3:off   4:off   5:off   6:off


7. 配置/etc/ganglia/gmetad.conf

修改data_source,改成:

data_source "testcluster” 192.168.0.11:8650 #gmetad采集数据的目标gmond地址和端口(tcp_accept_channel)


8. 配置gmond

/etc/ganglia/gmond.conf,修改以下内容(这个gmond节点作为收集节点,这个节点可以是多个,最后需要在gmetad.conf上进行配置):

cluster { name = "testcluster" #设置集群的名称 #owner = "unspecified" latlong = "unspecified" url = "unspecified" } #发送到目标gmond的地址和端口(单播) udp_send_channel { host=192.168.0.11 port = 8649 ttl = 1 } #接收udp的端口 udp_recv_channel { port = 8649 } #gmetad如果过来收集数据请求的端口 tcp_accept_channel { port = 8650 gzip_output = no }


9. 配置web

软连接方式

>ln -s /usr/share/ganglia /var/www/ganglia

也可以将/usr/share/ganglia的内容直接复制到/var/www/ganglia


10. 修改/etc/httpd/conf.d/ganglia.conf,改成:

Alias /ganglia /usr/share/ganglia <Location /ganglia> Order deny,allow Allow from all </Location>

11. 启动服务

#service gmetad start #service gmond start #service httpd restart

至此,Ganglia的server端已经部署完成。


配置客户端:

12. 客户端只要配置gmond即可(需要先安装yum -y install ganglia-gmond ganglia-gmond-python)

/etc/ganglia/gmond.conf,修改以下内容(这个gmond节点作为收集节点,这个节点可以是多个,最后需要在gmetad.conf上进行配置):

cluster { name = "testcluster" #设置集群的名称 #owner = "unspecified" latlong = "unspecified" url = "unspecified" } #发送到目标gmond的地址和端口(单播) udp_send_channel { host=192.168.248.130 port = 8649 ttl = 1 } #接收udp的端口 udp_recv_channel { port = 8649 } #gmetad如果过来收集数据请求的端口 tcp_accept_channel { port = 8650 gzip_output = no }


13. 配置HDFS、YARN集成Ganglia

修改hadoop-metrics2.properties

# for Ganglia 3.1 support *.sink.ganglia.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31 *.sink.ganglia.period=10 # default for supportsparse is false *.sink.ganglia.supportsparse=true *.sink.ganglia.slope=jvm.metrics.gcCount=zero,jvm.metrics.memHeapUsedM=both *.sink.ganglia.dmax=jvm.metrics.threadsBlocked=70,jvm.metrics.memHeapUsedM=40 namenode.sink.ganglia.servers=192.168.0.11:8649 # host请参考gmond.conf中的定义 datanode.sink.ganglia.servers=192.168.0.11:8649 resourcemanager.sink.ganglia.servers=192.168.0.11:8649 nodemanager.sink.ganglia.servers=192.168.0.11:8649 mrappmaster.sink.ganglia.servers=192.168.0.11:8649 jobhistoryserver.sink.ganglia.servers=192.168.0.11:8649 注意下面参数,如果不过来container的信息收集,可能会造成数据量过大,ganglia的磁盘空间迅速占满。 # Switch off container metrics *.source.filter.class=org.apache.hadoop.metrics2.filter.GlobFilter nodemanager.*.source.filter.exclude=*ContainerResource*


14.   HBase集成Ganglia

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。