我是
靠谱客的博主
单薄哈密瓜,最近开发中收集的这篇文章主要介绍
log4j与flume整合配置,觉得挺不错的,现在分享给大家,希望可以做个参考。
概述
1、依赖jar包导入,通过maven管理,pom文件增加如下配置:
-
- <dependency>
- <groupId>org.apache.flume.flume-ng-clients</groupId>
- <artifactId>flume-ng-log4jappender</artifactId>
- <version>1.6.0</version>
- </dependency>
-
- <dependency>
- <groupId>log4j</groupId>
- <artifactId>log4j</artifactId>
- <version>1.2.17</version>
- </dependency>
- <dependency>
- <groupId>org.slf4j</groupId>
- <artifactId>slf4j-api</artifactId>
- <version>1.7.5</version>
- </dependency>
- <dependency>
- <groupId>org.slf4j</groupId>
- <artifactId>slf4j-log4j12</artifactId>
- <version>1.7.5</version>
- </dependency>
2、log4j配置文件:
2.1 log4j.properties文件配置:
- #log4j输出到flume单机模式配置
- log4j.appender.loadbalance = org.apache.flume.clients.log4jappender.Log4jAppender
- log4j.appender.loadbalance.hostname = hadoop011
- log4j.appender.loadbalance.port = 6666
-
- #log4j输出到flume负载均衡方式配置
- log4j.appender.loadbalance = org.apache.flume.clients.log4jappender.LoadBalancingLog4jAppender
- log4j.appender.loadbalance.Hosts = hadoop011:6666 hadoop012:6666
- #log4j.appender.loadbalance.UnsafeMode = true
- log4j.appender.out2.MaxBackoff = 30000
- #FQDN RANDOM ,default is ROUND_ROBIN
- log4j.appender.loadbalance.Selector = RANDOM
- log4j.appender.loadbalance.layout=org.apache.log4j.PatternLayout
- log4j.appender.loadbalance.layout.ConversionPattern=%m
2.2 XMl方式配置:
-
- <appender name="FLUME"
- class="org.apache.flume.clients.log4jappender.Log4jAppender">
-
- <param name="Hostname" value="192.168.12.11" />
- <param name="Port" value="6666" />
- <layout class="org.apache.log4j.PatternLayout">
- <param name="ConversionPattern"
- value="%d{yyyy-MM-dd hh:mm:ss,SSS} [%p][%t] %-20.30c{1} %4L %m%n" />
- </layout>
- </appender>
-
- <appender name="FLUME"
- class="org.apache.flume.clients.log4jappender.LoadBalancingLog4jAppender">
-
- <param name="hosts" value="192.168.12.11:6666 192.168.12.12:6666" />
- <param name="Selector" value="RANDOM" />
- <param name="maxBackoff" value="30000" />
- <layout class="org.apache.log4j.PatternLayout">
- <param name="ConversionPattern"
- value="%d{yyyy-MM-dd hh:mm:ss,SSS} [%p][%t] %-20.30c{1} %4L %m%n" />
- </layout>
- </appender>
注:以上配置中ip地址均可以使用hostname或域名替代。
3. 问题
采用负载均衡方式配置打印日志时,出现循环打印出“Using default maxIOWorkers”导致栈溢出问题:
解决办法:
重写LoadBalancingLog4jAppender.java类,在getProperties方法中增加对maxIOWorkers初始化:
props.setProperty(RpcClientConfigurationConstants.MAX_IO_WORKERS,
(Runtime.getRuntime().availableProcessors() * 2)+"");
最后
以上就是单薄哈密瓜为你收集整理的log4j与flume整合配置的全部内容,希望文章能够帮你解决log4j与flume整合配置所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复