我是靠谱客的博主 靓丽人生,最近开发中收集的这篇文章主要介绍Flume学习笔记(一)安装与简单使用,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

本文环境如下:
操作系统:CentOS 7.2.1511 64位
Flume版本:1.6.0

1. 系统需求

Flume需要Java 1.6及以上(推荐1.7),对Agent监控目录的读写权限。

2. 下载软件包

到Flume官网上http://flume.apache.org/download.html下载软件包,例如:

wget "http://mirrors.cnnic.cn/apache/flume/1.6.0/apache-flume-1.6.0-bin.tar.gz"
tar -xzvf apache-flume-1.6.0-bin.tar.gz
mv flume-1.6.0 /opt

3. 简单示例

3.1 修改配置文件

vi /opt/flume-1.6.0/conf/flume.conf

输入以下内容

# 指定Agent的组件名称
a1.sources = r1
a1.sinks = k1
a1.channels = c1
# 指定Flume source(要监听的路径)
a1.sources.r1.type = spooldir
a1.sources.r1.spoolDir = /root/path
# 指定Flume sink
a1.sinks.k1.type = logger
# 指定Flume channel
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100
# 绑定source和sink到channel上
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

3.2 启动flume agent

cd /opt/flume-1.6.0
bin/flume-ng agent --conf conf --conf-file conf/flume.conf --name a1 -Dflume.root.logger=INFO,console
参数作用举例
–conf 或 -c指定配置文件夹,包含flume-env.sh和log4j的配置文件–conf conf
–conf-file 或 -f配置文件地址–conf-file conf/flume.conf
–name 或 -nagent名称–name a1
-zzookeeper连接字符串-z zkhost:2181,zkhost1:2181
-pzookeeper中的存储路径前缀-p /flume

3.3 写入日志内容

vi 1.log

写入Hello Flume.作为测试内容。然后拷贝到flume监听路径。

cp 1.log
/root/path/

接着就可以在前一个终端看到刚刚采集的内容了,如下:

2016-06-27 10:02:58,322 (SinkRunner-PollingRunner-DefaultSinkProcessor) [INFO - org.apache.flume.sink.LoggerSink.process(LoggerSink.java:94)] Event: { headers:{} body: 48 65 6C 6C 6F 20 77 6F 72 6C 64 0D
Hello Flume. }

至此flume已经能够正常运行。

最后

以上就是靓丽人生为你收集整理的Flume学习笔记(一)安装与简单使用的全部内容,希望文章能够帮你解决Flume学习笔记(一)安装与简单使用所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(49)

评论列表共有 0 条评论

立即
投稿
返回
顶部