【3G】分布式的海量日志采集聚合和传输的系统Flume视频教程Flume日志采集分析教材

Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受方（可定制）的能力。

当前Flume有两个版本Flume 0.9X版本的统称Flume-og，Flume1.X版本的统称Flume-ng。由于Flume-ng经过重大重构，与Flume-og有很大不同，使用时请注意区分。



课程目录



1flume简介-基础知识

讲述flume的基础知识包括flume的基本概念和核心组件。flume是一个分布式、可靠、高可用的海量日志聚合系统，支持在系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据的简单处理，并写到各种数据接收方的能力。

2

flume安装与测试

讲述flume安装与测试，主要包括flume单机安装与测试、flume集群安装与测试、Arvo环境的搭建以及安装过程中的一些异常的解决方案讲解。

3

flume部署方式

讲述flume部署种类、流配置。其中详细讲解了单一代理、多代理、多路复用流的配置说明。

4

flume source相关配置及测试

讲述flume source相关的配置和案例分析，包括了Avro Source配置、Thrift Source配置、Exec Source配置、JMS Source配置、NetCat Source配置、Spooling Directory Source配置、Sequence Generator Source配置、Syslog TCP Source配置、Multiport Syslog TCP Source配置、Syslog UDP Source配置、Http Source配置、Custom Source配置。

5

flume sink相关配置及测试

讲述flume sink相关的配置以及flume channel配置和案例分析，包括了HDFS Sink配置、Logger Sink配置、Avro Sink配置、Thrift Sink配置、IRC Sink配置、File Roll Sink配置、Null Sink配置、Hbase Sink配置、AsyncHbase Sink配置、Custom Sink配置；Memory Channel配置、JDBC Channel配置、File Channel配置、Pseudo Transaction Channel配置、Custom Channel配置。



6

flume selector 相关配置与案例分析

讲述 flume selector相关配置和案例分析，包括了Replicating Channel Selector配置、Multiplexing Channel Selector配置、Custom Channel Selector配置。

7

Flume Sink Processors相关配置和案例分析

讲述 Flume Sink Processors相关配置和案例分析，包括了Default Sink Processor配置、Failover Sink Processor配置、Load balancing Sink Processor配置。

8

Flume Interceptors相关配置和案例分析

讲述 Flume Event Serializers、Flume Interceptors相关配置和案例分析，包括了Body Text Serializer配置、Avro Text Serializer配置、Timestamp Interceptor配置、Host Interceptor配置、Static Interceptor配置、Regex Filtering Interceptor配置。

9

Flume RPC Client开发

讲述如何进行 flume RPC Client开发，这个是在通常应用中使用的较多的一种方式。

10

Flume Sink和Flume Source开发

讲述如何进行 flume Sink、flume Source开发。