使用flume日志采集直接将采集数据导入hive

yzc164

　　今天给大家分享下 使用flume采集日志，直接将日志导入对应的hive表中，然后使用hive进行日志分析
　　下面就以apache access log为例
　　具体使用hive的外部表还是普通的表，个人决定哈
　　我这里就以普通表来讲解，首先我们创建一个hive表(注：此表我是从hive官网上直接拷贝修改了下表名,哈哈)
　　1，首先进入hive 命令行模式
　　我创建了一个自己的数据库

create database hive_1208;
　　然后使用该数据库:

use hive_1208;
　　直接执行建表语句：

CREATE TABLE td_log_analyze(
host STRING,
identity STRING,
user STRING,
time STRING,
request STRING,
status STRING,
size STRING,
referer STRING,
agent STRING)
partitioned by (dt string)
ROW FORMAT SERDE 'org.apache.hadoop.hive.contrib.serde2.RegexSerDe'
WITH SERDEPROPERTIES (
"input.regex" = "([^ ]*) ([^ ]*) ([^ ]*) (-|\\[[^\\]]*\\]) ([^ \"]*|\"[^\"]*\") (-|[0-9]*) (-|[0-9]*)(?: ([^ \"]*|\"[^\"]*\") ([^ \"]*|\"[^\"]*\"))?",
"output.format.string" = "%1$s %2$s %3$s %4$s %5$s %6$s %7$s %8$s %9$s"
)
STORED AS TEXTFILE;
　　2，然后你就可以在hdfs 看到对应的目录
　　

 
　　下面就该flume 出动了，
　　我的配置如下：

#定义agent名， source、channel、sink的名称
logAnalyzeAG.sources = r1
logAnalyzeAG.channels = c1
logAnalyzeAG.sinks = k1
#具体定义source
logAnalyzeAG.sources.r1.type = spooldir
logAnalyzeAG.sources.r1.spoolDir = /usr/local/nginx_logs
#设置缓存提交行数
logAnalyzeAG.sources.s1.deserializer.maxLineLength =1048576
logAnalyzeAG.sources.s1.fileSuffix = .DONE
logAnalyzeAG.sources.s1.ignorePattern = access(_\d{4}\-\d{2}\-\d{2}_\d{2})?\.log(\.DONE)?
logAnalyzeAG.sources.s1.consumeOrder = oldest
logAnalyzeAG.sources.s1.deserializer = org.apache.flume.sink.solr.morphline.BlobDeserializer$Builder
logAnalyzeAG.sources.s1.batchsize = 5
#定义拦截器，为消息添加时间戳
#logAnalyzeAG.sources.r1.interceptors = i1
#logAnalyzeAG.sources.r1.interceptors.i1.type = org.apache.flume.interceptor.TimestampInterceptor$Builder

#具体定义channel
logAnalyzeAG.channels.c1.type = memory
logAnalyzeAG.channels.c1.capacity = 10000
logAnalyzeAG.channels.c1.transactionCapacity = 100
#具体定义sink
logAnalyzeAG.sinks.k1.type = hdfs
#%y-%m-%d/%H%M/%S
#这里对应就是hive 表的目录 此处如果是外部表，则直接对应你的localtion地址，如果普通则对应到你的hive表目录即可
logAnalyzeAG.sinks.k1.hdfs.path = hdfs://192.168.3.141:9000/hive/warehouse/hive_1208.db/td_log_analyze/%Y-%m-%d_%H
logAnalyzeAG.sinks.k1.hdfs.filePrefix = nginx-%Y-%m-%d_%H
logAnalyzeAG.sinks.k1.hdfs.fileSuffix = .log
logAnalyzeAG.sinks.k1.hdfs.fileType = DataStream
#不按照条数生成文件
logAnalyzeAG.sinks.k1.hdfs.rollCount = 0
#HDFS上的文件达到128M时生成一个文件
logAnalyzeAG.sinks.k1.hdfs.rollSize = 2914560
#HDFS上的文件达到60秒生成一个文件
#logAnalyzeAG.sinks.k1.hdfs.rollInterval = 60
logAnalyzeAG.sinks.k1.hdfs.useLocalTimeStamp = true
#组装source、channel、sink
logAnalyzeAG.sources.r1.channels = c1
logAnalyzeAG.sinks.k1.channel = c1
　　我这是flume sources使用的是spoolDir type监控/usr/local/nginx_logs
　　进去该监控目录vi assec_2015-12-08_12.log
　　将如下数据导入加入

180.173.250.74 - - [08/Jan/2015:12:38:08 +0800] "GET /avatar/xxx.png HTTP/1.1" 200 968 "http://www.iteblog.com/archives/994" "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/34.0.1847.131 Safari/537.36"
180.173.250.74 - - [08/Jan/2015:12:38:08 +0800] "GET /avatar/xxx.png HTTP/1.1" 200 968 "http://www.iteblog.com/archives/994" "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/34.0.1847.131 Safari/537.36"
180.173.250.74 - - [08/Jan/2015:12:38:08 +0800] "GET /avatar/xxx.png HTTP/1.1" 200 968 "http://www.iteblog.com/archives/994" "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/34.0.1847.131 Safari/537.36"
　　保存完之后了flume则会采集该日志 到指定的hdfs dir
　　==你会看到hdfs目录如下：
　　

 
　　此时在说明日志采集成功，
　　我这里是对日志进行的分区存放，所以要想将hive表对应指定分区需要创建hive 分区如下

ALTER TABLE td_log_analyze ADD IF NOT EXISTS PARTITION (dt='2015-12-08_12') LOCATION '/hive/warehouse/hive_1208.db/td_log_analyze/2015-12-08_12/';
　　此时你进去hive命令执行查看分区是否创建成功

show partitions td_log_analyze;
　　

 
　　然后查询hive表

select * from td_log_analyze;

　　

 
　　OK到此处一切正常结束，具体分析就看个人业务了哈
　　注:上面需要手动给hive创建分区那个步骤，看具体分区的间隔，可写自动化脚本来自动创建分区，个人建议提前一天创建分区即可。