查看: 13864|回复: 138

Flume+kafka+storm搭建详解 实时日志分析系统架构简介

  [复制链接]

1040

主题

1186

帖子

1万

积分

分区版主

Rank: 15Rank: 15Rank: 15Rank: 15Rank: 15

贡献
32
技术
24
活跃
5
在线时间
39 小时
擅长技术
思科华为
发表于 2015-2-4 18:05:50 | 显示全部楼层 |阅读模式
实时日志分析系统架构简介
系统主要分为四部分:

1).数据采集
负责从各节点上实时采集数据,选用cloudera 的flume 来实现
2).数据接入
由于采集数据的速度和数据处理的速度不一定同步,因此添加一个消息中间件来作为缓冲,选用
apache 的kafka
3).流式计算
对采集到的数据进行实时分析,选用apache 的storm
4).数据输出
对分析后的结果持久化,暂定用mysql


购买主题 已有 10 人购买  本主题需向作者支付 1 金币 才能浏览

3

主题

349

帖子

2350

积分

Tib

Rank: 7Rank: 7Rank: 7

贡献
0
技术
0
活跃
475
在线时间
24 小时
发表于 2015-2-5 09:47:23 | 显示全部楼层
Flume  不知道如何用啊

0

主题

7

帖子

35

积分

Byte

Rank: 2

贡献
0
技术
0
活跃
8
在线时间
0 小时
发表于 2015-2-9 23:16:46 | 显示全部楼层
不错,研究研究。

0

主题

1084

帖子

7114

积分

论坛贵宾VIP-永久权限

Rank: 8Rank: 8

贡献
0
技术
0
活跃
1009
在线时间
131 小时
发表于 2015-4-27 22:06:00 | 显示全部楼层
三通学院,中国IT的黄埔军校

0

主题

265

帖子

1495

积分

Mib

Rank: 4

贡献
0
技术
0
活跃
125
在线时间
10 小时
发表于 2015-5-5 13:59:55 | 显示全部楼层
看看 能不能下载

2

主题

427

帖子

2280

积分

Tib

Rank: 7Rank: 7Rank: 7

贡献
0
技术
0
活跃
967
在线时间
25 小时
擅长技术
编程
发表于 2015-5-19 08:43:55 | 显示全部楼层
Flume  不知道如何用啊

5

主题

2244

帖子

1万

积分

Cib

Rank: 13Rank: 13Rank: 13Rank: 13

贡献
0
技术
0
活跃
3750
在线时间
147 小时
发表于 2015-5-29 07:59:36 | 显示全部楼层
想看看Storm怎么运转的

0

主题

437

帖子

2525

积分

Pib

Rank: 8Rank: 8

贡献
0
技术
0
活跃
883
在线时间
24 小时
发表于 2015-5-29 09:49:29 | 显示全部楼层
感谢楼主的分享。。。。。。
使用 高级模式(可批量传图、插入视频等)
您需要登录后才可以回帖 登录 | 立即注册

快速回复 返回顶部 返回列表