查看: 10218|回复: 102

开源日志系统比较:scribe、chukwa、kafka、flume

  [复制链接]

637

主题

821

帖子

7781

积分

分区版主

Rank: 15Rank: 15Rank: 15Rank: 15Rank: 15

贡献
79
技术
53
活跃
11
在线时间
75 小时
擅长技术
思科华为
发表于 2015-2-8 18:08:55 | 显示全部楼层 |阅读模式
1. 背景介绍
许多公司的平台每天会产生大量的日志(一般为流式数据,如,搜索引擎的pv,查询等),处理这些日志需要特定的日志系统,一般而言,这些系统需要具有以下特征:
(1) 构建应用系统和分析系统的桥梁,并将它们之间的关联解耦;
(2) 支持近实时的在线分析系统和类似于Hadoop 之类的离线分析系统;
(3) 具有高可扩展性。即:当数据量增加时,可以通过增加节点进行水平扩展。
本文从设计架构,负载均衡,可扩展性和容错性等方面对比了当今开源的日志系统,包括facebook 的scribe,apache 的chukwa,linkedin 的kafka 和cloudera的flume 等。

购买主题 已有 4 人购买  本主题需向作者支付 2 金币 才能浏览

1

主题

126

帖子

670

积分

Kib

Rank: 3Rank: 3

贡献
0
技术
0
活跃
157
在线时间
7 小时
发表于 2015-2-8 18:56:09 | 显示全部楼层
RE: 开源日志系统比较:scribe、chukwa、kafka、flume [修改]

1

主题

126

帖子

670

积分

Kib

Rank: 3Rank: 3

贡献
0
技术
0
活跃
157
在线时间
7 小时
发表于 2015-2-8 18:57:22 | 显示全部楼层
RE: 开源日志系统比较:scribe、chukwa、kafka、flume [修改]

1

主题

126

帖子

670

积分

Kib

Rank: 3Rank: 3

贡献
0
技术
0
活跃
157
在线时间
7 小时
发表于 2015-2-8 18:58:09 | 显示全部楼层
RE: 开源日志系统比较:scribe、chukwa、kafka、flume [修改]

0

主题

38

帖子

195

积分

Kib

Rank: 3Rank: 3

贡献
0
技术
0
活跃
33
在线时间
1 小时
发表于 2015-3-2 17:23:05 | 显示全部楼层
haddop,不错的虚拟化解决方案,多学习学习没错。

0

主题

8

帖子

45

积分

Byte

Rank: 2

贡献
0
技术
0
活跃
10
在线时间
1 小时
发表于 2015-3-30 14:56:00 | 显示全部楼层
谢谢分享,学习一下。

0

主题

265

帖子

1495

积分

Mib

Rank: 4

贡献
0
技术
0
活跃
125
在线时间
10 小时
发表于 2015-5-5 20:55:11 | 显示全部楼层
谢谢谢谢谢谢

0

主题

124

帖子

685

积分

Kib

Rank: 3Rank: 3

贡献
0
技术
0
活跃
323
在线时间
9 小时
发表于 2015-6-24 21:04:01 | 显示全部楼层
过来学习一下啦。。。。。。。。

0

主题

53

帖子

295

积分

Kib

Rank: 3Rank: 3

贡献
0
技术
0
活跃
129
在线时间
4 小时
发表于 2015-6-25 09:08:36 | 显示全部楼层
感谢楼主分享
使用 高级模式(可批量传图、插入视频等)
您需要登录后才可以回帖 登录 | 立即注册

快速回复 返回顶部 返回列表