日志收集系统(scribechukwakafkaflume)对比

Posted itspace

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了日志收集系统(scribechukwakafkaflume)对比相关的知识,希望对你有一定的参考价值。



 taobao time tunnel

通过zookeeper注册和监控消费节点。从而完成分布式的日志收集。

日志收集系统(scribe、chukwa、kafka、flume)对比


 facebook scribe

通过thrift通信框架,生成各种语言的client端,收集日志。最后存入hdfs。

日志可以根据category分类存储到不同介质。

似乎没有涉及到分布式server解决方案。


日志收集系统(scribe、chukwa、kafka、flume)对比

hadoop chukwa

支持自定义adapter,支持分钟级别的M/R实时计算。

日志收集系统(scribe、chukwa、kafka、flume)对比


linkedin kafka

通过zookeeper进行负载均衡,broker采用zero-copy技术及时将数据持久化, 采用生产者push、消费者pull的模式,对消息进行分类处理。

日志收集系统(scribe、chukwa、kafka、flume)对比


cloudera flume

通过master进行负载均衡,通过zookeeper防止master单点问题

日志收集系统(scribe、chukwa、kafka、flume)对比


群满,可加群主拉入!

群主


以上是关于日志收集系统(scribechukwakafkaflume)对比的主要内容,如果未能解决你的问题,请参考以下文章

基于Flume的美团日志收集系统架构和设计

使用logstash收集javanginx系统等常见日志

Go语言系列- 日志收集系统

十九,基于helm搭建EFK日志收集系统

海量日志实时收集系统架构设计与go语言实现

Go语言系列- 日志收集系统架构