大数据日志采集系统

Posted Bigben

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了大数据日志采集系统相关的知识,希望对你有一定的参考价值。

ELK提供了一系列采集方案。但对于从app端过来的日志,没有接收模块。一种方案可以用logstash打开socket端口接收,需要客户端配合。这里提供通过http的方案。接收服务器采用springboot实现收集,发送日志到kafka。也可以直接写文件,用fileBeat读取发送到kafka。从kafka传送到elasticsearch用了大数据计算平台Beam实现。Beam编出的jar可以部署到spark,flink等。进入elasticsearch的数据可以做报警处理。用开源的elastAlert。可以将报警信息发往其他地方,可以用webhook,把报警信息post到服务器上,发送到如企业微信等。

git源码:

采集服务:https://github.com/bigben0123/dataPlatformCollector

beam服务:https://github.com/bigben0123/

 

以上是关于大数据日志采集系统的主要内容,如果未能解决你的问题,请参考以下文章

Flume+Kafka双剑合璧玩转大数据平台日志采集

大数据flume日志采集系统详解

一种基于Flume的分布式日志采集分析系统

日志采集方式 SNMP TRAP 和 Syslog 的区别

带你看懂大数据采集引擎之Flume&采集目录中的日志

带你看懂大数据采集引擎之Flume&采集目录中的日志