2021年大数据ELK:集中式日志协议栈Elastic Stack简介

Posted Lansonli

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了2021年大数据ELK:集中式日志协议栈Elastic Stack简介相关的知识,希望对你有一定的参考价值。

全网最详细的大数据ELK文章系列,强烈建议收藏加关注! 

新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点。

目录

系列历史文章 

一、简介

二、ELK 协议栈介绍及体系结构

三、集中式日志协议栈组件功能简介


系列历史文章 

2021年大数据ELK(二): Elasticsearch简单介绍

2021年大数据ELK(一):集中式日志协议栈Elastic Stack简介

一、简介

日常工作中会面临很多问题,处理问题时候。怎么解决问题?

  • 通过工作经验,迅速判断问题出在哪。
  • 通过日志
  • 系统日志:/var/log 目录下的问题的文件
  • 程序日志: 代码日志(项目代码输出的日志)
  • 服务应用日志
    • nginx、HAproxy、lvs
    • tomcat、php-fpm
    • redis、mysql、mongo
    • RabbitMq、kafka
    • Glusterfs、HDFS、NFS等等

通过日志排除,发现问题根源解决问题

如果1台或者几台服务器,我们可以通过 linux命令,tail、cat,通过grep、awk等过滤去查询定位日志查问题

但是如果几十台、甚至几百台。通过这种方式肯定不现实。

怎么办?

一些聪明人就提出了建立一套集中式的方法,把不同来源的数据集中整合到一个地方。

一个完整的集中式日志系统,是离不开以下几个主要特点的。

  • 收集-能够采集多种来源的日志数据
  • 传输-能够稳定的把日志数据传输到中央系统
  • 存储-如何存储日志数据
  • 分析-可以支持 UI 分析
  • 警告-能够提供错误报告,监控机制

二、ELK 协议栈介绍及体系结构

ELK其实并不是一款软件,而是一整套解决方案,是三个软件产品的首字母缩写,ElasticsearchLogstash 和 Kibana。这三款软件都是开源软件,通常是配合使用,而且又先后归于 Elastic.co 公司名下,故被简称为ELK协议栈。

三、集中式日志协议栈组件功能简介

  • ElasticSearch : 主要是用于做全文检索功能、数据的存储和数据的查询 
  • Logstash:  主要是用于进行数据的传递采集工作,将数据从一个地方 搬运到另一个地方去
  • Kibana :  主要是用于 图标报表展示 以及 数据探索
  • Beats : 主要是用于进行数据的写入工作


  • 📢博客主页:https://lansonli.blog.csdn.net
  • 📢欢迎点赞 👍 收藏 ⭐留言 📝 如有错误敬请指正!
  • 📢本文由 Lansonli 原创,首发于 CSDN博客🙉
  • 📢大数据系列文章会每天更新,停下休息的时候不要忘了别人还在奔跑,希望大家抓紧时间学习,全力奔赴更美好的生活✨

以上是关于2021年大数据ELK:集中式日志协议栈Elastic Stack简介的主要内容,如果未能解决你的问题,请参考以下文章

集中式日志系统 ELK 协议栈详解

集中式日志系统 ELK 协议栈详解

集中式日志系统 ELK 协议栈详解

集中式日志系统 ELK 协议栈详解

2021年大数据ELK(二十二):采集Apache Web服务器日志

2021年大数据ELK(十九):使用FileBeat采集Kafka日志到Elasticsearch