使用 filebeat 和 logstash 将 syslog 转换为 json

Posted

技术标签:

【中文标题】使用 filebeat 和 logstash 将 syslog 转换为 json【英文标题】:convert syslog to json with filebeat and logstash 【发布时间】:2017-04-12 11:39:38 【问题描述】:

filebeat 是否有可能将日志作为 syslog 接收并将它们作为 json 输出到 logstash,这样我就不需要解析每种日志了?

谢谢

【问题讨论】:

【参考方案1】:

Filebeat 读取日志文件,它不接收 syslog 流,也不解析日志。

但是,如果您的日志格式符合 RFC3164,Logstash 可以使用 syslog 输入接收 syslog。否则,您可以执行我假设您已经在执行的操作并将其发送到 UDP 输入。

【讨论】:

嘿,谢谢你的回答 今天我正在使用 grok 来解​​析系统日志,这样我就可以在 Kibana 中正确查看它们,但问题是我有很多类型的日志和管理解析是不合适的。所以我想如果这种情况有问题,我会按原样发送系统日志,它会自动将自己转换为 json 你应该看看***.com/questions/28450501/… 谢谢,但它不能解决我正在寻找更老的东西的问题,所以如果在某些时候我们会有新的模式,我不需要做任何事情 这没有什么神奇之处,您很有可能可以编写一个更好的正则表达式来处理更多的用例,但是“自动转换为 json”的方式是如果它能够沿预期的正则模式解析,即由正则表达式匹配。 此外,如果您的日志遵循任何约定或用于常用应用程序,则可能有人已经编写了 grok 模式,或者它甚至可能存在于核心 logstash 中

以上是关于使用 filebeat 和 logstash 将 syslog 转换为 json的主要内容,如果未能解决你的问题,请参考以下文章

2-4配置Filebeat使用logstash

Logstash Filebeat 安装配置之使用 Kibana 分析日志数据

使用docker部署filebeat和logstash

geoip查找失败弹性堆栈logstash

使用Filebeat和Logstash集中归档日志

ETL工具之日志采集filebeat+logstash