filebeat+kafka

Posted dribs

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了filebeat+kafka相关的知识,希望对你有一定的参考价值。

kafka出现接收不到filebeat数据,最后发现版本兼容问题

filebeat换成  filebeat-7.4.2-linux-x86_64 

kafka是docker-compose启动的,版本是kafka_2.12-2.3.0

 

filebeat配置

filebeat.inputs:
  - type: log
    enabled: true
    paths:
      - /opt/logs/debug.log   #日志路径
output.kafka:
  hosts: ["10.238.2.228:9092", "10.238.2.229:9092", "10.238.2.230:9092"]   #kafka地址
  topic: ‘xxx-debug-log‘
  required_acks: 1
  compression: gzip
  max_message_bytes: 1000000
  processors:
    - drop_fields:
        fields: ["input", "ecs", "agent"]

  

以上是关于filebeat+kafka的主要内容,如果未能解决你的问题,请参考以下文章

从 kafka-filebeat 创建动态索引

filebeat 接入kafka

filebeat-收集日志写入到Kafka

filebeat + kafka +ELK集群实验

Suricata通过filebeat将告警事件送往Kafka,ElasticSearch

filebeat到kafka日志无法传输