如何从 Prometheus 中的主题消费消息

Posted

技术标签:

【中文标题】如何从 Prometheus 中的主题消费消息【英文标题】:How to consume message from a topic in Prometheus 【发布时间】:2020-04-04 21:46:28 【问题描述】:

我正在研究 Kafka --> Prometheus --> Grafana 管道。我有 java 应用程序,它在 kafka 主题内发送消息。但在普罗米修斯它只显示主题的消息数。当我运行 Kafka 时,我正在运行 JMX Exporter 的一个实例。

    export JMX_YAML=/home/kafka_2.12-2.3.0/prometheus/kafka-0-8-2.yml
    export JMX_JAR=/home/kafka_2.12-2.3.0/prometheus/jmx_prometheus_javaagent-0.6.jar
    export KAFKA_OPTS="$KAFKA_OPTS -javaagent:$JMX_JAR=7076:$JMX_YAML"
    bin/kafka-server-start.sh config/server.properties

但是我需要读取prometheus中的主题数据。有没有直接 Kafka 到 Prometheus 的进口商? 我听说过“Kafka Connect 框架”吗? prometheus里面怎么配置?

【问题讨论】:

【参考方案1】:

Prometheus 不运行 Kafka Connect;您必须单独配置。

此外,Prometheus 是基于拉取的,因此假设确实存在 Kafka 连接器,您至少必须使用 PushGateway。

如果您只是想最终在 Grafana 中显示数据,则现有 Elasticsearch、Influx、Cassandra 和大多数 JDBC 数据库的连接器

Telegraf 或 Logstash 也可以用作 Kafka Connect 的替代品,或者您可以编写自己的消费者。

【讨论】:

以上是关于如何从 Prometheus 中的主题消费消息的主要内容,如果未能解决你的问题,请参考以下文章

Prometheus 如何刮取 Kafka 主题?

深入了解kafka系列-消费者

如何在消费前获取架构?

监控发布/订阅服务

如何监控 Kafka 主题中的消息速率?

在主题中保留消息,直到所有消费者完成处理