需要在 Java 应用程序的 Grafana 中显示指标也用于 Spark 配置批处理应用程序

Posted

技术标签:

【中文标题】需要在 Java 应用程序的 Grafana 中显示指标也用于 Spark 配置批处理应用程序【英文标题】:Need to show metrics in Grafana of Java application also for Spark configurations batch applications 【发布时间】:2020-09-29 18:23:02 【问题描述】:

我有一个用例,我需要将我的 java 应用程序的矩阵显示到 Grafana 中,但我的是批处理应用程序而不是时间序列,我将数据存储在关系数据库中。 怎么可能喜欢我需要将数据推送到像 Prometheus 这样的时间序列,或者是否有任何可用于 Grafana 的插件我们可以直接使用?

而且我还想监控我的 spark 作业和相关的东西,比如驱动器、JVM 等的内存。

关于如何开始的任何帮助或线索?

【问题讨论】:

【参考方案1】:

对于批处理作业,请查看 prometheus push gateway。基本上,您的指标将由客户端推送到推送网关(客户端适用于所有常用语言)

对于 Spark 作业或 Java 应用程序,您可以查看 jmx exporter。 你也可以看看spark exporter,它使用了 pushgateway

希望对你有帮助

【讨论】:

感谢您的回复,您能告诉 MariaDB 哪个导出器有效吗? 您可以使用 mysqld 导出器。 github.com/prometheus/mysqld_exporter

以上是关于需要在 Java 应用程序的 Grafana 中显示指标也用于 Spark 配置批处理应用程序的主要内容,如果未能解决你的问题,请参考以下文章

在 java 中显式转换时,short 128 = byte -128 是如何实现的?

在自己的应用里集成grafana

在信号处理程序中显式调用析构函数

我是不是需要在 grails 中显式刷新 GORM 保存调用?

我是不是需要在 .NET 中显式确定堆栈的大小?

sequelize抛出错误方言需要在express js中显式定义