[Spark]如何设置使得spark程序不输出 INFO级别的内容

Posted 健哥的数据花园

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了[Spark]如何设置使得spark程序不输出 INFO级别的内容相关的知识,希望对你有一定的参考价值。

 

Spark程序在运行的时候,总是输出很多INFO级别内容

查看了网上的一些文章,进行了试验。

发现在 /etc/spark/conf 目录下,有一个 log4j.properties.template

$cp log4j.properties.template log4j.properties

然后,修改下面的这一个行:
log4j.rootCategory=INFO, console

改成:
log4j.rootCategory=ERROR, console

再次运行时,不再出现大量的INFO 信息了。

以上是关于[Spark]如何设置使得spark程序不输出 INFO级别的内容的主要内容,如果未能解决你的问题,请参考以下文章

如何在 UI 中显示 spark java 应用程序的输出

命名Spark Job

Python开发Spark步骤以及如何提交Spark应用,PythonOnSpark原理

如何优化 Apache Spark 应用程序中的 shuffle 溢出

Spark:如何加速 foreachRDD?

示例 Spark 程序