Kafka日志清理相关设置

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Kafka日志清理相关设置相关的知识,希望对你有一定的参考价值。

参考技术A 前几天服务器磁盘被刷爆了(阿里云默认40G硬盘),后面查下来是kafka日志文件写的。

从上面的配置可以看出,如果你数据量不大,按上面的配置,会存在56个日志文件(log.retention.hours/log.roll.hours),且日志总量不会大于56G的硬盘空间。但是如果数据量大,3个小时内数据超过了1G,就会创建很多的日志文件,这个时候的空间就没法预估了,只能通过log.retention.hours来控制日志保留时间来控制日志所占磁盘的大小。

以上是关于Kafka日志清理相关设置的主要内容,如果未能解决你的问题,请参考以下文章

kafka 日志过期时间, 开启清理设置

kafkakafka 消费速度 于 日志清理速度 (kafka数据被清理了)会发生什么 auto.offset.reset 参数

Kafka日志清理之Log Deletion

Kafka日志及Topic数据清理

Kafka日志及Topic数据清理

Kafka的2种日志清理策略感受一下