FlinkFlink 写入 Clickhouse 大对象直接进入老年代 导致OOM
Posted 九师兄
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了FlinkFlink 写入 Clickhouse 大对象直接进入老年代 导致OOM相关的知识,希望对你有一定的参考价值。
本文为博主九师兄(QQ:541711153 欢迎来探讨技术)原创文章,未经允许博主不允许转载。
1.概述
事情是这样的。使用开源的修改 https://github.com/ivi-ru/flink-clickhouse-sink flink http方式写入Clickhouse.
开始数据量小了没问题,最后数据量大了就会频繁OOM. 然后经过很长时间的排查
开始的现象是:【Flink】kafka Response from server for which there are no in-flight requests NETWORK_EXCEPTION
不是ck写入失败导致的因此和最新的代码没有什么关系
- 网络问题 您收到了 NETWORK_EXCEPTION,所以这应该告诉您与您生产的 Kafka Broker 的网络连接有问题。由于某种原
以上是关于FlinkFlink 写入 Clickhouse 大对象直接进入老年代 导致OOM的主要内容,如果未能解决你的问题,请参考以下文章
FlinkFlink 写入 AnalyticDB MySQL
FlinkFlink 写入 kafka 报错 Transactional Id authorization failed
FlinkFlink kafka producer 分区策略 (flink写入数据不均匀 与 数据写入 分区无数据 )
FlinkFlink 1.13 将数据 写入 到 elasticsearch 7 案例
FlinkFlink 写入 kafka 报错 The server disconnected before a response was received