Postgres使用JDBC Kafka Connect进行流式传输

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Postgres使用JDBC Kafka Connect进行流式传输相关的知识,希望对你有一定的参考价值。

我正在尝试使用Kafka Connect JDBC Connector在Postgres数据库中传输更改。我在启动时遇到问题,因为数据库非常大,并且每次查询都会因行间的变化而死亡。

在真正庞大的表上启动JDBC Connector的最佳实践是什么?

答案

假设您无法暂停正在流式传输内容的数据库上的工作负载以允许初始化完成,我会查看Debezium

事实上,根据你的使用情况,我会看看Debezium,不管:)它让你对Postgres(和MySQLMongoDB)做真正的CDC,并且是一个Kafka Connect插件,就像JDBC Connector一样,所以你保留了所有的好处那个。

以上是关于Postgres使用JDBC Kafka Connect进行流式传输的主要内容,如果未能解决你的问题,请参考以下文章

kafka JDBC源连接器无法获取postgres表

Kafka Connect 使用数组字段展平 postgres 记录的转换

kafka 连接器 jdbc-sink 最后出现语法错误

在 clojure.jdbc 和 postgres 中使用保存点进行测试的嵌套事务

Kafka JDBC Sink 连接器与 PostgreSQL 12 兼容吗?

Kafka Connect - JSON 转换器 - JDBC Sink 连接器 - 列类型 JSON