将多个 oracle 表发送到单个 kafka 主题中

Posted

技术标签:

【中文标题】将多个 oracle 表发送到单个 kafka 主题中【英文标题】:Send multiple oracle tables into single kafka topic 【发布时间】:2021-08-04 11:28:01 【问题描述】:

我正在使用 JDBC 源连接器将数据从 Oracle 传输到 Kafka 主题。我想使用 JDBC 源连接器将 10 个不同的 oracle 表传输到同一个 kafka 主题,其中表名在 message(e.g: header) 的某处提到。有可能吗?

【问题讨论】:

【参考方案1】:

消息中某处提到了表名

您可以使用ExtractTopic transform 从表中的列中读取主题名称

否则,如果该数据不在表中,您可以在提取之前使用InsertField transform 和static.value 来强制主题名称相同

注意:如果您将 Avro 或其他记录类型与架构一起使用,并且您的表没有相同的架构(列名和类型),那么您应该期望除第一个生产者之外的所有创建者都失败,因为架构将是不兼容

【讨论】:

以上是关于将多个 oracle 表发送到单个 kafka 主题中的主要内容,如果未能解决你的问题,请参考以下文章

如何将数据从单个 csv/excel 文件传输到多个 oracle 表

TiCDC+Confluent同步数据到Oracle

通过将单个消息发布到 kafka 来更新 mysql 中的多个字段

如何使用 Hibernate、Spring MVC 将数据从单个表单发送到多个数据库表

没索引oracle无唯一索引交换分区会丢失数据?

使用番石榴缓存(内存表)维护多个索引