将多个 oracle 表发送到单个 kafka 主题中
Posted
技术标签:
【中文标题】将多个 oracle 表发送到单个 kafka 主题中【英文标题】:Send multiple oracle tables into single kafka topic 【发布时间】:2021-08-04 11:28:01 【问题描述】:我正在使用 JDBC 源连接器将数据从 Oracle 传输到 Kafka 主题。我想使用 JDBC 源连接器将 10 个不同的 oracle 表传输到同一个 kafka 主题,其中表名在 message(e.g: header) 的某处提到。有可能吗?
【问题讨论】:
【参考方案1】:消息中某处提到了表名
您可以使用ExtractTopic transform 从表中的列中读取主题名称
否则,如果该数据不在表中,您可以在提取之前使用InsertField transform 和static.value
来强制主题名称相同
注意:如果您将 Avro 或其他记录类型与架构一起使用,并且您的表没有相同的架构(列名和类型),那么您应该期望除第一个生产者之外的所有创建者都失败,因为架构将是不兼容
【讨论】:
以上是关于将多个 oracle 表发送到单个 kafka 主题中的主要内容,如果未能解决你的问题,请参考以下文章
如何将数据从单个 csv/excel 文件传输到多个 oracle 表
通过将单个消息发布到 kafka 来更新 mysql 中的多个字段