具有一对多连接的 Kafka Sink 连接器
Posted
技术标签:
【中文标题】具有一对多连接的 Kafka Sink 连接器【英文标题】:Kafka Sink Connector with one-to-many connection 【发布时间】:2020-12-20 19:48:25 【问题描述】:我的问题是关于 Kafka Sink 连接器的配置。
我有一个具体案例: 有一个主题,其中包含带有实体信息的消息:
"id": 1,
"name": "name",
"attributes":
"attr1": value: val1, type: typ1,
"attr2": value: val2, type: typ2
我需要 Kafka Sink Connector 通过以下方式将其保存在两个表中:
|id|name|
|1|name|
|parent_id|name|value|type|
|1|attr1|val1|typ1|
|1|attr2|val2|typ2|
所以我需要将它保存在两个表中并保持一对多的连接
Kafka Sink Connector 可以这样计算吗?
【问题讨论】:
【参考方案1】:JDBC Sink connect 只能将一个topic写入一张表。
您可以分叉代码来对数据做任何您想做的事情,但是,如果您愿意的话
【讨论】:
您能否详细说明分叉代码?你的意思是两个连接器? 没有。 JDBC 连接器在 Github 上是开源的。下载代码。改变它做任何你想做的事以上是关于具有一对多连接的 Kafka Sink 连接器的主要内容,如果未能解决你的问题,请参考以下文章
kafka-connect sink 连接器 pk.mode 用于具有自动增量的表
Kafka-Connect:启动 S3 Sink 连接器时出现无法识别的错误