Debezium SQL Server 连接器 Kafka 初始快照

Posted

技术标签:

【中文标题】Debezium SQL Server 连接器 Kafka 初始快照【英文标题】:Debezium SQL Server Connector Kafka Initial Snapshot 【发布时间】:2020-08-22 11:07:33 【问题描述】:

根据 Debezium SQL Server 连接器文档,初始快照仅在连接器首次运行时触发。 但是,如果我删除连接器并创建新的但具有相同名称的连接器,初始快照也不起作用。 这是设计使然还是已知问题? 任何帮助表示赞赏

【问题讨论】:

【参考方案1】:

给您的连接器一个新的 database.server.name 值或创建一个新主题。快照没有再次触发的原因是您的主题和消费者的当前偏移值已经通过了快照计数索引。

【讨论】:

【参考方案2】:

Kafka Connect 存储有关连接器的详细信息,例如它们的快照状态和摄取进度,即使它们已被删除。如果您使用相同的名称重新创建它,它将假定它是相同的连接器,因此将尝试从前一个连接器到达的位置继续。

如果您希望连接器从头开始(即运行快照等),那么您需要给连接器一个新名称。 (从技术上讲,您也可以进入 Kafka Connect 并处理内部数据以删除同名连接器的数据,但这可能是个坏主意)

【讨论】:

以上是关于Debezium SQL Server 连接器 Kafka 初始快照的主要内容,如果未能解决你的问题,请参考以下文章

Debezium SQL Server 连接器 Kafka 初始快照

Debezium MS SQL Server 连接器问题

如何将 Debezium SQL Server 连接器与 ksqlDB 嵌入式连接一起使用?

Debezium SQL Server Source Connector 设置 Kafka 代理

成功创建 Always On SQL Server 快照后,Debezium 未跟踪 CDC

如何在不使用 Docker 或 Windows Server 2016 上的 Confluent 平台的情况下在 Kafka 中设置 Debezium SQL Server 连接器?