广告 kafka 在 K8s 上连接休息侦听器

Posted

技术标签:

【中文标题】广告 kafka 在 K8s 上连接休息侦听器【英文标题】:Advertised kafka connect rest listener on K8s 【发布时间】:2020-09-19 23:43:27 【问题描述】:

我正在努力以分布式模式在 Kubernetes (DockerEE) 上设置 Kafka Connect。 目前,我在三个相应的 k8s-pod 上有一个由三个工作人员组成的集群。 我面临的问题是我的员工很难相互交流(至少我是这么认为的)。

当我尝试启动连接器时,我得到:

"error_code":409,"message":"Cannot complete request because of a conflicting operation (e.g. worker rebalance)"

作为回应。令人费解的是,我并不总是得到这个错误响应。有时它会正常工作,并且连接器会按预期启动。

从我读到的内容可能归结为我配置为 CONNECT_REST_ADVERTISED_HOST_NAME 的内容。

在 k8s 中运行时,作为广告地址放置的正确值是多少?

BR

【问题讨论】:

您查看过这里的常见问题列表吗? rmoff.net/2019/11/22/… 现在我有了——据我所知,它基本上总结并解释了我的发现(顺便说一句很棒)。现在的问题是放什么,因为我不确定我能否在运行时找出每个 pod 的 IP。 【参考方案1】:

经过一番谷歌搜索后,我找到了一种将 pod-ip 动态分配为 CONNECT_REST_ADVERTISED_HOST_NAME 的方法。

- name: CONNECT_REST_ADVERTISED_HOST_NAME
  valueFrom:
    fieldRef:
      fieldPath: status.podIP

这样,问题似乎就消失了。

【讨论】:

以上是关于广告 kafka 在 K8s 上连接休息侦听器的主要内容,如果未能解决你的问题,请参考以下文章

使用 SSL 的 Kubernetes 上的 Kafka

Spring Kafka - 事务回滚后重试时,通过侦听器容器事务发布消息和提交记录偏移失败

Kafka - 在 Linux 和 Windows 之间创建代理侦听器时出错

单个 Spring Kafka Consumer 侦听器可以侦听多个主题吗?

Kafka 服务器配置 - 侦听器与adverted.listeners

使用 spring kafka 中的注释为每个主题单独的 Kafka 侦听器