Golang 中有 Apache Beam + Cloud Bigtable 连接器吗?
Posted
技术标签:
【中文标题】Golang 中有 Apache Beam + Cloud Bigtable 连接器吗?【英文标题】:Is there a Apache Beam + Cloud Bigtable connector in Golang? 【发布时间】:2019-09-26 14:11:01 【问题描述】:有没有办法访问存储在 Cloud Bigtable 中的数据作为运行 Apache Beam 管道的输入源?
【问题讨论】:
【参考方案1】:目前没有为 Bigtable 编写的 Apache Beam Go SDK IO。
可以将它们基于现有的 IO(例如 BigQueryIO),但在 Go SDK 和运行器都支持可移植工作拆分之前,将存在扩展问题,尤其是初始读取的序列化。这正在进行中,但还没有准备就绪的时间表。
另一个即将推出的解决方案是“跨语言 IO”,它将允许 SDK 使用来自其他语言的 IO(特别是让 Python 和 Go 使用 Java IO,它们已经通过生产化)。
目前,几乎没有时间花在开发/测试 Go SDK IO 上,并且不保证它们的可靠性或适合性或完成度。
【讨论】:
以上是关于Golang 中有 Apache Beam + Cloud Bigtable 连接器吗?的主要内容,如果未能解决你的问题,请参考以下文章
Why Apache Beam? A data Artisans perspective
使用 python 根据 apache Beam 中的条件调用特定的 pubsub 主题
如何在谷歌云数据流/Apache Beam 中并行运行多个 WriteToBigQuery?
Apache Beam - org.apache.beam.sdk.util.UserCodeException:java.sql.SQLException:无法创建 PoolableConnecti