Cloud Dataflow 中的“辅助输入”是不是支持从 BigQuery 视图中读取?

Posted

技术标签:

【中文标题】Cloud Dataflow 中的“辅助输入”是不是支持从 BigQuery 视图中读取?【英文标题】:Do 'side inputs' in Cloud Dataflow support reading from BigQuery views?Cloud Dataflow 中的“辅助输入”是否支持从 BigQuery 视图中读取? 【发布时间】:2015-03-20 22:32:56 【问题描述】:

尝试将侧输入指向 BigQuery 视图,而不是直接指向 BigQuery 表。它不会产生错误,而只是返回 0 行。 View 在 BigQuery 中运行良好。

例如,给定一个视图引用了一个只有 1 行的表“types_test”:

在 BigQuery 中,它可以正常工作:

但是在 Dataflow 中使用视图作为侧输入返回 0 行:

INFO: Reading from BigQuery table <removed>:CPT_7414_PLAYGROUND.view_test
Mar 20, 2015 11:10:08 PM com.google.cloud.dataflow.sdk.io.BigQueryIO evaluateReadHelper
INFO: Number of records read from BigQuery: 0

侧输入是否支持 BigQuery 中的视图,或者您是否需要执行其他操作才能将视图用于侧输入?

【问题讨论】:

【参考方案1】:

在常见问题解答中发现,当前不支持该视图。

http://goo.gl/ZVNTnp

【讨论】:

以上是关于Cloud Dataflow 中的“辅助输入”是不是支持从 BigQuery 视图中读取?的主要内容,如果未能解决你的问题,请参考以下文章

Google Cloud Dataflow - 是不是可以定义从 BigQuery 读取数据并写入本地数据库的管道?

使用 Spring Cloud DataFlow 在无限运行的应用程序中编排长时间运行的外部批处理作业是不是合适?

到 Cloud Bigtable 的 Google Cloud Dataflow 管道中的异常

如何使用 Stream 为 Spring Cloud Dataflow 中的子任务设置全局属性 - Task-Launcher-Dataflow

Dataflow 中的 BigQuery 无法从 Cloud Storage 加载数据:为非记录字段指定了 JSON 对象

Spring Cloud Dataflow - 处理任务中的参数