完成数据流作业中的所有步骤后删除 bigquery 表

Posted

技术标签:

【中文标题】完成数据流作业中的所有步骤后删除 bigquery 表【英文标题】:Delete a bigquery table after all the steps in dataflow job have completed 【发布时间】:2017-01-21 00:56:50 【问题描述】:

只有在批处理数据流管道中的所有步骤都成功后,有没有办法删除 bigquery 表?

【问题讨论】:

【参考方案1】:

您可以使用DataflowPipelineJob.waitToFinish(...) 等待您的工作完成,检查返回的状态是否为DONE,然后使用BigQuery API 来delete 表。

【讨论】:

以上是关于完成数据流作业中的所有步骤后删除 bigquery 表的主要内容,如果未能解决你的问题,请参考以下文章

BigQuery 作业统计信息不完整或作业完成后待处理任务的原因

BigQuery 中的服务限制

BigQuery 加载作业在 JSON 中的布尔数据类型字段上失败

数据流:我可以使用批处理作业连续写/流写入BigQuery吗?

如何限制 Google Bigquery 中的作业数量 [关闭]

BigQuery 加载作业不会插入所有数据