完成数据流作业中的所有步骤后删除 bigquery 表
Posted
技术标签:
【中文标题】完成数据流作业中的所有步骤后删除 bigquery 表【英文标题】:Delete a bigquery table after all the steps in dataflow job have completed 【发布时间】:2017-01-21 00:56:50 【问题描述】:只有在批处理数据流管道中的所有步骤都成功后,有没有办法删除 bigquery 表?
【问题讨论】:
【参考方案1】:您可以使用DataflowPipelineJob.waitToFinish(...)
等待您的工作完成,检查返回的状态是否为DONE,然后使用BigQuery API 来delete 表。
【讨论】:
以上是关于完成数据流作业中的所有步骤后删除 bigquery 表的主要内容,如果未能解决你的问题,请参考以下文章
BigQuery 作业统计信息不完整或作业完成后待处理任务的原因
BigQuery 加载作业在 JSON 中的布尔数据类型字段上失败
数据流:我可以使用批处理作业连续写/流写入BigQuery吗?