将 BigQuery 查询结果直接写入 GCS - 可以吗?
Posted
技术标签:
【中文标题】将 BigQuery 查询结果直接写入 GCS - 可以吗?【英文标题】:Write BigQuery query result directly to GCS - is it possible? 【发布时间】:2016-08-10 08:28:37 【问题描述】:我尝试了bq
命令行工具,但似乎没有办法将结果直接写入GCS。我能看到的唯一方法是:
-
查询->表->导出
查询->控制台->本地CSV文件->上传到GCS
我正在寻找一种将结果直接写入 GCS 的方法。
【问题讨论】:
【参考方案1】:您不能将查询结果直接写入 GCS。正如您已经指出的,最简单的方法是:
-
将查询结果写入输出表
将表导出到 GCS
您可以在 Web UI 中轻松完成此操作。
您还可以编写一个 Dataflow 管道,使用 BigQuery.IO.Read.fromQuery(<your_query>)
从 BigQuery 读取数据,并将结果直接写入 GCS。
【讨论】:
以上是关于将 BigQuery 查询结果直接写入 GCS - 可以吗?的主要内容,如果未能解决你的问题,请参考以下文章
如何将 API 调用返回的数据直接加载到 BigQuery 中而不存储在 GCS 中?
运行 BigQuery 查询并使用气流将数据写入 Parquet 中的云存储桶
从 pubsub->bigquery 移动到 pubsub->gcs (avro)->bigquery