Bq 命令或数据流按原样加载

Posted

技术标签:

【中文标题】Bq 命令或数据流按原样加载【英文标题】:Bq command or data flow for as is load 【发布时间】:2017-11-21 19:04:21 【问题描述】:

我在 gcs 上有一个简单的分隔文件。我需要将该文件按原样(不传输)加载到 bigqyery 表。我们可以使用数据流或 bigqyery 命令行实用程序将该文件加载到 bigqyery 表中。我需要了解哪一个是 bigqyery 或 bq 命令行实用程序的最佳选择。在提供宝贵意见之前,请考虑成本、性能等因素。

【问题讨论】:

【参考方案1】:

使用 Dataflow 运行 BigQuery 负载或使用 bq 命令行运行在成本方面是相同的。如果您不需要处理数据,直接使用 bq load 应该会更容易。

【讨论】:

以上是关于Bq 命令或数据流按原样加载的主要内容,如果未能解决你的问题,请参考以下文章

具有目标表的bq查询的定价

BigQuery bq 命令 - 仅在表为空或不存在时加载

如何按原样显示或打印数据库表的内容?

使用 bq 将数据加载到 BigQuery 的自定义日期格式?

使用 BQ API 使用 Write_Truncate 将数据加载到“分区表”

在 Google Big Query 中使用 bq 命令行执行查询