是否使用数据流管道(未内置自定义)从谷歌存储到 bigquery 摄取数据(批量)?

Posted

技术标签:

【中文标题】是否使用数据流管道(未内置自定义)从谷歌存储到 bigquery 摄取数据(批量)?【英文标题】:IS ingestion data (in batch)from google storage to bigquery, using dataflow pipeline(custom not built in) FREE? 【发布时间】:2021-06-04 07:58:44 【问题描述】:

从谷歌存储到 bigquery 的摄取数据(批量),使用数据流(beam,python)对这些数据执行一些转换然后将它们加载到 bigquery 是免费的还是被视为 API 并且它们应用 api 成本?

【问题讨论】:

【参考方案1】:

它不是免费的。

根据Apache Beam's Documentation:

BigQueryIO 写入转换使用受 BigQuery 配额和定价政策约束的 API。

使用BigQuery Storage Write API 的BigQuery Data ingestion 的定价将为$0.025 per 1 GB

【讨论】:

以上是关于是否使用数据流管道(未内置自定义)从谷歌存储到 bigquery 摄取数据(批量)?的主要内容,如果未能解决你的问题,请参考以下文章

如何使用 BigQuery 连接器将自定义查询从谷歌数据工作室传递到 BigQuery?

从谷歌意外未定义索引中获取联系人时

如何从谷歌数据流管道中的多个输入 PCollection 生成一个输出 PCollection?

将数据从谷歌数据存储复制到 CSV

如何使用自定义词从谷歌助手启动我们安装的应用程序

是否可以在不先将对象作为文件保存到谷歌驱动器的情况下从谷歌 colab 下载对象作为文件?