是否使用数据流管道(未内置自定义)从谷歌存储到 bigquery 摄取数据(批量)?
Posted
技术标签:
【中文标题】是否使用数据流管道(未内置自定义)从谷歌存储到 bigquery 摄取数据(批量)?【英文标题】:IS ingestion data (in batch)from google storage to bigquery, using dataflow pipeline(custom not built in) FREE? 【发布时间】:2021-06-04 07:58:44 【问题描述】:从谷歌存储到 bigquery 的摄取数据(批量),使用数据流(beam,python)对这些数据执行一些转换然后将它们加载到 bigquery 是免费的还是被视为 API 并且它们应用 api 成本?
【问题讨论】:
【参考方案1】:它不是免费的。
根据Apache Beam's Documentation:
BigQueryIO 写入转换使用受 BigQuery 配额和定价政策约束的 API。
使用BigQuery Storage Write API
的BigQuery Data ingestion 的定价将为$0.025 per 1 GB
【讨论】:
以上是关于是否使用数据流管道(未内置自定义)从谷歌存储到 bigquery 摄取数据(批量)?的主要内容,如果未能解决你的问题,请参考以下文章
如何使用 BigQuery 连接器将自定义查询从谷歌数据工作室传递到 BigQuery?