BigQuery 可查看的最大内容

Posted

技术标签:

【中文标题】BigQuery 可查看的最大内容【英文标题】:BigQuery maximum content in view 【发布时间】:2016-04-12 05:36:21 【问题描述】:

当我尝试创建一个查询 600 多个表的视图时,BigQuery 运行了很长时间并且响应是: mk 操作中的 BigQuery 错误:后端错误。

查询本身是这样的: '从 t1,t2,t3......t600 中选择 col1,col2,col3'

【问题讨论】:

【参考方案1】:

我怀疑操作超时。这里的限制是验证视图查询是否可以在单个同步请求(如视图创建)的期限限制内完成。这么多表可能太多了。

一种潜在的解决方法可能是分片该视图:创建较小的视图表,然后创建较小视图集的单个视图。

另一种解决方案是探索您的数据布局。也许您不需要 600 个表来保存您的数据? BigQuery 团队在 GCP Next 2016 上宣布即将推出按日期进行表分区,因此如果您按天对表进行分片并且需要参考多年的数据,那么很快就会有一个单表解决方案供您使用。

【讨论】:

以上是关于BigQuery 可查看的最大内容的主要内容,如果未能解决你的问题,请参考以下文章

从BigQuery数据查询中查询名为chartio的BI工具时的最大数据大小是多少?

BigQuery - 最大数据集大小

运行 dbt 时 BigQuery“超出最大重试次数”

BigQuery - 查询“上次修改”等元数据

Bigquery 最大处理数据大小允许?

bigquery 表可以创建的最大分区数