Google BigQuery 中的“超出配额:为此项目扫描的免费查询字节太多”

Posted

技术标签:

【中文标题】Google BigQuery 中的“超出配额:为此项目扫描的免费查询字节太多”【英文标题】:"Exceeded quota: too many free query bytes scanned for this project" in Google BigQuery 【发布时间】:2013-02-27 20:54:10 【问题描述】:

从昨天开始,在使用 JasperReports Server 试用 Google BigQuery 后,我收到了上述错误。我找不到这方面的任何信息,因为前 100GB 应该是免费的,而且 BigQuery 访问报告说:

API 项目的 BigQuery 资源使用情况 数据分析 2013 年 1 月 31 日 - 2013 年 2 月 27 日

每天处理的数据 0 MB 峰值 0.00 MB 平均

我也没有达到免费查询/用户/天的限制: API 每用户使用限制 计费限制 礼貌限制 BigQuery API 5.0 请求/秒/用户 0% 200,000 个请求/天 10,000 个请求/天

API 项目的流量报告 总请求 935 请求/天 856 峰值 33.39 平均

开始日期 2013 年 1 月 31 日

样本期 28天

我正在尝试在我的大学的一个项目中使用出生样本数据,这非常紧迫。它工作了一天左右。查询由 JasperSoft BigQuery 连接器 (http://code.google.com/p/jaspersoft-bigquery-datasource/) 使用 Ad-hoc-View(基于 JasperReport 作为主题)进行。

我正在使用以下语句:

SELECT
    STRING($P!dimension1) as dimension_1,
    STRING($P!dimension2) as dimension_2,
    SUM(record_weight)  as count_group,
    AVG(weight_pounds)  as avg_weight_pounds,
    AVG(apgar_1min) as apgar_1min,
    AVG(apgar_5min) as apgar_5min
FROM publicdata:samples.natality
WHERE
    year >= $P!year_first
    AND year <= $P!year_last
GROUP BY dimension_1, dimension_2
ORDER BY dimension_1, dimension_2

任何帮助将不胜感激!提前致谢!

【问题讨论】:

您的项目 ID 是什么?如果您包括在内,我们可以查找您的项目历史记录。 项目ID应该是793058927795。谢谢! 我们的日志记录了您在过去 30 天内进行了 125GB 的处理。如果在开发人员控制台中没有正确报告它,那听起来像是一个错误。我会调查的。 因为这听起来像是一个大学项目,而且您的使用情况没有正确表示,所以我已经重置了您的配额。您应该还剩下全部 100GB。如果您需要更多,请启用计费。 感谢您的回答和配额重置!报告肯定有问题,因为我只显示了 0 GB 流量。尽管如此,我仍然不知道如何仅使用一些选定的字段、有限的时间段以及总共大约 20-30 个查询来进行如此多的处理。 【参考方案1】:

为了其他人的利益总结上面和下面的 cmets:

如果您不启用计费,您的使用配额不会显示在开发者控制台中。 如果您不启用计费,查看报告页面将显示 0GB 已用。 除非您启用结算功能,否则您每月的查询限制为 100GB。 启用计费将使您能够查询超过 100GB 的数据。 BigQuery 团队正在修复报告页面,不包括在您未启用结算时对数据的查询

【讨论】:

我认为建议的答案存在一些问题:不仅对“publicdata”的查询不会显示在流量报告中,而且所有流量都不会显示在流量报告中。因此,不会报告所有免费的、未计费的流量。 100GB 配额是每月,而不是每日配额。 我会稍微改变一下:问题是当您不启用计费时,您的使用情况不会显示在开发者控制台中。我们正在努力解决这个问题。它与公共数据集的查询无关。如果您启用计费和查询公共数据集,您的使用情况将显示出来。【参考方案2】:

即使在 2021 年仍然是一个相关的问题。现在将 PowerBi 连接到 BigQuery(直接查询)。它显示一条错误消息,在我的例子中代码为 31780:配额超出扫描的免费查询字节。

问题出在这里

连接数据时,BQ 似乎没有连接到正确的项目。

解决方法如下:

单击带有 BQ 连接的表 点击转换数据(在主页选项卡上) 在转换数据中转到视图选项卡 点击高级编辑器 你会看到这一行:
    Source = GoogleBigQuery.Database(null),
将其更改为:
    Source = GoogleBigQuery.Database([BillingProject="project-id"]),

注意:不是项目名称,是项目ID

对所有从 BQ 获取数据的表执行此操作。

来源:https://docs.microsoft.com/en-gb/power-bi/connect-data/desktop-connect-bigquery#considerations-and-limitations

【讨论】:

以上是关于Google BigQuery 中的“超出配额:为此项目扫描的免费查询字节太多”的主要内容,如果未能解决你的问题,请参考以下文章

如何使用 Google Natural Language API 丰富 Bigquery 表中的数据?

Google Analytics 与 BigQuery 中的会话 - 差异

Google BigQuery 中的多级数据透视

Google BigQuery 中的 TIMESTAMP 和标准 SQL

Google BigQuery 中的空嵌套字段

Bigquery 直接查询 Google Storage 中的 csv 文件