无法将 Google BigQuery 导出到本地计算机中的 CSV 文件

Posted

技术标签:

【中文标题】无法将 Google BigQuery 导出到本地计算机中的 CSV 文件【英文标题】:Can't export google BigQuery to a CSV file in my local machine 【发布时间】:2018-07-18 03:23:02 【问题描述】:

我需要将查询结果导出到我自己的本地机器以在程序中使用这些数据。

我创建了一个存储桶,并复制了以 gs 开头的存储桶 URL,如下所示:

我向自己的 BigQuery 项目添加了一个公共 projetc 数据集。我进行了查询并得到了结果。我单击出现在查询结果上方的Export Table。然后我粘贴我的存储桶 URL,如下所示: 我收到此错误:

Invalid extract destination URI 'gs://xxxx_test_bucket'. Must be a valid Google Cloud Storage path and filename/pattern. Dismiss

我尝试在我的 URL 中删除 gs 后粘贴 URL。我得到同样的错误:

Invalid extract destination URI 'gs://xxxx_test_bucket'. Must be a valid Google Cloud Storage path and filename/pattern. Dismiss

创建存储桶时,我编辑了存储桶的权限(从存储桶最右侧的三个点,我将用于 BigQuery 的 Google 帐户添加为 storage legacy bucket owner

请问,如何将我的查询结果以 CSV 格式导出到我的本地计算机中?我创建了一个存储桶作为临时存储,因为它似乎是导出结果的唯一方法。我可以将存储桶存储 CSV 结果下载到本地计算机吗?

【问题讨论】:

【参考方案1】:

您还需要为提取文件指定一个文件名:

gs://xxxxx_test_bucket/filename.csv

你错过了 - 在这个例子中 - "filename.csv"

【讨论】:

OP 要求混淆他的存储桶名称,所以我做了。仅供参考,因为 OP 在那之后删除了他的评论/请求:o) 没有probelmo米哈伊尔!【参考方案2】:

下面是比较笼统的回答:

每当您在 BigQuery Web UI 中并且有不清楚的地方时 - 查找帮助图标(圆圈内的问号) - 将鼠标悬停在上面并单击它 - 在许多情况下,您会立即得到答案。例如,在您的情况下 - 这样的帮助图标位于存储 URI 输入框的右侧。如果你点击它 - 你会看到非常详细的帮助,有时甚至会链接到文档。

例如 - 对于您的问题,您会在下方看到帮助

Google Cloud Storage URI 以“gs://”开头并指定您要导入的存储桶和对象。

示例:gs://mybucket/path/to/mydata.csv

最大表导出大小为 1GB。对于大于 1GB 的导出,使用 * 指定文件模式

示例:gs://mybucket/path/to/mylargedata*

希望这对您下次遇到类似情况有所帮助!

【讨论】:

以上是关于无法将 Google BigQuery 导出到本地计算机中的 CSV 文件的主要内容,如果未能解决你的问题,请参考以下文章

使用 Python,将 google.cloud.bigquery.job.query.QueryJob 输出保存到本地 JSON 文件

无法使用 BigQuery 从 Google Datastore 检索 JSON 实体

将 Google Firebase 导出到 Bigquery

如何将 Google Analytics 数据导出到 Google GCS 存储桶或 BigQuery?

将 BigQuery 表导出到 Google Storage 时如何避免标头

将表从 google bigquery 导出到 google 存储