从 Cloud Storage 导入 BigQuery 时出现后端错误
Posted
技术标签:
【中文标题】从 Cloud Storage 导入 BigQuery 时出现后端错误【英文标题】:Backend error on import from Cloud Storage to BigQuery 【发布时间】:2013-09-10 02:05:38 【问题描述】:最近,在从 Cloud Storage 导入 BigQuery 时,我们开始看到一些诸如此类的错误:
Waiting on job_72ae7db68bb14e93b7a6990ed628aedd ... (153s) 当前状态:RUNNING 加载操作中的 BigQuery 错误:后端错误
Waiting on job_894172da125943dbb2cd8891958d2d10 ... (364s) 当前状态:RUNNING 加载操作中的 BigQuery 错误:后端错误
这个过程每小时运行一次,并且之前已经稳定了很长时间。导入脚本或正在加载的数据类型没有任何变化。如果您需要更多信息,请告诉我。
【问题讨论】:
【参考方案1】:我在 BigQuery 日志中查找了这些作业 - 它们似乎都成功了。您遇到的错误可能是在读取作业状态时。我提交了一个内部错误,我们应该区分作业中的错误和在 bq 工具中获取作业状态的错误。
作业运行后,您可以使用bq show -j <job_d>
来查看作业的实际状态。如果它仍在运行,您可以运行bq wait <job_id>
。
我还看了前端日志;这些作业 ID 的所有状态请求都返回 HTTP 200(成功)代码。
您能否将--apilog=file.txt
参数添加到您的bq 命令行(您需要将其添加到命令行的开头,如bq --apilog=file.txt load ...
)并发送您遇到另一个故障的情况的输出?如果您担心敏感数据,请随时直接将其发送给我(tigani at google)。
谢谢/ 乔丹蒂加尼 / Google BigQuery 工程师
【讨论】:
以上是关于从 Cloud Storage 导入 BigQuery 时出现后端错误的主要内容,如果未能解决你的问题,请参考以下文章
从 Cloud Function (python) 写入 Google Cloud Storage
ReferenceError:导入@google-cloud/storage 时分配的左侧无效
如何使用 PHP 在 Firebase 中自动导入存储桶 - Google Cloud Storage
Dataproc 不导入存储在 Google Cloud Storage 存储分区中的 Python 模块
以编程方式将文件从 Azure Blob Storage 传输到 Google Cloud Storage
从 Google Cloud Function (Python) 将新文件写入 Google Cloud Storage 存储桶