错误:(bq)无法创建私有文件 [/home/airflow/.config/gcloud/credentials.db]

Posted

技术标签:

【中文标题】错误:(bq)无法创建私有文件 [/home/airflow/.config/gcloud/credentials.db]【英文标题】:ERROR: (bq) Unable to create private file [/home/airflow/.config/gcloud/credentials.db] 【发布时间】:2021-07-19 08:39:39 【问题描述】:

我正在尝试使用 docker 将一些 DAG 部署到我的本地环境中。

我已获得 Google 应用程序默认凭据并确保已安装它。 进入 Airflow UI 时没有显示错误,但是当我运行 DAG 时,涉及 BashOperator(特别是 bq 命令行工具)的任务将始终失败并在日志中显示以下错误

ERROR: (bq) Unable to create private file [/home/airflow/.config/gcloud/credentials.db]: [Errno 1] Operation not permitted: '/home/airflow/.config/gcloud/credentials.db'

当我将包含 DAG 的同一 python 文件部署到 Cloud Composer 上时,它运行良好,没有任何问题。

你们能帮我弄清楚这里发生了什么以及如何让任务运行吗?非常感谢

【问题讨论】:

【参考方案1】:

检查每个容器内的服务帐户。 gcloud config listgcloud auth list

检查该服务帐户的 BQ 权限。

【讨论】:

以上是关于错误:(bq)无法创建私有文件 [/home/airflow/.config/gcloud/credentials.db]的主要内容,如果未能解决你的问题,请参考以下文章

如何从 XSD 创建 BQ 模式

无法使用python根据BQ中的查询创建另一个表

BigQuery 命令“bq mk”引发错误“mk 操作中的 BigQuery 错误:读取架构时出错:”

BQ 命令行工具出错:无法在没有项目 ID 的情况下启动作业

BQ 加载:加载过程中收到“意外错误”,没有额外输出

从 GCS 获取海量 csv 文件到 BQ