将数据从 GCS 传输到 Bigquery 表失败

Posted

技术标签:

【中文标题】将数据从 GCS 传输到 Bigquery 表失败【英文标题】:Failed to transfer data from GCS to Bigquery table 【发布时间】:2021-02-17 01:57:26 【问题描述】:

在 DTS 中需要帮助。

使用自动检测架构创建表“allorders”后,我创建了一个数据传输服务。但是当我运行 DTS 时,我遇到了一个错误。见下面的工作。数量字段类型肯定设置为整数,并且该字段中的所有数据都是整数。

作业 bqts_602c3b1a-0000-24db-ba34-30fd38139ad0(表 allorders)失败 错误 INVALID_ARGUMENT:读取数据时出错,错误消息: 无法将字段数量的“数量”解析为 INT64(位置 14) 从位置 0 开始,带有消息“无法解析”;工作编号: 956421367065:bqts_602c3b1a-0000-24db-ba34-30fd38139ad0

当我重新创建一个表并将所有字段设置为字符串类型时。它工作得很好。见下面的工作

作业 bqts_607cef13-0000-2791-8888-001a114b79a8(表 allorders) 顺利完成。记录数:56017,错误:0。

【问题讨论】:

【参考方案1】:

尝试在包含所有字符串字段的表中查找不可解析的值:

SELECT * 
FROM dataset.table
WHERE SAFE_CAST(value AS INT64) IS NULL;

【讨论】:

嘿,这让我意识到一件事.. 感谢您的帮助! :D 要跳过的标题行应该是 1。它现在可以工作了!

以上是关于将数据从 GCS 传输到 Bigquery 表失败的主要内容,如果未能解决你的问题,请参考以下文章

将 CSV 从 GCS 批量加载到 BigQuery 时,表数据是增量查看还是仅在所有文件加载后才可查看?

GCP将数据作为字符串从GCS中的CSV文件加载到BigQuery表中

从 GCS 加载 Google BigQuery 失败并出现错误 Unsupported empty struct type for field

从 pubsub->bigquery 移动到 pubsub->gcs (avro)->bigquery

是否可以使用 UDF 从 BigQuery 读取 gcs 对象的元数据

将 GCS 存储桶中的 .csv 文件中的数据加载到 Cloud SQL 表中: