BigQuery 无法解析 avro 架构文件

Posted

技术标签:

【中文标题】BigQuery 无法解析 avro 架构文件【英文标题】:BigQuery Fails to parse an avro shcema file 【发布时间】:2019-05-26 09:44:01 【问题描述】:

我需要使用 avro 架构文件在 Google 的大查询中创建一个空表,但没有这样做...

我已经编写了以下示例架构文件


   "namespace": "tutorialspoint.com",
   "type": "record",
   "name": "emp",
   "fields": [
      "name": "name", "type": "string",
      "name": "address", "type": "string"
   ]

并且使用 BigQuery 控制台无法创建表并出现以下错误:

读取数据时出错,错误消息:Apache Avro 库无法解析标头并出现以下错误:数据文件无效。魔术不匹配:/subrange//bigstore/bigquery-prod-upload-us

【问题讨论】:

【参考方案1】:

BigQuery 支持加载 Avro 文件,如 here 所定义。没有 avro 架构文件的正式定义,因此 BigQuery 不支持。如果您想在 BigQuery 中使用架构创建一个空表,可以使用 BigQuery JSON schema file。

【讨论】:

以上是关于BigQuery 无法解析 avro 架构文件的主要内容,如果未能解决你的问题,请参考以下文章

数据流模板“Pub/Sub Avro to Bigquery”无法解码

推断 BigQuery 表加载的 avro 架构

BigQuery 无法插入作业。工作流失败

将 avro 十进制数据加载到 BigQuery 中?

Snowpipe 无法读取由 BigQuery 导出的 DEFLATE 压缩的 AVRO

BIgQuery AVRO 外部表架构