使用控制台将多条 JSON 记录加载到 BigQuery

Posted

技术标签:

【中文标题】使用控制台将多条 JSON 记录加载到 BigQuery【英文标题】:Loading multiple JSON records into BigQuery using the console 【发布时间】:2019-06-06 20:16:23 【问题描述】:

我正在尝试使用 BigQuery 控制台将一些数据以 JSON 格式上传到 bigquery,如 here 所述。

如果我在 JSON 文件中有一条记录,我可以成功上传。如果我将两个或更多记录放在一个带有换行符的 JSON 文件中,那么我会收到以下错误:

 Error while reading data, error message: JSON parsing error in row starting at position 0: Parser terminated before end of string 

我尝试搜索 *** 和 google,但没有找到任何信息。我使用换行分隔上传的两条记录能够作为单独的 JSON 文件中的单独记录成功上传。

【问题讨论】:

【参考方案1】:

我的编辑一定是在我的换行符上添加了一些其他字符。我回到我原来的 json 记录数组并使用:

cat test.json | jq -c '.[]' > testNDJSON.json

这解决了所有问题。

【讨论】:

以上是关于使用控制台将多条 JSON 记录加载到 BigQuery的主要内容,如果未能解决你的问题,请参考以下文章

使用 mongoose 将从 JSON 接收的多条记录插入到集合中

如何在流分析组中将多条记录与字符串和空值合并

Sumologic - 将 JSON 数组拆分为多条记录

剑道网格:性能缓慢问题

加快将 json 数据加载到数据框中

Solr 将整个索引加载到内存中