如何使用 Google Apps 脚本将来自 Google 电子表格和 ScriptDB 的数据插入 BigQuery 表

Posted

技术标签:

【中文标题】如何使用 Google Apps 脚本将来自 Google 电子表格和 ScriptDB 的数据插入 BigQuery 表【英文标题】:How to insert data from Google spreadsheets and ScriptDBs into BigQuery tables using Google Apps Scripts 【发布时间】:2013-10-18 19:23:47 【问题描述】:

我们已经成功地为用户团队部署了基于 Google Apps 脚本的网络应用程序,这些应用程序允许用户通过简单的 GUI 记录他们的日常活动。日志数据是使用 Google 电子表格或 ScriptDB 为每个团队收集的,具体取决于团队的规模。

我们现在想更进一步,对跨团队的用户活动数据进行分析和报告。考虑到数据量,BigQuery 看起来是一种很好的技术。我们正在考虑使用 Google Apps 脚本定期(例如每天)将数据自动推送到 BigQuery 表。我们想知道如何处理源自 Google 电子表格和 ScriptDB 的数据的最佳做法。

与之前的案例不同,仅仅通过阅读 BigQuery API 文档和代码 sn-ps 对我们来说并不明显推荐的方法是什么。

目前我们发现的提示: Write Data from Google Spreadsheets to a BigQuery Table

【问题讨论】:

查看s.o.中的代码回答你链接到。它拥有将数据行从应用脚本推送到 bigquery 所需的一切。 【参考方案1】:

我们没有任何示例,但您可以使用 Apps Script 内置的BigQuery service 直接上传数据。

BigQuery.Jobs.insert(resource, mediaData, optionalArgs)

mediaData 参数是最近添加的,它允许您将 CSV 数据作为 Blob 传递,该 Blob 将直接发送到 BigQuery。

【讨论】:

以上是关于如何使用 Google Apps 脚本将来自 Google 电子表格和 ScriptDB 的数据插入 BigQuery 表的主要内容,如果未能解决你的问题,请参考以下文章

来自 GmailMessage 类正则表达式的 Google Apps 脚本 getPlainBody() 不起作用

使用 Google BigQuery / Apps 脚本为插入 Google 表格的数据添加时间戳

来自 Google Apps 脚本的 Jdbc 连接错误

如何使用 Google Apps 脚本将公式添加到 Google 表格?

Google Apps脚本传递网址参数Google信息中心

如何在 Google Apps 脚本中使用 Cheerio 提取 HTML 表格数据?