如何在Google BigQuery中管理架构迁移

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了如何在Google BigQuery中管理架构迁移相关的知识,希望对你有一定的参考价值。

如何管理Google BigQuery的架构迁移,我们过去曾使用过Liquibase和Flyway。我们可以使用哪种工具来管理架构修改等(例如,在dev / staging环境中添加新列)。

答案

根据BQ docs,您可以在架构中添加一行而无需任何其他过程。

对于更复杂的转换,如果它可以在SQL查询中解析,你可以运行该查询setting the destination table as the source table(虽然我会建议creating a backup of the table以防出现问题)。

假设我有一个表是一个整数的列(列d),但在插入时它被写成一个字符串。我可以通过将自己设置为目标表并运行如下查询来修改表:

SELECT
  a,
  b,
  c,
  CAST(d AS INT64) AS d,
  e,
  f
FROM
  `example.dataset.table`

这是更改架构的示例,但只要您可以使用BQ查询获得结果,就可以应用此示例。

以上是关于如何在Google BigQuery中管理架构迁移的主要内容,如果未能解决你的问题,请参考以下文章

在 Google 跟踪代码管理器中使用 GA Bigquery 导出架构变量

如何通过 Terraform 管理 BigQuery 表的架构更改

如何使用 API 存储在 Google Cloud Storage 中的架构文件在 BigQuery 加载作业上设置架构?

如何从 Python 中的 App Engine 在 Google BigQuery 上创建架构?

保存视图无法在 Google BigQuery 中创建有效的输出架构

单独 JSON 文件中的 Terraform Bigquery 表架构