从 mongoDB 迁移到 clickhouse 中的嵌套数据结构

Posted

技术标签:

【中文标题】从 mongoDB 迁移到 clickhouse 中的嵌套数据结构【英文标题】:Nested data structure in migration from mongoDB to clickhouse 【发布时间】:2021-07-27 03:31:00 【问题描述】:

在我的 mongoDB 中,有三个不同级别的嵌套数据结构,如图所示。由于 clickhouse 中的 mongo 引擎不支持此类结构,因此我在使用 mongoDB 引擎创建表时尝试将这些字段定义为 String,但无法检索数据。我应该预定义新表(规范化每个嵌套结构)然后将值从 mongo 插入到 CH?你有替代品吗?

【问题讨论】:

【参考方案1】:

来自https://clickhouse.tech/docs/en/engines/table-engines/integrations/mongodb/

MongoDB 引擎仅支持非嵌套数据类型。

如果您可以展平 MongoDB 集合的架构,则可以使用 Map 数据类型。

或者,您可以将整个文档 (JSON) 保存为 String,然后使用 JSON functions 处理它。

【讨论】:

以上是关于从 mongoDB 迁移到 clickhouse 中的嵌套数据结构的主要内容,如果未能解决你的问题,请参考以下文章

将 clickhouse 数据库迁移到新服务器

沃趣科技初探MySQL迁移到ClickHouse

沃趣科技初探MySQL迁移到ClickHouse

从 Postgres 迁移到 MongoDB

使用 pymongo 将数据从 Mysql 迁移到 MongoDB

将数据从 PostgreSQL 迁移到 MongoDB