将 clickhouse 数据库迁移到新服务器

Posted

技术标签:

【中文标题】将 clickhouse 数据库迁移到新服务器【英文标题】:Migrate clickhouse DB to new server 【发布时间】:2021-05-31 15:46:42 【问题描述】:

我在 clickhouse 服务器上有一个数据库。我想将它迁移到新的 clickhouse 服务器。如何正确执行?我尝试使用 clickhouse-backup,但出现错误

2021/05/31 15:21:45  warn can't create table 'Data.Calls': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.Fcst_1': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.Fcst_3': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.GAInfo': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.HistoryLogs': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.Info': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.Info1': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.Info15': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.Info548': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.Info60': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.InfoAXPNew': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.InfoAXPOld': <nil>, will try again
2021/05/31 15:21:45  warn can't create table 'Data.InfoPageView': <nil>, will try again

【问题讨论】:

尝试最新版本的 clickhouse-backup 你可以简单地 RSYNC /var/lib/clickhouse 【参考方案1】:

这取决于新旧集群之间的连通性。

它存在(并且很好),您可以尝试remote 函数,这是最灵活的迁移方式。

我会进一步建议编写一个脚本,该脚本可以使用remote 函数读取表并在新集群上创建表,然后一次性插入数据或dailyweeklymonthly 迭代与@987654326 @。

如果您无法在新旧集群之间建立直接连接,您将不得不退回到传统的数据提取和上传方式。

【讨论】:

以上是关于将 clickhouse 数据库迁移到新服务器的主要内容,如果未能解决你的问题,请参考以下文章

使用brokercap / Bifrost将mysql数据 迁移到 clickhouse20.12.3.3

如何使用文件将数据从 mysql 迁移到 clickhouse?

Clickhouse 纯手工迁移表

从 mongoDB 迁移到 clickhouse 中的嵌套数据结构

如何在两台服务器之间安全迁移MySQL数据库

将应用数据迁移到新的 IOS 应用