将数据从一个列族db传输到另一个列族

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了将数据从一个列族db传输到另一个列族相关的知识,希望对你有一定的参考价值。

我是Cassandra和Column系列数据库世界的新手。我有一个场景,我需要将数据从一个Column系列数据库(如Scylla Database)移动到另一个Column系列数据库Datastax Cassandra.Amount数据将以数百万计。我希望这个数据传输发生在定期间隔时间,比如2分钟。我正在探索sstableloader选项。没有运气了。对于我的场景,还有其他更好的方法吗?任何建议都将受到高度赞赏。

答案

(免责声明:我是ScyllaDB员工)

有3种方法可以实现此目的:

  1. 从客户端双向写入客户端时间戳到两个DB
  2. 使用sstableloader工具将数据从一个DB迁移到另一个DB。
  3. 使用nodetool refresh命令加载sstables

您可以在以下文档中阅读有关从Cassandra迁移到Scylla的更多信息,该文档还介绍了如何从客户端执行双重写入(选项-1),代码示例+如何使用sstableloader工具(选项-2)

http://docs.scylladb.com/procedures/cassandra_to_scylla_migration_process/

有关nodetool refresh的用法,您可以在这里查看:http://docs.scylladb.com/nodetool-commands/refresh/

另一答案

一种常见的方法是检测客户端并行写入两个数据库,而不是同步两个数据库。这使得每次写入时两个数据库保持同步。

以上是关于将数据从一个列族db传输到另一个列族的主要内容,如果未能解决你的问题,请参考以下文章

将数据加载到 Cassandra 列族的最快方法是啥

关于列族数量的大表设计和查询

将多个列族从 hbase 导入到 hive

如何将数据从一个片段传输到另一个片段android

如何从 google bigtable 中删除特定的列族数据

列族概念和数据模型