Flink Gelly 在计算期间更新图

Posted

技术标签:

【中文标题】Flink Gelly 在计算期间更新图【英文标题】:Flink Gelly updating graph during computation 【发布时间】:2018-10-04 00:36:29 【问题描述】:

我是 Fink 和 Gelly 的新手。我们需要进行图形计算,而图形本身由于增量更新(经常)而不断变化。因为图太大了,我们用 TinkerPop 对 Spark 做了一些调查。但是这种方法的问题是RDD是不可变的,这使得图上的增量更新有点难以处理(IndexRDD已经很久没有维护了,所以我们不想往这个方向发展)。这让我们想到了 Flink 和 Gelly。有没有高手可以帮我解答一下这些问题: 1. Gelly/Flink 可以原生处理增量更新,对吧?我的意思是图遍历->图变异->图遍历不需要像spark这样的额外努力来重新加载整个RDD,对吧?但是如果是这样,那么在 Flink 中是如何保持数据一致性的呢? 2. 如果在图形计算处理过程中更新图形(如添加边、更改顶点的值),会发生什么?

非常感谢

【问题讨论】:

我也有同样的基本问题...您最终发现了什么? 【参考方案1】:

graph streaming有一个github项目

【讨论】:

以上是关于Flink Gelly 在计算期间更新图的主要内容,如果未能解决你的问题,请参考以下文章

Flink 更新中

使用 Flink 和 Gelly 无法实现高 CPU 利用率

Flink Gelly 扩展边缘类并在 DataSet 中使用

Flink Gelly - 创建图形时类型不匹配

使用Flink和Gelly无法实现高CPU利用率

Gelly Library 可以用于 Flink 中类似于 Spark 中的 Graph Frame 的图形查询吗