Flink Gelly 在计算期间更新图
Posted
技术标签:
【中文标题】Flink Gelly 在计算期间更新图【英文标题】:Flink Gelly updating graph during computation 【发布时间】:2018-10-04 00:36:29 【问题描述】:我是 Fink 和 Gelly 的新手。我们需要进行图形计算,而图形本身由于增量更新(经常)而不断变化。因为图太大了,我们用 TinkerPop 对 Spark 做了一些调查。但是这种方法的问题是RDD是不可变的,这使得图上的增量更新有点难以处理(IndexRDD已经很久没有维护了,所以我们不想往这个方向发展)。这让我们想到了 Flink 和 Gelly。有没有高手可以帮我解答一下这些问题: 1. Gelly/Flink 可以原生处理增量更新,对吧?我的意思是图遍历->图变异->图遍历不需要像spark这样的额外努力来重新加载整个RDD,对吧?但是如果是这样,那么在 Flink 中是如何保持数据一致性的呢? 2. 如果在图形计算处理过程中更新图形(如添加边、更改顶点的值),会发生什么?
非常感谢
【问题讨论】:
我也有同样的基本问题...您最终发现了什么? 【参考方案1】:graph streaming有一个github项目
【讨论】:
以上是关于Flink Gelly 在计算期间更新图的主要内容,如果未能解决你的问题,请参考以下文章
使用 Flink 和 Gelly 无法实现高 CPU 利用率