spark源码 hashpartitioner

Posted 牵牛花

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark源码 hashpartitioner相关的知识,希望对你有一定的参考价值。

def nonNegativeMod(x: Int, mod: Int): Int = {
      val rawMod = x % mod
      rawMod + (if (rawMod < 0) mod else 0)
  def getPartition(key: Any): Int = key match {
    case null => 0
    case _ => Utils.nonNegativeMod(key.hashCode, numPartitions)
  }

 

以上是关于spark源码 hashpartitioner的主要内容,如果未能解决你的问题,请参考以下文章

Spark中repartition和partitionBy的区别

如何在 Spark 中按键对 RDD 进行分区?

Spark partitionBy

Spark的Key算子

spark基础知识四

Spark自定义分区(Partitioner)