如何找到 Spark-streaming 中价值最小的键值对?

Posted

技术标签:

【中文标题】如何找到 Spark-streaming 中价值最小的键值对?【英文标题】:How can I find the key-value pairs that have smallest value in Spark-streaming? 【发布时间】:2016-11-12 14:54:44 【问题描述】:

我需要找到最小值并在 Stream 中返回它的键。 但是我不知道怎么做,我搜索了API文档但没有找到,有人愿意教我怎么做吗?

【问题讨论】:

我认为这种问题在这里不合适,你应该研究一下,针对具体问题寻求解决方案,而不是像这样笼统地问。 【参考方案1】:

试试:

>>> stream = ssc.queueStream([sc.parallelize([("a", 1), ("b", 2)])])
>>> stream.map(lambda x: (x[1], x[0])).reduce(min).map(lambda x: x[1]).pprint()

【讨论】:

以上是关于如何找到 Spark-streaming 中价值最小的键值对?的主要内容,如果未能解决你的问题,请参考以下文章

流式计算助力实时数据处理spark-streaming入门实战

Spark-Streaming 记录比较

Spark-Streaming结合Redis

spark-streaming scala:如何将字符串数组传递给过滤器?

java spark-streaming接收TCP/Kafka数据

spark-streaming对接kafka的两种方式