如何找到 Spark-streaming 中价值最小的键值对?
Posted
技术标签:
【中文标题】如何找到 Spark-streaming 中价值最小的键值对?【英文标题】:How can I find the key-value pairs that have smallest value in Spark-streaming? 【发布时间】:2016-11-12 14:54:44 【问题描述】:我需要找到最小值并在 Stream 中返回它的键。 但是我不知道怎么做,我搜索了API文档但没有找到,有人愿意教我怎么做吗?
【问题讨论】:
我认为这种问题在这里不合适,你应该研究一下,针对具体问题寻求解决方案,而不是像这样笼统地问。 【参考方案1】:试试:
>>> stream = ssc.queueStream([sc.parallelize([("a", 1), ("b", 2)])])
>>> stream.map(lambda x: (x[1], x[0])).reduce(min).map(lambda x: x[1]).pprint()
【讨论】:
以上是关于如何找到 Spark-streaming 中价值最小的键值对?的主要内容,如果未能解决你的问题,请参考以下文章
流式计算助力实时数据处理spark-streaming入门实战
spark-streaming scala:如何将字符串数组传递给过滤器?