Hadoop 二次排序

Posted 2022-12-02 @SmartSi

我们首先提出了一个查询问题，为了解决这个问题，需要在数据集的多个字段上进行排序。然后，我们将研究 MapReduce Shuff 阶段的工作原理，然后再实现我们的二次排序以获得我们想要的查询结果。

1. 查询

如果我们想查看指定 state 和 city 的所有捐款者的 id，state，city 以及捐款总额 total。按以下顺序排列结果：

• state - 按字母顺序升序排序（不区分大小写）
• city - 按字母顺序升序排序（不区分大小写）
• total - 按数字顺序降序排序

可以用 SQL 如下实现：

SELECT donation_id, donor_state, donor_city, total
FROM donations
WHERE