堆的应用之海量数据处理(红包大乱战)

Posted 请叫我小小兽

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了堆的应用之海量数据处理(红包大乱战)相关的知识,希望对你有一定的参考价值。

应用场景:2015年春节期间,A公司的支付软件某宝和T公司某信红包大乱战。春节高峰以后,公司Leader要求后台攻城狮对后台的海量的数据进行分析。先要求分析出各地区发红包最多的前100位用户。现在知道人最多的S地区大约有100W用户,要求写一个算法实现。

分析:看到这里,问题可以简化为求很多个数据中的前100个节点,然而这很多个数据磁盘根本放不下,并且找出前100个数比较复杂,因此我们可以借助堆来实现。这样数据从磁盘里读,而内存中只有100个数据。那么到底是建大堆还是建小堆来解决呢?我们知道大堆就是父节点都大于孩子节点,小堆就是父节点都小于孩子节点,当我们找到的数大于最后一个节点时堆就应该排序一次,因此我们应该建一个小堆,根节点就是100里面最小的,用父节点与需要比较的数据进行比较,如果比根节点大,那么需要入堆进行排序,否则就不需要排序。实现代码如下:

void CreateRedPacket(vector<int>& moneys)  //创建红包数据
{
    srand(time(0));
    moneys.reserve(N);
    for (int i = 0; i < N; ++i)
    {
        moneys.push_back(rand() % 10000);
    }
    for (int j = N - K; j < N; ++j)
    {
        moneys[j] = rand() % N;
    }
}

void AdjustDown(int*a, size_t size, int root)    //向下调整
{
    int parent = root;
    int child = parent * 2 + 1;
    while (child < size)
    {
        while (child + 1 < size&&a[child + 1] > a[child])   //找出左右节点中值最大的那个
            child++;

        if(a[parent] < a[child])
        {
            swap(a[parent], a[child]);
            parent = child;
            child = parent * 2 + 1;
        }
        else
        {
            break;
        }
    }
}

void GetTopK(vector<int>& moneys)   //获取前K个数据
{
    int arrays[K] = { 0 };
    for (size_t i = 0; i < K; ++i)
    {
        arrays[i] = moneys[i];
    }

    for (int i = (K- 2) / 2; i>=0; ++i)   //先建一个数据个数为K的堆
    {
        AdjustDown(arrays, K, 0);
    }

    for (size_t i = K; i < N; ++i)    //把剩下的数据一一跟对顶元素比较,如果数据小于堆顶元素就赋值给堆顶元素并向下调整
    {
        if (arrays[0] < moneys[i])
        {
            arrays[0] = moneys[i];
            AdjustDown(arrays,  K, i);
        }
    }
    for (int i = 0; i < K; ++i)   //打印出前K个数据
    {
        cout << arrays[i] << "  ";
    }
    cout << endl;
}

void TestTopK()
{
    vector<int> moneys;
    CreateRedPacket(moneys);
    GetTopK(moneys);
}

以上是关于堆的应用之海量数据处理(红包大乱战)的主要内容,如果未能解决你的问题,请参考以下文章

《海量日志数据分析与应用》之数据采集

海量服务实践──手 Q 游戏春节红包项目设计与总结(上篇)

大型网站应用之海量数据和高并发解决方案总结一二

大型网站应用之海量数据和高并发解决方案总结一二

大规模分布式应用之海量数据和高并发解决方案总结

海量数据解决思路之BitMap