对大数据量进行排序--位图法

Posted 2020-09-30 代码如诗

题目：对2G的数据量进行排序，这是基本要求。

数据：1、每个数据不大于8亿；2、数据类型位int；3、每个数据最多重复一次。

内存：最多用200M的内存进行操作。

我听过很多种类似问题的解法，有的是内存多次利用，有的用到了外存，我觉得这两种做法都不是比较好的思想，太慢。由于这个题目看起来没有对效率进行约束，所以这两种方法也是对的，但是我这次提出一个比较好的算法来解答此题，如果有更好的做法请赶快跟帖留言，共同讨论。希望大神们的加入。。。。。

思想：把200M的内存平分，可以开两个数组，一个数组arr存放一遍不重复的所有数据，另一个数组arr_2只存放重复的数据。存放方法是对数组中的每个数据的位进行操作。比如：18这个数，18/32=0，18就会对应arr[0]这个数组中的某一位，而每一个数组元素都是32位组成，18%32=18，也就是说arr[0]那个数的第18位对应18这个数。同样道理再来一个数：43    43/32=1,43%32=11，也就是说43对应的是arr[1]中的第11位。只要找到了对应位置，把该位置1，其余位置不变（默认为0），遍历一次数据，就会把内存中的对应位置1.如果遇到重复数据，此时就会用到第二个数组了，若本次查询该位已经为1，那么就要把arr_2这个数组中的对应位置1。在输出的时候就要同步遍历两个数组。

输出：就是一个反向还原过程，遍历内存中的每一位，该位对应的有数组下标和所处位，进行一次乘、和运算就能还原回来数据，并依次写入文件或者打印到屏幕上。

 

/*
如何对某一位置0或者置1？
#define setbit(x,y) x|=(1<<y) //将X的第Y位置1
#define clrbit(x,y) x&=!(1<<y) //将X的第Y位清0
*/

#define BITSPERWORD 32 //数组每个元素32位
#define SHIFT 5
#define MASK 0x1F
#define MAXNUM 10000         //最大整数
const int num = 6000;        //整数个数
int length = 1 + MAXNUM / BITSPERWORD; //最大数值除以32得到数组大小
unsigned int *a = new unsigned int[length];

//i>>SHIFT表示i在数组中的下标 等价于i/32；1<<(i & MASK))等价于i%32，表示第几个bit
//i & MASK == i % 32 == 余数 == i & (32 - 1) == i & MASK 就是对32做MOD求余数 
void set(int i)  {    a[i>>SHIFT] |=  (1<<(i & MASK)); }  //将某bit置1
void clr(int i)  {    a[i>>SHIFT] &= ~(1<<(i & MASK)); }  //将某bit置0

//若第0 bit为1，返回1；若第3 bit为1，则返回8；若第10 bit为1，则返回1024
int  test(int i) { return a[i>>SHIFT] &   (1<<(i & MASK)); }  

int main(void)
{   
    for (int i=0;i!=length;++i)     
        a[i]=0;             //每bit都初始化为0
    srand(time(0));
    int i = 0;
    while(i != num)        //生成num个大小不超过MAXNUM的整数
    {
        int p = rand() % MAXNUM;
        if (!test(p))
        {
            set(p);
            ++i;
        }
    }

    for (i=0; i<MAXNUM; ++i)       //按升序打印出这些整数
    {
        if(test(i))
            cout<<i<<endl;
    }

    return 0;
}