抽样随机算法

Posted 2022-04-28 master-dragon

文章目录

• 水塘抽样/蓄水池抽样算法（Reservoir Sampling）
• 拒绝采样(reject sampling)

水塘抽样/蓄水池抽样算法（Reservoir Sampling）

问题：
对一个数量未知的样本，希望只经过一次遍历就能完成随机抽样，即时间复杂度O(n)，每个元素被选中的概率一样。因为样本数量未知，是不能通过random函数直接随机抽样的。

解法：

先选择第一个对象，以1/2的概率选择第二个，以1/3的概率选择第三个，以此类推，以1/m的概率选择第m个对象。当该过程结束时，每一个对象具有相同的选中概率，即1/n

论证：
第m个对象最终被选中的概率P=前m个元素中选择m的概率*其后面所有元素不被选择的概率，即

• 选择m的概率 ： 1/m: 前m个元素选中它的概率就是我们规定的1/m

• m后某个对象不被选择的概率为：假设为 m + k个元素， 那么概率为1 - 1 / (m + k) ：因为m+k个元素每个元素选中的概率为 1/(m+k)（同m个元素一样）, 所以不选中概率就是1 - 1 / (m + k) =m+k-1 / m +k，

最后列出如下公式，可以看到最后选中m概率是1/n

---

例：N个元素随机选择k个元素

伪代码如下：

array S[N]; // 庞大的样本
array R[k]; // 水库
 
for(int i = 0; i < k; ++i)
	R[i] = S[i];


for(int i = k; i  < N; ++i)
    p = random(i); //[0,i] 随机一个数，1/i的概率
    if(p < k)
    	R[p] = S[i];
        

这样每个元素被选择的概率为k/N

解释如下

对于第k+1个元素：k+1随机概率小于k, 就是k/k+1， 即进入if语句的概率是k/k+1, 那么它被替换成的概率就是k/k+1, 同时前面k个元素，每个元素都是1/k+1的概率成为被替换对象，那么它不被替换的概率是1 - 1/k+1=k/k+1, 不被替换最终就出现, 即旧元素最终出现概率是k/k+1

而新元素在水库中出现的概率就一定是k/k+1（不管它替换掉前k个的哪个元素，反正肯定它是以这个概率出现在水库中的）

那么即论证了到k+1个元素，每个元素留在水库的概率是k/k+1，依此类推，k+2个元素是k/k+2, … , 到第N个元素则是k/N

---

例题1:
https://leetcode-cn.com/problems/linked-list-random-node/

class Solution 

    ListNode head;
    Random random;

    public Solution(ListNode head) 
        this.head = head;
        random = new Random();
    

    public int getRandom() 
        // 第一元素选中
        int k = 1;
        ListNode node = head;

        // 第2个元素开始，1/i的概率
        int len = 2;
        ListNode s = head.next;
        while (s != null)
            // [0, len)
            int p = random.nextInt(len);
            if (p < k) 
                node = s;
            

            len++;
            s = s.next;
        

        return node.val;
    

拒绝采样(reject sampling)

https://leetcode-cn.com/problems/implement-rand10-using-rand7/

转自leetcode官方题解

作者：LeetCode-Solution
链接：https://leetcode-cn.com/problems/implement-rand10-using-rand7/solution/yong-rand7-shi-xian-rand10-by-leetcode-s-qbmd/
来源：力扣（LeetCode）
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

如上图，使用 ( rand7() - 1 ) * 7 + rand7() 生成随机数，可以生成49个数，但是只取前40个数，剩下的拒绝采样； 而采样的40个数每个概率都是1/49, 转化为1-10数字出现的概率则都是4/49，所以能等概率产生1-10，产生的数转换下即可

idx 序号如下，转换成1-10： 1 + (idx - 1) % 10

即：
11，21，31转换成1； 12，22，32 转换成2 ; 依此类推…

/**
 * The rand7() API is already defined in the parent class SolBase.
 * public int rand7();
 * @return a random integer in the range 1 to 7
 */
class Solution extends SolBase 
    public int rand10() 
        int idx = 41;
        while(idx > 40)
            idx = (rand7() - 1) * 7 + rand7();
        
        return (idx - 1) % 10 + 1;
    

问题：

• 时间复杂度：期望时间复杂度为 O(1)，但最坏情况下会达到 O(∞)（一直被拒绝）。
• 空间复杂度：O(1)。

Todo 可以得到规律

(rand_X() - 1) × Y + rand_Y()  可以等概率的生成[1, X * Y]范围的随机数