Postgresql中的高斯随机分布
Posted
技术标签:
【中文标题】Postgresql中的高斯随机分布【英文标题】:Gaussian random distribution in Postgresql 【发布时间】:2012-03-14 23:19:29 【问题描述】:我有一个假设为 250 个 URL 的表格:
create table url (
id serial,
url varchar(64)
)
这些 URL 对应一个网站。每个网站都有不同的受欢迎程度。假设id=125
(以高斯为中心的那个)最受欢迎,id=1
或id=250
最不受欢迎。
我想在“url”表中提供的值中填充一个类似于下面的“日志”表,但考虑到不同的 URL 可能会更频繁地出现(例如 url,其 id 为125 将是最受欢迎的)。
create table log (
id serial,
url_id integer
)
我想避免使用random()
,因为它是统一的,不是很“真实”。
如何使用 Postgresql 实现这一点?
【问题讨论】:
为什么你认为流行度或排名具有高斯分布? 您可以使用 RAND 使用该分布的 PDF 计算任何分布(产生 0 和 1 之间的值,对吗?)。对于高斯发行版,这将是 1/2(1 + erf(x-mu)/sqrt(2sigma^2)) - 请参阅 en.wikipedia.org/wiki/Normal_distribution @wildplasser :因为这条定律对于我尝试建模的东西来说似乎相当不错。我承认它可能是任何其他的! 【参考方案1】:范围 [0, 1) 上的 12 个均匀分布的总和很好地近似于范围 [0, 12) 内的高斯分布。然后可以通过乘以一个常数然后添加/减去一个常数来轻松地重新缩放。
select
random() +
random() +
random() +
random() +
random() +
random() +
random() +
random() +
random() +
random() +
random() +
random();
http://books.google.com/books?id=EKA-yeX2GVgC&pg=PA185&lpg=PA185&dq=%22sum+of+12+uniform+random+variables%22&source=bl&ots=YfwwE0fBB3&sig=HX9J9Oe6x316kVL8uamDU_GOsn4&hl=en&sa=X&ei=bJLZUur1GozaqwGHm4DQDQ&ved=0CEUQ6AEwAw#v=onepage&q=%22sum%20of%2012%20uniform%20random%20variables%22&f=false
【讨论】:
我接受了这个,因为我发现它是最简单和最优雅的方式,无论使用什么语言。感谢所有其他贡献者。【参考方案2】:我正在寻找一种根据高斯分布生成数字的方法,并首先找到了这篇文章。这就是为什么我分享我刚刚发现的内容:
至少从 PostgreSQL 8.4 开始,还有一个名为 tablefunc (http://www.postgresql.org/docs/current/static/tablefunc.html) 的附加模块。
它提出了一个函数 normal_rand(n, mean, stddev)
使用高斯分布生成 n 个伪随机数(因此该函数返回一组值,通常在 FROM 子句中使用)。但是,如果将 n 设置为 1,则它可以用作返回值而不是一组值的函数。
考虑包含 10 条记录的表 nb10,以下两个查询返回一组 10 个遵循标准高斯分布的伪随机数(均值 = 0,标准差 = 1)
SELECT normal_rand(1, 0, 1) FROM nb10;
和
SELECT * from normal_rand(10, 0, 1);
我希望这可以帮助将来的任何人...... :-)
要具体回答您的问题,您可以使用以下内容:
SELECT floor(random_rand(1, 0, 1) * 250 + 125);
不幸的是,使用此查询可以获得不在 [0, 249] 范围内的答案。例如,您可以:
使用递归查询,我觉得这有点矫枉过正,丢弃不在[0, 249]
范围内的值,或者
将您的选择放入您的宿主语言的循环中,仅当它在[0, 249]
范围内时才接受该值,或者
使用模运算符保持在[0, 250[
范围内,我认为这是最好的解决方案,尽管它会稍微改变高斯曲线。这是我建议您使用的最后一个查询(取模/+/取模技巧是因为 -x 取模 y 与 x 为正数会在 PostgreSQL 中给出一个负数,这不是一件坏事:p):
SELECT ((floor(normal_rand(1,0,1)*250 + 125)::int % 250) + 250) % 250 as v;
【讨论】:
【参考方案3】:简单的事实是您想创建自己的函数,该函数将 rand() 包装在隐式或显式提供高斯分布的东西中。
我没有统计背景来告诉您如何将均匀分布转换为高斯分布,但您必须编写一个转换器。类似于http://www.perlmonks.org/?node_id=26889 提供的东西(如果你不喜欢 Perl,你可以用 pl/pgsql 甚至普通 SQL 重写它)。
CREATE OR REPLACE FUNCTION gaussian_rand() RETURNS numeric LANGUAGE PLPERL VOLATILE AS
$$
my ($u1, $u2); # uniformly distributed random numbers
my $w; # variance, then a weight
my ($g1, $g2); # gaussian-distributed numbers
do
$u1 = 2 * rand() - 1;
$u2 = 2 * rand() - 1;
$w = $u1*$u1 + $u2*$u2;
while ( $w >= 1 );
$w = sqrt( (-2 * log($w)) / $w );
$g2 = $u1 * $w;
$g1 = $u2 * $w;
# return both if wanted, else just one
return $g1;
$$;
【讨论】:
【参考方案4】:tablefunc
模块提供了一个正态分布的随机函数。您可以使用以下方式测试它是否已安装:
SELECT normal_rand(1, 0, 1); -- generates 1 single value with mean 0 and a standard deviation of 1
上面的查询应该在正态分布中生成单个值
如果你没有安装它,试试这个:
CREATE EXTENSION "tablefunc";
否则您需要以a super user and install the module 登录。
【讨论】:
哦,这也非常有趣,例如现在打开了透视表的视野。非常感谢!【参考方案5】:也可以直接在内置语言PL/PgSQL中实现
create or replace
function random_gauss( avg real = 0, stddev real = 1 )
returns real language plpgsql as $$
declare x1 real; x2 real; w real;
begin
loop
x1 = 2.0 * random() - 1.0;
x2 = 2.0 * random() - 1.0;
w = x1*x1 + x2*x2;
exit when w < 1.0;
end loop;
return avg + x1 * sqrt(-2.0*ln(w)/w) * stddev;
end; $$;
with data as (
select t, random_gauss(100,15)::integer score from generate_series(1,1000000) t
)
select
score,
sum(1),
repeat('=',sum(1)::integer/500) bar
from data
where score between 60 and 140
group by score
order by 1;
rollback;
这从 100 万个数字的样本中得到了类似的结果,平均为 100,标准差为 15。
score | sum | bar
-------+-------+--------------------------------------------------------
60 | 764 | =
61 | 893 | =
62 | 1059 | ==
63 | 1269 | ==
64 | 1524 | ===
65 | 1740 | ===
66 | 1990 | ===
67 | 2346 | ====
68 | 2741 | =====
69 | 3160 | ======
70 | 3546 | =======
71 | 4109 | ========
72 | 4633 | =========
73 | 5252 | ==========
74 | 5952 | ===========
75 | 6536 | =============
76 | 7429 | ==============
77 | 8140 | ================
78 | 9061 | ==================
79 | 10063 | ====================
80 | 10844 | =====================
81 | 11911 | =======================
82 | 13180 | ==========================
83 | 13880 | ===========================
84 | 15111 | ==============================
85 | 16016 | ================================
86 | 17310 | ==================================
87 | 18262 | ====================================
88 | 19615 | =======================================
89 | 20400 | ========================================
90 | 21186 | ==========================================
91 | 22190 | ============================================
92 | 23103 | ==============================================
93 | 24150 | ================================================
94 | 24327 | ================================================
95 | 24992 | =================================================
96 | 25505 | ===================================================
97 | 25868 | ===================================================
98 | 26146 | ====================================================
99 | 26574 | =====================================================
100 | 27104 | ======================================================
101 | 26599 | =====================================================
102 | 26345 | ====================================================
103 | 25940 | ===================================================
104 | 25485 | ==================================================
105 | 25157 | ==================================================
106 | 24827 | =================================================
107 | 23844 | ===============================================
108 | 23262 | ==============================================
109 | 22211 | ============================================
110 | 21326 | ==========================================
111 | 20315 | ========================================
112 | 19496 | ======================================
113 | 18026 | ====================================
114 | 17182 | ==================================
115 | 16026 | ================================
116 | 14979 | =============================
117 | 13959 | ===========================
118 | 12840 | =========================
119 | 11718 | =======================
120 | 11169 | ======================
121 | 10037 | ====================
122 | 9273 | ==================
123 | 8041 | ================
124 | 7402 | ==============
125 | 6761 | =============
126 | 5827 | ===========
127 | 5257 | ==========
128 | 4736 | =========
129 | 4153 | ========
130 | 3494 | ======
131 | 3103 | ======
132 | 2731 | =====
133 | 2379 | ====
134 | 2064 | ====
135 | 1696 | ===
136 | 1481 | ==
137 | 1246 | ==
138 | 1024 | ==
139 | 910 | =
140 | 788 | =
【讨论】:
以上是关于Postgresql中的高斯随机分布的主要内容,如果未能解决你的问题,请参考以下文章