具有 numpy 的数组的高效阈值过滤器

Posted 2023-02-27

【中文标题】具有 numpy 的数组的高效阈值过滤器

【英文标题】：Efficient thresholding filter of an array with numpy

【发布时间】：2011-12-21 02:50:17

【问题描述】：

我需要过滤一个数组以删除低于某个阈值的元素。我现在的代码是这样的：

threshold = 5
a = numpy.array(range(10)) # testing data
b = numpy.array(filter(lambda x: x >= threshold, a))

问题是这会创建一个临时列表，使用带有 lambda 函数的过滤器（慢）。

由于这是一个非常简单的操作，也许有一个 numpy 函数可以有效地完成它，但我一直找不到它。

我认为实现此目的的另一种方法是对数组进行排序，找到阈值的索引并从该索引开始返回一个切片，但即使这对于小输入会更快（而且它不会无论如何都要引人注目），随着输入大小的增长，它的效率肯定会逐渐降低。

有什么想法吗？谢谢！

更新：我也进行了一些测量，当输入为 100.000.000 个条目时，排序+切片仍然比纯 python 过滤器快两倍。

In [321]: r = numpy.random.uniform(0, 1, 100000000)

In [322]: %timeit test1(r) # filter
1 loops, best of 3: 21.3 s per loop

In [323]: %timeit test2(r) # sort and slice
1 loops, best of 3: 11.1 s per loop

In [324]: %timeit test3(r) # boolean indexing
1 loops, best of 3: 1.26 s per loop

【问题讨论】：

是的，非常好 :-) 如果代码执行时间非常短，它甚至会自动计算应该执行多少次迭代来平均测量值

@yosukesabai - IPython 的 %timeit 使用内置的 timeit 模块。看看它，以及。 docs.python.org/library/timeit.html

【参考方案1】：

b = a[a>threshold]应该这样做

我测试如下：

import numpy as np, datetime
# array of zeros and ones interleaved
lrg = np.arange(2).reshape((2,-1)).repeat(1000000,-1).flatten()

t0 = datetime.datetime.now()
flt = lrg[lrg==0]
print datetime.datetime.now() - t0

t0 = datetime.datetime.now()
flt = np.array(filter(lambda x:x==0, lrg))
print datetime.datetime.now() - t0

我明白了

$ python test.py
0:00:00.028000
0:00:02.461000

http://docs.scipy.org/doc/numpy/user/basics.indexing.html#boolean-or-mask-index-arrays

【讨论】：

添加了测试结果，而不仅仅是我认为它应该做的。 :p

这种索引不保持数组的大小，怎么可能保持相同数量的元素和归零亚阈值？

@linello, a[a

我遇到了基于两个标准的过滤问题。这是解决方案：***.com/a/3248599/1373468

@yosukesabai 是否可以完全做到这一点，而无需实际更改原始值。如果np.ma 打算这样做，我不知道该怎么做。