在熊猫系列中查找元素的索引

Posted

技术标签:

【中文标题】在熊猫系列中查找元素的索引【英文标题】:Find element's index in pandas Series 【发布时间】:2013-08-22 01:34:50 【问题描述】:

我知道这是一个非常基本的问题,但由于某种原因我找不到答案。如何在 python pandas 中获取某个 Series 元素的索引? (第一次出现就足够了)

也就是说,我想要类似的东西:

import pandas as pd
myseries = pd.Series([1,4,0,7,5], index=[0,1,2,3,4])
print myseries.find(7) # should output 3

当然,可以用循环定义这样的方法:

def find(s, el):
    for i in s.index:
        if s[i] == el: 
            return i
    return None

print find(myseries, 7)

但我认为应该有更好的方法。有吗?

【问题讨论】:

【参考方案1】:
>>> myseries[myseries == 7]
3    7
dtype: int64
>>> myseries[myseries == 7].index[0]
3

虽然我承认应该有更好的方法来做到这一点,但这至少避免了迭代和循环对象并将其移动到 C 级别。

【讨论】:

这里的问题是它假定要搜索的元素实际上在列表中。可惜 pandas 似乎没有内置的查找操作。 此解决方案仅适用于您的系列具有顺序整数索引的情况。如果你的系列索引是按日期时间的,这不起作用。【参考方案2】:

转换为索引,可以使用get_loc

In [1]: myseries = pd.Series([1,4,0,7,5], index=[0,1,2,3,4])

In [3]: Index(myseries).get_loc(7)
Out[3]: 3

In [4]: Index(myseries).get_loc(10)
KeyError: 10

重复处理

In [5]: Index([1,1,2,2,3,4]).get_loc(2)
Out[5]: slice(2, 4, None)

如果不连续返回,将返回一个布尔数组

In [6]: Index([1,1,2,1,3,2,4]).get_loc(2)
Out[6]: array([False, False,  True, False, False,  True, False], dtype=bool)

内部使用哈希表,速度很快

In [7]: s = Series(randint(0,10,10000))

In [9]: %timeit s[s == 5]
1000 loops, best of 3: 203 µs per loop

In [12]: i = Index(s)

In [13]: %timeit i.get_loc(5)
1000 loops, best of 3: 226 µs per loop

正如 Viktor 指出的那样,创建索引有一次性的创建开销(当您实际对索引执行某些操作时会产生开销,例如 is_unique

In [2]: s = Series(randint(0,10,10000))

In [3]: %timeit Index(s)
100000 loops, best of 3: 9.6 µs per loop

In [4]: %timeit Index(s).is_unique
10000 loops, best of 3: 140 µs per loop

【讨论】:

@Jeff 如果你有一个更有趣的索引,它不是那么容易......但我想你可以做s.index[_]【参考方案3】:

另一种方法是:

s = pd.Series([1,3,0,7,5],index=[0,1,2,3,4])

list(s).index(7)

返回: 3

使用我正在使用的当前数据集进行准时测试(认为是随机的):

[64]:    %timeit pd.Index(article_reference_df.asset_id).get_loc('100000003003614')
10000 loops, best of 3: 60.1 µs per loop

In [66]: %timeit article_reference_df.asset_id[article_reference_df.asset_id == '100000003003614'].index[0]
1000 loops, best of 3: 255 µs per loop


In [65]: %timeit list(article_reference_df.asset_id).index('100000003003614')
100000 loops, best of 3: 14.5 µs per loop

【讨论】:

【参考方案4】:
In [92]: (myseries==7).argmax()
Out[92]: 3

如果您提前知道 7 就可以使用。你可以检查这个 (myseries==7).any()

另一种方法(与第一个答案非常相似)也解释了多个 7(或没有)是

In [122]: myseries = pd.Series([1,7,0,7,5], index=['a','b','c','d','e'])
In [123]: list(myseries[myseries==7].index)
Out[123]: ['b', 'd']

【讨论】:

提前知道 7 是一个元素的要点是对的。然而,使用any 检查并不理想,因为需要进行两次迭代。有一个很酷的术后检查将揭示所有False 条件,你可以看到here。 小心,如果没有元素符合这个条件,argmax 仍然会返回 0(而不是报错)。【参考方案5】:

如果你使用 numpy,你可以得到一个包含你的值的 indecies 的数组:

import numpy as np
import pandas as pd
myseries = pd.Series([1,4,0,7,5], index=[0,1,2,3,4])
np.where(myseries == 7)

这将返回一个单元素元组,其中包含一个索引数组,其中 7 是 myseries 中的值:

(array([3], dtype=int64),)

【讨论】:

这是我找到的最佳解决方案。【参考方案6】:

你可以使用 Series.idxmax()

>>> import pandas as pd
>>> myseries = pd.Series([1,4,0,7,5], index=[0,1,2,3,4])
>>> myseries.idxmax()
3
>>> 

【讨论】:

这似乎只返回找到最大元素的索引,而不是像问的问题那样特定的index of certain element【参考方案7】:

您的价值通常出现在多个指标上:

>>> myseries = pd.Series([0, 0, 0, 1, 1, 1, 1, 0, 0, 0, 1, 1])
>>> myseries.index[myseries == 1]
Int64Index([3, 4, 5, 6, 10, 11], dtype='int64')

【讨论】:

【参考方案8】:

我对这里的所有答案印象深刻。这不是一个新的答案,只是试图总结所有这些方法的时间安排。我考虑了具有 25 个元素的系列的情况,并假设索引可以包含任何值的一般情况,并且您希望索引值对应于接近系列末尾的搜索值。

这是在 2012 Mac Mini 上使用 Python 3.9.10 和 Pandas 1.4.0 版本进行的速度测试。

In [1]: import pandas as pd

In [2]: import numpy as np

In [3]: data = [406400, 203200, 101600, 76100, 50800, 25400, 19050, 12700, 950
   ...: 0, 6700, 4750, 3350, 2360, 1700, 1180, 850, 600, 425, 300, 212, 150, 1
   ...: 06, 75, 53, 38]

In [4]: myseries = pd.Series(data, index=range(1,26))

In [5]: assert(myseries[21] == 150)

In [6]: %timeit myseries[myseries == 150].index[0]
179 µs ± 891 ns per loop (mean ± std. dev. of 7 runs, 10000 loops each)

In [7]: %timeit myseries[myseries == 150].first_valid_index()
205 µs ± 3.67 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)

In [8]: %timeit myseries.where(myseries == 150).first_valid_index()
597 µs ± 4.03 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)

In [9]: %timeit myseries.index[np.where(myseries == 150)[0][0]]
110 µs ± 872 ns per loop (mean ± std. dev. of 7 runs, 10000 loops each)

In [10]: %timeit pd.Series(myseries.index, index=myseries)[150]
125 µs ± 2.56 µs per loop (mean ± std. dev. of 7 runs, 10000 loops each)

In [11]: %timeit myseries.index[pd.Index(myseries).get_loc(150)]
49.5 µs ± 814 ns per loop (mean ± std. dev. of 7 runs, 10000 loops each)

In [12]: %timeit myseries.index[list(myseries).index(150)]
7.75 µs ± 36.1 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)

In [13]: %timeit myseries.index[myseries.tolist().index(150)]
2.55 µs ± 27.3 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)

In [14]: %timeit dict(zip(myseries.values, myseries.index))[150]
9.89 µs ± 79.7 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)

In [15]: %timeit v: k for k, v in myseries.items()[150]
9.99 µs ± 67 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)

@Jeff 的回答似乎是最快的 - 尽管它不处理重复。

更正:对不起,我错过了一个,@Alex Spangher 使用列表索引方法的解决方案是迄今为止最快的。

更新:添加了@EliadL 的答案。

希望这会有所帮助。

令人惊讶的是,如此简单的操作需要如此复杂的解决方案,而且许多解决方案如此缓慢。在某些情况下超过半毫秒才能找到一系列 25 中的值。

2022-02-18 更新

使用最新的 Pandas 版本和 Python 3.9 更新了所有计时。即使在较旧的计算机上,与之前的测试(版本 0.25.3)相比,所有时间都显着减少(10% 到 70%)。

另外:增加了两个使用字典的方法。

【讨论】:

谢谢。但是您不应该在 myindex 创建之后进行测量,因为它只需要创建一次吗? 您可能会争辩说,但这取决于需要多少次这样的查找。如果您要进行多次查找,则只值得创建myindex 系列。对于这个测试,我假设它只需要一次,并且总执行时间很重要。 今晚刚刚遇到了这个需求,并且在多个查找中对同一个索引对象使用 .get_lock() 似乎应该是最快的。我认为对答案的改进是为两者提供时间:包括索引创建,以及另一个仅在创建后查找的时间。 是的,好点。 @EliadL 也这么说。这取决于该系列有多少应用程序是静态的。如果系列中的任何值发生变化,您需要重建pd.Index(myseries)。为了公平起见,我假设原始系列可能自上次查找以来发生了变化。【参考方案9】:

另一种尚未提及的方法是 tolist 方法:

myseries.tolist().index(7)

应该返回正确的索引,假设值存在于系列中。

【讨论】:

@Alex Spangher 在 2014 年 9 月 17 日提出了类似的建议。看他的回答。我现在已经将两个版本都添加到了测试结果中。【参考方案10】:

这是我能找到的最原生且可扩展的方法:

>>> myindex = pd.Series(myseries.index, index=myseries)

>>> myindex[7]
3

>>> myindex[[7, 5, 7]]
7    3
5    4
7    3
dtype: int64

【讨论】:

【参考方案11】:

Pandas 有一个内置类 Index 和一个名为 get_loc 的函数。这个函数要么返回

index(元素索引) 切片(如果指定的数字是按顺序排列的) 数组(如果数字在多个索引处,则为布尔数组)

例子:

import pandas as pd

>>> mySer = pd.Series([1, 3, 8, 10, 13])
>>> pd.Index(mySer).get_loc(10)  # Returns index
3  # Index of 10 in series

>>> mySer = pd.Series([1, 3, 8, 10, 10, 10, 13])
>>> pd.Index(mySer).get_loc(10)  # Returns slice
slice(3, 6, None)  # 10 occurs at index 3 (included) to 6 (not included)


# If the data is not in sequence then it would return an array of bool's.
>>> mySer = pd.Series([1, 10, 3, 8, 10, 10, 10, 13, 10])
>>> pd.Index(mySer).get_loc(10)
array([False, True, False, False, True, True, False, True])

还有很多其他选择,但我发现它对我来说非常简单。

【讨论】:

以上是关于在熊猫系列中查找元素的索引的主要内容,如果未能解决你的问题,请参考以下文章

如何将日期和小时列合并到熊猫系列中的一个索引列中?

在列表的熊猫列中添加特定的列表元素[重复]

查找熊猫索引数据帧的最小值和最大值

自动查找列表项的索引,该列表项包含在每一行的特定 pandas 列中

从两个熊猫系列(csv的列作为DataFrame)创建元素字典

在熊猫数据框列中查找特定文本