从字典中提取键值对的子集?

Posted

技术标签:

【中文标题】从字典中提取键值对的子集?【英文标题】:Extract subset of key-value pairs from dictionary? 【发布时间】:2011-07-18 04:13:12 【问题描述】:

我有一个大字典对象,它有几个键值对(大约 16 个),但我只对其中 3 个感兴趣。实现这一目标的最佳方式是什么(最短/高效/最优雅)?

我知道的最好的是:

bigdict = 'a':1,'b':2,....,'z':26 
subdict = 'l':bigdict['l'], 'm':bigdict['m'], 'n':bigdict['n']

我相信还有比这更优雅的方法。

【问题讨论】:

【参考方案1】:

你可以试试:

dict((k, bigdict[k]) for k in ('l', 'm', 'n'))

...或在 Python 3 Python 2.7 或更高版本中(感谢Fábio Diniz 指出它也适用于 2.7)

k: bigdict[k] for k in ('l', 'm', 'n')

更新:正如Håvard S 指出的那样,我假设您知道键将在字典中 - 如果您无法做出该假设,请参阅his answer。或者,正如 timbo 在 cmets 中指出的那样,如果您希望将 bigdict 中缺少的密钥映射到 None,您可以这样做:

k: bigdict.get(k, None) for k in ('l', 'm', 'n')

如果您使用的是 Python 3,并且您希望新字典中的键实际存在于原始字典中,则可以使用该事实来查看对象实现一些集合操作:

k: bigdict[k] for k in bigdict.keys() & 'l', 'm', 'n'

【讨论】:

如果bigdict不包含k会失败 k: bigdict.get(k,None) for k in ('l', 'm', 'n') 将通过将新dict中的key设置为None来处理源字典中缺少指定键的情况 @MarkLongair 取决于用例 k: bigdict[k] for k in ('l','m','n') if k in bigdict 可能会更好,因为它只是存储实际具有值的键。 bigdict.keys() & 'l', 'm', 'n' ==> bigdict.viewkeys() & 'l', 'm', 'n' for Python2.7 最后一个解决方案很好,因为您只需将“&”替换为- 即可获得“所有键除外”操作。不幸的是,这会导致字典的键顺序不同(即使在 python 3.7 和 3.8 中)【参考方案2】:

至少短一点:

wanted_keys = ['l', 'm', 'n'] # The keys you want
dict((k, bigdict[k]) for k in wanted_keys if k in bigdict)

【讨论】:

+1 用于排除键的替代行为,如果它不在 bigdict 中,而不是将其设置为 None。 或者:dict((k,bigdict.get(k,defaultVal) for k in wanted_keys) 如果您必须拥有所有密钥。 这个答案由一个“t”保存。 在使用 时,您的解决方案还有一个更短的变体(语法),即k: bigdict[k] for k in wanted_keys if k in bigdict【参考方案3】:
interesting_keys = ('l', 'm', 'n')
subdict = x: bigdict[x] for x in interesting_keys if x in bigdict

【讨论】:

@loutre 您还建议如何确保提取给定键的所有数据? sry 我犯了一个错误。我以为你在循环播放“bigdict”。我的错。我删除我的评论【参考方案4】:

所有提到的方法的速度比较:

2020.07.13 更新(感谢@user3780389): 仅适用于来自 bigdict 的键。

 IPython 5.5.0 -- An enhanced Interactive Python.
Python 2.7.18 (default, Aug  8 2019, 00:00:00) 
[GCC 7.3.1 20180303 (Red Hat 7.3.1-5)] on linux2
import numpy.random as nprnd
  ...: keys = nprnd.randint(100000, size=10000)
  ...: bigdict = dict([(_, nprnd.rand()) for _ in range(100000)])
  ...: 
  ...: %timeit key:bigdict[key] for key in keys
  ...: %timeit dict((key, bigdict[key]) for key in keys)
  ...: %timeit dict(map(lambda k: (k, bigdict[k]), keys))
  ...: %timeit key:bigdict[key] for key in set(keys) & set(bigdict.keys())
  ...: %timeit dict(filter(lambda i:i[0] in keys, bigdict.items()))
  ...: %timeit key:value for key, value in bigdict.items() if key in keys
100 loops, best of 3: 2.36 ms per loop
100 loops, best of 3: 2.87 ms per loop
100 loops, best of 3: 3.65 ms per loop
100 loops, best of 3: 7.14 ms per loop
1 loop, best of 3: 577 ms per loop
1 loop, best of 3: 563 ms per loop

正如预期的那样:字典推导是最好的选择。

【讨论】:

前 3 个操作与后两个操作不同,如果 keybigdict 中不存在,则会导致错误。 不错。也许值得从accepted solution 添加key:bigdict[key] for key in bigdict.keys() & keys,它完成了过滤,同时实际上(在我的机器上)比你列出的第一个不过滤的方法更快。事实上,key:bigdict[key] for key in set(keys) & set(bigdict.keys()) 对于这些非常大的密钥集似乎更快...... @telchert 你错过了,在速度比较中 bigdict.keys() 和键没有设置。并且显式转换为接受的解决方案并没有那么快。【参考方案5】:

此答案使用类似于所选答案的字典理解,但除了缺少的项目外不会。

python 2 版本:

k:v for k, v in bigDict.iteritems() if k in ('l', 'm', 'n')

python 3 版本:

k:v for k, v in bigDict.items() if k in ('l', 'm', 'n')

【讨论】:

...但是如果大字典是巨大的,它仍然会被完全迭代(这是一个 O(n) 操作),而逆只会抓取 3 个项目(每个 O(1 ) 操作)。 问题是关于只有 16 个键的字典【参考方案6】:

也许:

subdict=dict([(x,bigdict[x]) for x in ['l', 'm', 'n']])

Python 3 甚至支持以下内容:

subdict=a:bigdict[a] for a in ['l','m','n']

请注意,您可以按如下方式检查字典中是否存在:

subdict=dict([(x,bigdict[x]) for x in ['l', 'm', 'n'] if x in bigdict])

分别。对于python 3

subdict=a:bigdict[a] for a in ['l','m','n'] if a in bigdict

【讨论】:

如果a 不在bigdict 中则失败 据说只能在python 3中使用的东西,在2.7中也可以使用【参考方案7】:

您也可以使用map(无论如何,这是一个非常有用的功能):

sd = dict(map(lambda k: (k, l.get(k, None)), l))

例子:

large_dictionary = 'a1':123, 'a2':45, 'a3':344
list_of_keys = ['a1', 'a3']
small_dictionary = dict(map(lambda key: (key, large_dictionary.get(key, None)), list_of_keys))

PS:我从上一个答案中借用了.get(key, None) :)

【讨论】:

【参考方案8】:

好的,这件事困扰了我好几次,所以谢谢 Jayesh 的提问。

上面的答案似乎是一个很好的解决方案,但是如果您在整个代码中都使用它,那么包装功能恕我直言是有意义的。此外,这里有两种可能的用例:一种是您关心是否所有关键字都在原始字典中。和一个你不知道的地方。平等对待两者会很好。

所以,为了我的二分之一的价值,我建议写一个字典的子类,例如

class my_dict(dict):
    def subdict(self, keywords, fragile=False):
        d = 
        for k in keywords:
            try:
                d[k] = self[k]
            except KeyError:
                if fragile:
                    raise
        return d

现在你可以用

拉出一个子词典
orig_dict.subdict(keywords)

用法示例:

#
## our keywords are letters of the alphabet
keywords = 'abcdefghijklmnopqrstuvwxyz'
#
## our dictionary maps letters to their index
d = my_dict([(k,i) for i,k in enumerate(keywords)])
print('Original dictionary:\n%r\n\n' % (d,))
#
## constructing a sub-dictionary with good keywords
oddkeywords = keywords[::2]
subd = d.subdict(oddkeywords)
print('Dictionary from odd numbered keys:\n%r\n\n' % (subd,))
#
## constructing a sub-dictionary with mixture of good and bad keywords
somebadkeywords = keywords[1::2] + 'A'
try:
    subd2 = d.subdict(somebadkeywords)
    print("We shouldn't see this message")
except KeyError:
    print("subd2 construction fails:")
    print("\toriginal dictionary doesn't contain some keys\n\n")
#
## Trying again with fragile set to false
try:
    subd3 = d.subdict(somebadkeywords, fragile=False)
    print('Dictionary constructed using some bad keys:\n%r\n\n' % (subd3,))
except KeyError:
    print("We shouldn't see this message")

如果您运行上述所有代码,您应该会看到(类似于)以下输出(抱歉格式化):

原版词典: 'a':0,'c':2,'b':1,'e':4,'d':3,'g':6,'f':5, 'i':8,'h':7,'k':10,'j':9,'m':12,'l':11,'o':14, 'n':13,'q':16,'p':15,'s':18,'r':17,'u':20, 't': 19, 'w': 22, 'v': 21, 'y': 24, 'x': 23, 'z': 25

奇数键的字典: 'a':0,'c':2,'e':4,'g':6,'i':8,'k':10,'m':12,'o':14,' q': 16, 's': 18, 'u': 20, 'w': 22, 'y': 24

subd2 构造失败: 原始字典不包含某些键

使用一些坏键构造的字典: 'b':1,'d':3,'f':5,'h':7,'j':9,'l':11,'n':13,'p':15,' r': 17, 't': 19, 'v': 21, 'x': 23, 'z': 25

【讨论】:

子类化需要将现有的 dict 对象转换为子类类型,这可能很昂贵。为什么不直接写一个简单的函数subdict(orig_dict, keys, …) @musiphil:我怀疑开销有很大差异。子类化的好处是方法是类的一部分,不需要导入或内联。此答案中代码的唯一潜在问题或限制是结果 not 类型为 my_dict【参考方案9】:

如果您想保留大部分键同时删除一些键,另一种方法是:

k: bigdict[k] for k in bigdict.keys() if k not in ['l', 'm', 'n']

【讨论】:

更短:k: v for k, v in bigdict.items() if k not in ['l', 'm', 'n']【参考方案10】:

还有一个(我更喜欢 Mark Longair 的回答)

di = 'a':1,'b':2,'c':3
req = ['a','c','w']
dict([i for i in di.iteritems() if i[0] in di and i[0] in req])

【讨论】:

bigdict 的速度很慢【参考方案11】:

解决方案

from operator import itemgetter
from typing import List, Dict, Union


def subdict(d: Union[Dict, List], columns: List[str]) -> Union[Dict, List[Dict]]:
    """Return a dict or list of dicts with subset of 
    columns from the d argument.
    """
    getter = itemgetter(*columns)

    if isinstance(d, list):
        result = []
        for subset in map(getter, d):
            record = dict(zip(columns, subset))
            result.append(record)
        return result
    elif isinstance(d, dict):
        return dict(zip(columns, getter(d)))

    raise ValueError('Unsupported type for `d`')

使用示例

# pure dict

d = dict(a=1, b=2, c=3)
print(subdict(d, ['a', 'c']))

>>> In [5]: 'a': 1, 'c': 3
# list of dicts

d = [
    dict(a=1, b=2, c=3),
    dict(a=2, b=4, c=6),
    dict(a=4, b=8, c=12),
]

print(subdict(d, ['a', 'c']))

>>> In [5]: ['a': 1, 'c': 3, 'a': 2, 'c': 6, 'a': 4, 'c': 12]

【讨论】:

【参考方案12】:

使用地图(halfdanrump 的回答)对我来说是最好的,虽然还没有计时......

但是,如果你要一本字典,并且你有一个 big_dict:

    绝对确定您遍历了 req.这是至关重要的,并且会影响算法的运行时间(大 O,theta,你的名字) 写得足够通用以避免在没有键时出错。

例如:

big_dict = 'a':1,'b':2,'c':3,................................................
req = ['a','c','w']

k:big_dict.get(k,None) for k in req )
# or 
k:big_dict[k] for k in req if k in big_dict)

注意,在相反的情况下,req 很大,但 my_dict 很小,你应该循环通过 my_dict 来代替。

一般来说,我们在做一个交集和the complexity of the problem is O(min(len(dict)),min(len(req)))。 Python 的own implementation of intersection 考虑了这两个集合的大小,因此看起来是最优的。此外,在 c 和核心库的一部分中,可能比大多数未优化的 python 语句更快。 因此,我会考虑的解决方案是:

dict = 'a':1,'b':2,'c':3,................................................
req = ['a','c','w',...................]

k:dic[k] for k in set(req).intersection(dict.keys())

它将关键操作移动到python的c代码中,适用于所有情况。

【讨论】:

【参考方案13】:

如果有人在不知道键的情况下想要字典的前几项n

n = 5 # First Five Items
ks = [*dikt.keys()][:n]
less_dikt = i: dikt[i] for i in ks

【讨论】:

以上是关于从字典中提取键值对的子集?的主要内容,如果未能解决你的问题,请参考以下文章

从给定键值对的字典数组中过滤 NSDictionary

从包含键值对的字符串中获取python字典

Python字典键值对的添加和遍历

反转字典中键值对的顺序(Python)[重复]

如何从字典列表中向现有键值对添加新的键值对?

python字典中键值对的值为中文,打印成转义字符,怎么解决