Python 中的一些小技巧

Posted 2021-01-05 xyou

这里是本人收集的一些 Python 小技巧，目前主要是一些实用函数，适合有一定基础的童鞋观看（不会专门介绍使用到的标准库函数）。。

一、函数式编程

函数式编程用来处理数据，感觉很方便。（要是再配上管道操作符 | 或者 Java 的那种链式调用，超级爽！可惜 Python 都没有。。需要借助第三方库）

1. 分组/group

数据处理中一个常见的操作，是将列表中的元素，依次每 k 个分作一组。

def group_each(a, size: int):
    """
        将一个可迭代对象 a 内的元素, 每 size 个分为一组
        group_each([1,2,3,4], 2) -> [(1,2), (3,4)]
    """
    iterators = [iter(a)] * size  # 将新构造的 iterator 复制 size 次（浅复制）
    return zip(*iterators)  # 然后 zip

这个函数之前在 Python 拾遗 - 奇技淫巧 中就写过，记得是某次 Google 时在 stackoverflow 上发现的，不过它的最初来源应该是 Python 官方文档的某个角落。

顺便如果某个 size 比较常用（比如 2），还可以用 partial 封装一下

from functools import partial # 每两个分一组group_each_2 = partial(group_each, size=2)  # 等同于 group_each_2 = lambda a: group_each(a, 2)

2. 扁平版本的 map

稍微接触过函数式应该都知道 flat_map，可 Python 标准库却没有提供。下面是我在 stackoverflow 上找到的实现，其实很简单

from itertools import chaindef flat_map(f, items):
    return chain.from_iterable(map(f, items))

它和 map 的差别在于是不是扁平(flat) 的（废话。。），举个例子

>>> list(map(list, [‘123‘, ‘456‘]))
[[‘1‘, ‘2‘, ‘3‘], [‘4‘, ‘5‘, ‘6‘]]
>>> list(flat_map(list, [‘123‘, ‘456‘]))
[‘1‘, ‘2‘, ‘3‘, ‘4‘, ‘5‘, ‘6‘]

3. 上述函数的应用举例

在做爬虫工作时，有时会遇到这样的 table 元素：

对这种 html 元素，我一般会直接把它转换成 list，结果如下：

table = [[‘label1‘, ‘value1‘, ‘label2‘, ‘value2‘],
         [‘label3‘, ‘value3‘],
         [‘label4‘, ‘value4‘, ‘label5‘, ‘value5‘],
         ...
         ]

为了方便索引，现在我需要把上面的数据转换成下面这个样子的 dict

{    ‘label1‘: ‘value1‘,    ‘label2‘: ‘value2‘,    ‘label3‘: ‘value3‘,    ‘label4‘: ‘value4‘,    ‘label5‘: ‘value5‘}

如果是平常，大概需要写循环了。不过如果用刚刚说到的几个函数的话，会变得异常简单

 # 1. 分组groups = flat_map(group_each_2, table)# 1.1 flat_map 返回的是迭代器，list 后内容如下：# [(‘label1‘, ‘value1‘),#  (‘label2‘, ‘value2‘),#  (‘label3‘, ‘value3‘),#  (‘label4‘, ‘value4‘),#  (‘label5‘, ‘value5‘)]# 2. 转换成 dictkey_values = dict(groups)   # 得到的 key_values 与上面需要的 dict 别无二致。

相关模块

1. 迭代器：itertools

2. 高级数据结构：colletions

3. 函数式：functools 常和 opreator 一起用

这几个模块都和可迭代对象(列表、集合等)有关，熟悉了应该可以大大改善 Python 使用姿势。

二、其他

1. 多 dict 的去重

假设我们有一个 dict 的列表，里面可能有内容一模一样的 dict，我们需要对它做去重。叉车公司哪家好
容易想到的方法就是使用 set，可是 set 中的元素必须是 hashable 的，而 dict 是 unhashable 的，因此不能直接放进 set 里。

>>> a = [{‘a‘: 1}, {‘a‘: 1}, {‘b‘: 2}]>>> set(a)
Traceback (most recent call last):
  File "/usr/local/lib/python3.7/site-packages/IPython/core/interactiveshell.py", line 2961, in run_code
    exec(code_obj, self.user_global_ns, self.user_ns)
  File "<ipython-input-5-5b4c643a6feb>", line 1, in <module>
    set(a)TypeError: unhashable type: ‘dict‘

难道就必须手写递归了么？未必，我在 stackoverflow 看到这样一个小技巧

import jsondef unique_dicts(data_list: list):
    """unique a list of dict
        dict 是 unhashable 的，不能放入 set 中，所以先转换成 str
        
        unique_dicts([{‘a‘: 1}, {‘a‘: 1}, {‘b‘: 2}])  ->  [{‘a‘: 1}, {‘b‘: 2}]
    """
    data_json_set = set(json.dumps(item) for item in data_list)    return [json.loads(item) for item in data_json_set]

2. str 的 startswith 和 endswith 两个函数的参数可以是元组

In[7]: a = "bb.gif"In[8]: b = ‘a.jpg‘In[9]: a.endswith((‘.jpg‘, ‘.gif‘))Out[9]: TrueIn[10]: b.startswith((‘bb‘, ‘a‘))Out[10]: True