day4-装饰器和模块导入

Posted 2020-08-31 汉克书

一、什么是装饰器

器即函数

装饰即修饰，意指为其他函数添加新功能

装饰器定义：本质就是函数，功能是为其他函数添加新功能

二、装饰器需要遵循的原则

1.不修改被装饰函数的源代码（开放封闭原则）

2.为被装饰函数添加新功能后，不修改被修饰函数的调用方式

三、实现装饰器知识储备

装饰器=高阶函数+函数嵌套+闭包

四、高阶函数

高阶函数定义:
1.函数接收的参数是一个函数名

2.函数的返回值是一个函数名

3.满足上述条件任意一个,都可称之为高阶函数

  1 def name_code():
  2     print("My name is Aige!")
  3 def age_code():
  4     print("My age is 22")
  5 def property_code(func,func2):
  6     func()
  7     func2()
  8 property_code(name_code,age_code)

高阶函数之函数接收函数

  1 import time
  2 def name_code():
  3     print("My name is Aige")
  4 def name(func):
  5     start_time = time.time()
  6     print("----------")
  7     return func
  8     print("-----------")
  9 f=name(name_code)
 10 f()

高阶函数之返回函数名

高阶函数总结
1.函数接收的参数是一个函数名
　　作用:在不修改函数源代码的前提下,为函数添加新功能,
　　不足:会改变函数的调用方式
2.函数的返回值是一个函数名
　　作用:不修改函数的调用方式
　　不足:不能添加新功能

五、函数的嵌套

  1 def msg():
  2     print("第一层")
  3     def num2():
  4         print("第二层")
  5         def num3():
  6             print("第三层")
  7         return num3()
  8     return num2()
  9 msg()

六、闭包函数

  1 def func():
  2     def bibao():
  3         print("这个是闭包函数体")
  4     return bibao
  5 
  6 f=func()
  7 f()

七、装饰器

  1 import time
  2 
  3 def timer(func):
  4     def wrapper(*args,**kwargs):
  5         start_time = time.time()
  6         func(*args,**kwargs)
  7         stop_time = time.time()
  8         print("This func use time is %s" %(start_time-stop_time))
  9     return wrapper
 10 @timer
 11 def print_name(name):
 12     print("My name is %s" %name)
 13 
 14 
 15 print_name("Aige")

无参装饰器

  1 import time
  2 
  3 def time_deco(time_type="test"):
  4     if time_type == "test":
  5         def timer(func):
  6             def wrapper(*args,**kwargs):
  7                 start_time = time.time()
  8                 func(*args,**kwargs)
  9                 stop_time = time.time()
 10                 print("This func use time is %s" %(start_time-stop_time))
 11             return wrapper
 12         return timer
 13     else:
 14         def timer(func):
 15             def wrapper(*args,**kwargs):
 16                 print("就是测试一下而已")
 17             return wrapper
 18         return timer
 19 
 20 
 21 @time_deco("bingo")
 22 def print_name(name):
 23     print("My name is %s" %name)
 24 
 25 
 26 print_name("Aige")

有参装饰器

  1 import time,functools           #注释就是原本函数的内容了
  2 def timer(func):
  3     @functools.wraps(func)
  4     def wrapper(*args,**kwargs):
  5         \'\'\'
  6         wrapper func
  7         :param args:
  8         :param kwargs:
  9         :return:
 10         \'\'\'
 11         start_time=time.time()
 12         res=func(*args,**kwargs)
 13         stop_time = time.time()
 14         print(\'run time is %s\' %(stop_time-start_time))
 15         return res
 16     return wrapper
 17 
 18 @timer #index=timer(index)
 19 def index(msg):
 20     \'\'\'
 21     index func
 22     :param msg:
 23     :return:
 24     \'\'\'
 25     print(\'in the index: \',msg)
 26     return 1
 27 print(help(index))

装饰器小知识点

八、模块的导入

1 什么是模块？

    一个模块就是一个包含了python定义和声明的文件，文件名就是模块名字加上.py的后缀。

2 为何要使用模块？

    如果你退出python解释器然后重新进入，那么你之前定义的函数或者变量都将丢失，因此我们通常将程序写到文件中以便永久保存下来，需要时就通过python test.py方式去执行，此时test.py被称为脚本script。

    随着程序的发展，功能越来越多，为了方便管理，我们通常将程序分成一个个的文件，这样做程序的结构更清晰，方便管理。这时我们不仅仅可以把这些文件当做脚本去执行，还可以把他们当做模块来导入到其他的模块中，实现了功能的重复利用，

3.如何使用模块？

3.1

  1 #module_test模块
  2 num = 10
  3 def read_1(n):
  4     print("num %s" %n)
  5 def read_2():
  6     print("接下来打印read_1")
  7     read_1(num)
  8 def change():
  9     global num
 10     num =90
 11 

module_test.py

  1 num = 99
  2 import module_test
  3 
  4 module_test.read_1(num)
  5 print(num)
  6 module_test.read_2()
  7 module_test.change()
  8 print("经过change函数洗礼过的：num",num)
  9 
 10 #执行结果
 11 \'\'\'
 12 num 99
 13 99
 14 接下来打印read_1
 15 num 10
 16 经过change函数洗礼过的：num 99
 17 \'\'\'

模块导入

3.2总结：

1.为源文件(module_test模块)创建新的名称空间，在module_test中定义的函数和方法若是使用到了global时访问的就是这个名称空间。

2.在新创建的命名空间中执行模块中包含的代码，见初始导入import module_test

  1 提示:导入模块时到底执行了什么？
  2 2
  3 In fact function definitions are also ‘statements’ that are ‘executed’; the execution of a module-level function definition enters the function name in the module’s global symbol table.
  4 事实上函数定义也是“被执行”的语句，模块级别函数定义的执行将函数名放入模块全局名称空间表，用globals()可以查看

3.创建名字module_test来引用该命名空间

  1  这个名字和变量名没什么区别，都是‘第一类的’，且使用spam.名字的方式可以访问spam.py文件中定义的名字，spam.名字与test.py中的名字来自两个完全不同的地方。

3.1.4 为模块名起别名，相当于m1=1;m2=m1

  1 import module_test as sm
  2 print(sm.money)

  为已经导入的模块起别名的方式对编写可扩展的代码很有用，假设有两个模块xmlreader.py和csvreader.py，它们都定义了函数read_data(filename):用来从文件中读取一些数据，但采用不同的输入格式。可以编写代码来选择性地挑选读取模块，例如

  1 if file_format == \'xml\':
  2     import xmlreader as reader
  3 elif file_format == \'csv\':
  4     import csvreader as reader
  5 data=reader.read_date(filename)

3.1.5 在一行导入多个模块

  1 import sys,os,re

3.2 from…import…

3.2.1 对比import module_test，会将源文件的名称空间\'module_test\'带到当前名称空间中，使用时必须是module_test.名字的方式

而from 语句相当于import，也会创建新的名称空间，但是将module_test中的名字直接导入到当前的名称空间中，在当前名称空间中，直接使用名字就可以了、

  1 from spam import read_1,read_2

这样在当前位置直接使用read_1和read_2就好了，执行时，仍然以module_test.py文件全局名称空间

  1 #测试一
  2 
  3 from module_test import read_1
  4 num = 10
  5 read_1(num)
  6 
  7 \'\'\'
  8 运行结果
  9 num 10
 10 \'\'\'
 11 
 12 #测试二
 13 
 14 from module_test import read_1,read_2
 15 num = 10
 16 def read_1():
 17     print("=============")
 18 read_1()
 19 read_2()
 20 
 21 \'\'\'
 22 运行结果
 23 \'\'\'
 24 

模块导入

3.2.2支持as别名

  1 from module import read_1 as read

3,2,3支持导入多行

  1 from spam import (read1,
  2                   read2,
  3                   money)

3.2.4 from spam import * 把spam中所有的不是以下划线(_)开头的名字都导入到当前位置，大部分情况下我们的python程序不应该使用这种导入方式，因为*你不知道你导入什么名字，很有可能会覆盖掉你之前已经定义的名字。而且可读性极其的差，在交互式环境中导入时没有问题。

  1 from module_test import *
  2 print(num)
  3 print(read_1)
  4 print(read_2)
  5 print(change)
  6 
  7 \'\'\'
  8 执行结果：
  9 10
 10 <function read_1 at 0x00000207DCA408C8>
 11 <function read_2 at 0x00000207DCA40840>
 12 <function change at 0x00000207DCA40950>
 13 \'\'\'

可以使用__all__来控制*（用来发布新版本）

在spam.py中新增一行

  1 __all__=[\'money\',\'read1\'] #这样在另外一个文件中用from spam import *就这能导入列表中规定的两个名字

3.2.5 考虑到性能的原因，每个模块只被导入一次,放入字典sys.module中，如果你改变了模块的内容，你必须重启程序，python不支持重新加载或卸载之前导入的模块，

有的同学可能会想到直接从sys.module中删除一个模块不就可以卸载了吗，注意了，你删了sys.module中的模块对象仍然可能被其他程序的组件所引用，因而不会被清楚。

特别的对于我们引用了这个模块中的一个类，用这个类产生了很多对象，因而这些对象都有关于这个模块的引用。

如果只是你想交互测试的一个模块，使用 importlib.reload(), e.g. import importlib; importlib.reload(modulename)，这只能用于测试环境。

  1 def func1():
  2     print(\'func1\')

  1 import time,importlib
  2 import aa
  3 
  4 time.sleep(20)
  5 # importlib.reload(aa)
  6 aa.func1()

在20秒的等待时间里，修改aa.py中func1的内容，等待test.py的结果。

打开importlib注释，重新测试

 

3.3 把模块当做脚本执行

我们可以通过模块的全局变量__name__来查看模块名：
当做脚本运行：
__name__ 等于\'__main__\'

当做模块导入：
__name__=

作用：用来控制.py文件在不同的应用场景下执行不同的逻辑
if __name__ == \'__main__\':

  1 #fib.py
  2 
  3 def fib(n):    # write Fibonacci series up to n
  4     a, b = 0, 1
  5     while b < n:
  6         print(b, end=\' \')
  7         a, b = b, a+b
  8     print()
  9 
 10 def fib2(n):   # return Fibonacci series up to n
 11     result = []
 12     a, b = 0, 1
 13     while b < n:
 14         result.append(b)
 15         a, b = b, a+b
 16     return result
 17 
 18 if __name__ == "__main__":
 19     import sys
 20     fib(int(sys.argv[1]))

view code

执行

  1 #python fib.py <arguments>
  2 python fib.py 50 #在命令行

view code

3.4 模块搜索路径

当模块spam被导入时，解释器首先查找同名的内建模块，如果不存在，
就从一个由变量sys.path给出的目录列表中依次寻找spam.py文件。sys.path的初始化的值来自于：
The directory containing the input script (or the current directory when no file is specified).
PYTHONPATH (a list of directory names, with the same syntax as the shell variable PATH).
The installation-dependent default.

需要特别注意的是：我们自定义的模块名不应该与系统内置模块重名。虽然每次都说，但是仍然会有人不停的犯错。 

在初始化后，python程序可以修改sys.path,路径放到前面的优先于标准库被加载。

  1 >>> import sys
  2 >>> sys.path.append(\'/a/b/c/d\')
  3 >>> sys.path.insert(0,\'/x/y/z\') #排在前的目录，优先被搜索

view code

注意：搜索时按照sys.path中从左到右的顺序查找，位于前的优先被查找，sys.path中还可能包含.zip归档文件和.egg文件，python会把.zip归档文件当成一个目录去处理，

  1 #首先制作归档文件：zip module.zip foo.py bar.py
  2 
  3 import sys
  4 sys.path.append(\'module.zip\')
  5 import foo,bar
  6 
  7 #也可以使用zip中目录结构的具体位置
  8 sys.path.append(\'module.zip/lib/python\')

view code

至于.egg文件是由setuptools创建的包，这是按照第三方python库和扩展时使用的一种常见格式，.egg文件实际上只是添加了额外元数据(如版本号，依赖项等)的.zip文件。

需要强调的一点是：只能从.zip文件中导入.py，.pyc等文件。使用C编写的共享库和扩展块无法直接从.zip文件中加载（此时setuptools等打包系统有时能提供一种规避方法），且从.zip中加载文件不会创建.pyc或者.pyo文件，因此一定要事先创建他们，来避免加载模块是性能下降。

3.5 编译python文件

为了提高模块的加载速度，Python缓存编译的版本，每个模块在__pycache__目录的以module.version.pyc的形式命名，通常包含了python的版本号，如在CPython版本3.3，关于spam.py的编译版本将被缓存成__pycache__/spam.cpython-33.pyc，这种命名约定允许不同的版本，不同版本的Python编写模块共存。

Python检查源文件的修改时间与编译的版本进行对比，如果过期就需要重新编译。这是完全自动的过程。并且编译的模块是平台独立的，所以相同的库可以在不同的架构的系统之间共享，即pyc使一种跨平台的字节码，类似于JAVA火.NET,是由python虚拟机来执行的，但是pyc的内容跟python的版本相关，不同的版本编译后的pyc文件不同，2.5编译的pyc文件不能到3.5上执行，并且pyc文件是可以反编译的，因而它的出现仅仅是用来提升模块的加载速度的。

提示：

1.模块名区分大小写，foo.py与FOO.py代表的是两个模块

2.你可以使用-O或者-OO转换python命令来减少编译模块的大小

  1 -O转换会帮你去掉assert语句
  2 -OO转换会帮你去掉assert语句和__doc__文档字符串
  3 由于一些程序可能依赖于assert语句或文档字符串，你应该在在确认需要的情况下使用这些选项。

3.在速度上从.pyc文件中读指令来执行不会比从.py文件中读指令执行更快，只有在模块被加载时，.pyc文件才是更快的

4.只有使用import语句是才将文件自动编译为.pyc文件，在命令行或标准输入中指定运行脚本则不会生成这类文件，因而我们可以使用compieall模块为一个目录中的所有模块创建.pyc文件

  1 1 模块可以作为一个脚本（使用python -m compileall）编译Python源
  2 2
  3 3 python -m compileall /module_directory 递归着编译
  4 4 如果使用python -O -m compileall /module_directory -l则只一层
  5 5
  6 6 命令行里使用compile()函数时，自动使用python -O -m compileall
  7 7
  8 8 详见：https://docs.python.org/3/library/compileall.html#module-compileall

3.6  标准模块

python提供了一个标准模块库，一些模块被内置到解释器中，这些提供了不属于语言核心部分的操作的访问，但它们是内置的，无论是为了效率还是提供对操作系统原语的访问。这些模块集合是依赖于底层平台的配置项，如winreg模块只能用于windows系统。特别需要注意的是，sys模块内建在每一个python解释器

sys.ps1
sys.ps2
这俩只在命令行有效，得出的结果，标识了解释器是在交互式模式下。

变量sys.path是一个决定了模块搜索路径的字符串列表，它从环境变量PYTHONOATH中初始化默认路径，如果PYTHONPATH没有设置则从内建中初始化值，我们可以修改它
sys.path.append

  1 import os
  2 os.path.normpath(path)  #规范化路径，转换path的大小写和斜杠
  3 
  4 a=\'/Users/jieli/test1/\\\\\\a1/\\\\\\\\aa.py/../..\'
  5 print(os.path.normpath(a))
  6 \'\'\'
  7 打印结果：
  8 \\Users\\jieli\\test1
  9 \'\'\'
 10 
 11 
 12 #具体应用
 13 import os,sys
 14 possible_topdir = os.path.normpath(os.path.join(
 15     os.path.abspath(__file__),
 16     os.pardir, #上一级
 17     os.pardir,
 18     os.pardir
 19 ))
 20 sys.path.insert(0,possible_topdir)

os一种好的处理路径方式

3.7  dir()函数

内建函数dir是用来查找模块中定义的名字，返回一个有序字符串列表
import spam
dir(spam)

如果没有参数,dir()列举出当前定义的名字

dir()不会列举出内建函数或者变量的名字，它们都被定义到了标准模块builtin中，可以列举出它们，
import builtins
dir(builtins)

九、包

Packages are a way of structuring Python’s module namespace by using “dotted module names”
包是一种通过使用‘.模块名’来组织python模块名称空间的方式。

无论是import形式还是from...import形式，凡是在导入语句中（而不是在使用时）遇到带点的，都要第一时间提高警觉：这是关于包才有的导入语法

包的本质就是一个包含__init__.py文件的目录。
包A和包B下有同名模块也不会冲突，如A.a与B.a来自俩个命名空间

  1 glance/                   #Top-level package
  2 
  3 ├── __init__.py      #Initialize the glance package
  4 
  5 ├── api                  #Subpackage for api
  6 
  7 │   ├── __init__.py
  8 
  9 │   ├── policy.py
 10 
 11 │   └── versions.py
 12 
 13 ├── cmd                #Subpackage for cmd
 14 
 15 │   ├── __init__.py
 16 
 17 │   └── manage.py
 18 
 19 └── db                  #Subpackage for db
 20 
 21     ├── __init__.py
 22 
 23     └── models.py

glance

  1 #文件内容
  2 
  3 #policy.py
  4 def get():
  5     print(\'from policy.py\')
  6 
  7 #versions.py
  8 def create_resource(conf):
  9     print(\'from version.py: \',conf)
 10 
 11 #manage.py
 12 def main():
 13     print(\'from manage.py\')
 14 
 15 #models.py
 16 def register_models(engine):
 17     print(\'from models.py: \',engine)

glance

2.1 注意事项

1.关于包相关的导入语句也分为import和from ... import ...两种，但是无论哪种，无论在什么位置，在导入时都必须遵循一个原则：凡是在导入时带点的，点的左边都必须是一个包，否则非法。可以带有一连串的点，如item.subitem.subsubitem,但都必须遵循这个原则。

2.对于导入后，在使用时就没有这种限制了，点的左边可以是包,模块，函数，类(它们都可以用点的方式调用自己的属性)。

3.对比import item 和from item import name的应用场景：
如果我们想直接使用name那必须使用后者。

2.2 import

我们在与包glance同级别的文件中测试

  1 import glance.db.models
  2 glance.db.models.register_models(\'mysql\')

glance

2.3 from ... import ...

需要注意的是from后import导入的模块，必须是明确的一个不能带点，否则会有语法错误，如：from a import b.c是错误语法

我们在与包glance同级别的文件中测试

  1 from glance.db import models
  2 models.register_models(\'mysql\')
  3 
  4 from glance.db.models import register_models
  5 register_models(\'mysql\')

glance

2.4 __init__.py文件

不管是哪种方式，只要是第一次导入包或者是包的任何其他部分，都会依次执行包下的__init__.py文件(我们可以在每个包的文件内都打印一行内容来验证一下)，这个文件可以为空，但是也可以存放一些初始化包的代码。

2.5  from glance.api import *

在讲模块时，我们已经讨论过了从一个模块内导入所有*，此处我们研究从一个包导入所有*。

此处是想从包api中导入所有，实际上该语句只会导入包api下__init__.py文件中定义的名字，我们可以在这个文件中定义__all___:

  1 #在__init__.py中定义
  2 x=10
  3 
  4 def func():
  5     print(\'from api.__init.py\')
  6 
  7 __all__=[\'x\',\'func\',\'policy\']

此时我们在于glance同级的文件中执行from glance.api import *就导入__all__中的内容（versions仍然不能导入）。

2.6 绝对导入和相对导入

我们的最顶级包glance是写给别人用的，然后在glance包内部也会有彼此之间互相导入的需求，这时候就有绝对导入和相对导入两种方式：

绝对导入：以glance作为起始

相对导入：用.或者..的方式最为起始（只能在一个包中使用，不能用于不同目录内）

例如：我们在glance/api/version.py中想要导入glance/cmd/manage.py

  1 在glance/api/version.py
  2 
  3 #绝对导入
  4 from glance.cmd import manage
  5 manage.main()
  6 
  7 #相对导入
  8 from ..cmd import manage
  9 manage.main()

测试结果：注意一定要在于glance同级的文件中测试

  1 from glance.api import versions

注意：在使用pycharm时，有的情况会为你多做一些事情，这是软件相关的东西，会影响你对模块导入的理解，因而在测试时，一定要回到命令行去执行，模拟我们生产环境，你总不能拿着pycharm去上线代码吧！！！

特别需要注意的是：可以用import导入内置或者第三方模块，但是要绝对避免使用import来导入自定义包的子模块，应该使用from... import ...的绝对或者相对导入,且包的相对导入只能用from的形式。

比如我们想在glance/api/versions.py中导入glance/api/policy.py，有的同学一抽这俩模块是在同一个目录下，十分开心的就去做了，它直接这么做

  1 #在version.py中
  2 
  3 import policy
  4 policy.get()

没错，我们单独运行version.py是一点问题没有的，运行version.py的路径搜索就是从当前路径开始的，于是在导入policy时能在当前目录下找到

但是你想啊，你子包中的模块version.py极有可能是被一个glance包同一级别的其他文件导入，比如我们在于glance同级下的一个test.py文件中导入version.py，如下

  1 from glance.api import versions
  2 
  3 \'\'\'
  4 执行结果:
  5 ImportError: No module named \'policy\'
  6 \'\'\'
  7 
  8 \'\'\'
  9 分析:
 10 此时我们导入versions在versions.py中执行
 11 import policy需要找从sys.path也就是从当前目录找policy.py,
 12 这必然是找不到的
 13 \'\'\'

2.7 单独导入包

  1 #在与glance同级的test.py中
  2 import glance
  3 glance.cmd.manage.main()
  4 
  5 \'\'\'
  6 执行结果：
  7 AttributeError: module \'glance\' has no attribute \'cmd\'
  8 
  9 \'\'\'

解决方法：

 

  1 #glance/__init__.py
  2 from . import cmd
  3 
  4 #glance/cmd/__init__.py
  5 from . import manage

执行：

  1 #在于glance同级的test.py中
  2 import glance
  3 glance.cmd.manage.main()

千万别问：__all__不能解决吗，__all__是用于控制from...import * ，fuck