16常用模块

Posted 2020-09-21

一、时间模块

在Python中，通常有这几种方式来表示时间：

• 时间戳(timestamp)：通常来说，时间戳表示的是从1970年1月1日00:00:00开始按秒计算的偏移量。我们运行“type(time.time())”，返回的是float类型。
• 格式化的时间字符串(Format String)
• 结构化的时间(struct_time)：struct_time元组共有9个元素共九个元素:(年，月，日，时，分，秒，一年中第几周，一年中第几天，夏令时)

1 import time
2 #--------------------------我们先以当前时间为准,让大家快速认识三种形式的时间
3 print(time.time()) # 时间戳:1487130156.419527
4 print(time.strftime("%Y-%m-%d %X")) #格式化的时间字符串:‘2017-02-15 11:40:53‘
5 
6 print(time.localtime()) #本地时区的struct_time
7 print(time.gmtime())    #UTC时区的struct_time

 1 import time
 2 #时间戳
 3 # print(time.time())
 4 
 5 #结构化的时间
 6 # print(time.localtime())
 7 # print(time.localtime().tm_year)
 8 # print(time.gmtime())
 9 
10 #格式化的字符串
11 # print(time.strftime(‘%Y-%m-%d %H:%M:%S‘))
12 # print(time.strftime(‘%Y-%m-%d %X‘))

 1 #--------------------------按图1转换时间
 2 # localtime([secs])
 3 # 将一个时间戳转换为当前时区的struct_time。secs参数未提供，则以当前时间为准。
 4 time.localtime()
 5 time.localtime(1473525444.037215)
 6 
 7 # gmtime([secs]) 和localtime()方法类似，gmtime()方法是将一个时间戳转换为UTC时区（0时区）的struct_time。
 8 
 9 # mktime(t) : 将一个struct_time转化为时间戳。
10 print(time.mktime(time.localtime()))#1473525749.0
11 
12 
13 # strftime(format[, t]) : 把一个代表时间的元组或者struct_time（如由time.localtime()和
14 # time.gmtime()返回）转化为格式化的时间字符串。如果t未指定，将传入time.localtime()。如果元组中任何一个
15 # 元素越界，ValueError的错误将会被抛出。
16 print(time.strftime("%Y-%m-%d %X", time.localtime()))#2016-09-11 00:49:56
17 
18 # time.strptime(string[, format])
19 # 把一个格式化时间字符串转化为struct_time。实际上它和strftime()是逆操作。
20 print(time.strptime(‘2011-05-05 16:37:06‘, ‘%Y-%m-%d %X‘))
21 #time.struct_time(tm_year=2011, tm_mon=5, tm_mday=5, tm_hour=16, tm_min=37, tm_sec=6,
22 #  tm_wday=3, tm_yday=125, tm_isdst=-1)
23 #在这个函数中，format默认为："%a %b %d %H:%M:%S %Y"。

 

1 #--------------------------按图2转换时间
2 # asctime([t]) : 把一个表示时间的元组或者struct_time表示为这种形式：‘Sun Jun 20 23:21:05 1993‘。
3 # 如果没有参数，将会将time.localtime()作为参数传入。
4 print(time.asctime())#Sun Sep 11 00:43:43 2016
5 
6 # ctime([secs]) : 把一个时间戳（按秒计算的浮点数）转化为time.asctime()的形式。如果参数未给或者为
7 # None的时候，将会默认time.time()为参数。它的作用相当于time.asctime(time.localtime(secs))。
8 print(time.ctime())  # Sun Sep 11 00:46:38 2016
9 print(time.ctime(time.time()))  # Sun Sep 11 00:46:38 2016

1 #--------------------------其他用法
2 # sleep(secs)
3 # 线程推迟指定的时间运行，单位为秒。

二、random模块

 1 import random
 2  
 3 print(random.random())#(0,1)----float    大于0且小于1之间的小数
 4  
 5 print(random.randint(1,3))  #[1,3]    大于等于1且小于等于3之间的整数
 6  
 7 print(random.randrange(1,3)) #[1,3)    大于等于1且小于3之间的整数
 8  
 9 print(random.choice([1,‘23‘,[4,5]]))#1或者23或者[4,5]
10  
11 print(random.sample([1,‘23‘,[4,5]],2))#列表元素任意2个组合
12  
13 print(random.uniform(1,3))#大于1小于3的小数，如1.927109612082716 
14  
15  
16 item=[1,3,5,7,9]
17 random.shuffle(item) #打乱item的顺序,相当于"洗牌"
18 print(item)

其他应用场景：

1、爬虫更换IP

1 import random
2 proxy_ip=[
3     ‘1.1.1.1‘,
4     ‘1.1.1.2‘,
5     ‘1.1.1.3‘,
6     ‘1.1.1.4‘,
7 ]
8 
9 print(random.choice(proxy_ip))

2、验证码

 1 def v_code(n=5):
 2     res=‘‘
 3     for i in range(n):
 4         num=random.randint(0,9)
 5         s=chr(random.randint(65,90))
 6         add=random.choice([num,s])
 7         res+=str(add)
 8     return res
 9 
10 print(v_code(6))

 

三、OS模块

os模块是与操作系统交互的一个接口。

os模块常用的属性：

 1 os.getcwd() 获取当前工作目录，即当前python脚本工作的目录路径
 2 os.chdir("dirname")  改变当前脚本工作目录；相当于shell下cd
 3 os.curdir  返回当前目录: (‘.‘)
 4 os.pardir  获取当前目录的父目录字符串名：(‘..‘)
 5 os.makedirs(‘dirname1/dirname2‘)    可生成多层递归目录
 6 os.removedirs(‘dirname1‘)    若目录为空，则删除，并递归到上一级目录，如若也为空，则删除，依此类推
 7 os.mkdir(‘dirname‘)    生成单级目录；相当于shell中mkdir dirname
 8 os.rmdir(‘dirname‘)    删除单级空目录，若目录不为空则无法删除，报错；相当于shell中rmdir dirname
 9 os.listdir(‘dirname‘)    列出指定目录下的所有文件和子目录，包括隐藏文件，并以列表方式打印
10 os.remove()  删除一个文件
11 os.rename("oldname","newname")  重命名文件/目录
12 os.stat(‘path/filename‘)  获取文件/目录信息
13 os.sep    输出操作系统特定的路径分隔符，win下为"\\\\",Linux下为"/"
14 os.linesep    输出当前平台使用的行终止符，win下为"\\t\\n",Linux下为"\\n"
15 os.pathsep    输出用于分割文件路径的字符串 win下为;,Linux下为:
16 os.name    输出字符串指示当前使用平台。win->‘nt‘; Linux->‘posix‘
17 os.system("bash command")  运行shell命令，直接显示
18 os.environ  获取系统环境变量
19 os.path.abspath(path)  返回path规范化的绝对路径
20 os.path.split(path)  将path分割成目录和文件名二元组返回
21 os.path.dirname(path)  返回path的目录。其实就是os.path.split(path)的第一个元素
22 os.path.basename(path)  返回path最后的文件名。如何path以／或\\结尾，那么就会返回空值。即os.path.split(path)的第二个元素
23 os.path.exists(path)  如果path存在，返回True；如果path不存在，返回False
24 os.path.isabs(path)  如果path是绝对路径，返回True
25 os.path.isfile(path)  如果path是一个存在的文件，返回True。否则返回False
26 os.path.isdir(path)  如果path是一个存在的目录，则返回True。否则返回False
27 os.path.join(path1[, path2[, ...]])  将多个路径组合后返回，第一个绝对路径之前的参数将被忽略
28 os.path.getatime(path)  返回path所指向的文件或者目录的最后存取时间
29 os.path.getmtime(path)  返回path所指向的文件或者目录的最后修改时间
30 os.path.getsize(path) 返回path的大小

 

 1 在Linux和Mac平台上，该函数会原样返回path，在windows平台上会将路径中所有字符转换为小写，并将所有斜杠转换为饭斜杠。
 2 >>> os.path.normcase(‘c:/windows\\\\system32\\\\‘)   
 3 ‘c:\\\\windows\\\\system32\\\\‘   
 4    
 5 
 6 规范化路径，如..和/
 7 >>> os.path.normpath(‘c://windows\\\\System32\\\\../Temp/‘)   
 8 ‘c:\\\\windows\\\\Temp‘   
 9 
10 >>> a=‘/Users/jieli/test1/\\\\\\a1/\\\\\\\\aa.py/../..‘
11 >>> print(os.path.normpath(a))
12 /Users/jieli/test1

主要应用方式

 1 os路径处理
 2 #方式一：推荐使用
 3 import os
 4 #具体应用
 5 import os,sys
 6 possible_topdir = os.path.normpath(os.path.join(
 7     os.path.abspath(__file__),
 8     os.pardir, #上一级
 9     os.pardir,
10     os.pardir
11 ))
12 sys.path.insert(0,possible_topdir)
13 
14 
15 #方式二：不推荐使用
16 os.path.dirname(os.path.dirname(os.path.dirname(os.path.abspath(__file__))))

 四、sys模块

1 sys.argv           命令行参数List，第一个元素是程序本身路径
2 sys.exit(n)        退出程序，正常退出时exit(0)
3 sys.version        获取Python解释程序的版本信息
4 sys.maxint         最大的Int值
5 sys.path           返回模块的搜索路径，初始化时使用PYTHONPATH环境变量的值
6 sys.platform       返回操作系统平台名称

 1 进度条
 2 
 3 import sys,time
 4 
 5 for i in range(50):
 6     sys.stdout.write(‘%s\\r‘ %(‘#‘*i))
 7     sys.stdout.flush()
 8     time.sleep(0.1)
 9 
10 ‘‘‘
11 注意：在pycharm中执行无效，请到命令行中以脚本的方式执行
12 ‘‘‘

五、shutil模块

shutil模块是高级的文件、文件夹、压缩包处理模块。

1、将文件内容拷贝到另一个文件中-shutil.copyfileobj(fsrc, fdst[, length])

1 import shutil
2 shutil.copyfileobj(open(‘test.py‘,‘r‘),open(‘test1.py‘,‘w‘))

2、拷贝文件-shutil.copyfile(src, dst)

shutil.copyfile(‘test1.py‘,‘test2.py‘) #目标文件无需存在

3、仅拷贝权限。内容、组、用户均不变-shutil.copymode(src, dst)

1 shutil.copymode(‘f1.log‘, ‘f2.log‘) #目标文件必须存在

4、仅拷贝状态的信息，包括：mode bits, atime, mtime, flags-shutil.copystat(src, dst)

1 shutil.copystat(‘f1.log‘, ‘f2.log‘) #目标文件必须存在

5、拷贝文件和权限-shutil.copy(src, dst)

1 shutil.copy(‘f1.log‘, ‘f2.log‘)

6、拷贝文件和状态信息-shutil.copy2(src, dst)

1 shutil.copy2(‘f1.log‘, ‘f2.log‘)

7、递归的去拷贝文件夹

-shutil.ignore_patterns(*patterns)
-shutil.copytree(src, dst, symlinks=False, ignore=None)

1 shutil.copytree(‘folder1‘,‘folder2‘,ignore=shutil.ignore_patterns(‘*.pyc‘, ‘tmp*‘)) #目标目录不能存在，注意对folder2目录父级目录要有可写权限，ignore的意思是排除 
2 
3 
4 
5 shutil.copytree(‘f1‘, ‘f2‘, symlinks=True, ignore=shutil.ignore_patterns(‘*.pyc‘, ‘tmp*‘))
6 
7 ‘‘‘
8 通常的拷贝都把软连接拷贝成硬链接，即对待软连接来说，创建新的文件
9 ‘‘‘

8、递归的去删除文件-shutil.rmtree(path[, ignore_errors[, onerror]])

1 shutil.rmtree(‘folder1‘)

9、递归的去移动文件，它类似mv命令，其实就是重命名-

1 shutil.move(‘folder1‘, ‘folder3‘)

10、创建压缩包并返回文件路径，例如：zip、tar-shutil.make_archive(base_name, format,...)

base_name： 压缩包的文件名，也可以是压缩包的路径。只是文件名时，则保存至当前目录，否则保存至指定路径，
如 data_bak                       =>保存至当前路径
如：/tmp/data_bak =>保存至/tmp/
format：    压缩包种类，“zip”, “tar”, “bztar”，“gztar”
root_dir：    要压缩的文件夹路径（默认当前目录）
owner：    用户，默认当前用户
group：    组，默认当前组
logger：    用于记录日志，通常是logging.Logger对象

 

1 #将 /data 下的文件打包放置当前程序目录
2 import shutil
3 ret = shutil.make_archive("data_bak", ‘gztar‘, root_dir=‘/data‘)
4   
5   
6 #将 /data下的文件打包放置 /tmp/目录
7 import shutil
8 ret = shutil.make_archive("/tmp/data_bak", ‘gztar‘, root_dir=‘/data‘)

shutil 对压缩包的处理是调用 ZipFile 和 TarFile 两个模块来进行的，详细：

 1 import zipfile
 2 
 3 # 压缩
 4 z = zipfile.ZipFile(‘laxi.zip‘, ‘w‘)
 5 z.write(‘a.log‘)
 6 z.write(‘data.data‘)
 7 z.close()
 8 
 9 # 解压
10 z = zipfile.ZipFile(‘laxi.zip‘, ‘r‘)
11 z.extractall(path=‘.‘)
12 z.close()
13 
14 zipfile压缩解压缩

zip解压缩

 1 import tarfile
 2 
 3 # 压缩
 4 >>> t=tarfile.open(‘/tmp/egon.tar‘,‘w‘)
 5 >>> t.add(‘/test1/a.py‘,arcname=‘a.bak‘)
 6 >>> t.add(‘/test1/b.py‘,arcname=‘b.bak‘)
 7 >>> t.close()
 8 
 9 
10 # 解压
11 >>> t=tarfile.open(‘/tmp/egon.tar‘,‘r‘)
12 >>> t.extractall(‘/egon‘)
13 >>> t.close()
14 
15 tarfile压缩解压缩

tar解压缩

六、json和pickle模块

　　之前我们学习过用eval内置方法可以将一个字符串转成python对象，不过，eval方法是有局限性的，对于普通的数据类型，json.loads和eval都能用，但遇到特殊类型的时候，eval就不管用了,所以eval的重点还是通常用来执行一个字符串表达式，并返回表达式的值。

1 import json
2 x="[null,true,false,1]"
3 print(eval(x)) #报错，无法解析null类型，而json就可以
4 print(json.loads(x)) 

1、什么是序列化？

　　我们把对象(变量)从内存中变成可存储或传输的过程称之为序列化，在Python中叫pickling，在其他语言中也被称之为serialization，marshalling，flattening等等，都是一个意思。

2、为什么要用序列化？

1）：持久保存状态

　　需知一个软件/程序的执行就在处理一系列状态的变化，在编程语言中，‘状态‘会以各种各样有结构的数据类型(也可简单的理解为变量)的形式被保存在内存中。

内存是无法永久保存数据的，当程序运行了一段时间，我们断电或者重启程序，内存中关于这个程序的之前一段时间的数据（有结构）都被清空了。

　　在断电或重启程序之前将程序当前内存中所有的数据都保存下来（保存到文件中），以便于下次程序执行能够从文件中载入之前的数据，然后继续执行，这就是序列化。

具体的来说，你玩使命召唤闯到了第13关，你保存游戏状态，关机走人，下次再玩，还能从上次的位置开始继续闯关。或如，虚拟机状态的挂起等。

2）：跨平台数据交互

　　序列化之后，不仅可以把序列化后的内容写入磁盘，还可以通过网络传输到别的机器上，如果收发的双方约定好实用一种序列化的格式，那么便打破了平台/语言差异化带来的限制，实现了跨平台数据交互。

　　反过来，把变量内容从序列化的对象重新读到内存里称之为反序列化，即unpickling

序列化-json和pickle

1 json

　　如果我们要在不同的编程语言之间传递对象，就必须把对象序列化为标准格式，比如XML，但更好的方法是序列化为JSON，因为JSON表示出来就是一个字符串，可以被所有语言读取，也可以方便地存储到磁盘或者通过网络传输。JSON不仅是标准格式，并且比XML更快，而且可以直接在Web页面中读取，非常方便。

　　json表示的对象就是标准的javascript语言的对象，JSON和Python内置的数据类型对应如下：

 

 1 import json
 2 #序列化的过程：dic---->res=json.dumps(dic)---->f.write(res)
 3 dic={
 4     ‘name‘:‘alex‘,
 5     ‘age‘:9000,
 6     ‘height‘:‘150cm‘,
 7 }
 8 
 9 res=json.dumps(dic)
10 print(res,type(res))
11 with open(‘a.json‘,‘w‘) as f:
12     f.write(res)
13 
14 # ==============================
15 
16 import json
17 #反序列化的过程：res=f.read()---->res=json.loads(res)---->dic=res
18 with open(‘a.json‘,‘r‘) as f:
19     dic=json.loads(f.read())
20     print(dic,type(dic))
21     print(dic[‘name‘])
22 
23 
24 #json的便捷操作
25 import json
26 dic={
27     ‘name‘:‘alex‘,
28     ‘age‘:9000,
29     ‘height‘:‘150cm‘,
30 }
31 json.dump(dic,open(‘b.json‘,‘w‘))

Ps注意：

1 import json
2 #dct="{‘1‘:111}"#json 不认单引号
3 #dct=str({"1":111})#报错,因为生成的数据还是单引号:{‘one‘: 1}
4 
5 dct=‘{"1":"111"}‘
6 print(json.loads(dct))
7 
8 #conclusion:
9 #        无论数据是怎样创建的，只要满足json格式，就可以json.loads出来,不一定非要dumps的数据才能loads

2 pickle

 

 1 import pickle
 2  
 3 dic={‘name‘:‘alvin‘,‘age‘:23,‘sex‘:‘male‘}
 4  
 5 print(type(dic))#<class ‘dict‘>
 6  
 7 j=pickle.dumps(dic)
 8 print(type(j))#<class ‘bytes‘>
 9  
10  
11 f=open(‘序列化对象_pickle‘,‘wb‘)#注意是w是写入str,wb是写入bytes,j是‘bytes‘
12 f.write(j)  #-------------------等价于pickle.dump(dic,f)
13  
14 f.close()
15 #-------------------------反序列化
16 import pickle
17 f=open(‘序列化对象_pickle‘,‘rb‘)
18  
19 data=pickle.loads(f.read())#  等价于data=pickle.load(f)
20  
21  
22 print(data[‘age‘])

　　Pickle的问题和所有其他编程语言特有的序列化问题一样，就是它只能用于Python，并且可能不同版本的Python彼此都不兼容，因此，只能用Pickle保存那些不重要的数据，不能成功地反序列化也没关系

 七、shelve模块

　　shelve模块比pickle模块简单，只有一个open函数，返回类似字典的对象，可读可写;key必须为字符串，而值可以是python所支持的数据类型。

1 import shelve
2 
3 f=shelve.open(r‘sheve.txt‘)
4 # f[‘stu1_info‘]={‘name‘:‘egon‘,‘age‘:18,‘hobby‘:[‘piao‘,‘smoking‘,‘drinking‘]}
5 # f[‘stu2_info‘]={‘name‘:‘gangdan‘,‘age‘:53}
6 # f[‘school_info‘]={‘website‘:‘http://www.pypy.org‘,‘city‘:‘beijing‘}
7 
8 print(f[‘stu1_info‘][‘hobby‘])
9 f.close()

 八、xml模块

　　xml是实现不同语言或程序之间进行数据交换的协议，跟json差不多，但json使用起来更简单，不过，古时候，在json还没诞生的黑暗年代，大家只能选择用xml呀，至今很多传统公司如金融行业的很多系统的接口还主要是xml。

　　xml的格式如下，就是通过<>节点来区别数据结构的:

<?xml version="1.0"?>
<data>
    <country name="Liechtenstein">
        <rank updated="yes">2</rank>
        <year>2008</year>
        <gdppc>141100</gdppc>
        <neighbor name="Austria" direction="E"/>
        <neighbor name="Switzerland" direction="W"/>
    </country>
    <country name="Singapore">
        <rank updated="yes">5</rank>
        <year>2011</year>
        <gdppc>59900</gdppc>
        <neighbor name="Malaysia" direction="N"/>
    </country>
    <country name="Panama">
        <rank updated="yes">69</rank>
        <year>2011</year>
        <gdppc>13600</gdppc>
        <neighbor name="Costa Rica" direction="W"/>
        <neighbor name="Colombia" direction="E"/>
    </country>
</data>

xml数据

xml文件

　　xml协议在各个语言里的都 是支持的，在python中可以用以下模块操作xml：

1 # print(root.iter(‘year‘)) #全文搜索
2 # print(root.find(‘country‘)) #在root的子节点找，只找一个
3 # print(root.findall(‘country‘)) #在root的子节点找，找所有

 1 import xml.etree.ElementTree as ET
 2  
 3 tree = ET.parse("xmltest.xml")
 4 root = tree.getroot()
 5 print(root.tag)
 6  
 7 #遍历xml文档
 8 for child in root:
 9     print(‘========>‘,child.tag,child.attrib,child.attrib[‘name‘])
10     for i in child:
11         print(i.tag,i.attrib,i.text)
12  
13 #只遍历year 节点
14 for node in root.iter(‘year‘):
15     print(node.tag,node.text)
16 #---------------------------------------
17 
18 import xml.etree.ElementTree as ET
19  
20 tree = ET.parse("xmltest.xml")
21 root = tree.getroot()
22  
23 #修改
24 for node in root.iter(‘year‘):
25     new_year=int(node.text)+1
26     node.text=str(new_year)
27     node.set(‘updated‘,‘yes‘)
28     node.set(‘version‘,‘1.0‘)
29 tree.write(‘test.xml‘)
30  
31  
32 #删除node
33 for country in root.findall(‘country‘):
34    rank = int(country.find(‘rank‘).text)
35    if rank > 50:
36      root.remove(country)
37  
38 tree.write(‘output.xml‘)

 1 #在country内添加（append）节点year2
 2 import xml.etree.ElementTree as ET
 3 tree = ET.parse("a.xml")
 4 root=tree.getroot()
 5 for country in root.findall(‘country‘):
 6     for year in country.findall(‘year‘):
 7         if int(year.text) > 2000:
 8             year2=ET.Element(‘year2‘)
 9             year2.text=‘新年‘
10             year2.attrib={‘update‘:‘yes‘}
11             country.append(year2) #往country节点下添加子节点
12 
13 tree.write(‘a.xml.swap‘)

　　自己创建xml文档：

 1 import xml.etree.ElementTree as ET
 2  
 3  
 4 new_xml = ET.Element("namelist")
 5 name = ET.SubElement(new_xml,"name",attrib={"enrolled":"yes"})
 6 age = ET.SubElement(name,"age",attrib={"checked":"no"})
 7 sex = ET.SubElement(name,"sex")
 8 sex.text = ‘33‘
 9 name2 = ET.SubElement(new_xml,"name",attrib={"enrolled":"no"})
10 age = ET.SubElement(name2,"age")
11 age.text = ‘19‘
12  
13 et = ET.ElementTree(new_xml) #生成文档对象
14 et.write("test.xml", encoding="utf-8",xml_declaration=True)
15  
16 ET.dump(new_xml) #打印生成的格式

九、configparser模块

 配置文件：

# 注释1
; 注释2

[section1]
k1 = v1
k2:v2
user=egon
age=18
is_admin=true
salary=31

[section2]
k1 = v1

1、读取：

 1 import configparser
 2 
 3 config=configparser.ConfigParser()
 4 config.read(‘a.cfg‘)
 5 
 6 #查看所有的标题
 7 res=config.sections() #[‘section1‘, ‘section2‘]
 8 print(res)
 9 
10 #查看标题section1下所有key=value的key
11 options=config.options(‘section1‘)
12 print(options) #[‘k1‘, ‘k2‘, ‘user‘, ‘age‘, ‘is_admin‘, ‘salary‘]
13 
14 #查看标题section1下所有key=value的(key,value)格式
15 item_list=config.items(‘section1‘)
16 print(item_list) #[(‘k1‘, ‘v1‘), (‘k2‘, ‘v2‘), (‘user‘, ‘egon‘), (‘age‘, ‘18‘), (‘is_admin‘, ‘true‘), (‘salary‘, ‘31‘)]
17 
18 #查看标题section1下user的值=>字符串格式
19 val=config.get(‘section1‘,‘user‘)
20 print(val) #egon
21 
22 #查看标题section1下age的值=>整数格式
23 val1=config.getint(‘section1‘,‘age‘)
24 print(val1) #18
25 
26 #查看标题section1下is_admin的值=>布尔值格式
27 val2=config.getboolean(‘section1‘,‘is_admin‘)
28 print(val2) #True
29 
30 #查看标题section1下salary的值=>浮点型格式
31 val3=config.getfloat(‘section1‘,‘salary‘)
32 print(val3) #31.0

2、改写

 1 import configparser
 2 
 3 config=configparser.ConfigParser()
 4 config.read(‘a.cfg‘)
 5 
 6 
 7 #删除整个标题section2
 8 config.remove_section(‘section2‘)
 9 
10 #删除标题section1下的某个k1和k2
11 config.remove_option(‘section1‘,‘k1‘)
12 config.remove_option(‘section1‘,‘k2‘)
13 
14 #判断是否存在某个标题
15 print(config.has_section(‘section1‘))
16 
17 #判断标题section1下是否有user
18 print(config.has_option(‘section1‘,‘‘))
19 
20 
21 #添加一个标题
22 config.add_section(‘egon‘)
23 
24 #在标题egon下添加name=egon,age=18的配置
25 config.set(‘egon‘,‘name‘,‘egon‘)
26 config.set(‘egon‘,‘age‘,18) #报错,必须是字符串
27 
28 
29 #最后将修改的内容写入文件,完成最终的修改
30 config.write(open(‘a.cfg‘,‘w‘))

==============================

应用示例：

 1 [DEFAULT]
 2 ServerAliveInterval = 45
 3 Compression = yes
 4 CompressionLevel = 9
 5 ForwardX11 = yes
 6   
 7 [bitbucket.org]
 8 User = hg
 9   
10 [topsecret.server.com]
11 Port = 50022
12 ForwardX11 = no

1、获取所有节点

 1 import configparser
 2 config=configparser.ConfigParser()
 3 config.read(‘test.ini‘,encoding=‘utf-8‘)
 4 res=config.sections()
 5 print(res)
 6 
 7 ‘‘‘
 8 打印结果:
 9 [‘bitbucket.org‘, ‘topsecret.server.com‘]
10 ‘‘‘

2、获取指定节点下所有的键值对

 1 import configparser
 2 config=configparser.ConfigParser()
 3 config.read(‘test.ini‘,encoding=‘utf-8‘)
 4 res=config.items(‘bitbucket.org‘)
 5 print(res)
 6 
 7 ‘‘‘
 8 打印结果:(包含DEFAULT以及bitbucket.org这俩标题下所有的items)
 9 [(‘serveraliveinterval‘, ‘45‘), (‘compression‘, ‘yes‘), (‘compressionlevel‘, ‘9‘), (‘forwardx11‘, ‘yes‘), (‘user‘, ‘hg‘)]
10 ‘‘‘

3、获取指定节点下所有的键

1 import configparser
2 config=configparser.ConfigParser()
3 config.read(‘test.ini‘,encoding=‘utf-8‘)
4 res=config.options(‘bitbucket.org‘)
5 print(res)
6 
7 ‘‘‘
8 打印结果:(包含DEFAULT以及bitbucket.org这俩标题下所有的键)
9 [‘user‘, ‘serveraliveinterval‘, ‘compression‘, ‘compressionlevel‘, ‘forwardx11‘]‘‘‘

4、获取指定节点下指定key的值

 1 import configparser
 2 config=configparser.ConfigParser()
 3 config.read(‘test.ini‘,encoding=‘utf-8‘)
 4 res1=config.get(‘bitbucket.org‘,‘user‘)
 5 
 6 res2=config.getint(‘topsecret.server.com‘,‘port‘)
 7 res3=config.getfloat(‘topsecret.server.com‘,‘port‘)
 8 res4=config.getboolean(‘topsecret.server.com‘,‘ForwardX11‘)
 9 
10 print(res1)
11 print(res2)
12 print(res3)
13 print(res4)
14 
15 ‘‘‘
16 打印结果:
17 hg
18 50022.0
19 False
20 ‘‘‘

5、检查、删除、添加节点

 1 import configparser
 2 config=configparser.ConfigParser()
 3 config.read(‘test.ini‘,encoding=‘utf-8‘)
 4 
 5 #检查
 6 has_sec=config.has_section(‘bitbucket.org‘)
 7 print(has_sec) #打印True
 8 
 9 #添加节点
10 config.add_section(‘egon‘) #已经存在则报错
11 config[‘egon‘][‘username‘]=‘gangdan‘
12 config[‘egon‘][‘age‘]=‘18‘
13 config.write(open(‘test.ini‘,‘w‘))
14 
15 #删除节点
16 config.remove_section(‘egon‘)
17 config.write(open(‘test.ini‘,‘w‘))

6、检查、删除、设置指定组内的键值对

 1 import configparser
 2 config=configparser.ConfigParser()
 3 config.read(‘test.ini‘,encoding=‘utf-8‘)
 4 
 5 #检查
 6 has_sec=config.has_option(‘bitbucket.org‘,‘user‘) #bitbucket.org下有一个键user
 7 print(has_sec) #打印True
 8 
 9 #删除
10 config.remove_option(‘DEFAULT‘,‘forwardx11‘)
11 config.write(open(‘test.ini‘,‘w‘))
12 
13 #设置
14 config.set(‘bitbucket.org‘,‘user‘,‘gangdang‘)
15 config.write(open(‘test.ini‘,‘w‘))

添加一个ini应用文档

 1 import configparser
 2   
 3 config = configparser.ConfigParser()
 4 config["DEFAULT"] = {‘ServerAliveInterval‘: ‘45‘,
 5                       ‘Compression‘: ‘yes‘,
 6                      ‘CompressionLevel‘: ‘9‘}
 7   
 8 config[‘bitbucket.org‘] = {}
 9 config[‘bitbucket.org‘][‘User‘] = ‘hg‘
10 config[‘topsecret.server.com‘] = {}
11 topsecret = config[‘topsecret.server.com‘]
12 topsecret[‘Host Port‘] = ‘50022‘     # mutates the parser
13 topsecret[‘ForwardX11‘] = ‘no‘  # same here
14 config[‘DEFAULT‘][‘ForwardX11‘] = ‘yes‘
15 with open(‘example.ini‘, ‘w‘) as configfile:
16    config.write(configfile)
17 
18 基于上述方法添加一个ini文档

十、hashlib模块

　　hash：一种算法 ,3.x里代替了md5模块和sha模块，主要提供 SHA1, SHA224, SHA256, SHA384, SHA512 ，MD5 算法。
　　三个特点：
　　1.内容相同则hash运算结果相同，内容稍微改变则hash值则变
　　2.不可逆推
　　3.相同算法：无论校验多长的数据，得到的哈希值长度固定。

 1 import hashlib
 2  
 3 m=hashlib.md5()# m=hashlib.sha256()
 4  
 5 m.update(‘hello‘.encode(‘utf8‘))
 6 print(m.hexdigest())  #5d41402abc4b2a76b9719d911017c592
 7  
 8 m.update(‘alvin‘.encode(‘utf8‘))
 9  
10 print(m.hexdigest())  #92a7e713c30abbb0319fa07da2a5c4af
11  
12 m2=hashlib.md5()
13 m2.update(‘helloalvin‘.encode(‘utf8‘))
14 print(m2.hexdigest()) #92a7e713c30abbb0319fa07da2a5c4af
15 
16 ‘‘‘
17 注意：把一段很长的数据update多次，与一次update这段长数据，得到的结果一样
18 但是update多次为校验大文件提供了可能。
19 ‘‘‘

　　

　　以上加密算法虽然依然非常厉害，但时候存在缺陷，即：通过撞库可以反解。所以，有必要对加密算法中添加自定义key再来做加密。

1 import hashlib
2  
3 # ######## 256 ########
4  
5 hash = hashlib.sha256(‘898oaFs09f‘.encode(‘utf8‘))
6 hash.update(‘alvin‘.encode(‘utf8‘))
7 print (hash.hexdigest())#e79e68f070cdedcfe63eaf1a2e92c83b4cfb1b5c6bc452d214c1b7e77cdfd1c7

 

 1 import hashlib
 2 passwds=[
 3     ‘alex3714‘,
 4     ‘alex1313‘,
 5     ‘alex94139413‘,
 6     ‘alex123456‘,
 7     ‘123456alex‘,
 8     ‘a123lex‘,
 9     ]
10 def make_passwd_dic(passwds):
11     dic={}
12     for passwd in passwds:
13         m=hashlib.md5()
14         m.update(passwd.encode(‘utf-8‘))
15         dic[passwd]=m.hexdigest()
16     return dic
17 
18 def break_code(cryptograph,passwd_dic):
19     for k,v in passwd_dic.items():
20         if v == cryptograph:
21             print(‘密码是===>\\033[46m%s\\033[0m‘ %k)
22 
23 cryptograph=‘aee949757a2e698417463d47acac93df‘
24 break_code(cryptograph,make_passwd_dic(passwds))

模拟撞库破解密码

　　

　　python 还有一个 hmac 模块，它内部对我们创建 key 和 内容 进行进一步的处理然后再加密:

1 import hmac
2 h = hmac.new(‘alvin‘.encode(‘utf8‘))
3 h.update(‘hello‘.encode(‘utf8‘))
4 print (h.hexdigest())#320df9832eab4c038b6c1d7ed73a5940

十一、suprocess模块

 1 import  subprocess
 2 
 3 ‘‘‘
 4 sh-3.2# ls /Users/egon/Desktop |grep txt$
 5 mysql.txt
 6 tt.txt
 7 事物.txt
 8 ‘‘‘
 9 
10 res1=subprocess.Popen(‘ls /Users/jieli/Desktop‘,shell=True,stdout=subprocess.PIPE)
11 res=subprocess.Popen(‘grep txt$‘,shell=True,stdin=res1.stdout,
12                  stdout=subprocess.PIPE)
13 
14 print(res.stdout.read().decode(‘utf-8‘))
15 
16 
17 #等同于上面,但是上面的优势在于,一个数据流可以和另外一个数据流交互,可以通过爬虫得到结果然后交给grep
18 res1=subprocess.Popen(‘ls /Users/jieli/Desktop |grep txt$‘,shell=True,stdout=subprocess.PIPE)
19 print(res1.stdout.read().decode(‘utf-8‘))
20 
21 
22 #windows下:
23 # dir | findstr ‘test*‘
24 # dir | findstr ‘txt$‘
25 import subprocess
26 res1=subprocess.Popen(r‘dir C:\\Users\\Administrator\\PycharmProjects\\test\\函数备课‘,shell=True,stdout=subprocess.PIPE)
27 res=subprocess.Popen(‘findstr test*‘,shell=True,stdin=res1.stdout,
28                  stdout=subprocess.PIPE)
29 
30 print(res.stdout.read().decode(‘gbk‘)) #subprocess使用当前系统默认编码，得到结果为bytes类型，在windows下需要用gbk解码

 

 1 import subprocess
 2 
 3 res=subprocess.Popen(‘dir‘,shell=True,stdout=subprocess.PIPE)
 4 print(res)
 5 print(res.stdout.read().decode(‘gbk‘))
 6 
 7 
 8 import subprocess
 9 
10 res=subprocess.Popen(‘diasdfasdfr‘,shell=True,
11                      stderr=subprocess.PIPE,
12                      stdout=subprocess.PIPE)
13 
14 print(‘=====>‘,res.stdout.read())
15 print(‘=====>‘,res.stderr.read().decode(‘gbk‘))
16 
17 
18 #ls |grep txt$
19 res1=subprocess.Popen(r‘dir E:\\wupeiqi\\s17\\day06‘,shell=True,stdout=subprocess.PIPE)
20 # print(res1.stdout.read())
21 
22 res=subprocess.Popen(r‘findstr txt*‘,shell=True,
23                      stdin=res1.stdout,
24                      stderr=subprocess.PIPE,
25                      stdout=subprocess.PIPE)
26 
27 print(‘===>‘,res.stdout.read().decode(‘gbk‘))#管道取一次就空了
28 print(‘===>‘,res.stdout.read().decode(‘gbk‘))
29 print(‘===>‘,res.stdout.read().decode(‘gbk‘))
30 print(‘===>‘,res.stdout.read().decode(‘gbk‘))
31 print(‘===>‘,res.stdout.read().decode(‘gbk‘))
32 print(‘===>‘,res.stdout.read().decode(‘gbk‘))
33 print(‘===>‘,res.stdout.read().decode(‘gbk‘))

十二、logging模块

　　logging模块是用于便捷记录日志且线程安全的模块。

 1 import logging
 2 ‘‘‘
 3 一:如果不指定filename,则默认打印到终端
 4 二:指定日志级别:
 5     指定方式:
 6         1:level=10
 7         2:level=logging.ERROR
 8 
 9     日志级别种类:
10         CRITICAL = 50
11         FATAL = CRITICAL
12         ERROR = 40
13         WARNING = 30
14         WARN = WARNING
15         INFO = 20
16         DEBUG = 10
17         NOTSET = 0
18 
19 三:指定日志级别为ERROR,则只有ERROR及其以上级别的日志会被打印
20 ‘‘‘
21 
22 
23 logging.basicConfig(filename=‘access.log‘,
24                     format=‘%(asctime)s - %(name)s - %(levelname)s -%(module)s:  %(message)s‘,
25                     datefmt=‘%Y-%m-%d %H:%M:%S %p‘,
26                     level=10)
27 
28 logging.debug(‘debug‘)
29 logging.info(‘info‘)
30 logging.warning(‘warning‘)
31 logging.error(‘error‘)
32 logging.critical(‘critical‘)
33 logging.log(10,‘log‘) #如果level=40,则只有logging.critical和loggin.error的日志会被打印

可在logging.basicConfig()函数中通过具体参数来更改logging模块默认行为，可用参数有
　　filename：用指定的文件名创建FiledHandler（后边会具体讲解handler的概念），这样日志会被存储在指定的文件中。
　　filemode：文件打开方式，在指定了filename时使用这个参数，默认值为“a”还可指定为“w”。
　　format：指定handler使用的日志显示格式。 
　　datefmt：指定日期时间格式。 
　　level：设置rootlogger（后边会讲解具体概念）的日志级别 
　　stream：用指定的stream创建StreamHandler。可以指定输出到sys.stderr,sys.stdout或者文件，默认为sys.stderr。若同时列出了filename和stream两个参数，则stream参数会被忽略。

 

日志格式

%(name)s	Logger的名字，并非用户名，详细查看
%(levelno)s	数字形式的日志级别
%(levelname)s	文本形式的日志级别
%(pathname)s	调用日志输出函数的模块的完整路径名，可能没有
%(filename)s	调用日志输出函数的模块的文件名
%(module)s	调用日志输出函数的模块名
%(funcName)s	调用日志输出函数的函数名
%(lineno)d	调用日志输出函数的语句所在的代码行
%(created)f	当前时间，用UNIX标准的表示时间的浮 点数表示
%(relativeCreated)d	输出日志信息时的，自Logger创建以 来的毫秒数
%(asctime)s	字符串形式的当前时间。默认格式是 “2003-07-08 16:49:45,896”。逗号后面的是毫秒
%(thread)d	线程ID。可能没有
%(threadName)s	线程名。可能没有
%(process)d	进程ID。可能没有
%(message)s	用户输出的消息