python接口自动化(四十)- logger 日志 - 下(超详解)

Posted du-hong

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python接口自动化(四十)- logger 日志 - 下(超详解)相关的知识,希望对你有一定的参考价值。

简介

  按照上一篇的计划,这一篇给小伙伴们讲解一下:(1)多模块使用logging,(2)通过文件配置logging模块,(3)自己封装一个日志(logging)类。可能有的小伙伴在这里会有个疑问一个logging为什么分两篇的篇幅来介绍她呢???那是因为日志是非常重要的,用于记录系统、软件操作事件的记录文件或文件集合,可分为事件日志和消息日志。具有处理历史数据、诊断问题的追踪以及理解系统、软件的活动等重要作用,在开发或者测试软系统过程中出现了问题,我们首先想到的就是她——logging。她可不像泰戈尔说的:“天空没有留下翅膀的痕迹,但我已经飞过”;这个90后的小姑娘,她可是一个爱炫耀,爱显摆的人已经达到了人过留名、雁过留声的境界。好了逗大家一乐,下面开始进入今天的正题。

多模块使用logging

1、父模块fatherModule.py:

技术图片

2、子模块sonModule.py:

 技术图片

3、运行结果,在控制和日志文件log.txt中输出:

技术图片

  首先在父模块定义了logger‘fatherModule‘,并对它进行了配置,就可以在解释器进程里面的其他地方通过getLogger(‘fatherModule‘)得到的对象都是一样的,不需要重新配置,可以直接使用。定义的该logger的子logger,

都可以共享父logger的定义和配置,所谓的父子logger是通过命名来识别,任意以‘fatherModule‘开头的logger都是它的子logger,例如‘fatherModule.son‘。

  实际开发一个application,首先可以通过logging配置文件编写好这个application所对应的配置,可以生成一个根logger,如‘PythonAPP‘,然后在主函数中通过fileConfig加载logging配置,接着在application的其他地方、不同的模块中,可以使用根logger的子logger,

如‘PythonAPP.Core‘,‘PythonAPP.Web‘来进行log,而不需要反复的定义和配置各个模块的logger。

4、参考代码

fatherModule.py文件:

 1 # coding=utf-8
 2 # 1.先设置编码,utf-8可支持中英文,如上,一般放在第一行
 3 
 4 # 2.注释:包括记录创建时间,创建人,项目名称。
 5 ‘‘‘
 6 Created on 2019-5-24
 7 @author: 北京-宏哥
 8 Project:学习和使用python的logging日志模块-多模块使用logging
 9 ‘‘‘
10 # 3.导入模块
11 import logging
12 import sonModule
13 logger = logging.getLogger("fatherModule")
14 logger.setLevel(level = logging.INFO)
15 handler = logging.FileHandler("log.txt")
16 handler.setLevel(logging.INFO)
17 formatter = logging.Formatter(%(asctime)s - %(name)s - %(levelname)s - %(message)s)
18 handler.setFormatter(formatter)
19 
20 console = logging.StreamHandler()
21 console.setLevel(logging.INFO)
22 console.setFormatter(formatter)
23 
24 logger.addHandler(handler)
25 logger.addHandler(console)
26 
27 
28 logger.info("creating an instance of sonModule.sonModuleClass")
29 a = sonModule.SonModuleClass()
30 logger.info("calling sonModule.sonModuleClass.doSomething")
31 a.doSomething()
32 logger.info("done with  sonModule.sonModuleClass.doSomething")
33 logger.info("calling sonModule.some_function")
34 sonModule.som_function()
35 logger.info("done with sonModule.some_function")

sonModule.py文件:

 1 # coding=utf-8
 2 # 1.先设置编码,utf-8可支持中英文,如上,一般放在第一行
 3 
 4 # 2.注释:包括记录创建时间,创建人,项目名称。
 5 ‘‘‘
 6 Created on 2019-5-24
 7 @author: 北京-宏哥
 8 Project:学习和使用python的logging日志模块-多模块使用logging
 9 ‘‘‘
10 # 3.导入模块
11 import logging
12 
13 module_logger = logging.getLogger("fatherModule.son")
14 class SonModuleClass(object):
15     def __init__(self):
16         self.logger = logging.getLogger("fatherModule.son.module")
17         self.logger.info("creating an instance in SonModuleClass")
18     def doSomething(self):
19         self.logger.info("do something in SonModule")
20         a = []
21         a.append(1)
22         self.logger.debug("list a = " + str(a))
23         self.logger.info("finish something in SonModuleClass")
24 
25 def som_function():
26     module_logger.info("call function some_function")

文件配置logging模块

1、通过logging.config模块配置日志构造信息

logger.conf文件:

[loggers]
keys = root, example01, example02
[logger_root]
level = DEBUG
handlers = hand01, hand02
[logger_example01]
handlers = hand01, hand02
qualname = example01
propagate = 0
[logger_example02]
handlers = hand01, hand03
qualname = example02
propagate = 0
[handlers]
keys = hand01, hand02, hand03
[handler_hand01]
class = StreamHandler
level = INFO
formatter = form01
args=(sys.stdout, )
[handler_hand02]
class = FileHandler
level = DEBUG
formatter = form01
args = (log/test_case_log.log, a)
[handler_hand03]
class = handlers.RotatingFileHandler
level = INFO
formatter = form01
args = (log/test_case_log.log, a, 10*1024*1024,3)
[formatters]
keys = form01, form02
[formatter_form01]
format = %(asctime)s-%(filename)s-[line:%(lineno)d]-%(levelname)s-[LogInfoMessage]: %(message)s
datefmt = %a, %d %b %Y %H:%M:%S
[formatter_form02]
format = %(name)-12s: %(levelname)-8s-[日志信息]: %(message)s
datefmt = %a, %d %b %Y %H:%M:%S

一、实例:

1、实例代码

技术图片

2、运行结果:

技术图片

3、参考代码:

# coding=utf-8
# 1.先设置编码,utf-8可支持中英文,如上,一般放在第一行

# 2.注释:包括记录创建时间,创建人,项目名称。
‘‘‘
Created on 2019-5-27
@author: 北京-宏哥
Project:学习和使用python的logging日志模块-多模块使用logging
‘‘‘
# 3.导入模块
import logging
import logging.config

logging.config.fileConfig("logger.conf")
logger = logging.getLogger("example01")

logger.debug(This is debug message)
logger.info(This is info message)
logger.warning(This is warning message)

二、实例

1、实例代码

技术图片

2、运行结果

技术图片

3、参考代码:

# coding=utf-8
# 1.先设置编码,utf-8可支持中英文,如上,一般放在第一行

# 2.注释:包括记录创建时间,创建人,项目名称。
‘‘‘
Created on 2019-5-24
@author: 北京-宏哥
Project:学习和使用python的logging日志模块-多模块使用logging
‘‘‘
# 3.导入模块
import logging
import logging.config

logging.config.fileConfig("logger.conf")
logger = logging.getLogger("example02")

logger.debug(This is debug message)
logger.info(This is info message)
logger.warning(This is warning message)

2、通过JSON文件配置

json配置文件:

{
    "version":1,
    "disable_existing_loggers":false,
    "formatters":{
        "simple":{
            "format":"%(asctime)s - %(name)s - %(levelname)s - %(message)s"
        }
    },
    "handlers":{
        "console":{
            "class":"logging.StreamHandler",
            "level":"DEBUG",
            "formatter":"simple",
            "stream":"ext://sys.stdout"
        },
        "info_file_handler":{
            "class":"logging.handlers.RotatingFileHandler",
            "level":"INFO",
            "formatter":"simple",
            "filename":"info.log",
            "maxBytes":"10485760",
            "backupCount":20,
            "encoding":"utf8"
        },
        "error_file_handler":{
            "class":"logging.handlers.RotatingFileHandler",
            "level":"ERROR",
            "formatter":"simple",
            "filename":"errors.log",
            "maxBytes":10485760,
            "backupCount":20,
            "encoding":"utf8"
        }
    },
    "loggers":{
        "my_module":{
            "level":"ERROR",
            "handlers":["info_file_handler"],
            "propagate":"no"
        }
    },
    "root":{
        "level":"INFO",
        "handlers":["console","info_file_handler","error_file_handler"]
    }
}

1、通过JSON加载配置文件,然后通过logging.dictConfig配置logging:

 技术图片

2、运行结果:

 技术图片

3、参考代码:

 1 import json  
 2 import logging.config  
 3 import os  
 4    
 5 def setup_logging(default_path = "logging.json",default_level = logging.INFO,env_key = "LOG_CFG"):  
 6     path = default_path  
 7     value = os.getenv(env_key,None)  
 8     if value:  
 9         path = value  
10     if os.path.exists(path):  
11         with open(path,"r") as f:  
12             config = json.load(f)  
13             logging.config.dictConfig(config)  
14     else:  
15         logging.basicConfig(level = default_level)  
16    
17 def func():  
18     logging.info("start func")  
19    
20     logging.info("exec func")  
21    
22     logging.info("end func")  
23    
24 if __name__ == "__main__":  
25     setup_logging(default_path = "logging.json")  
26     func()

3、通过YAML文件配置

1、首先要导入yaml模块,输入命令  python2: pip install yaml          python3:pip install pyyaml

技术图片

2、通过YAML文件进行配置,比JSON看起来更加简介明了:

logging.yaml文件:

version: 1
disable_existing_loggers: False
formatters:
        simple:
            format: "%(asctime)s - %(name)s - %(levelname)s - %(message)s"
handlers:
    console:
            class: logging.StreamHandler
            level: DEBUG
            formatter: simple
            stream: ext://sys.stdout
    info_file_handler:
            class: logging.handlers.RotatingFileHandler
            level: INFO
            formatter: simple
            filename: info.log
            maxBytes: 10485760
            backupCount: 20
            encoding: utf8
    error_file_handler:
            class: logging.handlers.RotatingFileHandler
            level: ERROR
            formatter: simple
            filename: errors.log
            maxBytes: 10485760
            backupCount: 20
            encoding: utf8
loggers:
    my_module:
            level: ERROR
            handlers: [info_file_handler]
            propagate: no
root:
    level: INFO
    handlers: [console,info_file_handler,error_file_handler]

3、通过YAML加载配置文件,然后通过logging.dictConfig配置logging:

技术图片

4、运行结果:

技术图片

5、参考代码:

# coding=utf-8
# 1.先设置编码,utf-8可支持中英文,如上,一般放在第一行

# 2.注释:包括记录创建时间,创建人,项目名称。
‘‘‘
Created on 2019-5-24
@author: 北京-宏哥
Project:学习和使用python的logging日志模块-yaml文件配置logging
‘‘‘
# 3.导入模块
import yaml
import logging.config
import os

def setup_logging(default_path = "logging.yaml",default_level = logging.INFO,env_key = "LOG_CFG"):
    path = default_path
    value = os.getenv(env_key,None)
    if value:
        path = value
    if os.path.exists(path):
        with open(path,"r") as f:
            config = yaml.load(f)
            logging.config.dictConfig(config)
    else:
        logging.basicConfig(level = default_level)

def func():
    logging.info("start func")

    logging.info("exec func")

    logging.info("end func")

if __name__ == "__main__":
    setup_logging(default_path = "logging.yaml")
    func()

注意:配置文件中“disable_existing_loggers” 参数设置为 False;如果不设置为False,创建了 logger,然后你又在加载日志配置文件之前就导入了模块。logging.fileConfig 与 logging.dictConfig 默认情况下会使得已经存在的 logger 失效。那么,这些配置信息就不会应用到你的 Logger 上。“disable_existing_loggers” = False解决了这个问题

自己封装一个logging类

1、实例代码:

技术图片

2、运行结果:

技术图片

3、参考代码:

 1 # coding=utf-8
 2 # 1.先设置编码,utf-8可支持中英文,如上,一般放在第一行
 3 
 4 # 2.注释:包括记录创建时间,创建人,项目名称。
 5 ‘‘‘
 6 Created on 2019-5-27
 7 @author: 北京-宏哥
 8 Project:学习和使用python的logging日志模块-自己封装logging
 9 ‘‘‘
10 # 3.导入模块
11 import logging
12 class Log(object):
13     def __init__(self, name=__name__, path=mylog.log, level=DEBUG):
14         self.__name = name
15         self.__path = path
16         self.__level = level
17         self.__logger = logging.getLogger(self.__name)
18         self.__logger.setLevel(self.__level)
19 
20     def __ini_handler(self):
21         """初始化handler"""
22         stream_handler = logging.StreamHandler()
23         file_handler = logging.FileHandler(self.__path, encoding=utf-8)
24         return stream_handler, file_handler
25 
26     def __set_handler(self, stream_handler, file_handler, level=DEBUG):
27         """设置handler级别并添加到logger收集器"""
28         stream_handler.setLevel(level)
29         file_handler.setLevel(level)
30         self.__logger.addHandler(stream_handler)
31         self.__logger.addHandler(file_handler)
32 
33     def __set_formatter(self, stream_handler, file_handler):
34         """设置日志输出格式"""
35         formatter = logging.Formatter(%(asctime)s-%(name)s-%(filename)s-[line:%(lineno)d]
36                                       -%(levelname)s-[日志信息]: %(message)s,
37                                       datefmt=%a, %d %b %Y %H:%M:%S)
38         stream_handler.setFormatter(formatter)
39         file_handler.setFormatter(formatter)
40 
41     def __close_handler(self, stream_handler, file_handler):
42         """关闭handler"""
43         stream_handler.close()
44         file_handler.close()
45 
46     @property
47     def Logger(self):
48         """构造收集器,返回looger"""
49         stream_handler, file_handler = self.__ini_handler()
50         self.__set_handler(stream_handler, file_handler)
51         self.__set_formatter(stream_handler, file_handler)
52         self.__close_handler(stream_handler, file_handler)
53         return self.__logger
54 
55 
56 if __name__ == __main__:
57     log = Log(__name__, file.log)
58     logger = log.Logger
59     logger.debug(I am a debug message)
60     logger.info(I am a info message)
61     logger.warning(I am a warning message)
62     logger.error(I am a error message)
63     logger.critical(I am a critical message)

小结

 1、在yaml文件配置logging的时候,会有个报警信息。有代码洁癖的人,可以处理一下

技术图片

2、是什么原因造成上面的告警呢???是因为:YAML 5.1版本后弃用了yaml.load(file)这个用法,因为觉得很不安全,5.1版本之后就修改了需要指定Loader,通过默认加载??器(FullLoader)禁止执行任意函数,该load函数也变得更加安全。

3、解决办法:

   不用改很多代码 加一句就行了 在yaml.load(f, Loader=yaml.FullLoader) 加上 Loader=yaml.FullLoader 就行了。这里要注意的是L要大写的,否则会报错的。

4、加上以后,看一下运行结果:

 技术图片

  最后给大家留个彩蛋:文章中有一处bug,会影响运行结果而报错,聪明的你,可以找到吗???嘿嘿!!!欢迎互动和留言

以上是关于python接口自动化(四十)- logger 日志 - 下(超详解)的主要内容,如果未能解决你的问题,请参考以下文章

python接口自动化logger

python接口自动化(三十九)- logger 日志 - 上(超详解)

python接口自动化(四十一)- 发xml格式参数的post请求(超详解)

求助:Python接口自动化-如何遍历读取excel表格

python接口自动化httpUtils

四十七 Python分布式爬虫打造搜索引擎Scrapy精讲—elasticsearch(搜索引擎)用Django实现搜索的自动补全功能