Logback文件这么配置，TPS提高至少10倍！

Posted 2021-04-24 占小狼的博客

优质文章，第一时间送达

阅读本文，你将了解到

• 日志输出到文件并根据LEVEL级别将日志分类保存到不同文件

• 通过异步输出日志减少磁盘IO提高性能

• 异步输出日志的原理

配置文件logback-spring.xml

SpringBoot工程自带logback和slf4j的依赖，所以重点放在编写配置文件上，需要引入什么依赖，日志依赖冲突统统都不需要我们管了。

logback框架会默认加载classpath下命名为logback-spring或logback的配置文件。将所有日志都存储在一个文件中文件大小也随着应用的运行越来越大并且不好排查问题，正确的做法应该是将error日志和其他日志分开，并且不同级别的日志根据时间段进行记录存储。

 
   
   
 

  
    
    
  
<?xml version="1.0" encoding="utf-8"?>
  
    
    
  
<configuration>
  
    
    
  
 <property resource="logback.properties"/>
  
    
    
  
 <appender name="CONSOLE-LOG" class="ch.qos.logback.core.ConsoleAppender">
  
    
    
  
 <layout class="ch.qos.logback.classic.PatternLayout">
  
    
    
  
 <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
  
    
    
  
 </layout>
  
    
    
  
 </appender>
  
    
    
  
 <!--获取比info级别高(包括info级别)但除error级别的日志-->
  
    
    
  
 <appender name="INFO-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
  
    
    
  
 <filter class="ch.qos.logback.classic.filter.LevelFilter">
  
    
    
  
 <level>ERROR</level>
  
    
    
  
 <onMatch>DENY</onMatch>
  
    
    
  
 <onMismatch>ACCEPT</onMismatch>
  
    
    
  
 </filter>
  
    
    
  
 <encoder>
  
    
    
  
 <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
  
    
    
  
 </encoder>
  
    
    
  


  
    
    
  
 <!--滚动策略-->
  
    
    
  
 <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
  
    
    
  
 <!--路径-->
  
    
    
  
 <fileNamePattern>${LOG_INFO_HOME}//%d.log</fileNamePattern>
  
    
    
  
 <maxHistory>30</maxHistory>
  
    
    
  
 </rollingPolicy>
  
    
    
  
 </appender>
  
    
    
  
 <appender name="ERROR-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
  
    
    
  
 <filter class="ch.qos.logback.classic.filter.ThresholdFilter">
  
    
    
  
 <level>ERROR</level>
  
    
    
  
 </filter>
  
    
    
  
 <encoder>
  
    
    
  
 <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
  
    
    
  
 </encoder>
  
    
    
  
 <!--滚动策略-->
  
    
    
  
 <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
  
    
    
  
 <!--路径-->
  
    
    
  
 <fileNamePattern>${LOG_ERROR_HOME}//%d.log</fileNamePattern>
  
    
    
  
 <maxHistory>30</maxHistory>
  
    
    
  
 </rollingPolicy>
  
    
    
  
 </appender>
  
    
    
  


  
    
    
  
 <root level="info">
  
    
    
  
 <appender-ref ref="CONSOLE-LOG" />
  
    
    
  
 <appender-ref ref="INFO-LOG" />
  
    
    
  
 <appender-ref ref="ERROR-LOG" />
  
    
    
  
 </root>
  
    
    
  
</configuration>
 
   
   
 

标签说明

• <root>标签，必填标签，用来指定最基础的日志输出级别 

• <appender-ref>标签，添加append

• <appender>标签，通过使用该标签指定日志的收集策略 

• name属性指定appender命名 

• class属性指定输出策略，通常有两种，控制台输出和文件输出，文件输出就是将日志进行一个持久化。ConsoleAppender将日志输出到控制台

• <filter>标签，通过使用该标签指定过滤策略 

• <level>标签指定过滤的类型

• <encoder>标签，使用该标签下的标签指定日志输出格式 

• <pattern>标签指定日志输出格式

• <rollingPolicy>标签指定收集策略，比如基于时间进行收集 

logback 高级特性异步输出日志

之前的日志配置方式是基于同步的，每次日志输出到文件都会进行一次磁盘IO。采用异步写日志的方式而不让此次写日志发生磁盘IO，阻塞线程从而造成不必要的性能损耗。异步输出日志的方式很简单，添加一个基于异步写日志的 appender，并指向原先配置的 appender即可

 
   
   
 

  
    
    
  
 <!-- 异步输出 -->
  
    
    
  
 <appender name="ASYNC-INFO" class="ch.qos.logback.classic.AsyncAppender">
  
    
    
  
 <!-- 不丢失日志.默认的,如果队列的80%已满,则会丢弃TRACT、DEBUG、INFO级别的日志 -->
  
    
    
  
 <discardingThreshold>0</discardingThreshold>
  
    
    
  
 <!-- 更改默认的队列的深度,该值会影响性能.默认值为256 -->
  
    
    
  
 <queueSize>256</queueSize>
  
    
    
  
 <!-- 添加附加的appender,最多只能添加一个 -->
  
    
    
  
 <appender-ref ref="INFO-LOG"/>
  
    
    
  
 </appender>
  
    
    
  


  
    
    
  
 <appender name="ASYNC-ERROR" class="ch.qos.logback.classic.AsyncAppender">
  
    
    
  
 <!-- 不丢失日志.默认的,如果队列的80%已满,则会丢弃TRACT、DEBUG、INFO级别的日志 -->
  
    
    
  
 <discardingThreshold>0</discardingThreshold>
  
    
    
  
 <!-- 更改默认的队列的深度,该值会影响性能.默认值为256 -->
  
    
    
  
 <queueSize>256</queueSize>
  
    
    
  
 <!-- 添加附加的appender,最多只能添加一个 -->
  
    
    
  
 <appender-ref ref="ERROR-LOG"/>
  
    
    
  
 </appender>
 
   
   
 

异步输出日志性能测试

既然能提高性能的话，必须进行一次测试比对，同步和异步输出日志性能到底能提升多少倍？

服务器硬件

• CPU 六核

• 内存 8G

测试工具

• Apache Jmeter

同步输出日志

• 线程数：100

• Ramp-Up Loop(可以理解为启动线程所用时间) ：0

• 可以理解为100个线程同时启用

测试结果

重点关注指标Throughput【TPS】吞吐量：系统在单位时间内处理请求的数量，在同步输出日志中TPS为44.2/sec

异步输出日志

• 线程数 100

• Ramp-Up Loop：0

测试结果

TPS为497.5/sec，性能提升了10多倍！！！

异步日志输出原理

从logback框架下的Logger.info方法开始追踪。一路的方法调用路径如下图所示：

异步输出日志中最关键的就是配置文件中ch.qos.logback.classic包下AsyncAppenderBase类中的append方法，查看该方法的源码:

 
   
   
 

  
    
    
  
protected void append(E eventObject) {
  
    
    
  
 if(!this.isQueueBelowDiscardingThreshold() || !this.isDiscardable(eventObject)) {
  
    
    
  
 this.preprocess(eventObject);
  
    
    
  
 this.put(eventObject);
  
    
    
  
 }
  
    
    
  
 }
 
   
   
 

通过队列情况判断是否需要丢弃日志，不丢弃的话将它放到阻塞队列中，通过查看代码，这个阻塞队列为ArrayBlockingQueueu，默认大小为256，可以通过配置文件进行修改。

Logger.info(…)到append(…)就结束了，只做了将日志塞入到阻塞队列的事，然后继续执行Logger.info(…)下面的语句了。

在AsyncAppenderBase类中定义了一个Worker线程，run方法中的关键部分代码如下:

 
   
   
 

  
    
    
  
E e = parent.blockingQueue.take();
  
    
    
  
aai.appendLoopOnAppenders(e);
 
   
   
 

从阻塞队列中取出一个日志，并调用 AppenderAttachableImpl类中的 appendLoopOnAppenders方法维护一个 Append列表。Worker线程中调用方法过程主要如下图：

最主要的两个方法就是encode和write方法，前一个法方会根据配置文件中encode指定的方式转化为字节码，后一个方法将转化成的字节码写入到文件中去。所以写文件是通过新起一个线程去完成的，主线程将日志扔到阻塞队列中，然后又去做其他事情了。

来源：https://tinyurl.com/y5zbtgsq
 
   
   
 

  
    
    
  
 
   
 
    
 
     
 
      
 
       
 
        
 
         
近期热文
  
        
 
        
 
         
 
          
 
           
 
            
 
             

 
             

 
             
 
            
 
           
 
          
 
         
 
        
 
       
 
      
 
     
 
    
 
   
 
  
 
   
   
 
最后，分享一份面试宝典《Java核心知识点整理.pdf》，覆盖了JVM、锁、高并发、反射、Spring原理、微服务、Zookeeper、数据库、数据结构等等。
明天见(｡･ω･｡)ﾉ♡