搭建node服务:日志处理

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了搭建node服务:日志处理相关的知识,希望对你有一定的参考价值。

对于一个应用程序来说,日志记录是非常重要的。日志可以帮助开发人员快速定位线上问题,定制解决方案;日志中包含大量用户信息,通过日志分析还可以获取用户行为、兴趣偏好等信息,通过这些信息可以得到用户画像,对公司战略的制定提供参考。本文将要介绍如何在node服务中处理日志。

一、技术选型

选择了3种主流的技术进行对比:

1.1 log4js

log4js是一种node日志管理工具,可以将自定义格式的日志输出到各种渠道。对于控制台的日志输出可以呈现彩色日志,对于文件方式的日志输出,可以根据文件大小或者日期进行日志切割。

熟悉java的开发人员会发现log4js与一种常用的java日志工具log4j很像。没错,log4js是log4j的javascript版,使用方式也相似。

1.2 winston

winston也是一种非常流行的node日志管理工具,支持多传输。默认输出格式为json,也可以自定义输出格式。如果想要对日志进行切割还需要使用 winston-daily-rotate-file 模块。

1.3 PM2

PM2实际是node进程管理工具,具有性能监控、进程守护、负载均衡、日志管理等功能。使用PM2进行日志管理,只需要项目中增加console方法调用,无需添加额外的代码。要对日志进行切割,需要使用pm2-logrotate。

由于团队内部服务端系统很多是基于java的,这些系统大部分使用log4j生成日志。日志管理相关的日志归集系统和日志查询系统对log4j格式的日志支持的更好,所以自己最终选用了log4j的JavaScript版log4js来生成日志,下面会对log4js的基本使用进行介绍。

二、基本概念

2.1 日志级别

log4js的默认日志级别分为9级,按优先级从低到高排列如下:

ALL < TRACE < DEBUG < INFO < WARN < ERROR < FATAL < MARK < OFF

  • 当日志级别为ALL时,会输出所有级别的日志
  • 当日志级别为OFF时,则会关闭日志,不会有任何日志输出
  • 用户还可以根据自己的需要自定义日志级别

2.2 appender

appender 主要是用来定义以怎样的方式输出,输出到哪里。可以将日志写入到文件、发送电子邮件、通过网络发送数据等。可以通过配置对象的appenders属性定义多个appender。

appender的常用类型有:

  • console:控制台输出
  • file:文件输出
  • dateFile:按日期切割的文件输出

2.3 category

category 是日志的类型,指定一个或者多个appender为某种类型的日志,不同类型的日志可以指定不同的日志级别。可以通过配置对象的categories属性定义多个category。必须指定default类型,用来获取默认的Logger实例,还可以通过类型名来获取指定类型的Logger实例。

综上所诉,appender 定义了日志输出到哪里,category 将appender 进行了分类,不同类型指定不同的日志级别。

三、使用log4js

3.1 安装

npm install log4js --save

或者

yarn add log4js

3.2 简单使用

下面示例利用log4js创建日志对象logger,通过调用logger.debug、logger.info、logger.warn、logger.error 等方法将日志输出到控制台和日志文件。

  • util/log4jsLogger.js
const path = require(‘path‘);
const log4js = require(‘log4js‘);

// 配置log4js
log4js.configure({
    appenders: {
        // 控制台输出
        console: { type: ‘console‘ },
        // 日志文件
        file: { type: ‘file‘, filename: path.join(__dirname, ‘../../logs/server.log‘)}
    },
    categories: {
        // 默认日志
        default: { appenders: [ ‘file‘, ‘console‘ ], level: ‘debug‘ },
    }
});

// 获取默认日志
const logger = log4js.getLogger();

module.exports = logger;
  • server.js

再通过调用logger. info 输出INFO 级别的日志,这里web开发框架使用的Koa。

const Koa = require(‘koa‘);
const router = require(‘./router‘);
const logger = require(‘./util/log4jsLogger‘);

const port = 3000;
const app = new Koa()
    .use(router.routes())
    .use(router.allowedMethods());

app.listen(port, () => {
    logger.info(`Server running on port ${port}`);
});

3.3 日志格式

log4js通过layout 设置日志格式,内置的layout有:

  • basic 包含时间戳、日志级别、日志类型的基本日志格式
  • colored 格式与basic的一致,只是不同级别的日志显示不同的颜色
  • dummy 只输出第一个参数的内容,没有时间戳、日志级别、日志分类等信息
  • pattern 可以自定义格式的layout

示例:

默认的日志格式:

[2020-04-01T11:33:43.317] [INFO] default - Server running on port 3000

自定义的日志格式:

2020-04-01 11:33:43.317 [INFO] Server running on port 3000

代码:

// 自定义日志格式
const layout = {
    type: ‘pattern‘,
    pattern: ‘%d{yyyy-MM-dd hh:mm:ss.SSS} [%p] %m‘
};

log4js.configure({
    appenders: {
        // 控制台输出
        console: { type: ‘console‘ },
        // 日志文件,通过设置layout 设置日志格式
        file: { type: ‘file‘, filename: path.join(__dirname, ‘../../logs/server.log‘), layout}
    },
    categories: {
        // 默认日志
        default: { appenders: [ ‘file‘, ‘console‘ ], level: ‘debug‘ },
    }
});

3.4 日志切割

如果日志全部输出到一个文件,日志文件会越来越大,导致日志的备份和查看都很不方便。通过将appender 指定为 dateFile 类型可以实现按日期将日志进行切割。

// 日志配置
log4js.configure({
    appenders: {
        // 控制台输出
        console: { type: ‘console‘ },
        // 日志文件
        file: {
            type: ‘dateFile‘,
            filename: path.join(__dirname, ‘../../logs/server.log‘),
            // 日志切割后文件名后缀格式
            pattern: ‘.yyyy-MM-dd‘
        }
    },
    categories: {
        // 默认日志
        default: { appenders: [ ‘file‘, ‘console‘ ], level: ‘debug‘ },
    }
});

假如4月1日部署的服务,日志会输出到service.log文件,到4月2日会将service.log更名为server.log.2020-04-01,然后创建新的service.log文件,新的日志将继续输出到service.log文件。

3.5 输出多个文件

下面示例除了将完整日志输出到server.log,还会将error及以上级别的日志输出到server-error.log。

  • util/log4jsLogger.js
const path = require(‘path‘);
const log4js = require(‘log4js‘);

// 配置log4js
log4js.configure({
    appenders: {
        // 控制台输出
        console: { type: ‘console‘ },
        // 全部日志文件
        allFile: { type: ‘file‘, filename: path.join(__dirname, ‘../../logs/server.log‘)},
        // 错误日志文件
        errorFile: { type: ‘file‘, filename: path.join(__dirname, ‘../../logs/server-error.log‘)}
    },
    categories: {
        // 默认日志,输出debug 及以上级别的日志
        default: { appenders: [ ‘allFile‘, ‘console‘ ], level: ‘debug‘ },
        // 错误日志,输出error 及以上级别的日志
        error: { appenders: [ ‘errorFile‘ ], level: ‘error‘ },
    }
});

// 获取默认日志
const defaultLogger = log4js.getLogger();
// 获取错误级别日志
const errorLogger = log4js.getLogger(‘error‘);

// 日志代理,同时调用默认日志和错误日志
const loggerProxy = {};
const levels = log4js.levels.levels;
levels.forEach(level => {
    const curLevel = level.levelStr.toLowerCase();
    loggerProxy[curLevel] = (...params) => {
        defaultLogger[curLevel](...params);
        errorLogger[curLevel](...params);
    }
});

module.exports = loggerProxy;

3.6 覆盖console

由于使用log4js需要调用logger.debug、logger.info、logger.warn、logger.error等方法,对于已经调用console 方法输出日志的项目,全部改为调用logger的方法,改动起来很麻烦,可以通过覆盖console的方法来使用log4js输出日志。

/**
 * 创建日志代理方法
 * @param logLevel 日志级别
 * @param logger 日志对象
 * @return {function}
 */
function createLogProxy (logLevel, logger) {
    return (...param) => {
        logger[logLevel](...param);
    };
}
console.log = createLogProxy(‘debug‘, logger);
console.info = createLogProxy(‘info‘, logger);
console.warn = createLogProxy(‘warn‘, logger);
console.error = createLogProxy(‘error‘, logger);

为了保证所有日志都能输出到日志文件,获取logger 对象和覆盖console方法要尽早执行。

四、总结

本章介绍了log4js的基本使用,并给出了常用功能的使用示例,要了解log4js的更多功能,请参考log4js的官网:https://log4js-node.github.io/log4js-node/。另外,本文相关的代码已提交到GitHub以供参考,项目地址:https://github.com/liulinsp/node-server-log-demo

以上是关于搭建node服务:日志处理的主要内容,如果未能解决你的问题,请参考以下文章

怎么用node搭建服务器

Linux ELK日志分析系统 | logstash日志收集 | elasticsearch 搜索引擎 | kibana 可视化平台 | 架构搭建 | 超详细

Spring Boot制作个人博客-框架搭建(日志处理,页面处理)

常用python日期日志获取内容循环的代码片段

ELK日志分析系统

python常用代码片段总结